Auchan gestisce in proprio un assistente Llama per rispondere alle domande HR dei dipendenti

Il problema

I dipendenti di Auchan, il gruppo francese della distribuzione, hanno domande per le risorse umane, ad esempio sulle regole delle ferie o sui congedi di maternità e paternità. Prima dell'assistente dovevano contattare il team HR o usare software di terze parti per ottenere risposte.

Cosa hanno costruito

Auchan ha costruito un chatbot che risponde alle domande del personale su temi HR. Per ora è limitato alle risorse umane. I dipendenti interrogano l'assistente invece di contattare il team HR. L'assistente usa Llama, un modello a pesi aperti di Meta. «Pesi aperti» significa che i file del modello possono essere scaricati ed eseguiti sui propri server.

Come ci sono riusciti

I dati di questo strumento sono personali e Auchan li tratta come riservati, quindi l'azienda esegue Llama sulla propria infrastruttura anziché tramite un servizio esterno. Usa la generazione aumentata dal recupero (RAG), un metodo in cui il sistema cerca prima dei passaggi nei documenti aziendali e poi scrive una risposta a partire da essi. Auchan esegue attualmente il modello su processori grafici (GPU). Il responsabile IT afferma che chip specializzati per l'esecuzione dei modelli potrebbero ridurre il costo in futuro.

Risultati

Auchan riferisce che i responsabili HR risparmiano da un giorno e mezzo a due giorni al mese. Il responsabile IT e dati afferma che l'azienda ha valutato di usare Llama per ogni funzione aziendale, ma l'ha trovato relativamente costoso da gestire, e definisce il ritorno sull'investimento molto discutibile nel caso di Auchan. Vede comunque un guadagno reale in facilità d'uso.

Cosa replicare

Scegliere l'hosting in proprio solo dove la sensibilità dei dati giustifica il costo, e verificare i costi di esercizio prima di estenderlo ad altri team.