Auchan draait een zelfgehoste Llama-assistent die HR-vragen van medewerkers beantwoordt

Het probleem

Medewerkers van Auchan, de Franse retailgroep, hebben vragen voor HR, zoals over vakantieregels of zwangerschaps- en vaderschapsverlof. Vóór de assistent moesten ze het HR-team benaderen of software van derden gebruiken om antwoorden te krijgen.

Wat ze bouwden

Auchan bouwde een chatbot die vragen van medewerkers over HR-onderwerpen beantwoordt. Voorlopig is hij beperkt tot HR. Medewerkers stellen hun vraag aan de assistent in plaats van het HR-team te benaderen. De assistent gebruikt Llama, een open-weightmodel van Meta. Open weight betekent dat de modelbestanden kunnen worden gedownload en op eigen servers kunnen draaien.

Hoe ze het aanpakten

De gegevens in deze tool zijn persoonlijk en Auchan behandelt ze als vertrouwelijk, dus het bedrijf draait Llama op de eigen infrastructuur in plaats van via een externe dienst. Het gebruikt retrieval-augmented generation (RAG), een methode waarbij het systeem eerst passages in bedrijfsdocumenten opzoekt en daaruit een antwoord schrijft. Auchan draait het model momenteel op grafische processors (GPU's). De IT-chef zegt dat gespecialiseerde chips voor het draaien van modellen de kosten later kunnen verlagen.

Resultaten

Auchan meldt dat HR-managers anderhalve tot twee dagen per maand besparen. De IT- en datachef zegt dat het bedrijf overwoog Llama voor elke bedrijfsfunctie te gebruiken, maar het relatief duur vond in het gebruik, en hij noemt het rendement van de investering in het geval van Auchan zeer discutabel. Toch ziet hij een reële winst in gebruiksgemak.

Wat u kunt overnemen

Kies alleen voor zelf hosten waar de gevoeligheid van de gegevens de kosten rechtvaardigt, en controleer de exploitatiekosten voordat u het uitbreidt naar andere teams.