Auchan usa un asistente Llama alojado en sus propios servidores para responder las dudas de RR. HH. de sus empleados

El problema

Los empleados de Auchan, el grupo francés de distribución, tienen dudas para RR. HH., como las normas de vacaciones o los permisos de maternidad y paternidad. Antes del asistente, debían contactar con el equipo de RR. HH. o usar software de terceros para obtener respuestas.

Qué construyeron

Auchan creó un chatbot que responde a las preguntas del personal sobre temas de RR. HH. Por ahora se limita a RR. HH. Los empleados consultan al asistente en lugar de contactar con el equipo de RR. HH. El asistente usa Llama, un modelo de pesos abiertos de Meta. «Pesos abiertos» significa que los archivos del modelo se pueden descargar y ejecutar en servidores propios.

Cómo lo hicieron

Los datos de esta herramienta son personales y Auchan los trata como confidenciales, así que la empresa ejecuta Llama en su propia infraestructura en lugar de recurrir a un servicio externo. Utiliza generación aumentada por recuperación (RAG), un método en el que el sistema primero busca pasajes en los documentos de la empresa y luego redacta una respuesta a partir de ellos. Auchan ejecuta ahora el modelo en procesadores gráficos (GPU). El director de TI dice que chips especializados para ejecutar modelos podrían reducir el coste más adelante.

Resultados

Auchan indica que los responsables de RR. HH. ahorran de día y medio a dos días al mes. El director de TI y datos afirma que la empresa se planteó usar Llama para todas las funciones del negocio, pero lo encontró relativamente caro de operar, y califica el retorno de la inversión de muy discutible en el caso de Auchan. Aun así, ve una ganancia real en facilidad de uso.

Qué replicar

Opte por el alojamiento propio solo donde la sensibilidad de los datos justifique el coste, y compruebe los costes de funcionamiento antes de extenderlo a otros equipos.