Instituto PROA reduce de 30 a 5 minutos los informes de preparación de entrevistas con Llama 3.1

El problema

Instituto PROA ayuda a jóvenes de familias con pocos ingresos en Brasil a encontrar trabajo. Antes de cada entrevista, un candidato necesita datos sobre el empleador y el puesto. El personal elaboraba antes estos dosieres a mano, buscando en varios sitios web y recopilando un documento. Eso llevaba unos 30 minutos por informe.

Qué construyeron

PROA creó un asistente que conversa en portugués con los estudiantes. El estudiante escribe el nombre de una empresa y recibe un informe estructurado en PDF para preparar la entrevista. El texto lo redacta Llama 3.1, un modelo de pesos abiertos de Meta, es decir, cuyos archivos están publicados y puede ejecutar cualquier empresa. Las herramientas funcionan en Oracle Cloud Infrastructure, donde PROA aloja sus otras soluciones.

Cómo lo hicieron

El sistema funciona en tres pasos. Envía el nombre de la empresa a un servicio de búsqueda y recopila los resultados web. Los guarda en una base de conocimiento, que hace de capa de consulta de un sistema de generación aumentada por recuperación (RAG), en el que un modelo responde a partir de documentos recuperados. Después Llama 3.1 redacta el informe con ese material y el sistema lo convierte en PDF. La dirección ejecutiva de PROA dice que eligió Llama 3.1 sobre todo por su fácil integración con su entorno Oracle. PROA estudia informes más ricos con los modelos de visión de Llama 3.2.

Resultados

La publicación dice que la preparación de un informe pasó de una media de 30 minutos a cinco. También dice que el asistente impulsó un crecimiento de 60 veces del programa, hasta 35.000 estudiantes matriculados al año, y que el personal dedica ahora más tiempo al apoyo individual. Es el relato de Meta sobre los resultados de PROA. Ninguna fuente independiente los confirma.