Instituto PROA verkort sollicitatievoorbereidingsrapporten van 30 naar 5 minuten met Llama 3.1

Het probleem

Instituto PROA helpt jongeren uit gezinnen met een laag inkomen in Brazilië aan werk. Voor elk sollicitatiegesprek heeft een kandidaat feiten nodig over de werkgever en de functie. Het personeel stelde deze dossiers vroeger met de hand samen: ze zochten op meerdere websites en stelden een document samen. Dat kostte ongeveer 30 minuten per rapport.

Wat ze bouwden

PROA bouwde een assistent die in het Portugees met leerlingen praat. Een leerling typt de naam van een bedrijf en ontvangt een gestructureerd pdf-rapport om zich op het gesprek voor te bereiden. De tekst wordt geschreven door Llama 3.1, een model van Meta met open gewichten, wat betekent dat de bestanden openbaar zijn en door elk bedrijf kunnen worden gedraaid. De hulpmiddelen draaien op Oracle Cloud Infrastructure, waar PROA ook zijn andere oplossingen host.

Hoe ze het aanpakten

Het systeem werkt in drie stappen. Het stuurt de bedrijfsnaam naar een zoekdienst en verzamelt webresultaten. Het slaat ze op in een kennisbank, die dienstdoet als opzoeklaag voor een retrieval-augmented generation-opzet (RAG), waarin een model antwoordt op basis van opgehaalde documenten. Llama 3.1 schrijft vervolgens het rapport uit dat materiaal, en het systeem zet het om in een pdf. De directeur van PROA zegt Llama 3.1 vooral te hebben gekozen vanwege de eenvoudige integratie met zijn Oracle-omgeving. PROA onderzoekt rijkere rapporten met de visiemodellen van Llama 3.2.

Resultaten

Het bericht zegt dat de voorbereiding van een rapport daalde van gemiddeld 30 minuten naar vijf minuten. Het zegt ook dat de assistent 60 keer groei van het programma teweegbracht, tot 35.000 ingeschreven leerlingen per jaar, en dat het personeel nu meer tijd besteedt aan individuele ondersteuning. Dit is het verhaal van Meta over de resultaten van PROA. Geen onafhankelijke bron bevestigt ze.