Tradotto dall'originale inglese. Dati e fonti restano invariati. Leggi l'originale in inglese
Altana
Altana affina Llama 3.1 8B per classificare le spedizioni nei codici tariffari doganali
Altana, azienda di intelligence sulla supply chain, ha affinato su Databricks il modello a pesi aperti Llama 3.1 8B di Meta per associare le spedizioni a più di 10.000 categorie tariffarie doganali. Il modello gira dentro l’account cloud di ciascun cliente. Il VP of AI di Altana afferma che i sistemi di IA generativa ora arrivano in produzione 20 volte più in fretta.
Dati chiave
Copiati esattamente dalle fonti. Copiate qualsiasi dato insieme alla sua citazione.
20
volte più veloce
Velocità di messa in produzione dei sistemi di IA generativa con Llama su Databricks, secondo il VP of AI di Altana1
20
volte
Rilascio più rapido dei modelli di IA generativa in produzione, cifra di punta della pagina Altana di Databricks2
20
–50%
Miglioramento delle prestazioni del modello, cifra di punta della pagina Altana di Databricks, che riguarda tutto il lavoro di IA generativa di Altana e non solo il classificatore tariffario2
Cosa è servito
Le fonti non rendono noti costi, dimensioni del team e tempi.
Il problema
Altana aiuta aziende e governi a vedere le proprie catene di fornitura, dalle materie prime ai prodotti finiti. Parte di questo lavoro consiste nell’assegnare le spedizioni alla giusta categoria tariffaria doganale, tra più di 10.000. Altana voleva anche portare più in fretta ai clienti le nuove funzioni di IA, senza dipendere da servizi di IA esterni.
Cosa hanno costruito
Altana usa Llama 3.1 8B di Meta, un modello open-weight (a pesi aperti). Open-weight significa che i file del modello sono pubblicati, così un’azienda può adattarli ed eseguirli in proprio. Il modello associa i dati delle spedizioni a più di 10.000 categorie tariffarie doganali, usando i tipi di prodotto e i dati sulle relazioni della mappa della supply chain di Altana. Altana dice di aver scelto Llama per l’accuratezza, il costo inferiore e la buona integrazione con Databricks, la sua piattaforma dati.
Come ci sono riusciti
Il team ha affinato il modello su Databricks, cioè lo ha addestrato ulteriormente sugli esempi propri di Altana, circa un milione di coppie input-output. Ha anche svolto un addestramento aggiuntivo su dati specifici del settore. All’inizio il modello rispondeva come un classificatore e gestiva male le domande aperte, perciò il team ha aggiunto una gamma più ampia di input e output.
Altana distribuisce i modelli personalizzati dentro l’account Databricks del cliente su AWS o Azure. Questo evita chiamate a servizi di IA esterni. Il post di Meta dice che il team vede flessibilità e risparmi nell’uso di modelli aperti.
Risultati
Il VP of AI di Altana dice che Llama su Databricks permette all’azienda di portare in produzione i sistemi di IA generativa 20 volte più in fretta. La pagina di Databricks riprende la cifra delle 20 volte e aggiunge un miglioramento delle prestazioni del modello del 20–50%. Meta dice che i modelli affinati sono attivi presso clienti del retail, dell’abbigliamento, dell’automotive e di altri settori e continuano a migliorare man mano che i clienti li usano.
Le fonti non indicano costi né dimensioni del team. Nessuna spiega come sia stata misurata la cifra delle 20 volte.
Cosa replicare
Scegliere un compito con una risposta giusta chiara, affinare un piccolo modello aperto sul proprio storico e tenere il modello nell’ambiente del cliente se la privacy dei dati è un argomento di vendita.
Lezioni per il vostro progetto
Eseguire il modello dove si trovano i dati. Altana distribuisce modelli personalizzati dentro l’account cloud di ciascun cliente, così nessun dato va a un servizio di IA esterno.
Affinare il modello sul proprio storico etichettato. Altana si è addestrata su circa un milione di esempi di input e output.
Mettere in conto gli effetti collaterali del modello. Un modello regolato solo per restituire codici faticava con le domande aperte, finché il team non ha aggiunto input e output più vari.
Partire da un compito circoscritto e verificabile, come la classificazione per codici, poi aggiungere sopra un chatbot rivolto ai clienti.
Avvertenze
- Entrambe le fonti sono pagine di fornitori: il blog di Meta e il caso cliente di Databricks. Nessuna fonte indipendente conferma i dati e nessuna spiega come siano stati misurati i guadagni di velocità o di prestazioni.
- Il post di Meta dice che il modello affinato di Altana è in produzione, ma non indica una data di messa in produzione. La data di rilascio mostrata è quella del post.
- La pagina di Databricks non reca data. Elenca anche altri modelli, tra cui DBRX, Llama 3 e Phi-3, nel sistema più ampio di Altana. Questo caso riguarda il classificatore tariffario basato su Llama 3.1 8B.
- Il testo della pagina di Databricks parla di prestazioni migliori fino al 50%, mentre il titolo indica 20–50%. L’affermazione delle 20 volte riguarda la rapidità con cui Altana rilascia i modelli, non l’accuratezza della classificazione.
- Meta dice che il team prevede un chatbot affinato per aiutare i clienti a scegliere i codici tariffari. Questa parte è in sviluppo e non è conteggiata come risultato.
Fonti
- How Altana employs Llama to elevate global value chain management
Meta AI · 2025-01-30 · Caso di studio del fornitore · ai.meta.com
- Solving global trade challenges across the supply chain
Databricks · Senza data · Caso di studio del fornitore · databricks.com
Riassunto con parole nostre a partire dalle fonti sopra indicate. Avete notato un errore? Consultate le rettifiche.