Tradotto dall'originale inglese. Dati e fonti restano invariati. Leggi l'originale in inglese
Spotify
Spotify affina Llama per spiegare le raccomandazioni e scrivere i commenti del suo DJ con IA
Spotify usa versioni affinate dei modelli Llama di Meta, a pesi aperti, per scrivere brevi spiegazioni sul perché viene consigliato un brano o un creator e commenti per il suo DJ con IA in inglese e spagnolo. Spotify riferisce che in alcuni test online gli utenti avevano fino a quattro volte più probabilità di cliccare sulle raccomandazioni accompagnate da una spiegazione.
Dati chiave
Copiati esattamente dalle fonti. Copiate qualsiasi dato insieme alla sua citazione.
Fino a quattro volte più probabile
Probabilità di clic su una raccomandazione mostrata con una spiegazione, in alcuni casi, soprattutto per i contenuti di nicchia1
Quattro volte più probabile
Coinvolgimento con i contenuti di un creator quando agli utenti veniva spiegato perché erano stati consigliati (secondo Meta)2
Fino al 14%
Miglioramento sulle attività specifiche di Spotify adattando Llama a 10 attività, rispetto a Llama standard1
Cosa è servito
Le fonti non rendono noti costi, dimensioni del team e tempi.
Il problema
Gli ascoltatori di Spotify decidono cosa riprodurre in base alle copertine e a ciò che già conoscono. Spotify voleva aggiungere un contesto che funzionasse come il consiglio di un amico, così da spingere le persone a provare nuovi artisti, podcast e audiolibri. L'azienda vedeva nei grandi modelli linguistici un modo per rendere scalabile questo tipo di racconto personale.
Cosa hanno costruito
Spotify ha usato i modelli Llama di Meta, i cui file sono pubblicati apertamente in modo che un'azienda possa adattarli, per scrivere due cose. La prima è una breve spiegazione del perché un elemento viene consigliato. La seconda è il commento parlato del suo DJ con IA, una guida personalizzata che sceglie i brani e ne parla, in inglese e spagnolo. L'affinamento consiste nel proseguire l'addestramento di un modello sugli esempi propri di un'azienda, perché si adatti a un compito specifico.
Come ci sono riusciti
Spotify ha provato prima Llama con semplici prompt e ha visto che l'output richiedeva un controllo più stretto. Editor esperti hanno scritto esempi per il modello e hanno continuato a dare feedback su errori nei nomi degli artisti, nel tono e nei fatti. Il team ha aggiunto l'instruction tuning, un lavoro sui prompt e test che cercano di provocare risposte sbagliate. Per il DJ, Spotify ha confrontato modelli esterni e aperti e ha scoperto che i modelli Llama più piccoli affinati producevano commenti alla pari con i modelli di punta, a costo e latenza inferiori. Ha inoltre servito i modelli con il motore di inferenza vLLM. Separatamente, dopo che Llama 3.1 8B aveva dato risultati competitivi nei test, ha adattato Llama a 10 attività interne.
Risultati
Spotify riferisce che nei test online gli utenti avevano in alcuni casi fino a quattro volte più probabilità di cliccare su una raccomandazione accompagnata da una spiegazione, soprattutto per i contenuti di nicchia. Il post di Meta lo descrive come utenti quattro volte più propensi a interagire con i contenuti di un creator quando gli viene detto perché sono stati consigliati. L'adattamento di Llama alle attività di Spotify ha migliorato i risultati fino al 14% rispetto al modello standard, con poca perdita di capacità generale. Per il DJ, Spotify afferma che gli ascoltatori erano più disposti a riprodurre brani che altrimenti avrebbero saltato.
Lezioni per il vostro progetto
Coinvolgere esperti del settore. Gli editor musicali di Spotify hanno fornito esempi al modello e hanno continuato a correggere errori su nomi di artisti, tono e fatti.
Mettere alla prova un piccolo modello affinato contro modelli più grandi. Spotify ha scoperto che i modelli Llama più piccoli affinati eguagliavano i migliori nei commenti del DJ, riducendo costi e latenza.
Tutelare le capacità generali quando si affina il modello sui propri compiti. Spotify ha monitorato un benchmark generale per verificare che il modello non avesse perso le competenze ampie.
Pianificare sicurezza e accuratezza prima del lancio. Spotify ha indicato coerenza di stile, contenuti dannosi e fatti inventati come rischi principali.
Avvertenze
- Tutte le cifre provengono dal post di ricerca di Spotify e dal post di Meta che riporta i risultati di Spotify. Nessuna fonte indipendente le conferma.
- La cifra sui clic è descritta come «fino a» e «in alcuni casi». Nessuno dei due post indica la dimensione del campione, i mercati, la durata dei test o il dato per i contenuti ordinari.
- Il miglioramento del 14% riguarda un adattamento multi-attività distinto di Llama a 10 attività di Spotify, non direttamente le spiegazioni o i commenti del DJ. I post non dicono quale dimensione di Llama usasse tale adattamento.
- Il post di Spotify cita Llama 3.1 8B solo in relazione a quel lavoro multi-attività (come competitivo nei test zero-shot). Non dice quale versione di Llama alimenti le spiegazioni o i commenti del DJ.
- Il DJ con IA è stato lanciato nel 2023 secondo Spotify, senza indicare il mese. La data di rilascio mostrata è quella del post.
- Il post di Meta parla di coinvolgimento, quello di Spotify di clic. Le due formulazioni sono mantenute come le riporta ciascuna fonte.
Fonti
- Contextualized Recommendations Through Personalized Narratives using LLMs
Spotify Research · 2024-12-18 · Blog aziendale · research.atspotify.com
- How Spotify is using Llama to create personalized recommendations and enhance content discovery
Meta AI · 2024-12-18 · Caso di studio del fornitore · ai.meta.com
Riassunto con parole nostre a partire dalle fonti sopra indicate. Avete notato un errore? Consultate le rettifiche.