Traducido del original en inglés. Las cifras y las fuentes no cambian. Leer el original en inglés
Spotify
Spotify ajusta Llama para explicar recomendaciones y escribir los comentarios de su DJ con IA
Spotify utiliza versiones ajustadas de los modelos Llama de Meta, de pesos abiertos, para redactar breves explicaciones de por qué se recomienda una canción o un creador, y comentarios para su DJ con IA en inglés y español. Spotify afirma que, en algunas pruebas en línea, los usuarios hicieron clic hasta cuatro veces más en las recomendaciones con explicación.
Cifras clave
Copiadas literalmente de las fuentes. Copie cualquier cifra con su cita.
Hasta cuatro veces más probable
Probabilidad de clic en una recomendación mostrada con explicación, en algunos casos, sobre todo con contenido de nicho1
Cuatro veces más probable
Interacción con el contenido de un creador cuando se explicaba a los usuarios por qué se lo recomendaban (según Meta)2
Hasta un 14 %
Mejora en tareas propias de Spotify al adaptar Llama a 10 tareas, frente a Llama sin adaptar1
Qué requirió
Las fuentes no divulgan el coste, el tamaño del equipo ni los plazos.
El problema
Los oyentes de Spotify deciden qué reproducir a partir de las portadas y de lo que ya conocen. Spotify quería añadir un contexto que funcionara como la recomendación de un amigo, para que la gente probara artistas, pódcast y audiolibros nuevos. La empresa veía en los grandes modelos de lenguaje una forma de escalar este tipo de relato personal.
Qué construyeron
Spotify usó los modelos Llama de Meta, cuyos archivos se publican abiertamente para que una empresa pueda adaptarlos, para escribir dos cosas. La primera es una breve explicación de por qué se recomienda un contenido. La segunda es el comentario hablado de su DJ con IA, un guía personalizado que elige canciones y habla de ellas, en inglés y español. Ajustar un modelo significa seguir entrenándolo con ejemplos propios de la empresa para que encaje en una tarea concreta.
Cómo lo hicieron
Spotify probó primero Llama con instrucciones sencillas y comprobó que los resultados necesitaban un control más estricto. Editores expertos escribieron ejemplos para el modelo y siguieron dando comentarios sobre errores en nombres de artistas, tono y datos. El equipo añadió ajuste por instrucciones, trabajo con las instrucciones y pruebas que intentan provocar respuestas malas. Para el DJ, Spotify comparó modelos externos y abiertos y comprobó que los modelos Llama pequeños ajustados daban comentarios al nivel de los modelos líderes, con menor coste y menor retraso. También sirvió los modelos con el motor de inferencia vLLM. Por separado, tras el buen resultado de Llama 3.1 8B en las pruebas, adaptó Llama a 10 tareas internas.
Resultados
Spotify indica que, en pruebas en línea, los usuarios hicieron clic en algunos casos hasta cuatro veces más en una recomendación con explicación, sobre todo en contenido de nicho. La publicación de Meta lo describe como que los usuarios tenían cuatro veces más probabilidad de interactuar con el contenido de un creador cuando se les decía por qué se lo recomendaban. La adaptación de Llama a las tareas de Spotify mejoró los resultados hasta un 14 % respecto al modelo original, con poca pérdida de capacidad general. En cuanto al DJ, Spotify dice que los oyentes estaban más dispuestos a reproducir canciones que de otro modo habrían saltado.
Lecciones para su proyecto
Incorpore a expertos en la materia. Los editores musicales de Spotify aportaron ejemplos al modelo y siguieron corrigiendo errores en nombres de artistas, tono y datos.
Pruebe un modelo pequeño ajustado frente a otros mayores. Spotify comprobó que los modelos Llama pequeños ajustados igualaban a los mejores en los comentarios del DJ y reducían coste y retraso.
Proteja la capacidad general al ajustar el modelo a sus propias tareas. Spotify siguió un benchmark general para comprobar que el modelo no había perdido sus habilidades amplias.
Prevea la seguridad y la exactitud antes del lanzamiento. Spotify citó la coherencia de estilo, los contenidos dañinos y los datos inventados como los principales riesgos.
Salvedades
- Todas las cifras proceden de la publicación de investigación de Spotify y de la de Meta, que recoge los resultados de Spotify. Ninguna fuente independiente las confirma.
- La cifra de clics se describe como «hasta» y «en algunos casos». Ninguna de las dos publicaciones indica el tamaño de la muestra, los mercados, la duración de las pruebas ni la cifra para el contenido habitual.
- La mejora del 14 % corresponde a una adaptación multitarea distinta de Llama a 10 tareas de Spotify, no directamente a las explicaciones ni a los comentarios del DJ. Las publicaciones no indican qué tamaño de Llama usó esa adaptación.
- La publicación de Spotify menciona Llama 3.1 8B solo en relación con ese trabajo multitarea (por su rendimiento competitivo en pruebas zero-shot). No dice qué versión de Llama impulsa las explicaciones ni los comentarios del DJ.
- Según Spotify, el DJ con IA se lanzó en 2023, sin indicar el mes. La fecha de despliegue mostrada es la de la publicación.
- La publicación de Meta habla de interacción y la de Spotify de clics. Se mantienen ambas formulaciones tal como las da cada fuente.
Fuentes
- Contextualized Recommendations Through Personalized Narratives using LLMs
Spotify Research · 2024-12-18 · Blog corporativo · research.atspotify.com
- How Spotify is using Llama to create personalized recommendations and enhance content discovery
Meta AI · 2024-12-18 · Caso de estudio del proveedor · ai.meta.com
Resumido con nuestras propias palabras a partir de las fuentes anteriores. ¿Ha detectado un error? Consulte correcciones.