Spotify dostraja Llama, by wyjaśniać rekomendacje i pisać komentarze dla swojego AI DJ-a

Problem

Słuchacze Spotify wybierają, co odtworzyć, na podstawie okładek i tego, co już znają. Spotify chciało dodać kontekst działający jak rada przyjaciela, aby ludzie sięgali po nowych artystów, podcasty i audiobooki. Duże modele językowe widziało jako sposób na skalowanie tego rodzaju osobistej narracji.

Co zbudowano

Spotify użyło modeli Llama firmy Meta, których pliki są publikowane otwarcie, tak by firma mogła je dostosować, do napisania dwóch rzeczy. Pierwsza to krótkie wyjaśnienie, dlaczego dana pozycja jest polecana. Druga to mówiony komentarz dla AI DJ-a, spersonalizowanego przewodnika, który wybiera utwory i opowiada o nich, po angielsku i hiszpańsku. Dostrajanie oznacza dalsze trenowanie modelu na własnych przykładach firmy, tak aby pasował do konkretnego zadania.

Jak to zrobiono

Spotify najpierw wypróbowało Llama z prostymi promptami i stwierdziło, że wynik wymaga ściślejszej kontroli. Redaktorzy eksperci pisali przykłady dla modelu i stale przekazywali uwagi o błędach w nazwach artystów, tonie i faktach. Zespół dodał strojenie instrukcjami, pracę nad promptami oraz testy próbujące wywołać złe odpowiedzi. W przypadku AI DJ-a Spotify porównało modele zewnętrzne i otwarte i stwierdziło, że dostrojone mniejsze modele Llama dają komentarze na poziomie czołowych modeli, przy niższym koszcie i mniejszym opóźnieniu. Udostępniało też modele za pomocą silnika inferencji vLLM. Osobno, gdy Llama 3.1 8B wypadła konkurencyjnie w testach, dostosowało Llama do 10 zadań wewnętrznych.

Wyniki

Spotify podaje, że w testach online użytkownicy w niektórych przypadkach klikali nawet czterokrotnie częściej rekomendację z wyjaśnieniem, zwłaszcza w przypadku treści niszowych. Wpis Mety opisuje to tak, że użytkownicy byli czterokrotnie bardziej skłonni angażować się w treści twórcy, gdy powiedziano im, dlaczego je polecono. Dostosowanie Llama do zadań Spotify poprawiło wyniki nawet o 14 % względem modelu bazowego, przy niewielkiej utracie ogólnych zdolności. W przypadku AI DJ-a Spotify twierdzi, że słuchacze chętniej odtwarzali utwory, które w innym razie by pominęli.