Traducido del original en inglés. Las cifras y las fuentes no cambian. Leer el original en inglés
Meta
Meta mejora sus personajes de IA en Instagram, WhatsApp y Messenger a lo largo de 15 versiones del modelo Llama 3.1
Los autores de Meta describen cómo reentrenaron 15 veces un modelo de chat Llama 3.1 70B para personajes de IA que los usuarios crean y con los que conversan en Instagram, WhatsApp y Messenger. Indican que las mejores versiones nuevas aumentaron la interacción en pruebas de 7 días y que los personajes incumplían sus instrucciones con mucha menos frecuencia.
Cifras clave
Copiadas literalmente de las fuentes. Copie cualquier cifra con su cita.
hasta un 8,8 %
Mayor aumento de la amplitud de interacción (cuántos usuarios interactúan) en una prueba A/B de 7 días de una nueva versión desplegada del modelo, de la versión 14 de la tabla del apéndice del artículo1
19,4 %
Mayor aumento de la profundidad de interacción (cuánto interactúa cada usuario) en una prueba A/B de 7 días de una nueva versión desplegada del modelo, de la versión 13 de la tabla del apéndice del artículo1
del 26,6 % al 5,8 %
Tasa a la que los personajes incumplían sus instrucciones, juzgada por un revisor de IA en pruebas internas de chat, de la versión 2 a la versión 81
del 59,2 % al 84,8 %
Puntuación en IFEval, un benchmark público de seguimiento de instrucciones, de la versión 2 (antes del lanzamiento) a la versión 71
Qué requirió
El problema
Meta permite crear personajes de IA y conversar con ellos dentro de Instagram, Messenger, WhatsApp y la web. A diferencia de un asistente de trabajo, no hay una respuesta correcta que comprobar. El éxito consiste en que la gente quiera seguir conversando, algo difícil de medir y fácil de interpretar mal. Meta quería una forma repetible de hacer el modelo de chat más atractivo manteniéndolo fiel al personaje y seguro.
Qué construyeron
El equipo de Meta partió de Llama 3.1, su propia familia de modelos de pesos abiertos (pesos abiertos significa que los archivos del modelo están publicados). Montó un ciclo al que llamó CharacterFlywheel. Cada ronda recoge datos reales de chat, entrena un modelo de puntuación para predecir lo que gusta a la gente y después reentrena el modelo de chat frente a esa puntuación. Evaluadores humanos formados, y no solo los clics de los usuarios, fueron la principal fuente de la señal de preferencia. En producción solo se utilizó el tamaño 70B.
Cómo lo hicieron
Meta creó 15 versiones entre enero de 2024 y abril de 2025. Las siete primeras se probaron internamente antes del lanzamiento público del 29 de julio de 2024, y las ocho siguientes se pusieron a disposición de los usuarios. Cada versión se comparó con la anterior en una prueba aleatorizada de 7 días con usuarios reales. El equipo también comprobó en cada paso la seguridad, el seguimiento de instrucciones y los benchmarks públicos.
Resultados
Los autores indican que 7 de los 8 modelos desplegados recientemente mostraron un efecto positivo respecto a la referencia. En las pruebas de 7 días, el mejor resultado de amplitud de interacción fue de hasta el 8,8 % y el mejor de profundidad fue del 19,4 %, de dos versiones distintas. La proporción de incumplimientos de instrucciones en los chats con personajes bajó del 26,6 % al 5,8 %, y la puntuación en IFEval subió del 59,2 % al 84,8 % antes del lanzamiento. La interacción creció de forma constante durante nueve meses tras el lanzamiento.
Qué salió mal
La versión 12 optimizó demasiado frente al modelo de puntuación, que la valoraba muy bien, mientras la interacción real caía, con +0,05 % en amplitud y -2,9 % en profundidad. Meta aprendió que la puntuación debe mantenerse por debajo de un tope y aplicó esa regla a las versiones posteriores.
Qué replicar
Trate un modelo para un producto abierto como algo que se mejora en pasos pequeños y probados. Mantenga el grupo de control, ponga límites a cualquier puntuación que el modelo se entrene para perseguir y conserve un registro de las versiones fallidas.
Todas las cifras comunicadas
| Indicador | Cifra | Cita |
|---|---|---|
| Mayor aumento de la amplitud de interacción (cuántos usuarios interactúan) en una prueba A/B de 7 días de una nueva versión desplegada del modelo, de la versión 14 de la tabla del apéndice del artículo | hasta un 8,8 %1 | |
| Mayor aumento de la profundidad de interacción (cuánto interactúa cada usuario) en una prueba A/B de 7 días de una nueva versión desplegada del modelo, de la versión 13 de la tabla del apéndice del artículo | 19,4 %1 | |
| Tasa a la que los personajes incumplían sus instrucciones, juzgada por un revisor de IA en pruebas internas de chat, de la versión 2 a la versión 8 | del 26,6 % al 5,8 %1 | |
| Puntuación en IFEval, un benchmark público de seguimiento de instrucciones, de la versión 2 (antes del lanzamiento) a la versión 7 | del 59,2 % al 84,8 %1 | |
| Efecto sobre la interacción de la versión 12, el revés causado por optimizar en exceso frente al modelo de recompensa | +0,05 % en amplitud y -2,9 % en profundidad1 |
Lecciones para su proyecto
Pruebe cada actualización del modelo con usuarios reales y un grupo de control. Meta hizo pruebas A/B aleatorizadas de 7 días para cada versión nueva en lugar de fiarse de las puntuaciones sin conexión.
No deje que un modelo de puntuación se califique a sí mismo para siempre. La versión 12 obtuvo muy buenas puntuaciones con el modelo de recompensa y aun así perdió interacción, así que Meta fijó un tope a esa puntuación para las versiones posteriores.
Siga comprobando la capacidad general mientras ajusta para un objetivo. Meta siguió benchmarks públicos para confirmar que optimizar la interacción no dañaba las habilidades básicas del modelo.
Prevea que algunas versiones fallarán. Meta señala al menos un revés claro entre ocho versiones posteriores al lanzamiento y lo trató como fuente de reglas para las siguientes.
Salvedades
- Todos los resultados los comunican los propios autores de Meta en un informe de investigación. Las afiliaciones indicadas son Meta Superintelligence Labs y FAIR at Meta (dos autores figuran ahora en OpenAI y xAI, con la nota de que el trabajo se hizo en Meta). Ninguna parte externa ha confirmado las cifras.
- El aumento de amplitud de hasta el 8,8 % (versión 14) y el de profundidad del 19,4 % (versión 13) proceden de versiones distintas, según la tabla del apéndice del artículo, así que ningún modelo logró ambos. La afirmación del informe de que 7 de 8 modelos mostraron un efecto positivo es cierta para cada medida por separado, pero la tabla muestra otra versión con resultado negativo en cada una: la versión 8 en amplitud y la versión 12 en profundidad.
- La cifra del 59,2 % al 84,8 % es la puntuación del benchmark IFEval en las versiones 2 a 7 previas al lanzamiento, una prueba general, no una medición sobre personajes reales de Meta.
- Una frase del texto del informe sitúa la versión 2 en torno al 75 % en lugar del 59,2 %; este caso sigue el resumen y la tabla. La cifra del 26,6 % al 5,8 % procede de probadores internos y expertos con un revisor de IA, no de usuarios.
- El informe indica dos periodos: desarrollo de enero de 2024 a septiembre de 2025 en la introducción, y hasta abril de 2025 en el resumen, los resultados y la conclusión. Este caso usa abril de 2025.
- Es un producto de consumo que Meta construyó sobre su propio modelo, no un despliegue de un cliente empresarial. Se incluye por el método documentado para mejorar un modelo en producción con pruebas en directo.
- El informe no da coste ni tamaño del equipo, y las fuentes no dicen qué proporción de usuarios ve los personajes. La fecha del artículo es la impresa en él (2 de marzo de 2026 en arXiv, 3 de marzo de 2026 en el propio artículo).
Fuentes
- CharacterFlywheel: Scaling Iterative Improvement of Engaging and Steerable LLMs in Production
arXiv (Meta Superintelligence Labs and FAIR at Meta) · 2026-03-02 · Artículo de investigación · arxiv.org
Resumido con nuestras propias palabras a partir de las fuentes anteriores. ¿Ha detectado un error? Consulte correcciones.