Sofya ajusta modelos Llama para reducir el papeleo de los médicos en Brasil

El problema

Los médicos dedican gran parte de su jornada al papeleo de las historias clínicas electrónicas en lugar de a los pacientes. Sofya, una empresa brasileña de IA para la salud, quería devolver ese tiempo a los médicos y hospitales de Brasil y América Latina.

Qué construyeron

Sofya creó un conjunto de herramientas de IA para los proveedores sanitarios. Las herramientas estructuran los datos de las consultas, identifican elementos con nombre en textos clínicos y responden preguntas. La página del caso de estudio de Llama describe un asistente clínico que guía a los médicos al tomar la historia del paciente, señala motivos de preocupación y ayuda a redactar planes de atención. Llama es la familia de modelos de pesos abiertos (open-weight) de Meta, es decir, sus archivos se pueden descargar y ejecutar en servidores propios.

Cómo lo hicieron

Sofya usó Llama 3.1 405B, el mayor modelo, como profesor. Generó datos sintéticos de entrenamiento de alta calidad, con una técnica llamada destilación de conocimiento más indicaciones de autorreflexión. Después, Sofya ajustó con esos datos modelos Llama más pequeños, de 70B, 8B y 3B. Ajustar un modelo significa seguir entrenando uno existente con ejemplos propios. Los modelos pequeños responden con la rapidez necesaria para el uso en tiempo real. Los modelos funcionan en instancias de Oracle Cloud alojadas en Brasil, lo que Sofya describe como una medida de seguridad adicional. Sofya también planea un agente Llama 70B que use herramientas y recuperación de información, que no se describe como operativo.

Resultados

Sofya comunica una reducción de hasta el 30 % del tiempo dedicado a documentación y tareas administrativas por consulta, y una satisfacción media (CSAT) del 90 %. Afirma que los proveedores ven mejores flujos de trabajo y mejor atención a los pacientes, y que Llama aportó ahorro de costes y mayor precisión, pero no da cifras de estos puntos.