JPMorgan Chase despliega su LLM Suite entre 200.000 empleados

El problema

JPMorgan restringió el uso de ChatGPT por parte de sus empleados a principios de 2023 por la preocupación de que se expusieran datos. Aun así, la plantilla quería IA generativa para la redacción y el análisis cotidianos, de modo que el banco necesitaba una alternativa segura.

Qué construyeron

LLM Suite es una plataforma propia que da a los empleados autorizados acceso a grandes modelos de lenguaje en un entorno seguro. La usan para redactar correos e informes, resumir documentos largos, resolver problemas de Excel y generar ideas. Los ingenieros también pueden incorporar a sus propios programas funciones de modelos externos.

Cómo lo hicieron

CNBC informó de que el banco no construyó sus propios modelos. LLM Suite funciona como un portal hacia modelos externos, lanzado con el de OpenAI, y el banco dijo que planea evitar la dependencia de un único proveedor. Está diseñada para que los datos de los empleados no se usen para entrenar los modelos. La hoja de ruta de JPMorgan, según su propia publicación, es conectar la herramienta con más datos internos y combinarla con flujos de trabajo para crear agentes.

Resultados

JPMorganChase afirma que la plataforma alcanzó 200.000 usuarios incorporados en los ocho meses posteriores a su lanzamiento en el verano de 2024. En agosto de 2024, CNBC informó de que estaba disponible para más de 60.000 empleados, con un despliegue más amplio previsto.