JPMorgan Chase déploie sa plateforme LLM Suite auprès de 200 000 collaborateurs

Le problème

JPMorgan a restreint l’usage de ChatGPT par ses collaborateurs début 2023, par crainte d’une exposition de données. Les équipes voulaient pourtant de l’IA générative pour la rédaction et l’analyse au quotidien : la banque avait donc besoin d’une alternative sûre.

Ce qu’ils ont construit

LLM Suite est une plateforme propriétaire qui donne aux collaborateurs éligibles accès à de grands modèles de langage dans un environnement sécurisé. Ils s’en servent pour rédiger des e-mails et des rapports, résumer de longs documents, résoudre des problèmes Excel et trouver des idées. Les ingénieurs peuvent aussi intégrer à leurs propres programmes des fonctions issues de modèles externes.

Comment ils s’y sont pris

CNBC a rapporté que la banque n’avait pas construit ses propres modèles. LLM Suite fonctionne comme un portail vers des modèles externes, lancé avec celui d’OpenAI, et la banque a indiqué vouloir éviter la dépendance à un fournisseur unique. L’outil est conçu pour que les données des collaborateurs ne servent pas à entraîner les modèles. La feuille de route de JPMorgan, selon son propre billet, consiste à connecter l’outil à davantage de données internes et à le combiner à des processus pour créer des agents.

Résultats

JPMorganChase affirme que la plateforme a atteint 200 000 utilisateurs intégrés dans les huit mois suivant son lancement à l’été 2024. En août 2024, CNBC rapportait qu’elle était accessible à plus de 60 000 collaborateurs, avec un déploiement plus large prévu.