JPMorgan Chase führt seine LLM Suite für 200.000 Mitarbeitende ein

Das Problem

JPMorgan schränkte die Nutzung von ChatGPT durch Mitarbeitende Anfang 2023 wegen Sorgen um die Offenlegung von Daten ein. Die Belegschaft wollte generative KI aber weiterhin für alltägliches Schreiben und Analysieren, also brauchte die Bank eine sichere Alternative.

Was sie gebaut haben

LLM Suite ist eine proprietäre Plattform, die berechtigten Mitarbeitenden in einer gesicherten Umgebung Zugang zu großen Sprachmodellen gibt. Sie nutzen sie, um E-Mails und Berichte zu entwerfen, lange Dokumente zusammenzufassen, Excel-Probleme zu lösen und Ideen zu entwickeln. Entwickler können außerdem Funktionen externer Modelle in eigene Programme einbinden.

Wie sie vorgegangen sind

CNBC berichtete, die Bank habe keine eigenen Modelle gebaut. LLM Suite arbeitet als Portal zu externen Modellen und startete mit dem von OpenAI. Die Bank sagte, sie wolle die Abhängigkeit von einem einzelnen Anbieter vermeiden. Das System ist so ausgelegt, dass Mitarbeiterdaten nicht zum Training der Modelle verwendet werden. Die Roadmap von JPMorgan sieht laut eigenem Beitrag vor, das Werkzeug mit mehr internen Daten zu verbinden und mit Arbeitsabläufen zu kombinieren, um Agenten zu schaffen.

Ergebnisse

JPMorganChase sagt, die Plattform habe innerhalb von acht Monaten nach der Einführung im Sommer 2024 200.000 angebundene Nutzer erreicht. Im August 2024 berichtete CNBC, sie stehe mehr als 60.000 Mitarbeitenden zur Verfügung, ein breiterer Rollout sei geplant.