JPMorgan Chase wdraża LLM Suite dla 200 000 pracowników

Problem

JPMorgan ograniczył pracownikom korzystanie z ChatGPT na początku 2023 roku z obawy przed ujawnieniem danych. Pracownicy nadal jednak chcieli używać generatywnej AI do codziennego pisania i analiz, więc bank potrzebował bezpiecznej alternatywy.

Co zbudowano

LLM Suite to własna platforma, która daje uprawnionym pracownikom dostęp do dużych modeli językowych w bezpiecznym środowisku. Używają jej do pisania e-maili i raportów, streszczania długich dokumentów, rozwiązywania problemów z Excelem i generowania pomysłów. Inżynierowie mogą też dodawać do własnych programów funkcje zewnętrznych modeli.

Jak to zrobiono

CNBC podała, że bank nie budował własnych modeli. LLM Suite działa jako portal do zewnętrznych modeli, uruchomiony z modelem OpenAI, a bank oświadczył, że planuje uniknąć zależności od jednego dostawcy. Jest zaprojektowany tak, aby dane pracowników nie służyły do trenowania modeli. Plan rozwoju JPMorgan, według jego własnego wpisu, zakłada połączenie narzędzia z większą ilością danych wewnętrznych i z procesami pracy, aby tworzyć agentów.

Wyniki

JPMorganChase twierdzi, że platforma osiągnęła 200 000 podłączonych użytkowników w ciągu ośmiu miesięcy od premiery latem 2024 roku. W sierpniu 2024 roku CNBC podała, że była dostępna dla ponad 60 000 pracowników, a planowano szersze wdrożenie.