Szpital uniwersytecki w Bonn uruchamia DeepSeek-R1 na izolowanym serwerze dla radiologów

Problem

Radiolodzy piszą i poprawiają długie opisy badań, tłumaczą je i przygotowują listy. Modele językowe mogą w tym pomóc, ale niemieckie szpitale zazwyczaj nie mogą wysyłać danych pacjentów do zewnętrznych usług AI ze względu na przepisy o prywatności, takie jak unijne RODO. Szpital uniwersytecki w Bonn chciał modelu, który sam może uruchamiać, a mimo to uzyskać zgodę na przetwarzanie niezanonimizowanych danych pacjentów.

Co zbudowano

Szpital zbudował izolowaną, samodzielnie hostowaną usługę wokół DeepSeek-R1, otwartego modelu (open-weight). Otwarty oznacza, że pliki modelu są opublikowane, więc szpital może go uruchamiać na własnym sprzęcie. Zespół użył pełnej wersji o 671 miliardach parametrów, skompresowanej (skwantyzowanej), aby zmieściła się na serwerze z ośmioma układami NVIDIA A100. Usługa działa za ekranem czatu z dziesięcioma gotowymi szablonami promptów, takimi jak korekta i tłumaczenie opisów. Szpital opublikował pakiet wdrożeniowy jako oprogramowanie otwartoźródłowe.

Jak to zrobiono

Projekt zakłada możliwość włamania. Strefy sieciowe oddzielają interfejs webowy od modelu, reguły zapory blokują ruch zewnętrzny, a automatyczne testy sprawdzają, czy izolacja się trzyma. Monitor śledzi nieoczekiwane połączenia zewnętrzne.

Równolegle zespół przeprowadził proces zatwierdzania. Uczestniczyli w nim kierownictwo kliniki, inspektor ochrony danych, inspektor bezpieczeństwa informacji, dział zgodności i rada pracowników (przedstawiciele personelu). Rada pracowników zgodziła się pod warunkiem, że nie będą zbierane statystyki użycia dla poszczególnych pracowników, a korzystanie pozostanie dobrowolne. Personel musi ukończyć kurs kompetencji w obszarze AI, zanim będzie mógł się zalogować.

W lipcu 2025 roku 22 radiologów korzystało z systemu przez tydzień.

Wyniki

Proces zatwierdzania zakończył się sukcesem, a szpital opisuje usługę jako podstawę stałej oferty dla ponad 10 000 pracowników. W pilotażu użytkownicy ocenili stabilność medianą 10,0 na 10, a łatwość obsługi na 9,0. Szybkość otrzymała 7,0. Monitor nie wykrył żadnych zdarzeń połączeń zewnętrznych.

Najlepiej wypadły zadania oparte na tekście dostarczonym przez użytkownika. Tłumaczenie opisów uzyskało medianę oceny jakości 9,5, a sześć z dziesięciu zadań nie miało zgłoszonych błędów krytycznych. Błąd krytyczny to błędne stwierdzenie, pominięcie lub zmyślona treść wymagające ręcznej poprawy.

Co poszło nie tak

Redagowanie wniosków na podstawie ustaleń z obrazowania miało najwyższy odsetek błędów. Spośród 16 użytkowników tego zadania jeden zgłosił pojedynczy błąd krytyczny, a dwóch zgłosiło kilka. Kodowanie ICD-10 (standardowe kody chorób używane do rozliczeń) uznano za obiecujące, ale użytkownicy mówili, że sprawdzanie sugerowanych kodów oszczędzało niewiele czasu. Oceny szybkości były niższe niż stabilności, co autorzy wiążą ze starszym sprzętem serwerowym.

Co warto powtórzyć

Zacznijcie od korekty, tłumaczenia i upraszczania tekstów, które użytkownik już ma. Generowanie nowych treści klinicznych traktujcie jako bardziej ryzykowne i testujcie osobno.