L’ospedale universitario di Bonn esegue DeepSeek-R1 su un server isolato per i suoi radiologi

Il problema

I radiologi scrivono e correggono referti lunghi, li traducono e preparano lettere. I modelli linguistici possono aiutare, ma gli ospedali tedeschi in genere non possono inviare dati dei pazienti a servizi di IA esterni a causa di norme sulla privacy come il GDPR dell’UE. L’ospedale universitario di Bonn voleva un modello da far funzionare in proprio e ottenere comunque l’autorizzazione a trattare dati dei pazienti non anonimizzati.

Cosa hanno costruito

L’ospedale ha costruito un servizio isolato e ospitato in proprio attorno a DeepSeek-R1, un modello aperto (open-weight). Aperto significa che i file del modello sono pubblicati, quindi un ospedale può eseguirlo sul proprio hardware. Il team ha usato la versione completa da 671 miliardi di parametri, compressa (quantizzata) per stare su un server con otto chip NVIDIA A100. Il servizio si presenta come una schermata di chat con dieci modelli di prompt già pronti, per esempio correzione e traduzione dei referti. L’ospedale ha pubblicato il pacchetto di installazione come open source.

Come ci sono riusciti

Il progetto parte dall’ipotesi di una possibile violazione. Zone di rete separano l’interfaccia web dal modello, regole firewall bloccano il traffico esterno e test automatici verificano che l’isolamento regga. Un monitor controlla le connessioni esterne inattese.

In parallelo il team ha condotto un iter di autorizzazione che ha coinvolto la direzione della clinica, il responsabile della protezione dei dati, il responsabile della sicurezza delle informazioni, il reparto compliance e il consiglio dei lavoratori (la rappresentanza del personale). Il consiglio dei lavoratori ha dato il suo assenso a condizione che non vengano raccolte statistiche d’uso per singolo dipendente e che l’uso resti volontario. Il personale deve completare un corso di alfabetizzazione sull’IA prima di poter accedere.

A luglio 2025, 22 radiologi hanno usato il sistema per una settimana.

Risultati

L’iter di autorizzazione si è concluso con successo, e l’ospedale descrive il servizio come base di un’offerta permanente per oltre 10.000 dipendenti. Nel pilota gli utenti hanno valutato la stabilità con una mediana di 10,0 su 10 e la facilità d’uso con 9,0. La velocità ha ottenuto 7,0. Il monitor non ha rilevato eventi di connessione esterna.

I compiti basati su un testo fornito dall’utente sono andati meglio. La traduzione dei referti ha ottenuto una valutazione mediana di qualità di 9,5, e sei compiti su dieci non hanno avuto errori critici segnalati. Un errore critico è un’affermazione sbagliata, un’omissione o un contenuto inventato che richiede correzione manuale.

Cosa è andato storto

La redazione di conclusioni a partire dai riscontri di diagnostica per immagini ha avuto il tasso di errore più alto. Su 16 utenti di quel compito, uno ha segnalato un singolo errore critico e due ne hanno segnalati diversi. La codifica ICD-10 (i codici standard delle malattie usati per la fatturazione) è stata giudicata promettente, ma gli utenti hanno detto che controllare i codici suggeriti faceva risparmiare poco tempo. Le valutazioni sulla velocità sono state inferiori a quelle sulla stabilità, cosa che gli autori attribuiscono al loro hardware server più datato.

Cosa replicare

Cominciate con correzione, traduzione e semplificazione di testi che l’utente ha già. Considerate la generazione di nuovi contenuti clinici più rischiosa e testatela a parte.