Una sentenza tedesca apre un fronte nuovo: chi controlla davvero ciò che l’algoritmo racconta?

Per la prima volta un tribunale tedesco mette nero su bianco qualcosa che finora era rimasto sospeso tra tecnologia e diritto: se l’intelligenza artificiale sbaglia, a risponderne non è “la macchina”, ma chi la gestisce. Nel caso specifico, Google.

La vicenda nasce da un ricorso presentato da un privato che si è visto attribuire, nei risultati di ricerca, informazioni false generate dal sistema di risposta automatica. Non un semplice refuso, ma un contenuto errato che, secondo i giudici, avrebbe potuto danneggiare la reputazione della persona coinvolta. Da qui la domanda: chi paga quando l’algoritmo deraglia?

Il tribunale non ha avuto dubbi. L’IA non è un’entità autonoma, non è un soggetto giuridico e non può essere trattata come tale. È uno strumento. E come ogni strumento, ricade sotto la responsabilità di chi lo mette sul mercato, lo addestra, lo aggiorna e lo integra nei propri servizi. In questo caso, Google.

La decisione apre un fronte enorme. Perché se un errore di un algoritmo diventa responsabilità diretta dell’azienda, allora cambia tutto: cambiano i modelli di controllo, cambiano le tutele per gli utenti, cambia il modo in cui i colossi del web dovranno progettare e monitorare i loro sistemi. E cambia anche la narrazione, spesso comoda, secondo cui “l’IA ha sbagliato”. No: ha sbagliato chi l’ha costruita o non l’ha controllata abbastanza.

Google, dal canto suo, difende la bontà dei propri sistemi e ricorda che l’IA generativa è ancora in fase di sviluppo. Ma la sentenza tedesca manda un messaggio chiaro: la sperimentazione non può essere un alibi. Se un contenuto errato finisce online e danneggia qualcuno, la responsabilità non può dissolversi nel cloud.

È solo l’inizio. Altri tribunali europei potrebbero seguire la stessa strada, e il dibattito sulla responsabilità dell’IA — finora confinato a conferenze e tavoli tecnici — entra ora nelle aule di giustizia. Con una domanda che pesa più di tutte: siamo davvero pronti a convivere con sistemi che apprendono da soli, se non sappiamo ancora chi risponde dei loro errori?