Quando l’IA può essere pericolosa

 

Di Fabio Gaudiosi

È di febbraio 2026 la sentenza che sta facendo Giurisprudenza nelle corti americane, con delle notevoli ripercussioni sulla giustizia. Infatti, all’interno del provvedimento di cui si scrive, il giudice federale Jed Rakoff ha stabilito che une delle parti dovesse presentare in aula tutti i documenti di attinenza al processo comparsi all’interno di una conversazione privata con Claude, il chatbot di Anthropic. La decisione pone alla base delle sue motivazioni il presupposto per il quale non si potrebbe estendere, alle conversazioni intavolate con l’IA, l’applicazione del cd. attorney-client priviliege, secondo il quale le dichiarazioni rese davanti al proprio avvocato sarebbero garantite dal segreto professionale. Per il giudice statunitense la figura dei chatbot non potrebbe essere sovrapposta a quella dell’agente legale, nonostante le persone li usino ormai anche in tal senso. Per questo motivo tutti i dati e le informazioni che siano state condivise con l’IA potranno essere oggetto di documentazione in aula, diventando così materiale del processo. Gli studi legali americani, a seguito del provvedimento, si sono immediatamente affaccendati ad avvisare i propri clienti, affinché questi interrompessero immediatamente le loro conversazioni in merito ai processi in corso, evitando così di divulgare a terzi le proprie carte.

Questa decisione, senz’altro condivisibile su un piano legale - per quanto contrapposta a una diversa giurisprudenza statunitense che contemporaneamente stabiliva in senso contrario - presenta però delle complessità da un diverso punto di vista, di carattere sociale. Come evidenziato da Marco Montemagno ne L’Espresso, le stesse interfacce dei chatbot sembrano essere immaginate per creare un’intimità con l’utente, invitandolo a condividere dati sensibili, senza informarlo che quelle informazioni potranno essere utilizzate un giorno (letteralmente) anche contro di lui. L’IA tende a invitare i soggetti ad aprirsi, a condividere tutto ciò che le stesse persone non sono in grado di comunicarsi a vicenda. Il ragionamento per il quale chi le ascolterà non sarà altro che una macchina, induce i soggetti a perdere la consapevolezza delle proprie frasi, staccando la spina e lasciandosi andare oltre i limiti della prudenza. Il punto è che i chatbot ci consentono oggi di avere un portale sempre aperto con il quale confrontarci, permettendoci di sfogare le nostre emozioni senza esporsi al giudizio altrui.

Addirittura, oggi si nota come le persone vengano indotte a scambiare le varie IA anche come dei veri e propri psicologi, confondendo le risposte (ormai non più fredde) della macchina con quelle di una persona. In tal senso, non è detto che le prospettive dei chatbot siano sempre sbagliate, essendo il frutto di una rielaborazione di milioni di conversazioni pregresse, ma sono senz’altro prive della giusta capacità di adeguarsi al singolo individuo. Inoltre, il motivo stesso che induce le persone a questi tipi di conversazioni, ossia la possibilità di ottenere delle rapide suggestioni, contrasta con il lavoro di introspezione che una seduta implicherebbe. Le conseguenze, anche in questo caso, finiscono così per diventare principalmente negative, esponendo i soggetti ancora di più alla solitudine delle loro insicurezze. 

In definitiva, che si tratti di consulenza legale o psicologica, bisognerebbe rendersi conto che, ancora una volta, l’utilizzo delle diverse forme di IA andrebbe ripensato, educando le persone ad assumere una maggiore consapevolezza dello strumento (senz’altro potente) nelle proprie mani e delle conseguenze che questo potrebbe avere nelle loro vite. Perché, in entrambi i casi, il valore che finisce per essere leso di più è la difesa della persona.

 

® Riproduzione Riservata