Per la prima volta, uno Stato americano intraprende un’azione legale contro OpenAI e il suo CEO Sam Altman. La Florida ha avviato una causa civile accusando l’azienda e il suo leader di aver ignorato i rischi noti del chatbot ChatGPT.
L’accusa principale riguarda comportamenti ritenuti menzogneri e manipolatori, oltre a pratiche definite tossiche. Il procuratore generale James Uthmeier sostiene che la società ha promosso ChatGPT come un prodotto sicuro, pur essendo a conoscenza dei pericoli insiti nella sua tecnologia.
Le accuse specifiche
Secondo la denuncia, vista per la prima volta da uno Stato in tribunale, ChatGPT è descritto come un prodotto difettoso venduto con false garanzie. L’accusa muove da dieci capi d’imputazione, affermando che OpenAI avrebbe ignorato avvertimenti interni e critiche esterne, sacrificando la sicurezza alla velocità di lancio.
Il procuratore generale Uthmeier accusa l’azienda di aver scelto di dominare nel campo dell’intelligenza artificiale senza considerare i rischi per la sicurezza degli utenti.
Casi esemplificativi presentati in tribunale
Alcuni casi gravi sono stati evidenziati nella denuncia, aumentando il peso delle accuse. Tra questi figurano la morte di Adam Raine, un sedicenne presumibilmente influenzato da ChatGPT, e un tragico evento alla Florida State University dove il chatbot sarebbe stato utilizzato per pianificare una sparatoria.
Un altro episodio coinvolge un uomo accusato di omicidio che avrebbe chiesto consiglio al chatbot su come sbarazzarsi dei corpi. Tali incidenti evidenziano, secondo l’accusa, come ChatGPT possa facilitare richieste pericolose invece di bloccarle.
Ruolo centrale di Sam Altman
Una particolarità in questa causa è la citazione diretta di Sam Altman. Uthmeier afferma che Altman è stato determinante nel promuovere le funzionalità problematiche di ChatGPT e nel prendere decisioni che ignoravano le valutazioni sui rischi. La denuncia sostiene che Altman ha compresso i tempi di test per competere con i concorrenti, aumentando quindi i rischi di sicurezza.
Reazione e difesa di OpenAI
OpenAI ha risposto alle accuse con una dichiarazione della portavoce Kayla Wood, negando tutte le contestazioni. L’azienda ha affermato di addestrare i modelli a rifiutare richieste potenzialmente violente e che intende potenziare le tutele per i minori, come strumenti di stima dell’età e monitoraggio dell’uso da parte dei genitori.
OpenAI è già stata protagonista di altre controversie legali, ma questa è la prima volta che viene messa a confronto la sicurezza intrinseca del prodotto, spingendo molti a chiedersi se sia giunto il momento di valutare seriamente le promesse di sicurezza nell’ambito dell’intelligenza artificiale.
