L’intelligenza artificiale, con il suo utilizzo crescente nel lavoro quotidiano, offre ora funzionalità come la navigazione web e l’analisi di documenti complessi. Tuttavia, questo aumento di capacità ha introdotto una nuova minaccia nota come “iniezione di prompt”. In questa forma di attacco, un malintenzionato inserisce istruzioni nascoste all’interno di un testo che l’IA elabora. Se non controllata, l’IA potrebbe eseguire questi comandi senza che l’utente se ne accorga, compromettendo informazioni sensibili. Per affrontare questo problema, OpenAI ha sviluppato la Modalità di Blocco e le Etichette di Rischio Elevato.
Protezione con la Modalità di Blocco
La Modalità di Blocco è progettata per chi gestisce dati estremamente sensibili, come dirigenti di aziende e organizzazioni governative. Questa funzione avanzata riduce le interazioni di ChatGPT con sistemi esterni, creando un “rifugio blindato” digitale. In particolare, limita la navigazione web a contenuti solo nella cache di OpenAI per evitare l’esposizione a codice malevolo. Inoltre, altre funzioni che non garantiscono sicurezza vengono completamente disabilitate per evitare vulnerabilità.
Etichette di Rischio Elevato
OpenAI ha introdotto le etichette di Rischio Elevato per aiutare gli utenti a comprendere i rischi associati all’uso di alcune funzioni. Queste etichette, visibili su ChatGPT e altri sistemi come Codex, indicano quando una funzione potrebbe comportare rischi significativi. L’utente viene informato su cosa cambia nel sistema e sui rischi specifici, permettendo una decisione consapevole sull’uso della funzionalità.
Impegno continuo per la sicurezza
Le nuove funzioni non sostituiscono ma migliorano le protezioni esistenti di OpenAI, come il sandboxing e i log di audit. Attualmente, la Modalità di Blocco è disponibile per piani Enterprise, Edu e settori critici come sanità e insegnamento, con l’intenzione di espanderla agli utenti privati. Questo sforzo è volto a proteggere gli utenti più esposti ai rischi informatici.
