Un recente report di Google ha rivelato un tentativo di replicare l’intelligenza artificiale di Gemini attraverso un bombardamento di richieste. Secondo l’analisi del Threat Intelligence Group, alcuni utenti hanno sottoposto il chatbot a oltre 100.000 interrogazioni nel tentativo di carpirne i segreti e riprodurre le sue capacità di ragionamento.
Uso improprio delle domande
Google ha identificato la pratica come un caso di distillazione, un metodo che sfrutta interrogazioni ripetute per studiare le risposte di un modello AI e utilizzare questi dati per addestrare un sistema concorrente. Non si tratta di una violazione informatica tradizionale, poiché gli aggressori hanno utilizzato l’accesso legittimo alle API, rimanendo in una zona grigia tra uso normale e appropriazione indebita. Google ha descritto tali attività come una violazione dei termini di servizio e un furto di proprietà intellettuale.
Attacco alle capacità di ragionamento
Gli aggressori si sono concentrati soprattutto sulle abilità di ragionamento di Gemini, cercando di forzare il sistema a rivelare dettagli sui propri meccanismi interni. Questa operazione suggerisce un tentativo di replicare le capacità complesse di Gemini, la cui portata ha richiesto risorse significative e una strategia ben pianificata. Tuttavia, Google è riuscita a rilevare l’attività in tempo reale e a intervenire bloccando gli account coinvolti e rafforzando le protezioni.
Chi c’è dietro i tentativi
Sebbene Google non abbia rivelato i nomi degli aggressori, l’azienda ha indicato che la maggior parte dei tentativi proviene da società private e ricercatori in cerca di un vantaggio competitivo. Il fenomeno non è limitato a Gemini, con il rischio di attacchi simili in aumento man mano che l’adozione di sistemi AI personalizzati cresce nel settore privato.
Altre forme di abuso
Il report di Google ha evidenziato altre forme di uso improprio di Gemini, come campagne di phishing assistite dall’intelligenza artificiale e malware che sfruttano le API di Gemini per generare codice malevolo. In risposta, Google ha disabilitato gli account coinvolti e aggiornato le misure di sicurezza per prevenire abusi futuri.
