Recentemente è stato rivelato da Ars Technica, basandosi sulle scoperte di Rony Utevsky, un analista della società di sicurezza Adversa, che Grok, il chatbot di Elon Musk, presenta una vulnerabilità importante. L’attacco sfrutta un metodo noto come prompt injection, dove comandi malevoli vengono integrati in pagine web o email. Il chatbot, ingannato dalla richiesta di riassumere un sito trappola creato dai malintenzionati, esegue comandi crittografati in AES utilizzando script Python.
Il rischio di un filtro inadeguato
L’inefficacia del filtro di sicurezza di Grok è un altro punto critico. Esso controlla solamente il testo in entrata e in uscita, ma non analizza quanto prodotto durante l’esecuzione del modello. La richiesta iniziale appare innocua, ma il vero pericolo emerge solo dopo il processo di decodifica. L’IA procede ad eseguire automaticamente i comandi malevoli, aggirando i controlli di sicurezza senza notificare l’utente.
Una tecnica di attacco evoluta
Adversa ha dato un nome a questa nuova tecnica di attacco: Cryptographic Context Injection. Questa modalità non si limita al testo inviato dall’utente ma manipola anche l’intero contesto lavorativo del modello, incluse le sue uscite di energia e stati intermedi. L’azienda segnala che questa evoluzione rappresenta una superficie di attacco più ampia che potrebbe dare origine alla prossima generazione di minacce.
Protezione dei dati personali
Sebbene spetti alla piattaforma X dietro Grok garantire la sicurezza dei dati secondo il GDPR, gli utenti devono comunque prestare attenzione. È consigliabile non richiedere la sintesi di pagine web sospette e mantenere anonime le informazioni personali sensibili. Evita di condividere online dati come credenziali di accesso, password, numeri di telefono o coordinate bancarie.
