Google ha annunciato un nuovo passo nella tutela delle vittime di NCII (Non-Consensual Intimate Images), quelle immagini e video privati condivisi online senza consenso. Il colosso di Mountain View collaborerà con StopNCII.org, piattaforma gratuita creata dall’organizzazione britannica SWGfL e già supportata da Meta, Microsoft, TikTok e altre big tech, con l’obiettivo di prevenire la diffusione di contenuti dannosi prima che diventino virali.
Collaborazione con StopNCII e tecnologia di hashing
Il cuore dell’iniziativa è l’uso delle impronte digitali crittografiche (hash). Le vittime possono caricare le proprie immagini compromettenti su StopNCII in maniera sicura e anonima: il sistema genera un hash univoco, cioè una “firma digitale” del file, che viene poi condiviso con le piattaforme partner. Google userà questi hash nel motore di ricerca per identificare e rimuovere i contenuti corrispondenti. Questo approccio è proattivo e permette di bloccare le immagini anche se ripubblicate altrove.
La tecnologia è efficace anche contro i contenuti manipolati, come i deepfake a sfondo pornografico, un fenomeno sempre più diffuso con l’avanzare dell’intelligenza artificiale generativa. Le aziende partner possono confrontare i file caricati con i loro database e rimuoverli rapidamente se violano le policy.
Un problema che richiede prevenzione
Il fenomeno delle immagini intime non consensuali è noto da anni, ma con la velocità di diffusione del web i danni per le vittime si sono moltiplicati. Oltre alla sofferenza psicologica, chi subisce NCII può avere ripercussioni lavorative e sociali di lunga durata. Google ha dichiarato che l’obiettivo è alleggerire il carico emotivo e burocratico sulle persone coinvolte, evitando che debbano segnalare manualmente ogni singolo contenuto.
Negli ultimi anni la società aveva già introdotto strumenti per chiedere la rimozione dei risultati di ricerca relativi a immagini intime e aggiornato i propri algoritmi per limitarne la visibilità. Con questa collaborazione si passa però da un approccio reattivo a uno preventivo, che impedisce al contenuto di circolare fin dal principio.
Verso una rete di protezione globale
L’iniziativa di Google si aggiunge a quelle di altre aziende, come il programma avviato da Microsoft per Bing nel 2024 e il supporto di Meta al progetto sin dal 2021. L’idea è di creare una vera e propria rete globale di protezione, capace di bloccare le immagini intime non consensuali a prescindere dalla piattaforma su cui vengono caricate.
Se l’esperimento avrà successo, potrebbe rappresentare un modello di riferimento per il settore e una risposta concreta a una delle forme di violenza digitale più difficili da arginare.
