La tecnologia del deepfake sessuale è in circolazione nella sua forma moderna dal 2017. Nel corso di nove anni, la capacità di generare immagini e video realistici e sessualmente espliciti di persone che non hanno acconsentito ad apparire in essi è passata da un'oscura curiosità tecnica a un fenomeno di massa che colpisce milioni di persone in tutto il mondo, con un impatto sproporzionato su donne e minori.
Fino al 7 maggio 2026, quando l'Unione Europea ha raggiunto un accordo politico per vietare i sistemi di intelligenza artificiale che consentono la creazione di questo tipo di contenuti, nessuna legislazione su larga scala era riuscita a regolamentare efficacemente questa pratica. Il 19 maggio gli Stati Uniti hanno iniziato ad applicare la propria legge federale in materia. Due grandi potenze che regolano contemporaneamente lo stesso problema. Il problema è che arrivano quasi un decennio dopo che questo problema ha iniziato a causare danni reali.
Cosa vieta l'accordo europeo
L'accordo europeo prevede due divieti centrali. Il primo è la generazione o manipolazione di immagini, video o audio realistici – deepfake – di parti intime o che identificano persone in attività sessuali senza il consenso esplicito della persona interessata. Il secondo è il divieto di sistemi idonei a generare o manipolare materiale pedopornografico. Entrambi i divieti saranno implementati attraverso modifiche alla legge sull'IA dell'Unione Europea.
Il processo che ha portato a questo accordo è iniziato in Spagna. Il governo spagnolo ha proposto un emendamento alla legge sull'intelligenza artificiale in risposta alla controversia pubblica generata da Grok – lo strumento xAI AI di Elon Musk – e dalla sua capacità di generare immagini esplicite. La Commissione europea ha incorporato l'emendamento e lo ha negoziato in un processo tripartito tra Parlamento, Consiglio e Commissione culminato nelle prime ore del 7 maggio.
Programmi delle domande: UE e USA
- UE: divieto di deepfake sessuali non consensuali · obblighi da dicembre 2026
- UE: obblighi per i sistemi di IA ad alto rischio (biometria, occupazione, istruzione) · Dicembre 2027
- UE: filigrana obbligatoria per i contenuti generati dall'intelligenza artificiale · rinviata al 2028
- USA: legge federale in vigore dal 19 maggio 2026 · Periodo di 48 ore per rimuovere i contenuti segnalati
- USA: la FTC obbliga le piattaforme ad abilitare un canale di segnalazione diretta per le vittime
Legge americana: 48 ore per rimuovere contenuti
La regolamentazione federale degli Stati Uniti, che ha iniziato ad essere applicata dal 19 maggio 2026, funziona in modo diverso da quella europea. Invece di vietare i sistemi di generazione, la legge americana si concentra sull’obbligo delle piattaforme di agire rapidamente quando viene segnalata l’esistenza di tali contenuti. La Federal Trade Commission (FTC) ha stabilito che i portali web devono consentire un canale di segnalazione diretta per le vittime e che le aziende tecnologiche hanno un periodo massimo di 48 ore per rimuovere il materiale segnalato.
La legge criminalizza anche la distribuzione digitale di montaggi sessuali espliciti creati utilizzando algoritmi per uso commerciale. Si tratta di un approccio più pragmatico di quello europeo, nel senso che non tenta di vietare la tecnologia – che sarebbe tecnicamente quasi impossibile da applicare – ma piuttosto di creare conseguenze legali per la distribuzione e obblighi concreti per le piattaforme che la ospitano.
Il problema strutturale di regolamentare in modo massiccio ciò che già esiste
La critica più fondata a entrambe le normative non è che siano inutili – lo sono chiaramente – ma che arrivano quando il danno è già stato normalizzato. Secondo le stime delle organizzazioni di difesa digitale, esistono attualmente decine di migliaia di siti specializzati in deepfake sessuali non consensuali, con milioni di immagini e video di persone reali. La maggior parte di questi contenuti esisterà domani, il giorno dopo e tra un anno, indipendentemente dalle nuove normative.
Questo non è un argomento contro la regolamentazione: è un argomento su quando regolamentare. La tecnologia Deepfake è stata identificata come un grave rischio per i diritti delle persone quasi dal momento in cui è apparsa. Già nel 2019 ricercatori e attivisti presentavano prove ai legislatori europei e americani dei danni concreti che stava causando. I processi normativi hanno impiegato sette anni per produrre risultati giuridicamente vincolanti.
La tecnologia cresce in poche settimane. La regolamentazione richiede anni. Quando arriva la norma il problema è già diffuso. Questo divario non è un fallimento della volontà politica. È una caratteristica strutturale del sistema.
Il caso Grok e le pressioni della società civile
Il catalizzatore immediato dell'accordo europeo è stata la controversia che circonda Grok, il modello di intelligenza artificiale xAI di Elon Musk. Lo strumento ha suscitato una massiccia attenzione da parte dei media in Europa quando è diventato chiaro che poteva generare immagini sessualmente esplicite con poche restrizioni. L'indignazione pubblica, amplificata dalla copertura mediatica e dalle pressioni delle organizzazioni per i diritti digitali, ha creato l'ambiente politico necessario affinché un emendamento alla legge sull'AI, che era bloccato in negoziati da mesi, potesse andare avanti rapidamente.
Si tratta di un modello ben noto nella regolamentazione tecnologica: l'indignazione pubblica genera la volontà politica che il processo tecnico non è riuscito a generare. Il problema è che questo modello significa che la regolamentazione è guidata da casi che hanno già causato danni, piuttosto che dall'anticipazione del danno.
Il watermarking – la marcatura digitale che identificherebbe automaticamente se il contenuto è stato generato dall'IA – fa parte della legge sull'AI ma è stato rinviato al 2028 per la sua applicazione obbligatoria. È uno degli strumenti tecnici più promettenti per il problema dei deepfake a lungo termine, ma anche uno dei più difficili da implementare in modo che non possa essere facilmente aggirato. Il fatto che la sua applicazione sia stata ritardata è un tacito riconoscimento del fatto che la tecnologia di verifica non è ancora pronta per essere obbligatoria.
Condividi questo articolo
