Immagini di abuso create con Grok: la causa contro xAI coinvolge ora anche Stability AI

Una causa collettiva in corso negli Stati Uniti contro xAI, l’azienda di Elon Musk che sviluppa il chatbot Grok, sta mettendo alla prova una difesa che finora abbiamo sentito ripetere da tutti i fornitori di strumenti generativi: se qualcuno usa male il nostro prodotto, il problema è suo.

La vicenda va letta dall’inizio, perché è cresciuta per aggiunte successive.

Gennaio 2026: le immagini su X

All’inizio dell’anno la piattaforma X viene invasa da immagini sessualizzate prodotte con Grok a partire da fotografie di persone reali. Il generatore di immagini era accessibile direttamente dentro il social, e bastava chiederglielo. Dopo settimane di polemiche xAI ne limita l’uso su X, mentre l’applicazione autonoma di Grok continua a produrre gli stessi risultati.

Marzo 2026: la prima causa

Il 16 marzo tre studentesse del Tennessee, che agiscono in forma anonima come Jane Doe 1, 2 e 3, fanno causa a xAI davanti a un tribunale federale della California, dove l’azienda ha sede. Sostengono che fotografie scattate quando erano minorenni, prese dagli annuari scolastici e dai social, siano state trasformate in immagini sessualmente esplicite.

La contestazione non riguarda chi ha prodotto materialmente le immagini. Riguarda l’azienda che ha messo a disposizione lo strumento: l’accusa è di negligenza, cioè di non avere adottato le protezioni che altri fornitori di modelli avevano già adottato. Le ricorrenti chiedono che la causa venga riconosciuta come class action, aprendola a tutte le persone nella stessa condizione.

Luglio 2026: due ricorrenti in più e un secondo convenuto

A luglio l’atto viene emendato. Entrano due nuove ricorrenti, una del Wyoming e una del Wisconsin, e soprattutto entra un secondo convenuto: Stability AI, l’azienda dietro Stable Diffusion. Secondo l’atto avrebbe distribuito la prima versione del suo generatore pur sapendo che il materiale di addestramento conteneva immagini di abuso su minori, allentando poi le protezioni nelle versioni successive e alimentando così le applicazioni che spogliano le persone nelle fotografie.

15 agosto: il caso che spiega di cosa si discute

Il Washington Post ha ricostruito la vicenda di una delle due nuove ricorrenti, oggi poco più che ventenne. Il patrigno avrebbe caricato su Grok una sua fotografia scattata a undici anni, ricavandone più di settemila immagini e video espliciti, poi scambiati con altre persone in rete. Le immagini sono emerse durante una perquisizione della polizia; due giorni dopo l’uomo è stato trovato morto suicida.

Nell’atto compaiono due dettagli che spostano la discussione dal singolo colpevole all’infrastruttura.

• La scelta dello strumento sarebbe stata deliberata. Secondo le ricorrenti quel generatore è stato preferito ad altri proprio perché meno restrittivo, cioè perché rispondeva a richieste che altrove venivano rifiutate.
• La segnalazione sarebbe stata incompleta. A febbraio xAI aveva inviato una segnalazione al National Center for Missing and Exploited Children, l’organismo statunitense a cui le piattaforme devono comunicare il materiale di abuso su minori. Nell’invio, sostiene l’atto, c’era solo la fotografia originale autentica, non il materiale generato che serviva agli investigatori per risalire in fretta all’autore.

Perché la questione riguarda anche chi lavora in Italia

Nessuna delle due aziende è stata condannata, e queste per ora restano accuse contenute in un atto di parte. Ma il principio in discussione è quello che sta diventando il nodo centrale della responsabilità sull’IA generativa, e non è materia solo americana.

Nell’ordinamento europeo la separazione fra chi produce lo strumento e chi lo usa non esiste più come alibi per nessuno dei due. L’AI Act, i cui obblighi di trasparenza si applicano dal 2 agosto 2026, mette in capo a chi fornisce il sistema l’obbligo di marcare i contenuti sintetici in modo riconoscibile dalle macchine, e in capo a chi lo usa quello di dichiarare che il contenuto è artificiale. Sono due doveri distinti che gravano su due soggetti distinti, come abbiamo visto nel dettaglio parlando di cosa dice la legge italiana sui deepfake.

Sul piano penale, poi, l’articolo 612-quater del codice penale punisce da uno a cinque anni chi diffonde senza consenso immagini alterate con l’IA causando un danno ingiusto, e si procede d’ufficio quando la persona offesa è incapace per età. Il caso di Striscia la Notizia davanti al Garante ha mostrato che, sul versante dei dati personali, la soglia è ancora più bassa: lì non serviva nessun danno, bastava che il trattamento non fosse corretto.

Per un’azienda che adotta uno strumento generativo la lezione pratica è una sola. La scelta del fornitore non è soltanto una questione di prezzo e di qualità dei risultati: quali richieste il modello rifiuta, cosa registra e cosa segnala sono caratteristiche del prodotto quanto la velocità di risposta. Quando qualcosa va storto, sono le prime cose che vengono guardate.