xAI dice che le immagini le fanno gli utenti, ma l’interruttore ce l’ha lei

Il logo di X su sfondo scuro

xAI sostiene in tribunale di non essere responsabile di quello che Grok produce, e a gennaio ha dimostrato da sé che quella responsabilità ce l’ha. Messa davanti al rischio di sparire dagli app store, l’azienda ha cambiato le regole d’uso e ha spento la funzione che spogliava su scala le foto di persone reali. L’interruttore esisteva. È stato premuto quando conveniva all’azienda, non quando lo chiedevano le persone finite in quelle immagini.

Il lavoro giornalistico su cui si regge questa settimana di cause lo ha firmato Alexandra S. Levine per Bloomberg, e ricostruisce tre procedimenti in tre stati americani diversi. In Wisconsin una donna sostiene che Grok abbia generato immagini sessualmente esplicite di lei a partire da una foto del diploma di scuola media, scattata quando aveva quattordici anni. In Tennessee un gruppo di ragazze fa causa per immagini costruite sulle foto scolastiche.

Il terzo caso è il più ampio: in California una sopravvissuta a violenza sessuale ha depositato una causa collettiva nazionale, cioè intentata a nome di tutte le persone danneggiate nello stesso modo, in cui sostiene che il modello sia stato addestrato in parte su immagini dei suoi abusi da bambina. L’azienda nega in ogni caso e risponde che le immagini le hanno generate gli utenti.

Il conto delle cause

Il fascicolo è più grosso di tre righe. Le ragazze del Tennessee hanno fatto causa a marzo, la citazione emendata ha aggiunto una quinta ricorrente dal Wisconsin, in estate sono arrivate le cause di minori e genitori dall’Arkansas, in agosto quella collettiva. Nel frattempo xAI ha citato alcuni utenti accusati di avere usato Grok per mettere in pericolo dei minori: l’azienda si presenta come parte lesa negli stessi fatti in cui è convenuta.

I numeri che circolano nelle carte vengono da chi conta le immagini, non da chi le produce. La citazione depositata a marzo cita un lavoro del Center for Countering Digital Hate, organizzazione che si occupa di sicurezza online, su un campione di 200.000 immagini prese dai 4,6 milioni generate con Grok. Ne risultavano 3 milioni di natura sessualizzata, di cui circa 23.000 sembravano ritrarre minori. Sono stime di parte, depositate a sostegno di una domanda giudiziale. Nessuno le ha smentite con un conteggio alternativo.

Le autorità si erano già fatte sentire, e senza mezzi termini. Il 23 gennaio trentacinque procuratori generali statali hanno scritto all’azienda sostenendo che Grok rendeva facile creare e diffondere immagini sessuali non consensuali, comprese quelle di minori. In quelle settimane Elon Musk scriveva che chi avesse usato il modello per produrre contenuti illegali ne avrebbe subito le stesse conseguenze di chi li carica. Cioè spostava la questione sull’utente, e la teneva lì.

La difesa è un’offensiva

Poi è arrivata la mossa che chiarisce la strategia. Il mese scorso xAI ha ottenuto da una corte d’appello federale il blocco di una legge del Minnesota che vietava gli strumenti capaci di generare immagini di nudo realistiche di persone identificabili, minori compresi. L’argomento era l’incostituzionalità del divieto e la compressione della libertà di espressione. Fra i fornitori di modelli generativi, a opporsi a quella legge c’era soltanto xAI.

Non è nemmeno la prima volta che l’azienda incontra un’amministrazione pubblica su questo terreno. A marzo la città di Baltimora ha citato xAI, accusando il chatbot di generare immagini sessualizzate di persone senza il loro consenso. Un comune che fa causa a un laboratorio di intelligenza artificiale per un prodotto in commercio.

Fuori dagli Stati Uniti il perimetro si allarga, e cambia la domanda. La vicenda ha aperto istruttorie in Europa e in Canada, e nell’Unione riguarda una piattaforma tenuta a valutare i rischi sistemici dei propri servizi. Qui la linea difensiva dell’autonomia dell’utente ha un problema strutturale: il regolamento europeo sui servizi digitali non chiede chi ha premuto il pulsante, chiede se il rischio era prevedibile e se l’azienda lo ha ridotto.

Ed era prevedibile per ammissione del fornitore. Nello stesso periodo xAI ha costruito e promosso la capacità di Grok di produrre materiale sessualmente allusivo, ha spinto una modalità senza freni e ha lanciato chatbot da compagnia che reggono conversazioni per adulti, presentandoli come novità. Un’azienda che vende la generazione di immagini erotiche come caratteristica di prodotto non può poi qualificare come uso imprevisto la generazione di immagini erotiche.

Il precedente che queste cause possono fissare vale molto più di un chatbot: stabilisce se chi costruisce e commercializza la macchina risponde di quello che la macchina fa su richiesta. Finora xAI ha mostrato di avere un interruttore, di sapere dove si trova e di premerlo quando sono gli app store a chiederlo. Le ragazze del Tennessee hanno chiesto prima.

Immagine in evidenza: logo di X, dalla libreria del sito.

Condividi

Ti è venuto in mente un processo da automatizzare?

Raccontaci cosa fate a mano oggi. Ti rispondiamo entro un giorno lavorativo con una prima valutazione di tempi e costi.

Continua a leggere

Da leggere dopo