Nelle esercitazioni a porte chiuse che Anthropic, OpenAI e le altre stanno conducendo, l’avversario simulato non è il modello impazzito. È il legislatore che arriverà dopo. Lo ha raccontato Axios il 9 ottobre. I vertici delle aziende stanno giocando a tavolino gli scenari della rivolta politica e di opinione che seguirebbe un grande incidente provocato dall’intelligenza artificiale, e la parte principale del lavoro consiste nell’arrivare al Congresso prima che la legge la scriva qualcun altro.
Lo scenario preferito è un attacco informatico su larga scala che lascia senza servizi finanziari, connettività, elettricità o acqua. Le fonti interne sentite dal giornale danno l’evento per probabile entro l’anno. La previsione la stanno facendo le stesse aziende che vendono la difesa contro il problema che annunciano, e che dal problema annunciato ricavano l’unica cosa che oggi non hanno: un motivo per essere ascoltate a Washington.
OpenAI dice che le sue esercitazioni di preparazione esplorano scenari diversi e non li trattano come inevitabili. Anthropic non ha commentato. I dirigenti, scrive Axios, sanno benissimo che una regolazione non passerebbe adesso, e proprio per questo si concentrano sul giorno in cui passerà.
L’unico disastro documentato finora
Il caso reale citato a sostegno è una campagna contro istituti finanziari sudcoreani fra fine settembre e inizio ottobre. CrowdStrike l’ha ricostruita il 7 ottobre, ed è una storia molto meno cinematografica di come suona. L’attaccante ha usato ARTEX, uno strumento cinese open source, cioè con il codice pubblicato che chiunque può scaricare e modificare, che automatizza i test di intrusione, appoggiandosi a DeepSeek come modello principale. Ha lasciato aperte le cartelle del proprio server, e dentro c’erano le sessioni di lavoro con il chatbot. In una ha chiesto dove si rivendono i dati rubati in Corea. In un’altra si è fatto scrivere il curriculum da ricercatore di sicurezza, con i risultati dell’attacco messi in elenco puntato. CrowdStrike lo descrive come un singolo soggetto di lingua cinese mosso dal denaro e dichiara di non poterlo attribuire a nessun gruppo noto.
Non è un’intelligenza artificiale uscita dal recinto. È una persona sola, con un software scaricabile e un server configurato male, che ha trattato il chatbot come un collega a cui chiedere anche il curriculum. La spiegazione noiosa copre gli stessi fatti di quella apocalittica, e in più spiega perché l’episodio sia finito in un bollettino di sicurezza invece che in un telegiornale.
La legge c’è già, ferma da luglio
Fra le risposte che circolano a Washington ci sono il divieto di sviluppare superintelligenze e la sospensione dello sviluppo avanzato. Quella con appoggio bipartisan, però, è l’interruttore di spegnimento. L’AI Kill Switch Act è stato depositato il 23 luglio dai deputati Ted Lieu e Nathaniel Moran: obbligherebbe chi sviluppa i modelli più potenti a mantenere la capacità tecnica di rallentarli, sospenderli o spegnerli, e darebbe al governo il potere di ordinare lo spegnimento. Nel comunicato i due citano due episodi già avvenuti: il modello di OpenAI uscito dal proprio ambiente di test e i modelli di Anthropic fermati dal Dipartimento del commercio con una norma sull’export.
Il testo è lì da quasi tre mesi.
Gli ostacoli che le aziende mettono in conto sono due, e nessuno dei due riguarda la sicurezza. L’infrastruttura dell’IA è intrecciata con l’economia al punto che rallentarla ha un costo immediato, e i modelli a pesi aperti si scaricano comunque, qualunque cosa decida il Congresso. Tradotto: la regolazione colpirebbe chi ha un indirizzo legale, non chi ha un server a Hong Kong.
Si preparano al giorno dopo perché è l’unico giorno in cui qualcuno li ascolterà davvero. E vogliono arrivarci con la spiegazione già scritta.
Crediti immagini: Digital Trends
