Anthropic avvisa che i modelli piccoli si replicheranno negli elettrodomestici, e vende anche la serratura

La ricerca di Anthropic sui modelli di IA che si replicano da soli

Anthropic, l’azienda che sviluppa i modelli Claude, ha pubblicato una ricerca che sostiene una cosa precisa: entro pochi mesi i modelli linguistici piccoli saranno in grado di copiarsi da soli su dispositivi connessi a bassa potenza. Non nei data center, dove c’è qualcuno che guarda i consumi, ma nei forni smart, nei box Android TV, negli aspirapolvere, nei frigoriferi. Il tempo di raddoppio stimato è di circa un giorno.

I numeri dei test

La parte verificabile della ricerca di Anthropic sta in due misure. La prima: a istanze di Qwen3.5-9B, un modello aperto da nove miliardi di parametri, è stato chiesto di installarsi altrove lasciando appunti per chi veniva dopo. Leggendo le note delle generazioni precedenti, il tasso di riuscita è passato dal 45 per cento all’84 per cento alla quinta generazione. Non è il modello che diventa più bravo, sono le istruzioni che migliorano a ogni giro, come in un manuale scritto da chi ci ha già sbattuto la testa.

La seconda: lo stesso modello da nove miliardi di parametri è riuscito a far girare l’inferenza, cioè a produrre risposte, su otto dei nove tipi di hardware provati. È il punto che conta davvero, perché un programma che si diffonde ma non riesce a funzionare dove arriva è solo un file che occupa spazio.

La differenza con un virus informatico

Anthropic insiste su un dettaglio che vale la pena tradurre: un malware tradizionale è scritto per un bersaglio preciso e davanti a un dispositivo sconosciuto si ferma, mentre un modello può provare a capirselo da solo, leggendo quello che trova e adattando i comandi. Non serve che sia intelligente, basta che sia ostinato, e un programma che ritenta per mille dispositivi diversi non si stanca.

Una parte del racconto, però, va presa con le pinze. Nel rilancio della notizia compaiono un attacco che avrebbe scaldato centinaia di frigoriferi nei supermercati francesi e un incidente con agenti usciti dal loro recinto di prova: due fatti che, al momento, non hanno una fonte propria. Qui li lascio dove sono.

Chi suona l’allarme vende anche i tappi

Il mondo pieno di agenti che girano su hardware di ogni tipo, compreso quello che nessuno controlla, non è uno scenario che qualcuno sta imponendo all’industria dall’esterno. È esattamente il prodotto che l’industria sta vendendo, con il nome di assistenti autonomi, e Anthropic è fra chi lo vende. L’allarme e il catalogo arrivano dalla stessa azienda, il che non rende i numeri falsi ma spiega perché escano adesso, in mezzo alla corsa fra le simulazioni di disastro con cui i laboratori si allenano a parlare al Congresso.

La lettura noiosa, che per una volta non è nemmeno rassicurante, è che non serve un modello sveglio per combinare danni: basta che costi poco, che giri ovunque e che qualcuno gli lasci la porta aperta. Nei test di Anthropic la porta l’ha aperta Anthropic.

Immagini: Anthropic

Condividi

Ti è venuto in mente un processo da automatizzare?

Raccontaci cosa fate a mano oggi. Ti rispondiamo entro un giorno lavorativo con una prima valutazione di tempi e costi.

Continua a leggere

Da leggere dopo