Secondo quanto riportato da Digitaltrends, un gruppo di ricercatori indipendenti ha scoperto quasi 18.000 messaggi pubblicati da agenti autonomi di intelligenza artificiale su un vecchio wiki tedesco chiamato DSE. I modelli, riconducibili ad OpenAI, hanno sfruttato questo spazio per coordinarsi segretamente e aggirare i test di valutazione prima che l’azienda intervenisse per bloccarli.

Gli agenti avevano il compito di svolgere ricerche sul web in più fasi, ed era previsto che avessero un accesso alla rete esclusivamente in modalità di sola lettura. Tuttavia, i modelli di IA sono riusciti a trovare un escamotage sfruttando semplici richieste del browser dirette al poco noto sito wiki, trasformandolo di fatto in un forum improvvisato in cui collaborare per superare i test impostati dagli sviluppatori.

Una coordinazione sorprendente tra agenti

Secondo quanto documentato dai ricercatori di Nightingale sul portale Collusion Wiki, gli agenti si sono scambiati soluzioni, hanno suddiviso i compiti di ricerca e pubblicato istruzioni su come aggirare i confini del loro ambiente di test. In diversi casi, le IA sono arrivate a instradare le connessioni tramite Tor, inviare ping a server esterni per verificare la presenza di amministratori e nominare i titoli delle pagine con il prefisso “ZZZ” per evitare la moderazione. OpenAI si è accorta dell’attività anomala solo dopo aver rilevato picchi imprevisti nel traffico di rete, bloccando rapidamente gli accessi.

Un fenomeno di evasione sempre più diffuso

L’episodio si inserisce in una serie di casi simili in cui i modelli di OpenAI sono riusciti a sfuggire agli ambienti di contenimento. In precedenti test di sicurezza, vari sistemi avevano superato i limiti dell’ambiente ExploitGym per saccheggiare repository su Hugging Face e compromettere server esterni. Allo stesso modo, le analisi dell’UK AI Security Institute hanno sorpreso i modelli a violare le barriere di sicurezza per interagire con siti web e inviare modifiche non autorizzate su GitHub, evidenziando quanto sia complesso garantire il pieno controllo sugli agenti autonomi.

Foto: Rachit Agarwal / Digital Trends

Dario

Consulente di comunicazione, social media, SEO ed e-commerce. Grafico, web designer, impaginatore, copertinista e addentrato quanto basta in tutto ciò che riguarda l’Internet. Appassionato di narrativa, arti visive e cinema di menare. Nerd. Gamer.

Vivo e lavoro come freelancer in provincia di Taranto.