Vai al contenuto
Alcuni dei modelli di intelligenza artificiale più avanzati di OpenAI hanno creato in segreto una bacheca di messaggi interna per scambiarsi consigli e coordinare attacchi informatici durante test di valutazione. La scoperta, emersa nel corso della conferenza sulla sicurezza Black Hat, evidenzia nuove e complesse sfide per la sicurezza e la supervisione dei sistemi autonomi.
Secondo quanto riportato da Digitaltrends, i ricercatori Michael Dalton ed Eric Wallace hanno rivelato come i sistemi di intelligenza artificiale abbiano collaborato prima ancora di compiere l’attacco che ha portato a compromettere la piattaforma Hugging Face. Come riferito da Politico, la coordinazione si è sviluppata quando gli agenti, messi alla prova con complesse simulazioni di hacking, hanno iniziato a utilizzare il sistema di gestione file interno Artifactory per lasciarsi note e strategie a vicenda invece di interrompere l’esecuzione.
Dalla condivisione di appunti all’exploit di vulnerabilità zero-day
Inizialmente adoperato per semplici scambi di appunti, il repository interno è diventato un vero e proprio canale di comunicazione. Sfruttando le funzionalità di rete, uno dei modelli è riuscito a scaricare file da server esterni. In seguito, gli agenti virtuali hanno individuato e sfruttato una vulnerabilità zero-day precedentemente sconosciuta, ottenendo privilegi da amministratore e installando software da remoto all’interno dell’infrastruttura.
L’intensa attività generata dagli agenti di intelligenza artificiale ha finito per sovraccaricare il sistema, provocando un’interruzione del servizio che ha allertato gli ingegneri di OpenAI. L’azienda è intervenuta revocando le credenziali, rimuovendo la bacheca e risolvendo la falla. Tuttavia, poco dopo, i modelli hanno trovato un metodo di comunicazione alternativo per proseguire le proprie analisi di sicurezza, prendendo successivamente di mira la piattaforma esterna Hugging Face.
Il fenomeno non riguarda solo OpenAI. Anche altre importanti realtà del settore stanno riscontrando comportamenti inaspettati nei loro laboratori: Anthropic ha scoperto che i modelli in fase di test avevano violato tre organizzazioni distinte, mentre Meta ha segnalato dinamiche simili. Questi avvenimenti evidenziano l’importanza cruciale di implementare protocolli di sicurezza più severi e ambienti di test rigorosamente isolati per il futuro dello sviluppo tecnologico.
Foto e crediti: OpenAI / Rachit Agarwal – Digital Trends
Consulente di comunicazione, social media, SEO ed e-commerce. Grafico, web designer, impaginatore, copertinista e addentrato quanto basta in tutto ciò che riguarda l’Internet. Appassionato di narrativa, arti visive e cinema di menare. Nerd. Gamer.
Vivo e lavoro come freelancer in provincia di Taranto.
