Vai al contenuto
Secondo quanto riportato da Digitaltrends, un nuovo studio rivela che l’addestramento umano potrebbe essere la nostra migliore difesa contro la proliferazione di volti falsi generati dall’intelligenza artificiale, superando i limiti dei software di rilevamento automatico ormai obsoleti di fronte a tecnologie sempre più sofisticate.
La tecnologia di intelligenza artificiale è diventata straordinariamente abile nel creare volti umani falsi. Così abile, infatti, che i vecchi trucchi su cui le persone facevano affidamento – come contare le dita, individuare orecchini deformi o cercare sfondi distorti – stanno rapidamente diventando obsoleti. Secondo un nuovo studio evidenziato dalla BBC, la prossima linea di difesa potrebbe non essere affatto un rilevatore AI più potente, bensì un essere umano meglio addestrato.
I ricercatori dell’Università di Aberdeen, lavorando insieme alla National University australiana, hanno scoperto che le persone possono migliorare drasticamente la propria capacità di distinguere i volti generati dall’AI da quelli reali dopo un periodo relativamente breve di formazione strutturata. Invece di dare la caccia a macroscopici difetti visivi, ai partecipanti è stato insegnato a riconoscere modelli sottili che i moderni generatori di immagini faticano ancora a replicare in modo coerente.
La corsa all’AI costringe anche gli umani a evolversi
Per anni, identificare le immagini generate dall’intelligenza artificiale è sembrato quasi banale. I primi modelli producevano spesso sei dita, orecchini spaiati o ombre impossibili. Ma i generatori odierni, alimentati da sistemi come StyleGAN3 e dai più recenti modelli di diffusione, hanno ampiamente superato questi errori grossolani. Di conseguenza, i ricercatori sostengono che affidarsi ai soli difetti visivi non è più una strategia efficace.
Al contrario, i partecipanti allo studio sono stati addestrati a valutare sei qualità percettive che i volti sintetici spesso condividono. Queste includono una simmetria facciale insolitamente perfetta, tratti altamente proporzionati, un’attrattiva superiore alla media, strutture facciali dall’aspetto generico, un’espressione emotiva limitata e volti che risultano sorprendentemente difficili da ricordare dopo aver distolto lo sguardo.
I risultati sono stati sorprendenti. Prima dell’addestramento, i partecipanti identificavano correttamente i volti generati dall’AI solo nel 40% circa dei casi. Dopo circa un’ora di apprendimento guidato ed esposizione ripetuta a volti sia reali che sintetici, la precisione è salita a quasi l’80%. Un ristretto gruppo di partecipanti ha persino sfiorato il punteggio massimo. Inoltre, la sicurezza dei soggetti si è allineata molto meglio alle loro reali prestazioni, colmando un divario che le ricerche precedenti avevano spesso evidenziato.
Perché riconoscere i volti sintetici è ormai vitale
Non si tratta più di un semplice esercizio accademico. La tecnologia deepfake viene già impiegata in frodi finanziarie, campagne di influenza politica e truffe d’identità online. Vengono citate le stime di Deloitte secondo cui le perdite derivanti da truffe tramite deepfake negli Stati Uniti potrebbero salire a 40 miliardi di sterline il prossimo anno, in netto aumento rispetto ai 12 miliardi del 2023. Viene inoltre menzionato il noto caso di Hong Kong in cui alcuni truffatori avrebbero utilizzato una videochiamata deepfake per convincere un dipendente a trasferire ben 25 milioni di sterline. Nel frattempo, un’indagine dell’Associated Press ha scoperto un profilo LinkedIn generato dall’AI che era riuscito a infiltrarsi nei circoli politici statunitensi.
Lo studio evidenzia anche un altro aspetto cruciale: i sistemi di intelligenza artificiale rimangono meno affidabili nel generare volti di persone anziane, bambini o appartenenti a gruppi etnici sottorappresentati, a causa dei bias presenti nei dati di addestramento. Queste imperfezioni possono ancora fornire indizi preziosi per un osservatore umano attento.
La conclusione più interessante è che il cervello umano sembra apprendere in modo molto simile all’intelligenza artificiale stessa. Osservando ripetutamente esempi di volti reali e falsi, le persone sviluppano gradualmente un senso intuitivo di autenticità, piuttosto che affidarsi a un singolo elemento rivelatore. I ricercatori ritengono che questo istinto possa diventare uno dei nostri strumenti più forti con il continuo progresso dell’AI generativa.
L’ironia di questa situazione è evidente. Man mano che l’intelligenza artificiale diventa più abile nel simulare la natura umana, gli esseri umani devono iniziare ad addestrarsi nello stesso modo in cui lo fanno le macchine: attraverso dati, ripetizione e riconoscimento di pattern. I sistemi di rilevamento automatico continueranno a migliorare, ma la ricerca suggerisce che non dovrebbero essere l’unica difesa. Il giudizio umano ha ancora un ruolo centrale da svolgere, ha solo bisogno di un aggiornamento.
Credits: Unsplash
Consulente di comunicazione, social media, SEO ed e-commerce. Grafico, web designer, impaginatore, copertinista e addentrato quanto basta in tutto ciò che riguarda l’Internet. Appassionato di narrativa, arti visive e cinema di menare. Nerd. Gamer.
Vivo e lavoro come freelancer in provincia di Taranto.
