L’operazione iraniana che OpenAI ha smontato l’8 ottobre non ha forzato nessuna serratura. È entrata dalla porta che quasi ogni redazione lascia aperta, quella dei contributi esterni, e ha usato ChatGPT per la parte noiosa del mestiere: far rientrare il pezzo nelle linee guida di invio della testata a cui veniva proposto. Nel rapporto si chiama Bogus Bylines, firme fasulle, e conta quasi 100 articoli pubblicati o ripresi da una dozzina di siti di informazione fra il luglio 2025 e l’ottobre 2026.
Il flusso di lavoro sta in tre passaggi, e nessuno dei tre ha bisogno di una macchina intelligente. Gli operatori consegnavano al modello la bozza in inglese insieme ai criteri di pubblicazione di una testata precisa, si facevano indicare le modifiche per rientrarci, poi chiedevano l’email di proposta da mandare al direttore. Messo a punto una volta, lo stesso giro si ripete su venti indirizzi diversi senza toccare niente.
Il collaboratore che non esisteva
A firmare erano sette persone inventate: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams e Alice Johnson. Le biografie pubblicate accanto agli articoli li descrivevano come cronisti occidentali, quasi sempre americani, specializzati in Medio Oriente o diritti umani. Quella di Michael Harrison è stata scritta dal modello, e lo stesso nome compariva in un’operazione iraniana che Meta aveva già disattivato a marzo.
Gli stessi operatori producevano a lotti i commenti da incollare sotto i post altrui, compresi quelli che rilanciavano i loro articoli, per farli sembrare letti e apprezzati. Più di due dozzine di lotti sono finiti sotto i contenuti di Iran International, l’emittente in lingua persiana con sede nel Regno Unito che critica il governo di Teheran. Quella metà della campagna non ha prodotto quasi nulla: like e risposte restano a una cifra.
Il report al capo
ChatGPT serviva anche a impaginare i resoconti interni destinati a chi pagava. La metrica scelta per misurare l’impatto erano le visualizzazioni dei post a cui gli operatori avevano risposto, non quelle delle risposte: un conteggio che attribuisce alla claque il pubblico di qualcun altro. OpenAI scrive di non essere riuscita a identificare il committente e descrive l’attività come compatibile con un fornitore commerciale che lavora su commessa.
Chi ha lavorato in agenzia riconosce la scena senza bisogno di spiegazioni. Il fornitore consegna il numero che tiene buono il cliente, il cliente non ha modo di verificarlo, la commessa continua. Qui il prodotto consegnato era un articolo di politica estera su un giornale locale americano, firmato da una persona che non esiste.
Il buco non era il modello
Nessun rilevatore di testo generato avrebbe fermato questa campagna, perché il problema non era come fossero scritti i pezzi ma chi diceva di averli scritti. Il precedente più vicino è Alice Donovan, la finta giornalista dietro cui operava l’intelligence militare russa, pubblicata da testate occidentali fra il 2016 e il 2017, quando i modelli linguistici non esistevano. Nel 2020 è toccato a PeaceData, un finto sito di notizie che reclutava collaboratori ignari.
Sulla scala Breakout, che misura da 1 a 6 quanto un’operazione di influenza esce dal proprio recinto, i commenti social si fermano a 2 e gli articoli arrivano a 4. Uno dei siti che hanno pubblicato quei pezzi contava, ad agosto, quasi due milioni di follower su Facebook. Nello stesso rapporto compare un’operazione russa in America Latina valutata 5, la più alta mai registrata da OpenAI, che aveva assunto persone vere convinte di lavorare per un centro studi.
OpenAI ha chiuso gli account. Le sette firme sono sparite, i moduli per proporre un contributo sono rimasti dove erano. Un articolo lo puoi far controllare da una macchina. Un collaboratore bisogna ancora chiamarlo al telefono.
Crediti immagini: Digital Trends
