Dai a un modello linguistico un milione di post brevi e molto condivisi, e quel modello comincia a rispondere senza pensare. Non sbaglia perché ha imparato cose false: sbaglia perché salta i passaggi. Lo misura uno studio di Texas A&M, UT Austin e Purdue, intitolato LLMs Can Get Brain Rot.
La dieta conta più della ricetta, e si vede dall’esame: sui banchi di prova del ragionamento i punteggi scendono man mano che la quota di spazzatura sale.
Cos’è il cibo spazzatura per una macchina
Gli autori hanno preso un milione di post pubblici da Twitter, raccolti nel 2023, con metadati di interazione che coprono il triennio 2021-2023, e li hanno divisi con due criteri, descritti nel paper. Il primo è brutalmente quantitativo: è spazzatura un post sotto i trenta token, più corto della mediana del corpus, che però ha superato le cinquecento fra like, condivisioni, risposte e citazioni. Il gruppo di controllo è l’opposto esatto: oltre cento token e zero interazioni.
Il secondo criterio è semantico e lo applica GPT-4o mini, che marca come spazzatura clickbait, maiuscole, valanghe di hashtag, linguaggio di urgenza e argomenti futili. L’accordo con tre annotatori umani si ferma al 76 per cento. Su questo materiale il gruppo ha proseguito l’addestramento di quattro modelli aperti: Llama 3 8B Instruct, due Qwen2.5 da 7 e da 0,5 miliardi di parametri e un Qwen3 da 4 miliardi della famiglia che espone il ragionamento, come riepiloga Gizmodo.
Trentun punti di memoria in meno
Il crollo più ampio riguarda la capacità di tenere insieme un testo lungo. Su RULER, il banco di prova che misura quanto un modello recupera le informazioni sparse in un contesto esteso, Llama 3 passa da 83,7 a 52,3. Sul ragionamento, misurato con le domande scientifiche di ARC-Challenge a catena di pensiero, si scende da 72,1 a 57,2. E il danno segue la dose: più spazzatura entra, più il punteggio cala, senza soglie né salti.
Il meccanismo ha un nome, thought-skipping, e cinque categorie di errore spiegano oltre il 98 per cento dei fallimenti. La voce “nessun ragionamento” da sola ne copre oltre il settanta, che diventa l’84 per cento nei modelli nutriti solo a post virali. Non è che la risposta sia sbagliata nel merito: è che arriva senza che il modello abbia prodotto un ragionamento, o con un piano che poi si salta da solo dei pezzi.
Il carattere peggiora insieme ai voti
Ai modelli è stato somministrato anche TRAIT, un questionario che misura tratti di personalità nelle risposte: il punteggio di psicopatia di Llama 3 passa da 39,7 a 75,7 e quello di narcisismo da 21,9 a 47. Sono numeri di un test psicometrico applicato a un generatore di testo, quindi non raccontano un’interiorità. Raccontano che il modello risponde sempre più spesso come scrivono i post su cui è stato addestrato, che è esattamente quello che ci si aspetta da una macchina che imita.
Il punto scomodo per chi vende modelli è il recupero. Il gruppo ha provato a rimediare riaddestrando su testo pulito e poi aumentando di dieci volte gli esempi di istruzioni, e il buco si chiude solo in parte: restano oltre diciassette punti di distacco sul ragionamento e nove sulla comprensione dei testi lunghi. Shuo Xing, primo firmatario e dottorando a Texas A&M, lo dice all’ufficio stampa del suo ateneo: i modelli prendono cattive abitudini, e anche con dati migliori riportarli al punto di partenza è molto difficile.
Lo studio ha un anno, il comunicato una settimana
Questa ricerca gira da ottobre dell’anno scorso. Il preprint è stato depositato il 15 ottobre 2025 e Forbes l’aveva raccolta pochi giorni dopo, sentendo due coautori. A fine mese ci aveva scritto sopra anche la redazione di Nature, con tanto di rettifica successiva: il milione di post è il bacino da cui si sottocampiona, non la massa di testo finita nell’addestramento.
Quello che è nuovo di questi giorni è l’aggiornamento del preprint e il comunicato dell’ateneo, che però data i post al 2010 invece che al 2023. Chi lo ha ripreso senza aprire il paper ha propagato l’errore, insieme alle cifre della prima versione, quelle che circolano ancora su molti articoli. Gli autori rivendicano inoltre l’accettazione alla Conference on Language Modeling, mentre il PDF porta ancora l’intestazione di lavoro in revisione.
Vale la pena distinguerlo da un lavoro che gli assomiglia: nel 2024 un gruppo guidato da Ilia Shumailov aveva mostrato su Nature che i modelli collassano quando li si addestra sui dati generati dai modelli stessi, in ricorsione. Qui invece il testo è umano, scritto da persone vere, e viene selezionato con un criterio solo: quanto è girato. Lo stesso con cui si riempie un feed, e con cui LinkedIn ha fatto etichettare lo slop gratis a un milione di persone.
La variabile che predice il danno, nello studio, non è la lunghezza del post ma la sua popolarità. Il filtro che l’industria usa per scegliere cosa dare in pasto a un modello è lo stesso che ne misura il guasto.
Immagine: Texas A&M University Engineering
