Quando cancelli una conversazione con un assistente IA che gira sul telefono, sparisce dallo schermo ma non dal telefono. Resta nella memoria di lavoro del dispositivo, e da lì un gruppo di ricercatori della Georgia Tech è riuscito a tirarla fuori e a rimetterla in piedi come una sessione funzionante, con cui si può tornare a parlare. Lo strumento si chiama ORISA.
Lo studio è di Ken Xu, dottorando e primo autore, e di Brendan Saltaformaggio del Cyber Forensics Innovation Laboratory. È stato presentato al simposio su sicurezza e privacy dell’IEEE, l’associazione internazionale degli ingegneri elettrici ed elettronici, con un titolo molto chiaro: Recovering and Rehosting Mobile Local LLM Conversations and Contexts via Memory Forensics. LLM sta per modello linguistico di grandi dimensioni, quello che c’è dietro ChatGPT e simili.
La chat recuperata ricorda più di quella originale
Il dato più interessante dell’esperimento è un confronto. I ricercatori hanno creato un assistente di prova nell’app ChatterUI, gli hanno dato cento informazioni inventate e poi hanno cancellato la conversazione. Mentre era attiva, la sessione riusciva a usarne solo quattordici, perché la memoria che il modello può consultare in un dato momento è limitata. L’assistente ricostruito dopo la cancellazione ne ha elencate ventisei.
Quindi la chat recuperata ricorda più cose di quella originale. Il motivo è semplice: il modello vede solo una parte della conversazione alla volta, mentre la memoria del telefono conserva anche i pezzi che il modello aveva già smesso di usare. Il test è stato ripetuto su sessanta configurazioni, dieci app Android e tre modelli diversi, e in tutti i casi lo strumento ha recuperato dati cancellati.
In locale non vuol dire privato
Questo smonta l’idea che usare un assistente in locale, senza mandare niente nel cloud, renda la conversazione sicura. Sei al sicuro da chi gestisce il servizio, forse, ma non da chi mette le mani sul telefono. Mentre l’app lavora la conversazione sta nella memoria del telefono, e cancellarla dall’app non la toglie da lì.
I ricercatori lo dicono senza giri di parole: lo strumento serve alle indagini. Secondo Xu permette di stabilire cosa una persona abbia detto a un assistente IA e cosa le abbia risposto. Se il consiglio di un chatbot ha fatto un danno e quella conversazione non l’ha mai vista un medico, questo è l’unico modo per ricostruirla.
I limiti sono tre, e li elencano i ricercatori stessi. Serve una copia della memoria e dell’archivio del telefono. Più il telefono viene usato, più i dati vengono sovrascritti e il recupero diventa difficile. E ORISA è uno strumento per chi fa indagini, non un’app per recuperare le proprie chat perse. Ma una conversazione cancellata comunque lascia tracce che si possono ricostruire.
Chi può recuperare le tue chat
La domanda allora è chi può farlo. Un investigatore con un mandato. Chi ha il telefono in mano dopo un sequestro. E chi ce l’ha in mano senza nessun mandato, cioè chi controlla il telefono di un’altra persona. Su questo c’è già uno studio della New York University che mostra quanto male i chatbot consiglino chi è sorvegliato dal partner, e ora sappiamo che quelle conversazioni si recuperano anche dopo averle cancellate. Intanto il resto del settore va nella direzione opposta: ChatGPT ha aggiunto memoria e cronologia consultabile, e Claude ha reso gratuita la memoria, con la possibilità di importare i dati da altri assistenti. Più cose ricordano gli assistenti, più materiale resta a chi un giorno andrà a cercarlo.
Il tasto cancella, insomma, non ha mai cancellato niente, e dopo sessanta configurazioni di prova è documentato. Toglieva la conversazione dallo schermo, e basta.
Immagini: Aerps.com / Unsplash, Georgia Tech, Nadeem Sarwar / Digital Trends.
