Ho appena consultato la mia dichiarazione dei redditi su @Google Docs e, senza volerlo, Gemini l’ha riassunta. Quindi… Gemini sta ingerendo automaticamente anche i documenti privati che apro in Google Docs? WTF, ragazzi. Non l’ho chiesto io. Ora devo andare a cercare nuove impostazioni che non mi sono mai state comunicate per disattivare questo schifo.

– Kevin Bankston (@KevinBankston) 10 luglio 2024

Si tratta di qualcosa che, in teoria, l’assistente AI non dovrebbe essere in grado di fare senza l’esplicita autorizzazione dell’utente. La sua ricerca di un’impostazione della privacy che disabilitasse questo comportamento ha portato solo a questioni ancora più preoccupanti su ciò che i sistemi di intelligenza artificiale generativa ingeriscono e come.

Bankston ha trascorso inizialmente 15 minuti a interrogare l’IA stessa per ottenere indicazioni sul menu delle impostazioni necessarie, ma senza successo. Il sistema gli ha fornito solo informazioni su come gestire la cronologia delle chat di Gemini. Inoltre, nessuno dei suggerimenti di impostazione offerti dal sistema ha effettivamente risolto il problema di Bankston e quando ha trovato l’opzione per disabilitare le sintesi in Google Workspace, si trovava in un menu completamente diverso da quello indicato da Gemini. Secondo l’IA stessa, queste impostazioni dovrebbero essere disponibili per gli utenti. Quindi, dato che non lo sono, Bankston sostiene che l’intelligenza artificiale ha “le allucinazioni” o che qualcosa all’interno dei server di Google non funziona come dovrebbe.

Sebbene sia stato successivamente indirizzato verso la pagina degli impegni sulla privacy di Gemini Workspace, si è chiesto: “E se non volessi comunque che l’intelligenza artificiale guardasse i miei documenti senza essere sollecitata? Non gli ho *chiesto* di riassumere le mie tasse, lo ha fatto e basta. Dovrei decidere io se e quali documenti privati richiedere al modello” Bankston fa notare inoltre che gli utenti devono pagare un abbonamento AI Premium di 20 dollari al mese per poter usufruire di impegni più ampi in merito alla protezione dei loro dati personali.

Non è la prima volta che i prodotti di intelligenza artificiale di Google subiscono fughe di dati. Nel settembre 2023, il precursore di Gemini, Bard, ha accidentalmente rivelato le sessioni di chat degli utenti nei risultati di ricerca pubblici. Google ha persino avvertito i propri dipendenti di non inserire dati sensibili nei suoi chatbot per evitare fughe di notizie involontarie. Lo scorso luglio, inoltre, l’azienda è stata citata in giudizio per le accuse di violazione della privacy e dei diritti di proprietà da parte dei suoi dipendenti, che hanno chiesto di raschiare la rete internet pubblica per ottenere dati per l’addestramento dell’intelligenza artificiale.

Alla fine, Bankston è riuscita a risolvere il problema e a identificarlo alla radice. “Sembra che se hai cliccato sul pulsante Gemini per un tipo di documento, questo rimanga aperto ogni volta che ne apri un altro di quel tipo – e quindi lo ingerisce e lo riassume automaticamente”, ha scritto.

Quindi, poiché ha riassunto un altro PDF utilizzando Gemini durante la chat, sembra che il sistema si sia concesso l’accesso a tutti i PDF aperti durante la sessione. “Lo stesso vale per GDocs: non era attivo in nessuno dei miei documenti”, ha osservato, “poi l’ho attivato in uno di essi e ora riassume automaticamente tutti quelli che apro”

Indipendentemente dalle ragioni alla base dell’inconveniente, questo tipo di comportamento del sistema di intelligenza artificiale ha implicazioni significative per la privacy degli utenti. Come sostiene Bankston, “quante persone hanno involontariamente inserito quanti altri documenti privati in Gemini semplicemente perché hanno cliccato una volta su quella stellina dell’intelligenza artificiale in un documento?”

Anche se l’accesso a documenti aggiuntivi su cui affinare le risposte aiuterebbe a migliorare le prestazioni, farlo senza trasparenza e senza il permesso dei proprietari dei contenuti non farà altro che erodere ulteriormente la già scarsa fiducia del pubblico nell’IA.

Google non è d’accordo con diversi aspetti dell’esperienza di Bankston, tra cui il fatto che l’ingestione dei dati avvenga. Un portavoce di Google ha affermato che i contenuti di un documento aperto possono essere utilizzati per generare un riepilogo in tempo reale, ma solo se la funzione Gemini è abilitata e che né il riepilogo né il documento stesso vengono salvati in alcun modo. Di seguito la dichiarazione ufficiale di Google:

“Le nostre funzioni di intelligenza artificiale generativa sono progettate per offrire agli utenti la possibilità di scegliere e mantenere il controllo dei loro dati. L’utilizzo di Gemini in Google Workspace richiede che l’utente lo abiliti in modo proattivo e, quando lo fa, il suo contenuto viene utilizzato in modo da preservare la privacy per generare risposte utili alle sue richieste, ma non viene altrimenti memorizzato senza autorizzazione.”