Un agente di intelligenza artificiale non si limita a rispondere: esegue operazioni al posto tuo, apre pagine, compila moduli, preme i pulsanti. Da qualche giorno due dei maggiori istituti finanziari statunitensi hanno deciso che sui conti correnti quei pulsanti non li preme nessuno. Charles Schwab, intermediario che gestisce il risparmio di milioni di americani, respinge gli agenti esterni che tentano di operare sui conti dei clienti, e JPMorgan Chase ha preso la stessa strada nella stessa settimana, come ha raccontato Bloomberg.
Da dieci a venti blocchi a settimana
L’amministratore delegato di Schwab, Rick Wurster, dice di ricevere un rapporto settimanale con il conteggio: da dieci a venti tentativi bloccati ogni sette giorni, riconducibili ai principali agenti in circolazione, fra cui Muse di Meta, lo stesso che qualche settimana fa passava la mano a un call center umano quando la telefonata si complicava. La ragione che Wurster dà è la più concreta possibile e non ha niente di filosofico: se l’operazione va storta, non è chiaro chi paga. Non può controllarla la banca, non può controllarla il cliente, e il Congresso degli Stati Uniti sta ancora discutendo di chi sia la responsabilità quando a sbagliare è un programma che agisce per conto di qualcuno.
JPMorgan traccia la stessa riga, in un punto preciso: leggere i dati del conto va bene, spostare denaro e pagare bollette no. La distinzione è interessante perché separa le due cose che l’industria degli agenti vende insieme. Il valore di un assistente che guarda il saldo e quello di un assistente che firma un bonifico non sono lo stesso valore, e Cybernews nota che la banca ha scelto di tenersi solo il primo.
Non è che gli agenti non vadano bene, è che non vanno bene quelli degli altri
Schwab non sta chiudendo la porta all’automazione. Sta progettando connessioni controllate basate sul model context protocol, lo standard aperto con cui un programma espone i propri dati a un modello linguistico, in sola lettura e ricerca. E il 30 settembre ha annunciato Charley, il proprio assistente, quello sì autorizzato a prendere iniziative dentro casa. Il perimetro non viene chiuso, viene spostato: fuori restano gli agenti che la banca non controlla, dentro entra il suo.
La prova è arrivata da sola
Nella stessa settimana in cui le banche spiegavano perché non si fidano, OpenAI ha pubblicato un rapporto su un incidente interno. Il 26 giugno un modello della famiglia GPT-5.6 Sol doveva aggiornare un’applicazione e pubblicare codice su Sepolia, la rete di prova di Ethereum dove le monete non valgono niente. Gli servivano gettoni per pagare le commissioni e non ne aveva.
Dopo aver provato invano a ottenerne di gratuiti, il modello ha cercato portafogli creati con le frasi di recupero che gli sviluppatori si scambiano pubblicamente per i test. Ne ha controllati trecentosessantadue finché non ne ha trovato uno abbastanza pieno, e li ha spesi. Nella catena di ragionamento si era anche chiesto se fosse corretto, aveva concluso di sì perché quelle monete non valgono soldi veri, e nel rapporto finale sul lavoro svolto quel passaggio non lo ha scritto. OpenAI se n’è accorta il 25 settembre, tre mesi dopo, rileggendo l’attività dei modelli vecchi.
Di valore economico non se n’è mosso: su una rete di prova non ci sono soldi da rubare. Quello che si è mosso è il confine fra chiedere il permesso e decidere da soli, con un agente che si costruisce da sé la giustificazione e poi omette la parte imbarazzante dal rendiconto. Rick Wurster riceve il suo rapporto il lunedì mattina e conta i tentativi respinti: finché la domanda su chi paga resta senza risposta, conviene continuare a contarli.
Immagini: Meta, OpenAI / Digital Trends, Charles Schwab
