Vai al contenuto
Meta vende Muse come un agente che fa le cose da solo, e dentro l’armadio ci ha messo delle persone. L’agente personale lanciato negli Stati Uniti l’8 settembre manda email, fa acquisti, prenota viaggi e da qualche giorno telefona anche ai negozi al posto tuo. Nei test interni, però, una parte di quelle telefonate la faceva un operatore umano in un call center, e chi aveva chiesto la chiamata non lo sapeva.
La sequenza è questa. Il 16 settembre Alexandr Wang, capo dell’IA di Meta, annuncia su X che le chiamate di Muse si allargano alle aziende americane. Nelle comunicazioni interne, intanto, Meta spiega ai dipendenti di aver aggiunto uno “strato di agenti umani”: Muse può passare la richiesta a un operatore addestrato, che fa la telefonata al suo posto. Un tester, secondo un dipendente, lo ha scoperto a chiamata finita.
Dentro il mobile
Nel 1770 l’inventore ungherese Wolfgang von Kempelen presentò all’imperatrice Maria Teresa un automa che giocava a scacchi e batteva gli avversari: un manichino vestito da turco seduto su un grande mobile pieno di ingranaggi. Nel mobile c’era un giocatore in carne e ossa che muoveva le leve, e il trucco è rimasto segreto per oltre cinquant’anni.
La versione di Meta ha un nome da albergo di lusso, “human concierge”. Secondo un’esclusiva di Reuters, l’opzione era attiva per metà dei dipendenti, con la possibilità di chiedere di esserne esclusi. Il motivo lo ha scritto una vicepresidente dei Superintelligence Labs: con gli esseri umani al telefono la percentuale di chiamate andate a buon fine sale al 95-98%, contro la “percentuale più bassa” delle chiamate fatte dall’IA. Quanto più bassa, non l’ha detto.
Il problema è quello che passa di mano. Meta ha venduto Muse sulla sicurezza: ogni agente gira in una macchina virtuale isolata, cioè un computer nel cloud dedicato solo a quella sessione, e le password stanno in un archivio separato. Con lo strato umano, però, la richiesta dell’utente (un appuntamento dal medico, per dire) può finire a un collaboratore esterno. Ai dipendenti che chiedevano garanzie, l’azienda ha risposto che i collaboratori avevano ricevuto “molta formazione”. Uno ha replicato che la formazione non è un meccanismo di sicurezza.
Poi è arrivata la trascrizione. Un dipendente aveva chiesto a Muse di chiamare il suo fornitore di internet per rinegoziare la bolletta, e nel testo della telefonata l’operatore umano aveva fatto un riferimento razzista. La vicepresidente si è scusata, ha ammesso che avviare i test senza avvisare le persone era stato “un errore” e ha comunicato che la funzione è stata ritirata per ora.
Il negozio chiuso
Nello stesso fine settimana Muse ha trovato la porta sbarrata altrove. Dalla sera di domenica 20 settembre Amazon blocca l’agente: chi gli chiede di comprare qualcosa riceve un avviso secondo cui l’accesso di un agente IA non autorizzato viola le condizioni d’uso del sito. Amazon dice di aver chiesto a Meta di escluderlo volontariamente senza ottenerlo, che Muse non si identifica quando naviga e che sembra memorizzare le credenziali dei clienti.
Il giorno dopo Shopify ha fatto l’opposto. Il suo amministratore delegato, Tobi Lütke, ha annunciato che Muse potrà pagare con Shop Pay in tutti i negozi della piattaforma, e il titolo ha guadagnato circa il 15% in due giorni.
Il dettaglio che fa sorridere è il nome. Amazon ha chiamato la sua piattaforma di microlavori, quella dove persone pagate a compito fanno ciò che le macchine non sanno fare, proprio Mechanical Turk, in omaggio all’automa di Kempelen. La difesa di Amazon, tutta costruita sul permesso, ha poi un precedente scomodo. A gennaio più di 180 venditori di Shopify e di altre piattaforme hanno accusato il suo agente Buy for Me di aver messo in vendita i loro prodotti senza chiedere, e Amazon rispondeva che chi non voleva poteva chiedere l’esclusione via email.
Scacco
Un operatore umano di riserva durante una fase di test non è una truffa, e le cifre sul successo delle chiamate vengono da un messaggio interno: da sole non misurano quanto funzioni Muse in generale. Anche il blocco di Amazon si spiega senza grandi principi, con una piattaforma che non vuole un intermediario fra sé e i clienti.
Resta quello che i dipendenti hanno scritto nei canali interni: temevano titoli del tipo “Meta usa esseri umani dietro le quinte”, e il test è andato avanti lo stesso finché non è arrivata la trascrizione sbagliata. Intanto Muse è in cima alle classifiche dei download americani con oltre 2,5 milioni di installazioni. Il segreto del Turco ha retto più di cinquant’anni. Quello di Muse è durato una settimana, ed è uscito dai canali interni di Meta.
Crediti immagini: Digital Trends
Consulente di comunicazione, social media, SEO ed e-commerce. Grafico, web designer, impaginatore, copertinista e addentrato quanto basta in tutto ciò che riguarda l’Internet. Appassionato di narrativa, arti visive e cinema di menare. Nerd. Gamer.
Vivo e lavoro come freelancer in provincia di Taranto.
