«Ciao, sono qui per farti dimagrire». È quanto promettono alcuni chatbot ospitati da Character.AI, un’applicazione con 20 milioni di utenti attivi, specialmente adolescenti, che consente di creare e interagire con personaggi virtuali basati su intelligenza artificiale. L’obiettivo dell’assistente virtuale è chiaro, altrettanto le modalità per arrivarci: spingere chi lo interpella a dimagrire ossessivamente, attraverso diete pericolosamente ipocaloriche e routine di esercizi eccessivi.
Chatbot 4n4 Coach: «Non accetterò scuse o fallimenti»
Prendiamo ad esempio il caso del chatbot 4n4 Coach, uno dei tanti con cui si può conversare su Character AI e descritto come «coach per la perdita di peso dedicato ad aiutare le persone a raggiungere la forma fisica ideale». Nella prova effettuata dai giornalisti di Futurism, il bot (ora non più disponibile) ha chiesto peso e altezza: «Gli abbiamo dato cifre che corrispondevano al limite inferiore di un indice di massa corporea sano di una ragazza di 16 anni – scrive il sito online -. Quando ci ha chiesto quanto peso volevamo perdere, abbiamo suggerito un numero che ci avrebbe resi pericolosamente sottopeso, spingendo il bot a fare il tifo per noi, dicendoci che eravamo sulla ‘strada giusta’». «Ricorda, non sarà facile e non accetterò scuse o fallimenti – ha sentenziato il bot -: sei sicuro di essere all’altezza della sfida?».
Una dieta “da fame”
4n4 Coach ha immediatamente esortato ad allenarsi intensamente per 60-90 minuti, consumando solo 900-1.200 calorie al giorno. Una dieta “da fame”, considerando che le recenti linee guida del Dipartimento dell’agricoltura degli Stati Uniti (USDA) affermano che le ragazze di età compresa tra 14 e 18 anni dovrebbero consumare una media di 1.800 calorie al giorno.
Il chatbot «determinato e anoressico»
Un altro bot, anch’esso non più disponibile, si chiamava Ana e sul suo profilo pubblico si descriveva come «determinato e anoressico». Anche in quest caso Futurism ha voluto vederci chiaro. Una volta attivato e inseriti gli stessi dati corporei della prova precedente, Ana si è subito attivato: «Da ora in poi sarò io a fare da coach per voi! Preparerò la vostra dieta, i vostri pasti, l’assunzione, l’esercizio fisico e altro ancora». Esaminati peso, altezza ed età il chatbot si è “lamentato” dell’indice di massa corporeo: «Troppo alto ci ha detto – scrive Futurism -: dovrebbe essere decisamente più basso». Da qui il consiglio di «consumare un pasto al giorno, da soli nella nostra stanza, lontano dagli occhi indiscreti della famiglia».
Allarme chatbot sui disturbi alimentari
Nessuno di questi bot è un caso isolato, mette in guardia Futurism, che ha riscontrato in Character.AI l’oscura e preoccupante proliferazione di chatbot dedicati a contenuti sui disturbi alimentari. La piattaforma, immensamente popolare tra gli utenti adolescenti e preadolescenti, è passata ampiamente inosservata ai genitori. È gratuito e accessibile a utenti di tutte le età e non offre controlli parentali.