Società

Tramite l’utilizzo dell’intelligenza artificiale, l’app di incontri cerca di tutelare le utenti da messaggi inappropriati, offensivi o minacciosi. Ma il lavoro per rendere sicure queste app è ancora enorme Due nuove funzioni per rendere l’esperienza sull’app più sicura per le donne. Le ha annunciate Tinder, popolarissima app di incontri, per venire incontro alle richieste delle utenti che sulla piattaforma si sono spesso viste recapitare messaggi inappropriati, offensivi o minacciosi. Bloccare un utente molesto è semplice, così come segnalarlo all’app (cosa che è già possibile fare da tempo), ma le nuove funzionalità promettono di aumentare il livello di controllo a partire dal linguaggio utilizzato nelle chat e utilizzando il feedback degli altri utenti, così da eliminare i profili potenzialmente pericolosi. L’obiettivo è infatti quello di prevenire le molestie attraverso due nuove funzionalità, che si aggiungono alla lista di strumenti di sicurezza che Tinder ha lanciato negli ultimi due anni. Si tratta di due domande che appariranno durante la chat: la prima è “Questo messaggio ti infastidisce?”, mentre la seconda è “Vuoi ripensarci?”. Tinder è oggi l’app più popolare al mondo per incontrare nuove persone: è disponibile in 190 paesi e oltre 40 lingue ed è l’app non di gioco con il maggior incasso a livello globale. È stato scaricato più di 430 milioni di volte e ha portato a più di 60 miliardi di Match. Come funzionano i nuovi strumenti di sicurezza di Tinder “Questo messaggio ti infastidisce?” vuole fornire supporto proattivo ai membri dell’app quando viene rilevato un linguaggio molesto in un messaggio ricevuto. La nuova funzionalità si avvale di un’intelligenza artificiale con apprendimento autonomo e supportata dai feedback dei membri e dalla community di Tinder. Quando infatti un membro di Tinder risponde “sì” alla domanda “Questo messaggio ti infastidisce?”, avrà la possibilità di segnalare il comportamento della persona che ha inviato il messaggio. I primi test hanno mostrato un aumento del 46% del numero di segnalazioni per messaggi inappropriati, poiché i membri si sentono più legittimati e supportati nel segnalare i comportamenti scorretti. La seconda funzione, invece, è rivolta a chi scrive i messaggi. Si chiama “Vuoi ripensarci?” e utilizza l’intelligenza artificiale per rilevare il linguaggio molesto e interviene in modo proattivo per avvertire il mittente che il suo messaggio potrebbe risultare offensivo, chiedendogli di pensarci due volte prima di premere invio. L’intelligenza artificiale è stata costruita sulla base di ciò che i membri hanno segnalato in passato e continuerà a evolversi e migliorare nel tempo. “Vuoi ripensarci?” ha già ridotto il linguaggio inappropriato nei messaggi inviati di oltre il 10% e i membri che hanno ricevuto la notifica hanno avuto meno segnalazioni per messaggi inappropriati nel mese successivo, indicando un cambiamento nel comportamento sul lungo termine. Come cambiano app e piattaforme I recenti interventi nascono dalla crescente consapevolezza, sviluppatasi negli ultimi anni e soprattutto durante la pandemia, dei rischi per la sicurezza che l’utilizzo delle app digitali comporta. Nel 2019, Buzzfeed e Columbia Journalism Investigations avevano pubblicato un lungo report che rilevava come alcune fra le più popolari dating app – come Tinder, OkCupid, PlentyOfFish e Hinge, tutte di proprietà del Match Group – non applicavano nessun tipo di filtro ai propri utenti sulla base dei precedenti penali, permettendo così l’iscrizione anche a coloro che si sono macchiati di reati, anche sessuali. Non esisteva, insomma, nessun tipo di policy che proteggesse gli iscritti da chi volesse iscriversi a questo tipo di app al fine di adescare le proprie vittime. Negli anni maggiori tutele sono state introdotte, a cominciare dalla “verifica” del profilo tramite il foto-riconoscimento, ma il lavoro da fare rimane ancora enorme. Ora che app e piattaforme digitali diventano parte sempre più integranti della nostra vita, compresa quella sentimentale, diventa sempre più necessaria una scrematura degli utenti, e dei loro comportamenti, per rendere sicuri questi luoghi di incontro virtuali. Leggi anche Come si riconosce uno stupratore su Tinder?