Stretta di Meta sulle conversazioni degli adolescenti con la sua intelligenza artificiale. Estenderà entro fine anno globalmente a più Paesi, anche all’Italia, il sistema di alert che informa i genitori che hanno attivato gli strumenti di supervisione quando i loro figli adolescenti parlano con Meta AI di suicidio o autolesionismo. Gli avvisi sono già disponibili negli Stati Uniti, Regno Unito, Canada e Australia. Inoltre, sempre in chiave minori un tema sensibile sotto i riflettori dei governi mondiali e dell’Ue, la società estende l’impostazione Contenuti limitati già presente su Instagram anche alle esperienze con l’IA.
“Abbiamo collaborato con genitori ed esperti per individuare quali conversazioni con l’IA richiedano l’invio di una notifica ai genitori, incluse quelle in cui un adolescente fa riferimento all’autolesionismo, anche in modo sottile o non esplicito. Sulla base di questo lavoro, abbiamo sviluppato un sistema dedicato in grado di riconoscere queste situazioni”, afferma Meta in una nota, aggiungendo di aver “raccolto il feedback di oltre 75 specialisti della salute per valutare il modo in cui Meta AI risponde ai prompt relativi a suicidio e autolesionismo”. Gli avvisi si aggiungono alle notifiche che Instagram già invia ai genitori che utilizzano il sistema di supervisione quando un adolescente tenta ripetutamente di cercare, in un breve arco di tempo, termini relativi a suicidio o autolesionismo.
E si estende da Instagram all’IA anche l’impostazione Contenuti limitati. Ciò significa che, se un genitore sceglie per il proprio figlio adolescente l’impostazione più restrittiva su Instagram, anche l’esperienza con Meta AI sarà soggetta a maggiori limitazioni. Così, “Meta AI rifiuterà di rispondere a una gamma più ampia di richieste, riducendo ulteriormente la possibilità che gli adolescenti vengano coinvolti in conversazioni potenzialmente inappropriate”.
La società di Mark Zuckerberg, infine, sta “sviluppando la possibilità di contattare i servizi di emergenza qualora una conversazione con Meta AI — sia da parte di un adulto sia di un adolescente — suggerisca che una persona possa essere in una situazione di rischio imminente. Lo scorso anno abbiamo effettuato oltre 19.000 segnalazioni a livello globale – conclude – aiutando i soccorritori a effettuare controlli sul benessere di persone potenzialmente a rischio”.
Riproduzione riservata © Copyright ANSA
Commenti post (0)