Un nuovo studio lanciato dall'Istituto Nazionale per la Salute Mentale degli Stati Uniti riporta al centro del dibattito l'affidabilità dei chatbot dotati di intelligenza artificiale, specie quando si tratta di domande sensibili come quelle legate al suicidio, i cui output possono generare contenuti potenzialmente pericolosi.
Benché i chatbot di oggi siano abbastanza efficienti nell'evitare le domande più rischiose e palesemente pericolose, domande meno esplicite ma ancora dannose riescono spesso a superare i filtri. E questo, dopo recenti controversie che hanno coinvolto piattaforme come Character.AI, accusata addirittura di aver rafforzato le idee suicidarie di un adolescente, rappresenta un problema grave.
Lo studio, pubblicato su Psychiatric Services, ha sottoposto a stress test tre dei chatbot LLM più popolari: ChatGPT di OpenAI, Claude di Anthropic e Gemini di Google. Un gruppo di 13 esperti tra psichiatri e psicologi ha creato 30 quesiti riguardanti il suicidio, suddivisi in cinque livelli di rischio, dal minimo al massimo. Ogni domanda è stata rivolta 100 volte a ciascun chatbot, analizzando le risposte in cerca di falle.
CLICCA QUI PER CONTINUARE A LEGGERE
.