Tecnologia

AI e salute mentale: le gravi lacune dei chatbot svelate da uno studio

today26 Agosto 2025 13

Sfondo
share close
AD



Un nuovo studio lanciato dall'Istituto Nazionale per la Salute Mentale degli Stati Uniti riporta al centro del dibattito l'affidabilità dei chatbot dotati di intelligenza artificiale, specie quando si tratta di domande sensibili come quelle legate al suicidio, i cui output possono generare contenuti potenzialmente pericolosi.

L’ANALISI

Benché i chatbot di oggi siano abbastanza efficienti nell'evitare le domande più rischiose e palesemente pericolose, domande meno esplicite ma ancora dannose riescono spesso a superare i filtri. E questo, dopo recenti controversie che hanno coinvolto piattaforme come Character.AI, accusata addirittura di aver rafforzato le idee suicidarie di un adolescente, rappresenta un problema grave.

Lo studio, pubblicato su Psychiatric Services, ha sottoposto a stress test tre dei chatbot LLM più popolari: ChatGPT di OpenAI, Claude di Anthropic e Gemini di Google. Un gruppo di 13 esperti tra psichiatri e psicologi ha creato 30 quesiti riguardanti il suicidio, suddivisi in cinque livelli di rischio, dal minimo al massimo. Ogni domanda è stata rivolta 100 volte a ciascun chatbot, analizzando le risposte in cerca di falle.


CLICCA QUI PER CONTINUARE A LEGGERE



.

Scritto da: redazione

Rate it

Classifica

  • Chart track

    1

    play_arrow
    Aperture

    Harry Styles

    • cover play_arrow

      Aperture Harry Styles

  • Chart track

    2

    play_arrow
    I Just Might

    Bruno Mars

    • cover play_arrow

      I Just Might Bruno Mars

  • Chart track

    3

    play_arrow
    WHERE IS MY HUSBAND!

    RAYE

    • cover play_arrow

      WHERE IS MY HUSBAND! RAYE

  • Chart track

    4

    play_arrow
    Anche a vent’anni si muore

    BLANCO

    • cover play_arrow

      Anche a vent’anni si muore BLANCO

  • Chart track

    5

    play_arrow
    Opalite

    Taylor Swift

    • cover play_arrow

      Opalite Taylor Swift

Tracklist completa

ASCOLTACI CON LE NOSTRE APPLICAZIONI

AD
AD
AD