Sora, l’app di generazione video
tramite intelligenza artificiale di OpenAI, produrrebbe
contenuti vietati anche se si usano account per adolescenti.
L’affermazione arriva dal gruppo statunitense in difesa dei
consumatori Eko, che ha prodotto un report dal nome “Sora 2 di
Open AI: una nuova frontiera per il danno”. Nella ricerca, si
legge come anche accedendo all’app Sora, attualmente disponibile
negli Stati Uniti e in Canada, con profili di adolescenti di 13
e 14 anni, si riesce a spingere l’IA a generare filmati contrari
alle politiche di utilizzo per i minori. I casi citati includono
fotogrammi di ragazzi che fumano e fanno uso di droghe e
sparatorie all’interno di scuole. Tra gli spezzoni anche falsi
trailer di cartoni con protagonista una pistola.
“C’è il rischio di autolesionismo”, scrivono i ricercatori. Eko
ha creato quattro nuovi account su Sora con età tra 13 e 14
anni. Nonostante i limiti, gli analisti hanno ottenuto un totale
di 22 video con contenuti dannosi.
Oltre a ciò, l’app proporrebbe clip vietate e create dagli altri
utenti nelle pagine “per te” e “ultimi”, dove come social
vengono mostrati i post pubblicati dalle persone che si seguono
e quelli suggeriti.
Tra questi, video che raffigurano stereotipi su ebrei e persone
di colore, oltre a sparatorie, aggressioni sessuali e altre
forme di violenza.
“Questa nuova ricerca è un campanello d’allarme e sottolinea le
conseguenze della traiettoria orientata al profitto di OpenAI”,
si legge nel report.
“La rapida crescita di Sora sta creando nuovi rischi non
considerati. Il nostro lavoro suggerisce che OpenAI sta
ripetendo gli stessi errori di moderazione già documentati con
ChatGpt, solo che questa volta sono amplificati dalla viralità,
dai video e dai consigli algoritmici”.
Riproduzione riservata © Copyright ANSA
