Paradosso dell’intelligenza
artificiale, i chatbot non riconoscono i video fatti con la
stessa IA. Lo afferma NewsGuard, la piattaforma che monitora la
disinformazione online, che ha testato tre note piattaforme Grok
di xAI, ChatGpt di OpenAI e Gemini di Google: nel 78-95% dei
casi i modelli non sono riusciti a capirlo.
L’analisi è stata condotta partendo da video prodotti con
Sora, lo strumento di OpenAI che crea clip realistici a partire
da semplici descrizioni testuali, i cosiddetti ‘prompt’. I video
sono stati sottoposti ai tre chatbot che non hanno quasi mai
identificato i video generati con l’IA di Sora, privi di
watermark: rispettivamente nel 95%, 92,5% e 78% dei casi. Il
watermark è una filigrana che identifica immagini, video e testi
generati con l’IA e che traccia anche la proprietà
intellettuale.
Particolarmente significativo il tasso di errore di ChatGpt,
il 92,5%, proprio il chatbot che fa capo alla stessa società che
ha lanciato Sora, cioè OpenAI. In un esempio fornito da
NewGuard, ChatGpt e Gemini non hanno riconosciuto come falso un
video di Sora senza filigrana che mostrava un presunto agente
dell’Ice degli Stati Uniti arrestare un bambino immigrato di sei
anni. In risposta alle richieste, entrambi i chatbot hanno
indicato che l’episodio era coerente o confermato da “fonti
giornalistiche” e che sarebbe avvenuto al confine tra Stati
Uniti e Messico.
Anche in presenza dei watermark, due dei tre chatbot hanno
talvolta commesso errori. Grok ad esempio non ha riconosciuto
tali video come generati dall’IA nel 30% dei casi e ChatGpt nel
7,5%.
Riproduzione riservata © Copyright ANSA
