Le immagini generate dall’IA e la disinformazione: il caso dei lottatori a Delhi

🎯 Punti salienti:

• Immagini false di lottatrici indiane generate dall’IA sono diventate virali, mostrando Vinesh e Sangeeta Phogat sorridenti durante una detenzione a Delhi, distorcendo la realtà dell’evento.
• Le tecnologie IA come GAN e text-to-image possono creare immagini estremamente realistiche che, se non dichiarate come sintetiche, rischiano di manipolare l’opinione pubblica.
• L’incidente evidenzia rischi concreti, tra cui manipolazione della realtà, perdita di fiducia nelle informazioni online e potenziale uso come strumento di propaganda politica.
• Emerge la necessità di maggiori controlli sulle piattaforme digitali e di etichette chiare per identificare i contenuti generati dall’IA, proteggendo così la verità dei fatti e la reputazione delle persone.

La diffusione di contenuti sintetici generati dall’intelligenza artificiale sta sollevando sempre più preoccupazioni, soprattutto quando vengono usati per manipolare la realtà. Un esempio recente è il caso delle immagini generate dall’IA di Vinesh e Sangeeta Phogat, due lottatrici indiane, che sono state mostrate sorridenti mentre venivano detenute a Delhi. Queste immagini, diventate virali, hanno sollevato interrogativi sull’uso dell’AI nella creazione di contenuti falsi e sul suo impatto sulla percezione pubblica.

Cosa è successo?

Il 28 maggio 2023, le lottatrici Vinesh e Sangeeta Phogat sono state detenute dalla polizia durante una manifestazione a Delhi. Poco dopo, immagini che sembravano mostrare le due atlete sorridenti durante la detenzione hanno iniziato a circolare online. Tuttavia, queste immagini non erano reali: erano state create utilizzando strumenti di intelligenza artificiale generativa, con l’apparente obiettivo di distorcere la percezione pubblica dell’evento.

Come funzionano queste immagini AI?

Le immagini generate dall’IA utilizzano modelli avanzati come GAN (Generative Adversarial Networks) o strumenti di text-to-image (come DALL-E o MidJourney). Questi sistemi possono creare rappresentazioni estremamente realistiche basate su descrizioni testuali o dati di input.

In questo caso, l’IA ha generato un’immagine che mostrava le atlete sorridenti, suggerendo che non stessero affrontando il momento con la serietà che la situazione richiedeva. Questo tipo di manipolazione può essere particolarmente efficace per influenzare l’opinione pubblica.

Perché questo è un problema?

Manipolazione della realtà
Le immagini AI, soprattutto se non dichiarate come generate, possono essere usate per alterare la percezione degli eventi reali, creando disinformazione.

Impatto sulla fiducia pubblica
Quando il pubblico non riesce a distinguere tra contenuti autentici e generati, cresce la sfiducia nei confronti delle informazioni, sia online che offline.

Abuso nelle narrative politiche
Le immagini sintetiche possono essere usate come strumenti di propaganda, distorcendo la realtà per favorire o screditare determinate posizioni politiche.

Danno alla reputazione
Le persone ritratte in immagini false possono subire danni alla loro immagine pubblica e personale.

Il ruolo delle piattaforme e delle tecnologie AI

La diffusione di contenuti generati dall’IA solleva interrogativi sulla responsabilità delle piattaforme digitali. È fondamentale che gli strumenti di intelligenza artificiale includano etichette visibili per indicare che un’immagine è sintetica. Inoltre, le piattaforme di social media devono implementare meccanismi più efficaci per identificare e limitare la diffusione di contenuti falsi.

Vocabolario

• GAN (Generative Adversarial Networks): Reti neurali che generano contenuti realistici mettendo in competizione due modelli: un generatore e un discriminatore.
• Text-to-image: Tecnologie che creano immagini a partire da descrizioni testuali.
• Deepfake: Contenuti sintetici, come video o immagini, creati per sembrare autentici.