Foto hard generate dall’IA su X, Taylor Swift farà causa all’azienda?

L’era digitale offre immense opportunità di connessione e condivisione, ma può anche diventare il terreno fertile per attacchi malevoli e manipolazioni, come dimostra il recente scandalo che coinvolge Taylor Swift e la piattaforma X. In questa narrazione intricata, la pop star è diventata vittima di immagini esplicite generate artificialmente, causando un tumulto mediatico che ha spinto X, la piattaforma social di Elon Musk, a bloccare le ricerche sulla cantante. Dietro questo turbamento c’è il coinvolgimento di Microsoft Designer, sollevando interrogativi sull’etica e sulla sicurezza delle tecnologie basate sull’intelligenza artificiale.

Lo svilluppo della vicenda

L’incubo ha avuto inizio quando X è stato sommerso da milioni di visualizzazioni di immagini contraffatte attribuite a Taylor Swift. Queste immagini sessualmente esplicite, generate attraverso l’intelligenza artificiale, hanno rapidamente guadagnato popolarità su diverse piattaforme social, raggiungendo decine di milioni di visualizzazioni. Un particolare frame, secondo quanto riportato dal New York Times, ha accumulato ben 47 milioni di visualizzazioni prima che gli account coinvolti venissero sospesi dal social network. Nonostante i persistenti sforzi delle compagnie per rimuovere il contenuto, le immagini hanno continuato a circolare su altre piattaforme. Il sostegno immediato dei fan, evidenziato dall’hashtag #ProtectTaylorSwift, ha portato X a prendere misure drastiche, sospendendo gli account responsabili e bloccando le ricerche sulla cantante per preservarne l’integrità. Joe Benarroch, responsabile Business Operations di X, ha dichiarato che questa è un’azione temporanea finalizzata a garantire la sicurezza digitale, ma non ha fornito dettagli sulla durata dell’interruzione.

L’elemento che ha aggiunto una complessità ulteriore è il coinvolgimento di Microsoft Designer, un’app di progettazione grafica basata sull’intelligenza artificiale. Satya Nadella, CEO di Microsoft, ha espresso preoccupazione e ha annunciato un’indagine interna sul coinvolgimento dei designer nella creazione delle immagini false. Nadella ha sottolineato l’impegno di Microsoft nella sicurezza online, affermando la necessità di stabilire “guardrail” attorno alla tecnologia per garantire contenuti più sicuri. Nel tentativo di replicare le immagini false, Microsoft ha sottolineato l’efficacia dei loro filtri di sicurezza, affermando che non sono stati aggirati. Tuttavia, per rafforzare ulteriormente la sicurezza, sono state adottate misure per migliorare i filtri di testo e prevenire l’abuso dei servizi offerti.

Non è la prima volta che l’immagine di Taylor Swift viene manipolata per la creazione di deepfake. Episodi precedenti includono la manipolazione della voce della cantante per annunciare un inesistente giveaway di set di pentole. Questi casi evidenziano le crescenti preoccupazioni riguardo al potenziale impatto dei deepfake nella diffusione di disinformazione, un rischio che coinvolge sempre più anche il panorama politico.

La reazione del mondo politico e dello spettacolo

La portavoce della Casa Bianca, Karine Jean-Pierre, ha definito le immagini “allarmanti” e ha enfatizzato la responsabilità delle piattaforme nel prevenire la diffusione di contenuti dannosi. Politici statunitensi hanno sollecitato l’adozione di misure punitive contro coloro che creano deepfake sessualmente espliciti.

Il sindacato SAG-AFTRA, che rappresenta lavoratori del settore media e spettacolo, ha condannato il caso definendolo “sconvolgente, dannoso e profondamente preoccupante”. La piattaforma coinvolta ha dichiarato di essere impegnata nella rimozione delle immagini e ha preso provvedimenti contro gli account responsabili, incluso il blocco di alcune ricerche correlate al nome della cantante.

In risposta, i fan di Taylor Swift hanno attuato una contro-mobilitazione su X, cercando di nascondere i deepfake postando contenuti non problematici. Questo approccio dimostra il ruolo attivo che i fan possono svolgere nella difesa dell’integrità delle loro icone, contrastando il fenomeno con azioni positive.

Cosa ci dice questo accaduto?

Questo episodio mette in evidenza le sfide della sicurezza online, in particolare quando tecnologie avanzate come l’intelligenza artificiale vengono sfruttate per fini dannosi. La pronta risposta di X nel proteggere la reputazione di Taylor Swift sottolinea l’importanza delle piattaforme social nel garantire la sicurezza dei loro utenti. Nel contempo, l’indagine di Microsoft richiama l’attenzione sull’importanza di norme etiche e precauzioni rigorose per evitare il misuse delle tecnologie avanzate. La battaglia per una rete sicura continua, richiedendo la collaborazione tra piattaforme digitali, aziende tecnologiche e utenti per preservare l’integrità e la sicurezza nel mondo online.

Cosa si può fare?

L’episodio ha messo in luce l’urgente necessità di affrontare la sfida della disinformazione veicolata attraverso deepfake. Progetti come AI4TRUST stanno emergendo come risposta a questa problematica, sfruttando l’intelligenza artificiale per contrastare la disinformazione online. AI4TRUST, un progetto europeo finanziato dall’Unione Europea, coinvolge diversi partner con l’obiettivo di sfruttare gli strumenti dell’IA per affrontare questa crescente minaccia alla verità e all’integrità online.

Con l’uso sempre più diffuso di strumenti avanzati di intelligenza artificiale, cresce il rischio di diffondere contenuti falsi, tra cui video, immagini e audio, contaminando ulteriormente la sfera pubblica. Nel 2024, con numerose elezioni in tutto il mondo, sorge la preoccupazione che tali tecnologie possano costituire una seria minaccia per la democrazia. L’episodio sottolinea l’urgente necessità di strategie robuste di moderazione dei contenuti e dell’uso responsabile dell’IA nell’evolvente panorama dei social media.

Può interessarti anche: “Sanremo 2024: L’Intelligenza Artificiale ha già svelato il vincitore”