Perché il feed di Instagram è stato invaso da contenuti violenti e disturbanti?

Questa situazione ha sollevato interrogativi sulla capacità del sistema di filtraggio dei contenuti di Instagram e sulla consapevolezza di Meta

Nelle ultime ore, gli utenti di Instagram hanno sperimentato un fenomeno inquietante: i loro feed sono stati invasi da contenuti violenti, disturbanti e non adatti ai minori. Questa situazione ha sollevato interrogativi sulla capacità del sistema di filtraggio dei contenuti di Instagram e sulla consapevolezza di Meta, la società madre della piattaforma (nonché di Facebook e WhatsApp), riguardo a questa problematica allarmante.

Cos’è successo ai feed di Instagram?

L’algoritmo di Instagram è progettato per curare i contenuti in base alle preferenze degli utenti e alle interazioni passate. Tuttavia nelle scorse molti utenti, anche quelli che non hanno mai interagito con contenuti NSFW (Not Safe For Work), si sono trovati a visualizzare contenuti espliciti nei propri feed. L’aspetto più grave è che anche molti utenti minorenni si sono trovati di fronte a dei contenuti non adatti alla loro età.

Le sezioni “Esplora” e “Reels” sono state particolarmente colpite, mostrando contenuti estremi senza alcun filtro. Anche le impostazioni più severe per il “Controllo dei contenuti sensibili” non si sono dimostrate efficaci, portando a una frustrazione crescente tra gli utenti, che hanno sfruttato altre piattaforme, come X (l’ex Twitter) e Reddit per confrontarsi con gli altri internauti e provate a trovare una soluzione al problema.

L’errore di Meta

Meta ha riconosciuto l’accaduto, scusandosi per un “errore” che ha causato la visualizzazione di contenuti inappropriati in parte dei feed di Instagram. Un portavoce della compagnia ha affermato: “Abbiamo corretto un errore che ha causato la visualizzazione di contenuti che non avrebbero dovuto essere consigliati nel feed di Instagram Reels di alcuni utenti”. La situazione sembra essere tornata alla normalità, anche se per alcuni utenti il ritorno al feed classico è stato meno rapido.

La politica di contenuti di Meta

Meta si impegna a proteggere gli utenti da immagini disturbanti e rimuove contenuti particolarmente violenti. Le politiche aziendali vietano contenuti che includono:

1. Video di mutilazioni;
2. Immagini di corpi carbonizzati;
3. Commenti sadici relativi a sofferenze umane e animali.

Tuttavia, Meta consente alcune immagini grafiche se queste servono a sensibilizzare su questioni importanti come le violazioni dei diritti umani o i conflitti armati. Tali contenuti possono essere accompagnati da avvisi di contenuto sensibile.

Implicazioni per la salute mentale

La presenza di contenuti violenti sui social media può avere gravi ripercussioni sulla salute mentale degli utenti. La visione di tali contenuti può indurre ansia, depressione e stress post-traumatico, soprattutto tra coloro che hanno vissuto esperienze simili a quelle rappresentate. La diffusione di contenuti disturbanti su piattaforme come Instagram non solo mette in discussione le capacità di moderazione dell’azienda, ma solleva anche dubbi sulla responsabilità della piattaforma nel proteggere i suoi utenti.

Anche se Meta ha affermato di aver risolto il problema, gli utenti di Instagram rimangono in attesa di un miglioramento duraturo nella qualità dei contenuti proposti. È fondamentale che la piattaforma prenda misure concrete per prevenire la ricomparsa di contenuti inappropriati, mantenendo il proprio impegno a garantire un ambiente sicuro e positivo per tutti.