Cosa sappiamo sull’algoritmo di Instagram e sui contenuti sensibili

Negli ultimi giorni, numerosi utenti di Instagram hanno segnalato un incremento significativo di contenuti sensibili e violenti nei loro feed, in particolare nella sezione Reels. Questi contenuti includono scene di incidenti mortali, sparatorie e immagini disturbanti, sollevando preoccupazioni riguardo al funzionamento dell’algoritmo della piattaforma. (fonte) Le segnalazioni sono state diffuse su diverse piattaforme, tra cui Reddit e X (precedentemente noto come Twitter), dove gli utenti hanno condiviso schermate di post violenti, erotici o inquietanti, tra cui riprese di sparatorie e altri eventi traumatici.

Instagram utilizza una combinazione di algoritmi di intelligenza artificiale e machine learning per personalizzare l’esperienza degli utenti, analizzando le interazioni e i comportamenti per suggerire contenuti pertinenti. Tuttavia, i dettagli specifici su come l’algoritmo classifica e filtra i contenuti sensibili non sono stati resi pubblici da Meta, la società madre di Instagram. Questo approccio è comune tra le piattaforme social per proteggere la sicurezza e l’integrità dei loro sistemi. Questo incidente evidenzia la complessità nella gestione degli algoritmi di raccomandazione e l’importanza di un costante monitoraggio per garantire un’esperienza utente sicura e conforme alle linee guida della community.

In risposta a queste preoccupazioni, un portavoce di Meta ha riconosciuto l’esistenza del problema, attribuendolo a un malfunzionamento dell’algoritmo di Instagram. La società ha dichiarato di essere al lavoro per risolvere la situazione e ha presentato le proprie scuse agli utenti per l’inconveniente.  Questo incidente solleva interrogativi sulla capacità degli algoritmi di Meta di filtrare adeguatamente i contenuti inappropriati e sulla necessità di una moderazione più efficace per garantire un’esperienza sicura e piacevole per gli utenti.

Al fine di gestire l’esposizione a contenuti sensibili, Instagram offre agli utenti la possibilità di regolare le impostazioni relative ai contenuti sensibili attraverso tre opzioni: “Standard” (impostazione predefinita che limita alcuni contenuti), “Maggiore” (permette di visualizzare più contenuti sensibili) e “Meno” (limita ulteriormente i contenuti sensibili rispetto allo standard).

È importante notare che, secondo le linee guida di Instagram, la piattaforma non ammette contenuti che includano nudità, pornografia, incitamento all’odio, autolesionismo, minacce, spam e altri materiali inappropriati. Tuttavia, questo recente malfunzionamento ha evidenziato delle lacune nel sistema di filtraggio dei contenuti, rendendo necessarie ulteriori misure per prevenire la diffusione di materiale sensibile o violento.

In conclusione, mentre Meta sta lavorando per correggere l’algoritmo e ripristinare la normale esperienza utente su Instagram, questo episodio evidenzia l’importanza di un costante monitoraggio e aggiornamento dei sistemi di moderazione dei contenuti per adattarsi alle nuove sfide e garantire la sicurezza degli utenti.