Si chiama tecnicamente coordinated inauthentic behaviour (acronimo CIB) ed è una tecnica rilevata per la prima volta durante la pandemia del 2020; presentata in un articolo a tema sociologico, è tuttora in corso di indagine per definirne meglio confini, tecniche e modalità di prevenzione.
Il termine “coordinated inauthentic behavior” (CIB) viene introdotto da Meta nel 2017, mentre la prima rilevazione su larga scala sembrerebbe risalire al 2021 (periodo in cui venne rilevata una massiva campagna anti-vaccinale basata su questo algoritmo, che coinvolse anche l’Italia). Traducibile in italiano come “comportamento coordinato non autentico“, il CIB fa riferimento a una pratica in cui gruppi di individui o organizzazioni lavorano insieme, nello stesso momento, per manipolare le informazioni su piattaforme online, il tutto al fine di raggiungere determinati obiettivi politici, di accettazione di fatti controversi, di boicottaggio mediatico e così via. Questi obiettivi possono anche includere la diffusione di disinformazione, la manipolazione dell’opinione pubblica, l’inganno degli utenti o l’alterazione generale dei dibattiti online. È plausibile che dietro i CIB si possano essere le cosiddette troll farm, in alcuni casi. Non sembra esserci un modo sicuro per rilevare queste situazioni a priori, nè per distinguere ad oggi account fake da account reali.
Le attività di CIB possono includere la creazione e la gestione di account falsi o duplicati, la diffusione di contenuti fraudolenti o ingannevoli, l’uso di bot per aumentare l’interazione con determinati contenuti e altre tattiche volte a influenzare artificialmente l’ambiente online. Questo tipo di comportamento può essere utilizzato per scopi politici, commerciali o sociali. Le piattaforme online spesso lavorano per individuare e contrastare le attività di CIB attraverso l’implementazione di politiche e strumenti progettati per identificare e rimuovere account e contenuti associati a questo tipo di comportamento. La lotta contro il CIB è diventata sempre più importante data la crescente influenza dei social media e delle piattaforme online sulla società e sulle opinioni pubbliche. Da quello che è lo stato dell’arte attuale, le CIB possono essere rilevate solo mediante tecniche euristiche a posteriori, mentre dovrebbero essere le piattaforme social a doversi attrezzare per evitare questo genere di attacchi informatici.
Uso delle GAN per il CIB
Le intelligenze artificiali sono purtroppo facili da coinvolgere nell’automazione di processi del genere: si possono generare fake account in massa con foto realistiche, e posso variare su uno stesso tema con LLM tipo ChatGPT allo scopo di pilotare l’opinione pubblica. C’è in generale il rischio che le tecnologie note come Generative Adversarial Networks (GAN) possano essere utilizzate per facilitare o amplificare il comportamento coordinato inautentico (CIB) online, al netto dei consueti comportamenti “allucinatori” di cui avevamo parlato nell’articolo dedicato. Le GAN sono in generale una classe di algoritmi di apprendimento automatico che possono generare dati artificiali indistinguibili, o quasi, dai dati reali.
Cos’è una GAN
In breve, una GAN consiste di due reti neurali, un generatore e un discriminatore, i quali lavorano insieme in un processo di addestramento competitivo per produrre dati realistici. Il primo genera dati in massa, mentre il secondo – semplificando un po’ i termini per amor di divulgazione – li corregge e li perfeziona volta per volta. Il principio è stato sfruttato per i deepfake qualche anno fa, e può essere esemplificato da un video base in cui un soggetto mostra alcune movente, e successivamente l’intelligenza artificiale riesce a riprodurne di nuove che non ha mai fatto nella realtà. Allo stesso modo una GAN potrebbe riprodurre voci umani indistinguibili dalle originali, effettuare compiti creativi legati al linguaggio oppure, ancora, suggerire idee innovative da sviluppare (esempio preso da fonte).
https://www.youtube.com/watch?v=kBY0zi3aO8o
Le tecnologie basate su rGAN potrebbero essere utilizzate per facilitare il processo di spam mediante CIB mediante:
- Creazione di account falsi o immagini di profilo: Le GAN possono essere utilizzate per generare immagini di persone fittizie che sembrano realistiche. Queste immagini potrebbero essere utilizzate per creare account falsi su piattaforme online, che a loro volta possono essere impiegati per diffondere disinformazione o manipolare l’opinione pubblica.
- Creazione di contenuti falsi: Le GAN possono essere impiegate per generare contenuti audio, video o testuali che sembrano autentici ma sono in realtà completamente falsi. Questi contenuti possono essere utilizzati per diffondere informazioni fraudolente o ingannevoli online.
- Automazione dell’interazione online: Le GAN potrebbero essere utilizzate per creare bot o agenti digitali in grado di simulare comportamenti umani su piattaforme online, come commentare, condividere o interagire con altri utenti. Questo potrebbe essere sfruttato per aumentare l’interazione con determinati contenuti o diffondere determinate narrazioni in modo artificiale.
- Creazione di contenuti manipolati: Le GAN possono essere utilizzate per manipolare immagini, video o altri tipi di contenuti per creare versioni falsificate di eventi o situazioni reali. Questi contenuti manipolati potrebbero essere utilizzati per scopi di manipolazione dell’opinione pubblica o diffusione di disinformazione.
Tuttavia, è importante ricordare che le GAN possono anche essere utilizzate per scopi legittimi, come l’elaborazione delle immagini, la sintesi dei testi e altri campi dell’intelligenza artificiale che non coinvolgono comportamenti dannosi o fraudolenti. In altri termini, le GAN offrono strumenti molto potenti per la generazione di contenuti artificiali che possono essere utilizzati in modalità molto diverse.
Usa il codice
189ed7ca010140fc2065b06e3802bcd5
per ricevere 5 € dopo l'iscrizione
👇 Contenuti da non perdere 👇
- Internet 💻
- Mondo Apple 🍎
- monitoraggio servizi online 📈
- Programmare 🖥
- Reti 💻
- Svago 🎈
- 💬 Il nostro canale Telegram: iscriviti
- 🔴 Ecco come puoi avere il sito Web elencato in Google
- 🟠 Guida pratica a parseInt in Java
- 🔴 509 Bandwidth Limit Exceeded: cos’è e come risolverlo