Si chiama tecnicamente coordinated inauthentic behaviour (acronimo CIB) ed è una tecnica rilevata per la prima volta durante la pandemia del 2020; presentata in un articolo a tema sociologico, è tuttora in corso di indagine per definirne meglio confini, tecniche e modalità di prevenzione.
Il termine “coordinated inauthentic behavior” (CIB) viene introdotto da Meta nel 2017, mentre la prima rilevazione su larga scala sembrerebbe risalire al 2021 (periodo in cui venne rilevata una massiva campagna anti-vaccinale basata su questo algoritmo, che coinvolse anche l’Italia). Traducibile in italiano come “comportamento coordinato non autentico“, il CIB fa riferimento a una pratica in cui gruppi di individui o organizzazioni lavorano insieme, nello stesso momento, per manipolare le informazioni su piattaforme online, il tutto al fine di raggiungere determinati obiettivi politici, di accettazione di fatti controversi, di boicottaggio mediatico e così via. Questi obiettivi possono anche includere la diffusione di disinformazione, la manipolazione dell’opinione pubblica, l’inganno degli utenti o l’alterazione generale dei dibattiti online. È plausibile che dietro i CIB si possano essere le cosiddette troll farm, in alcuni casi. Non sembra esserci un modo sicuro per rilevare queste situazioni a priori, nè per distinguere ad oggi account fake da account reali.
Le attività di CIB possono includere la creazione e la gestione di account falsi o duplicati, la diffusione di contenuti fraudolenti o ingannevoli, l’uso di bot per aumentare l’interazione con determinati contenuti e altre tattiche volte a influenzare artificialmente l’ambiente online. Questo tipo di comportamento può essere utilizzato per scopi politici, commerciali o sociali. Le piattaforme online spesso lavorano per individuare e contrastare le attività di CIB attraverso l’implementazione di politiche e strumenti progettati per identificare e rimuovere account e contenuti associati a questo tipo di comportamento. La lotta contro il CIB è diventata sempre più importante data la crescente influenza dei social media e delle piattaforme online sulla società e sulle opinioni pubbliche. Da quello che è lo stato dell’arte attuale, le CIB possono essere rilevate solo mediante tecniche euristiche a posteriori, mentre dovrebbero essere le piattaforme social a doversi attrezzare per evitare questo genere di attacchi informatici.
Uso delle GAN per il CIB
Le intelligenze artificiali sono purtroppo facili da coinvolgere nell’automazione di processi del genere: si possono generare fake account in massa con foto realistiche, e posso variare su uno stesso tema con LLM tipo ChatGPT allo scopo di pilotare l’opinione pubblica. C’è in generale il rischio che le tecnologie note come Generative Adversarial Networks (GAN) possano essere utilizzate per facilitare o amplificare il comportamento coordinato inautentico (CIB) online, al netto dei consueti comportamenti “allucinatori” di cui avevamo parlato nell’articolo dedicato. Le GAN sono in generale una classe di algoritmi di apprendimento automatico che possono generare dati artificiali indistinguibili, o quasi, dai dati reali.
Cos’è una GAN
In breve, una GAN consiste di due reti neurali, un generatore e un discriminatore, i quali lavorano insieme in un processo di addestramento competitivo per produrre dati realistici. Il primo genera dati in massa, mentre il secondo – semplificando un po’ i termini per amor di divulgazione – li corregge e li perfeziona volta per volta. Il principio è stato sfruttato per i deepfake qualche anno fa, e può essere esemplificato da un video base in cui un soggetto mostra alcune movente, e successivamente l’intelligenza artificiale riesce a riprodurne di nuove che non ha mai fatto nella realtà. Allo stesso modo una GAN potrebbe riprodurre voci umani indistinguibili dalle originali, effettuare compiti creativi legati al linguaggio oppure, ancora, suggerire idee innovative da sviluppare (esempio preso da fonte).
https://www.youtube.com/watch?v=kBY0zi3aO8o
Le tecnologie basate su rGAN potrebbero essere utilizzate per facilitare il processo di spam mediante CIB mediante:
- Creazione di account falsi o immagini di profilo: Le GAN possono essere utilizzate per generare immagini di persone fittizie che sembrano realistiche. Queste immagini potrebbero essere utilizzate per creare account falsi su piattaforme online, che a loro volta possono essere impiegati per diffondere disinformazione o manipolare l’opinione pubblica.
- Creazione di contenuti falsi: Le GAN possono essere impiegate per generare contenuti audio, video o testuali che sembrano autentici ma sono in realtà completamente falsi. Questi contenuti possono essere utilizzati per diffondere informazioni fraudolente o ingannevoli online.
- Automazione dell’interazione online: Le GAN potrebbero essere utilizzate per creare bot o agenti digitali in grado di simulare comportamenti umani su piattaforme online, come commentare, condividere o interagire con altri utenti. Questo potrebbe essere sfruttato per aumentare l’interazione con determinati contenuti o diffondere determinate narrazioni in modo artificiale.
- Creazione di contenuti manipolati: Le GAN possono essere utilizzate per manipolare immagini, video o altri tipi di contenuti per creare versioni falsificate di eventi o situazioni reali. Questi contenuti manipolati potrebbero essere utilizzati per scopi di manipolazione dell’opinione pubblica o diffusione di disinformazione.
Tuttavia, è importante ricordare che le GAN possono anche essere utilizzate per scopi legittimi, come l’elaborazione delle immagini, la sintesi dei testi e altri campi dell’intelligenza artificiale che non coinvolgono comportamenti dannosi o fraudolenti. In altri termini, le GAN offrono strumenti molto potenti per la generazione di contenuti artificiali che possono essere utilizzati in modalità molto diverse.
👇 Da non perdere 👇
- 📈 Analizza Cellulari 📱
- 🔐 AI che dolor, Chat 🏴
- 🎯 Targetizza Database SQL 🗄
- 📊 Analizza Errori più comuni 📛
- 🚧 Costruisci Evergreen 📟
- 👩💻 Programma Gratis 🎉
- 💻 Configura Hosting a confronto 💑
- 🔒 Conosci Hosting reti e domini 💻
- 👩💻 Tapioca Informatica 🖥
- 💻 Iconizza Internet 💻
- 🔒 Gestisci Lavoro 🔧
- 💡 Mostra Marketing & SEO 🌪
- 🔑 Apprendi Meteo ⛅
- 🤯 Visiona Mondo Apple 🍎
- 🔍 Supervisiona Mondo Domini 🌐
- 🚀 Metti in cloud monitoraggio servizi online 📈
- 🔮 Anatomizza Nuove tecnologie 🖥
- 🔒 Antani PEC e firma digitale 📩
- 👀 Prematura Programmare 🖥
- 🎮 Lonfa Scrivere 🖋
- 🔒 Conosci Servizi di SMS 📶
- 👀 Guarda Sicurezza informatica e privacy digitale 🖥
- 🎮 Ricorda Siti web 🌎
- 🤖 Ottimizza Spiegoni artificiali 🎓
- 🧠 Neuralizza Svago 🎈
- 📡 Quantizza Usare Excel 🌀
- 🤖 Sovrascrivi Windows 😲
- 🎨 Personalizza Wireless 🚁
- 🔑 Decifra WordPress 🤵
- 💬 Il nostro canale Telegram: iscriviti
- 🟠 Come aumentare la massima dimensione upload WordPress
- 🟡 Come importare un file AVCHD in iMovie
- 🟡 Come disinstallare uTorrent: la nostra guida
