L’era del vedere per credere è ufficialmente finita. Viviamo in un tempo in cui un video di un politico che dichiara guerra, o un messaggio audio di un tuo familiare che chiede soldi, potrebbero non essere mai esistiti.
Benvenuto nel mondo dei deepfake!
Questa tecnologia, unione di deep learning (apprendimento profondo) e fake (falso), è uno dei problemi più rognosi dell’era digitale. Ma cosa sono esattamente? Come funzionano? E, soprattutto, come possiamo difenderci?
Cosa sono esattamente i deepfake?
Un deepfake è un contenuto multimediale (video, audio o immagine) sintetico, creato o manipolato utilizzando tecniche avanzate di Intelligenza Artificiale. In parole semplici, è un falso quasi perfetto, vorrei sottolineare il quasi!
A differenza di un fotoritocco fatto con Photoshop, un deepfake non viene modificato manualmente. Viene generato da un’intelligenza artificiale. La tecnologia chiave dietro ai deepfake più sofisticati si chiama GAN (Generative Adversarial Networks), ovvero Reti Generative Avversarie.
Per capire come funziona, immagina due intelligenze artificiali in competizione. C’è un generatore, un artista che ha il compito di creare immagini o video falsi, ad esempio il volto di una celebrità. Poi c’è un discriminatore, un critico d’arte che analizza il lavoro del generatore per decidere se è vero o falso.
Il generatore continua a creare falsi, e il discriminatore continua a migliorare nel riconoscerli. Questa battaglia va avanti milioni di volte, finché il generatore diventa così bravo da creare un falso che il discriminatore non sa più distinguere dall’originale.
Il risultato è un video o un audio che può ingannare anche l’occhio (e l’orecchio) umano più attento.
I pericoli reali: dalla disinformazione alla frode
Se all’inizio i deepfake erano usati per scopi goliardici, come inserire il volto di Nicolas Cage su ogni cosa vi foste venuta in mente, oggi rappresentano una minaccia concreta.
L’impatto più evidente è sulla disinformazione e la manipolazione politica. Creare un video falso di un candidato presidenziale che ammette una colpa o insulta un altro Paese può destabilizzare elezioni e relazioni internazionali. Ma le implicazioni scendono a un livello molto più personale e pericoloso.
Oggi la clonazione vocale (audio deepfake) è già usata per frodi e truffe. I criminali possono chiamarti fingendo di essere un tuo parente in difficoltà o persino l’amministratore delegato dell’azienda per la quale lavori con la cosiddetta “CEO fraud”, per chiedere un bonifico urgente.
Inoltre, la tecnologia viene usata per creare danni devastanti alla reputazione. La stragrande maggioranza dei deepfake online viene usata per creare materiale pornografico non consensuale, innestando il volto di persone (celebrità, ma anche persone comuni) su corpi altrui.
Forse il pericolo più grande e subdolo è l’erosione generale della fiducia. Se tutto può essere falsificato, a cosa possiamo ancora credere? Si crea un clima di dubbio costante, una vera e propria paralisi della verità.
Come riconoscere un deepfake?
Diventare un cacciatore di deepfake non è facile, perché la tecnologia migliora ogni giorno. Tuttavia, l’IA non è ancora perfetta e lascia delle tracce.
Quando analizzi un video sospetto, devi guardare da vicino. Inizia dagli occhi e dal battito di ciglia. I modelli AI spesso dimenticano di far sbattere le palpebre ai soggetti in modo naturale; cerca quindi un battito di ciglia assente, troppo rapido o meccanico. Osserva poi l’emotività generale del volto. Spesso le espressioni appaiono spente o vuote, cadendo nella cosiddetta Uncanny Valley. Il volto può sembrare realistico, ma mancano le micro-espressioni che accompagnano un discorso, come la contrazione dei muscoli intorno agli occhi quando si sorride.
Focalizzati poi sui dettagli fini, dove l’IA fa più fatica. I capelli singoli possono apparire sfocati o fondersi con lo sfondo, e anche i denti possono essere resi male, apparendo sfocati o mal definiti. Controlla i bordi del viso, cerca una sfocatura o uno sfarfallio nel punto in cui il volto incontra il collo o i capelli, specialmente durante movimenti rapidi. Infine, valuta la coerenza di luci e ombre, che potrebbero non corrispondere alla direzione della luce nell’ambiente circostante, e una possibile sincronia labiale (lip-sync) imperfetta.
Anche gli audio deepfake hanno dei punti deboli. Quando ascolti una voce clonata, fai attenzione al tono e alla cadenza, che possono suonare piatti o monocordi, senza le normali inflessioni emotive. Ascolta anche i dettagli apparentemente insignificanti: l’IA può dimenticare di inserire i suoni del respiro o inserirli in momenti sbagliati. A volte, singole parole possono suonare tagliate, metalliche o pronunciate in modo strano. Spesso, manca un rumore di fondo naturale: l’ambiente è troppo pulito o presenta suoni ripetitivi.
Come difendersi?
La difesa migliore inizia prima ancora di analizzare i dettagli tecnici. È fondamentale sviluppare un pensiero critico e adottare un sospetto di default verso contenuti particolarmente scioccanti o scandalosi. Se qualcosa ti sembra troppo strano per essere vero, probabilmente non lo è.
Questo scetticismo si traduce poi in un’azione pratica: la verifica della fonte (o cross-checking). Non fidarti mai di un singolo video che circola sui social. Cerca la stessa notizia su testate giornalistiche ufficiali e autorevoli. Se nessuno ne parla, è quasi certamente un falso. Infine, usa sempre il contesto. Chiediti perché questa persona sta dicendo questo, proprio ora. Se ricevi una chiamata strana che ti chiede dei soldi o cose del genere da un presunto familiare, riattacca e richiama tu stesso quella persona al suo numero conosciuto.
