L’evoluzione della manipolazione visiva: dalla finzione grafica all’IA
Il termine deepfake nasce dalla fusione tra “deep learning” (l’apprendimento profondo proprio delle reti neurali artificiali) e “fake” (falso, contraffatto). Rappresenta una delle applicazioni più dirompenti e controverse dell’intelligenza artificiale generativa: la produzione o l’alterazione di materiale audio, video e fotografico con un livello di dettaglio e verosimiglianza tale da renderlo praticamente indistinguibile dalla realtà.
Se nei decenni scorsi modificare un’immagine o doppiare un filmato richiedeva settimane di lavoro manuale da parte di tecnici specializzati con costosi software di montaggio, oggi sofisticati algoritmi possono generare una sequenza falsa in pochi minuti analizzando pochi secondi di registrazione originale.
Per comprendere il funzionamento alla base del deepfake, immagina una bottega d’arte in cui lavorano due soggetti: un falsario e un perito esperto. Il falsario (chiamato Generatore) cerca di dipingere un quadro imitando alla perfezione lo stile di un grande maestro; il perito (chiamato Discriminatore) analizza l’opera per trovare difetti ed errori.
Questo meccanismo di confronto continuo, noto in informatica come rete neurale avversaria (GAN), porta il falsario a perfezionare i propri tentativi milioni di volte al secondo, fino al punto in cui neppure il perito riesce più a scorgere la minima anomalia.
Ambiti di utilizzo e principali minacce per persone e organizzazioni
La tecnologia deepfake, sebbene trovi applicazioni creative nel cinema e nella realtà virtuale, comporta notevoli rischi sociali e aziendali:
- Frodi finanziarie tramite clonazione vocale (Audio Deepfake): criminali che sintetizzano la voce di dirigenti d’azienda o familiari per autorizzare telefonicamente bonifici d’urgenza o richiedere accessi riservati.
- Disinformazione e alterazione del consenso politico: diffusione di filmati simulati in cui figure istituzionali pronunciano dichiarazioni d’odio o ammissioni compromettenti alla vigilia di tornate elettorali.
- Attacchi alla reputazione d’impresa e brand identity: diffusione su canali social di falsi video in cui amministratori delegati annunciano fallimenti, scandali o chiusure di stabilimenti per destabilizzare i mercati.
- Estorsione sessuale e violazione della dignità (Non-Consensual Pornography): manipolazione indebita di volti di persone comuni o volti noti inseriti in contenuti espliciti generati a loro insaputa.
- Superamento dei controlli biometrici: tentativi di aggiramento dei sistemi di riconoscimento facciale o vocale impiegati dalle piattaforme bancarie per l’autenticazione degli utenti.
Tecnologie di rilevamento e buone pratiche di difesa
Per difendersi dalla proliferazione di immagini, audio e video generati con l’intelligenza artificiale (deepfake), serve unire strumenti tecnologici di verifica a comportamenti prudenti sul posto di lavoro:
- Scansione dei dettagli invisibili all’occhio umano (analisi digitale): utilizzo di programmi specializzati nell’individuare i piccoli difetti tipici dei falsi, come riflessi anomali nelle pupille, battiti di ciglia poco naturali o frequenze metalliche nella voce.
- “Bollino di autenticità” per foto e video (Watermarking e standard C2PA): applicazione di una firma informatica invisibile e protetta che certifica da dove proviene il file e mostra tutte le modifiche subite fin dallo scatto iniziale.
- Doppia conferma per i bonifici e i pagamenti: adozione di regole aziendali che vietano di trasferire denaro basandosi solo su una telefonata o un messaggio vocale (facili da clonare con l’AI), imponendo sempre una seconda verifica formale per iscritto.
- Etichetta trasparente sui contenuti creati con l’IA (AI Act): rispetto delle leggi europee che obbligano chiunque crei o pubblichi contenuti sintetici a indicare chiaramente al pubblico che si tratta di materiale artificiale.