Nel bene e nel male, l’intelligenza artificiale sta cambiando radicalmente la società digitale in cui viviamo, Non ci sono infatti solo opportunità di svolgere lavori d’ufficio più rapidamente rispetto ai metodi tradizionali, ma anche i criminali informatici si stanno avvalendo sempre più spesso dell’AI per condurre su larga scala attacchi di phishing e social engineering, e in particolare le tecnologie “deepfake” stanno dimostrando potenzialità devastanti per realizzare furti di account, identità, dati riservati a danno sia di persone fisiche che aziende di tutti i settori.
Ad esempio, i call center delle principali banche e istituti finanziari sono ora sommersi da chiamate di truffatori che tentano di entrare nei conti dei clienti utilizzando le loro voci perfettamente clonate grazie alle tecnologie audio deepfake, con le quali, partendo da un semplice campione della voce originale della persona, (che può essere facilmente ottenuto a sua insaputa registrandola per pochi secondi mentre parla, o semplicemente da un audio ricevuto tramite WhatsApp), si riesce a riprodurre sinteticamente una voce che appara autentica a chi lo ascolta, ma che in realtà è stata creata o manipolata con modelli di AI generativa.
Anche nei settori in cui per accedere agli account dei clienti viene usata la verifica biometrica vocale, che fino a poco tempo fa era considerata uno dei metodi più sicuri ed affidabili, ora la clonazione vocale costituisce invece un serio problema, perché tali sistemi sono diventati facilmente aggirabili dai malintenzionati.
E non è possibile clonare solo la voce, ma anche l’immagine della stessa persona è ora riproducibile con video in tempo reale con cui i truffatori si presentano in modo del tutto credibile con le caratteristiche dell’individuo target. Gli strumenti che usano tecnologie deepfake imparano infatti le caratteristiche del viso, le espressioni e la gestualità, il che gli consente di generare nuovi contenuti video dall’aspetto autentico. I criminali informatici queste tecnologie di AI per impersonare dirigenti, bypassare la verifica biometrica e creare pubblicità ingannevoli. Nel frattempo, le immagini deepfake possono essere utilizzate anche per alterare i documenti e vanificare gli sforzi dei team Know Your Customer (KYC) e Anti-Money Laundering (AML) nel contrastare la creazione di account con false identità.
Le frodi alimentate dall’AI sono così diventate la principale preoccupazione di sicurezza per la maggior parte delle banche, poiché i criminali ne sfruttano pienamente le potenzialità, e anche gli stessi lavoratori del settore finanziario vengono manipolati per spostare decine di milioni con incontri deepfake che clonano la voce e le sembianze del loro CEO.
Ma i danni causati dai crimini informatici basati sui deepfake vanno ben oltre la clonazione vocale o video nel settore bancario, e possono avere ripercussioni su qualsiasi altro ambito. Le compagnie assicurative stanno affrontando perdite significative, poiché i truffatori inviano prove false per richieste di risarcimento illegittime.
Anche nel settore commerciale e nel marketing, dei competitor senza scrupoli possono creare false testimonianze di clienti o video e immagini deepfake di un prodotto presumibilmente difettoso per danneggiare un marchio. Mentre il costo medio per la creazione di un deepfake è di soli 1,33 dollari, secondo un rapporto di Deep IDV il costo globale per le perdite causate da frodi deepfake nel 2026 è invece stimato in 40 miliardi di dollari.
I deepfake sono una minaccia anche per i mercati e per l’economia in generale: basti pensare a una simulazione di un’esplosione del Pentagono realizzata così bene che nel 2023 causò il panico nel mercato azionario prima che i funzionari potessero riuscire a confutarlo. Un attacco più sofisticato potrebbe facilmente portare a enormi perdite di valore aziendale e danni alle economie globali.
Per le aziende del settore dei media, il danno reputazionale causato dai deepfake può rapidamente portare alla perdita di spettatori e di entrate pubblicitarie. In un momento storico in cui gli utenti sono già scettici su tutti i contenuti che visualizzano online, i deepfake complicano ulteriormente gli scenari di social e siti web di informazioni. E se un contenuto audiovisivo utilizzato come prova per un servizio giornalistico si rivela un deepfake non verificato e non etichettato, il danno alla redazione e al rapporto dell’azienda con il suo destinatario potrebbe essere irreparabile.
Le piattaforme social sono quindi vulnerabili, soprattutto perché sono diventate la principale fonte di notizie. Ma mentre i malintenzionati spendono solo 7 centesimi per raggiungere 100.000 utenti dei social media con un deepfake mirato a veicolare una fake news, la diffusione incontrollata di notizie manipolate dall’AI può portare a gravi perdite di utenti e inserzionisti e a disordini tra gli azionisti, per non parlare degli effetti corrosivi sulla società in generale, mettendo così a dura prova la tenuta dei presìdi di legalità e sicurezza.
Come aveva già insegnato lo scandalo di Cambridge Analytica in occasione delle elezioni presidenziali americane del 2016, le campagne di disinformazione possono influire anche sull’integrità delle elezioni, causando disordini civici e caos all’interno del governo. Tali disordini possono scuotere i mercati, indebolire l’economia ed erodere la fiducia tra gli elettori e il sistema elettorale. Al riguardo, particolarmente efficace si rivelò un’articolata truffa orchestrata da dei criminali utilizzando un software di deepfake vocale per clonare la voce del Ministro della Difesa, Guido Crosetto, che contattarono noti imprenditori italiani spacciandosi per lui e richiedendo ingenti somme di denaro, riuscendo a truffare anche top manager che, pur conoscendo personalmente Crosetto, non riuscirono a distinguere che si trattava di un fake.
Il Global Risks Report 2025 del World Economic Forum classifica la disinformazione alimentata dall’AI come la minaccia numero uno che il mondo dovrà affrontare nei prossimi anni.
La barriera all’ingresso per i malintenzionati è quindi più bassa oggi che in passato a causa delle tecnologie dell’intelligenza artificiale. Gli strumenti che consentono la creazione di deepfake sono più economici e accessibili che mai, dando anche a utenti senza conoscenze tecniche la possibilità di progettare sofisticate campagne di frode alimentate dall’AI.
Considerando il dilagare dei deepfake e la crescente proliferazione dei nuovi metodi utilizzati dai criminali informatici, le principali sfide per cittadini e aziende saranno quella di fare propria una vera cultura della privacy e della protezione dei dati, e quella di riuscire a difendersi da queste minacce utilizzando la stessa AI per riuscire a rilevare in tempo reale quando ci si trova di fronte a tecnologie malevoli di intelligenza artificiale, perchè contro contenuti sintetici sempre più indistinguibili dalla realtà, l’uomo da solo non basta più. Anzi, nella guerra ai deepfake, l’essere umano stesso rischia di essere l’anello debole.
Che vi piaccia o meno, stiamo così entrando a capofitto nell’era dell’AI contro l’AI.
Nicola Bernardi, presidente di Federprivacy
