Se finora provavate un certo stupore o semplicemente vi divertivate guardando i tanti video “deepfake” sempre più diffusi online come “meme” satirici o veri e propri filmati taroccati pubblicati a scopo fraudolento in cui si vedono personaggi famosi che dicono parole inverosimili che però in realtà non hanno mai pronunciato, forse adesso è giunto il momento di cominciare a preoccuparsi seriamente.
L’evoluzione delle tecnologie dell’intelligenza artificiale è infatti inarrestabile arrivando a superare ciò che fino a pochi anni fa era inimmaginabile, e creando sempre più difficoltà a distinguere cosa è reale da cosa invece non lo è.
Ne è un esempio “Deep-Live-Cam“, un software che sfrutta l’intelligenza artificiale disponibile gratuitamente su GitHub, dove in sole 24 ore ha raggiunto la vetta della classifica delle tendenze ottenendo oltre 1.600 stelle.
Questo programma non è neanche difficile da installare, e permette all’utente di impersonare chiunque, sia nella realizzazione di un video statico sia in tempo reale in una diretta streaming, e tutto ciò partendo da una semplice fotografia della persona a cui ci si desidera sostituire.
Per mettersi nei panni di chiunque con questo programma bastano tre semplici passaggi che non necessitano neanche di particolari competenze informatiche: prima si carica una immagine contenente il volto desiderato come fonte, poi si seleziona l’immagine o il video di destinazione per lo scambio di volti, e infine si clicca su “avvia” per attivare la sostituzione automatica del volto dell’utente (c.d. “face swap”) con quello della persona “target”, di cui si assumeranno le sembianze in modo del tutto verosimile.
Se con un programma come Deep-Live-Cam gli utenti hanno ora la possibilità di “trasformarsi” nel personaggio famoso di turno da prendere in giro con l’obiettivo di farsi due risate con gli amici o per catturare l’attenzione dei propri follower, d’altra parte un utilizzo meno divertente di questa stessa tecnologia digitale consente a un qualunque malintenzionato di reperire una semplice foto dal vostro profilo social per rubarvi l’identità e spacciarsi per voi in una videoconferenza con una qualità di definizione delle immagini live talmente elevata da riuscire a ingannare familiari, colleghi di lavoro, clienti, ed altri conoscenti che possono essere convinti di parlare proprio con voi, naturalmente a vostra totale insaputa.
In una demo pubblicata su X, si può constatare come gli algoritmi avanzati di Deep Live Cam abbiano permesso ad un utente che lo ha testato di generare un flusso video assolutamente credibile, con i volti di Hugh Grant, Mark Zuckerberg, George Clooney e JD Vance, il tutto partendo da una sola immagine statica di ciascuno di questi personaggi famosi.
(Sopra: il video del test di Deep Live Cam effettuato dall’utente joao su X)
Il software è quindi in grado di realizzare con risultati sorprendenti una trasmissione video dal vivo proveniente dalla webcam, regolando in tempo reale l’illuminazione, la posa e anche le espressioni facciali in modo da creare così l’illusione per chi sta dall’altra parte di trovarsi realmente a tu per tu con la persona a cui l’utente ha deciso di sostituirsi.
Quello di cui (al momento) il software non si occupa è la riproduzione del tono della voce e del timbro vocale della persona target, ma del resto è un problema facilmente superabile con funzioni che già esistono in altri programmi diffusi negli ultimi tempi, e che possono quindi essere usati in combinazione con Deep Live Cam.
Gli autori di Deep Live Cam affermano di aver originariamente sviluppato il software con l’obiettivo di supportare gli artisti che lavorano nel campo dell’animazione, del design, della moda e in altri settori creativi, ma d’altra parte si dichiarano pienamente consapevoli dei potenziali utilizzi illegali, e perciò il team di sviluppo ha cercato di arginare tali rischi implementando una serie di controlli interni progettati per prevenire l’uso non etico del programma. Inoltre, nelle condizioni di utilizzo del software hanno inserito ben evidenti le clausole in cui è richiesto che l’utente deve specificare che il contenuto creato è un deepfake quando viene condiviso online, ottenere preventivamente dalla persona target il consenso esplicito dei dati personali per utilizzo del suo volto, rammentando inoltre che esso è tenuto a rispettare le leggi locali, come ad esempio la prescrizione dell’art. 494 del Codice Penale, che in Italia punisce con la reclusione fino a un anno chiunque “al fine di procurare a sé o ad altri un vantaggio o di recare ad altri un danno, induce taluno in errore, sostituendo illegittimamente la propria all’altrui persona”.
Come se ai cyber criminali importasse qualcosa di tenere un comportamento etico, rispettare le leggi, e chiedere alle loro vittime il consenso per la privacy.
Nicola Bernardi, presidente di Federprivacy
