Deepfake: è possibile riconoscere i contenuti falsi creati dall'AI?

Le derive di queste pratiche sono innumerevoli, perlopiù negative, e possono provocare disagi psicologici e danni alla reputazione alle persone coinvolte. Che cosa sono nello specifico, e come si possono riconoscere e combattere? Scopriamolo insieme.

Vi raccomandiamo...

Quel video porno di cui Martina Dell’Ombra non è protagonista

Federica Cacciola, alias Martina Dell'Ombra, finisce in un video porno di cui non è protagonista. E si schiera contro furti di identità e revenge...

Che cosa significa deepfake?

Il termine deepfake deriva dalla crasi delle parole inglesi “deep learning”, tecnica di intelligenza artificiale che tenta di eguagliare il cervello umano, e “fake”, “falso”. L’espressione si riferisce, dunque, a tutti quei contenuti artefatti creati arbitrariamente attraverso l’IA, al fine di creare una sintesi di immagini quanto più possibile vicine al vero, e per gli scopi più dissimili.

Tra gli obiettivi maggiormente diffusi, vi sono senza dubbio quelli di manipolare video o immagini multimediali al fine di far sembrare che un personaggio noto abbia detto o fatto qualcosa che, però, non ha mai asserito o compiuto, per falsificare la realtà, smuovere l’opinione pubblica, rovinare la reputazione o diffamare gli individui interessati.

Ne conseguono disinformazione, cyberbullismo, revenge porn, fake news e, in generale, tutto ciò che insinua crisi, dibattito e reazioni divisive nella popolazione che ne fruisce o ne viene raggiunta.

Come vengono creati i video e le immagini deepfake

Ma quali sono, nello specifico, le tecnologie utilizzate per creare i deepfake? Come si legge su Geopop:

Ultimamente la GAN (Generative Adversarial Network) è tra le tecniche di intelligenza artificiale maggiormente utilizzate per creare deepfake verosimili, limitando gli errori superficiali del deep learning tramite l’implementazione di modelli che si “sfidano fra loro”.

Come funzionano? Le GAN – Generative Adversarial Network sono due reti neurali che “competono” l’una contro l’altra: una, la rete generativa, chiamata Generator, crea immagini o video falsi a partire dai dati che le sono stati forniti; l’altra, la rete discriminativa, definita Discriminator, tenta, invece, di distinguere tra i contenuti creati dalla prima e quelli reali.

Nel corso del cosiddetto “addestramento”, quindi, le due reti affinano costantemente le proprie capacità: la Generator, acuendo la qualità delle immagini e dei video (al fine di ingannare la seconda), la Discriminator, migliorando la sua abilità di discernere vero e falso.

Il processo ha luogo fintanto che la rete Generator non sarà in grado di creare contenuti così verosimili da non consentire più alla rete Discriminator di comprendere quali siano quelli fittizi e quali, al contrario, quelli reali.

Vi raccomandiamo...

"Il 96% dei ragazzi tra 12 e 14 anni ha condiviso foto o video sessuali": i dati della ricerca

Il 96% dei nati tra il 2005 e il 2007 pratica sexting. Ecco perché è importante far capire ai nostri ragazzi i pericoli che si nascondono nell'in...

I rischi e le conseguenze dei deepfake

Naturalmente, come si può evincere dalla smisurata e spesso incontrollata potenza della tecnologia appena esposta, i rischi dei deepfake possono essere innumerevoli, intaccando sia il benessere psicologico di chi ne è coinvolto, sia la reputazione, la posizione lavorativa e i legami affettivi che riguardano la vittima, senza dimenticare l’impatto che essi possono avere anche sulla popolazione intera – soprattutto quando il deepfake è applicato alla politica e al mondo dell’informazione.

Tra le conseguenze più gravi, infatti, si annoverano le seguenti:

• disinformazione, dal momento che i contenuti falsi possono manipolare e influenzare fortemente l’opinione pubblica mediante video fittizi di personaggi politici e/o pubblici che condividono informazioni contraffatte e, soprattutto nel periodo di elezioni politiche, creare scandali o diffamazioni;
• danni alla reputazione, i cui emblemi, già menzionati, sono il cyberbullismo e il revenge porn, ambiti nei quali video e immagini compromettenti – sebbene falsi – potrebbero mettere a serio rischio la vita personale e professionale della vittima;
• assenza di sicurezza, in particolar modo quando i deepfake sono utilizzati per ingannare i sistemi di sicurezza biometrica (come il riconoscimento facciale) o per imitare persone in posizioni di potere e ottenere, così, informazioni sensibili e/o denaro. In quest’ultimo caso, si ha a che fare con un vero e proprio crimine;
• impatto psicologico, ossia stress, angoscia, ansia e attacchi di panico ed erosione della fiducia, conseguenti alla sensazione di violazione della propria privacy e alle derive che ne derivano nella propria vita personale.

Come limitare il fenomeno

Come si può arginare, allora, un fenomeno sempre più diffuso e pernicioso come quello dei deepfake? Un primo modo è quello di fare ricorso ad altrettanti strumenti di intelligenza artificiale utili per rilevare le anomalie e le incongruenze presenti nei video, nelle immagini e negli audio falsi, come, ad esempio, irregolarità nelle luci e nelle ombre, movimenti fuori sincrono delle labbra e movimenti innaturali degli occhi.

A livello legislativo, invece, sarebbe opportuno acuire le leggi che criminalizzano la creazione – e la conseguente distribuzione non consensuale – di deepfake, rafforzando, al contempo, anche le leggi sulla privacy. In questo senso, piattaforme e siti dovrebbero divenire sempre più responsabili dei contenuti che accolgono, rimuovendo immediatamente i contenuti deepfake non appena segnalati – e mostrando trasparenza a proposito degli algoritmi utilizzati per rilevare e moderare i contenuti deepfake stessi.

In ultimo, ma non per importanza, risulterebbe fondamentale educare i professionisti e la popolazione nel complesso al significato e al riconoscimento dei deepfake, informandoli sui rischi associati a essi e promuovendo campagne di sensibilizzazione che possano guidarli e offrire loro le coordinate utili per potersi proteggere.

Vi raccomandiamo...

Sicuri che il caso della maestra sia "revenge porn"? Il nome da usare è un altro

Complice anche recenti casi, il termine "revenge porn" è ormai molto utilizzato, ma siamo sicuri sia il migliore che si possa usare?

È possibile riconoscere i deepfake?

Una domanda che può sorgere ora spontanea è, dunque, la seguente: come si possono riconoscere i deepfake? A causa delle tecnologie sempre più sofisticate, non è semplice rilevare in modo subitaneo un contenuto falso, ma, attraverso competenze avanzate e strumenti specifici, l’operazione non risulta impossibile.

Ecco alcune metodologie:

• analisi visiva: controllo dei movimenti degli occhi, delle microespressioni facciali e delle labbra, i quali possono risultare innaturali o incoerenti, e analisi della pelle, spesso non resa puntualmente nelle sue imperfezioni caratteristiche;
• anomalie di illuminazione: luci e ombre potrebbero non corrispondere alla fonte di luce principale, mettendo in evidenza, così, il carattere fittizio dei contenuti;
• analisi auditiva: controllo della qualità del suono, grazie al quale potrebbero comparire discrepanze nel tono e nel timbro di voce, e della sincronizzazione audio-video.

Per riconoscere i deepfake possono, poi, essere usati, come già accennato, strumenti e tecniche ad hoc, quali software di rilevamento, tecnologie blockchain, verifica dei metadati, reti neurali e modelli di IA, algoritmi di rilevamento e affini.

Esistono applicazioni virtuose del deepfake?

Sebbene i deepfake a carattere derogatorio siano i più realizzati e diffusi, non mancano, tuttavia, deepfake creati con un intento benefico ed eticamente rispettosi delle persone interessate. Contenuti fittizi possono essere utilizzati, per esempio, nell’ambito dell’intrattenimento e del cinema, al fine di creare effetti speciali, ringiovanire o invecchiare gli attori e riportare in vita digitalmente protagonisti deceduti a scopo della trama.

I deepfake possono comparire, inoltre, in video a carattere educativo, rendendo, così, la didattica maggiormente interattiva e stimolante e coinvolgendo gli studenti con la riproduzione di personaggi storici, che consentano loro di vivere esperienze immersive e comprendere meglio il contesto storico-culturale di riferimento.

Altre applicazioni trovano, infine, spazio nell’assistenza sanitaria, mediante la telemedicina e il supporto psicologico, nelle campagne pubblicitarie, per personalizzare la comunicazione in base al target, in ambito artistico, attraverso performance ibride e nuove forme di esplorazione artistica, e nell’archiviazione digitale.