Cosa sono i deepfake e perché sono così pericolosi?

Come

DiMichael Bryant

Ultimo aggiornamento il1 settembre 2021

Una volta in gran parte confinati alla pornografia, ora i deepfake stanno spuntando ovunque. Più preoccupante: la tecnologia alla base migliora di anno in anno, il che potrebbe avere ampie implicazioni nei prossimi anni.

Mark Zuckerberg lo ha davvero ammesso? avere dati rubati da miliardi di persone? Barack Obama ha chiamato Donald Trump?un completo imbecille?Ognuno di questi link video è un esempio di deepfake, una pericolosa forma di tecnologia artificiale che permette di mettere le parole in bocca a qualcuno o una faccia diversa sul corpo di un'altra persona. Esistono anche "skin della voce" e "cloni della voce", che consentono ai burloni di imitare la voce.

Quando si parla di deepfake, ci sono due domande a cui vale la pena rispondere. Primo, cosa li rende, e secondo, perché sono diventati sempre più efficaci. Quindi diamo un'occhiata.

Deepfake: allora, qual è il problema?

Senza dubbio, alcuni deepfake sono divertenti, una volta che hai preso parte allo scherzo. Immagina, ad esempio, che il 44esimo presidente degli Stati Uniti abbia davvero chiamato pubblicamente il 45esimo un brutto nome o che l'originale Wonder Woman, Lynda Carter, è stato in qualche modo posizionato nei film più recenti che hanno effettivamente interpretato Gal Gadot.

Sfortunatamente, man mano che i deepfake migliorano, potrebbero sorgere problemi e causare problemi significativi. Ad esempio, gli oppositori politici possono creare video falsi che mostrano i loro avversari in posizioni compromettenti. In tal modo, potrebbero modificare l'esito delle elezioni. In un esempio più pericoloso, immagina l'attuale presidente degli Stati Uniti che dichiara guerra alla Cina e il governo cinese crede che sia vero.

I problemi con i deepfake non devono coinvolgere celebrità o funzionari governativi. Ad esempio, con le "skin della voce", un truffatore potrebbe convincere un genitore che il loro bambino è nei guai, o un falso agente dell'IRS potrebbe truffare un cittadino ignaro per fornire informazioni bancarie.

Altri esempi di deepfake sono truffe di phishing, violazioni dei dati, diffamazione della reputazione, ingegneria sociale, attacchi automatizzati di disinformazione e frodi finanziarie, tra molti altri.

Perché sono efficaci?

La tecnologia di deep learning ha migliorato la qualità dei deepfake negli ultimi anni. Eppure, ci sono altri motivi per cui la linea di demarcazione è perché realtà e finzione stanno diventando sempre più confuse. Secondo Falso profondo adesso, pregiudizi di conferma e false credenze stanno anche scherzando con il nostro cervello.

Bias di conferma

Con il bias di conferma, gli individui cercano, interpretano e favoriscono le informazioni in un modo che supporti le proprie convinzioni o valori.

Come spiega l'American Psychology Association (APA), “Confirmation Bias è la tendenza a cercare informazioni che supportino, piuttosto che rifiuta, i propri preconcetti, in genere interpretando le prove per confermare le convinzioni esistenti rifiutando o ignorando qualsiasi conflitto dati."

falsa credenza

In psicologia, la teoria della mente si riferisce alla capacità mentale di comprendere le altre persone e il loro comportamento. Una falsa credenza è considerata una pietra miliare importante per la teoria. È la comprensione che altre persone possono credere a cose che non sono vere.

Torniamo a Deep Fake Now: “Con abbastanza tempo, qualcuno, da qualche parte, utilizzerà inevitabilmente “fatti alternativi” per supportare la propria agenda. E probabilmente utilizzeranno la tecnologia deepfake per "dimostrare" le loro affermazioni. È il loro modo di diffondere dubbi e propaganda all'interno delle società».

Entrambi i concetti mostrano come i deepfake vengano utilizzati come strumento per alterare un'opinione.

Deepfake: è vero o falso?

Anche se la tecnologia alla base dei deepfake sta migliorando, ci sono modi per capire quando un video è specificamente falso. In effetti, Norton spiega che ci sono almeno 15 modi infallibili per determinare la falsità. Tra questi ci sono:

• Movimento oculare innaturale. I movimenti oculari che non sembrano naturali - o la mancanza di movimento degli occhi, come l'assenza di ammiccamento - sono bandiere rosse. È difficile replicare l'atto di sbattere le palpebre in un modo che appaia naturale. È anche difficile replicare i momenti degli occhi di una persona reale. Diventa così che gli occhi di qualcuno di solito seguono la persona con cui stanno parlando.
• Una mancanza di emozione. Puoi anche individuare il morphing del viso o i punti dell'immagine se il viso di qualcuno non sembra mostrare l'emozione che dovrebbe accompagnare ciò che si suppone stia dicendo.
• Colorazione innaturale. Il tono della pelle anormale, lo scolorimento, l'illuminazione strana e le ombre fuori posto sono tutti segni che ciò che stai vedendo è probabilmente falso.
• Impronte digitali. La tecnologia blockchain può anche creare un'impronta digitale per i video. Sebbene non sia infallibile, questa verifica basata su blockchain può aiutare a stabilire l'autenticità di un video. Ecco come funziona. Quando viene creato un video, il contenuto viene registrato in un libro mastro che non può essere modificato. Questa tecnologia può aiutare a dimostrare l'autenticità di un video.
• Ricerche inverse di immagini. Una ricerca di un'immagine originale, o una ricerca inversa di immagini con l'aiuto di un computer, può portare alla luce video simili online per aiutare a determinare se un'immagine, un audio o un video è stato alterato in qualche modo. Sebbene la tecnologia di ricerca video inversa non sia ancora disponibile pubblicamente, investire in uno strumento come questo potrebbe essere utile.

Esempi

Ci sono molti esempi di deepfake online. I miei preferiti personali includono quanto segue:

Come puoi vedere, i deepfake possono essere divertenti, esilaranti, davvero. Sfortunatamente, possono anche essere pericolosi quando la tecnologia viene utilizzata illegalmente. Sarà interessante sapere dove questo concetto andrà a finire negli anni a venire.

Come

Come cancellare la cache, i cookie e la cronologia di navigazione di Google Chrome

Chrome fa un ottimo lavoro di memorizzazione della cronologia di navigazione, della cache e dei cookie per ottimizzare le prestazioni del browser online. Il suo è come...

Come

La tua guida alla condivisione di documenti in Google Documenti, Fogli e Presentazioni

Puoi collaborare facilmente con le app basate sul Web di Google. Ecco la tua guida alla condivisione in Documenti, Fogli e Presentazioni Google con le autorizzazioni...