L'intelligenza artificiale e l'apprendimento automatico possono fare miracoli, dal fare arte all'automazione dei lavori di amministrazione. Ma sono anche un rischio in quanto possono potenziare i malintenzionati con trucchi come il deepfake.
Man mano che questa particolare tecnologia si evolve, è una buona idea scoprire come funzionano effettivamente i deepfake e chi vorrebbe persino usarli, sia legittimamente che illegalmente.
Perché è importante capire come e perché vengono utilizzati i deepfake
Le applicazioni tradizionali della tecnologia deepfake ruotano principalmente attorno a materiali divertenti, pornografici o cinematografici, ma uno studio lo ha dimostrato i deepfake possono ingannare il riconoscimento facciale. Questo da solo è un motivo per preoccuparsi e alzare la guardia.
Più la tecnologia viene utilizzata nella vita di tutti i giorni e in progetti su larga scala, meglio i suoi sviluppatori imparano a creare video falsi senza soluzione di continuità di persone, che siano celebrità o familiari.
Comprensione come proteggersi dai video deepfake è un must ora, considerando con quanta entusiasmo le industrie stanno abbracciando i vantaggi della tecnologia, specialmente nell'ambito dell'intrattenimento.
Hollywood lo ha utilizzato in diversi progetti molto tempo prima La voce AGT deepfake di Metaphysic, che ha mostrato al mondo quanto possa essere veloce ed efficace la creazione di deepfake. Ecco cosa prevede il processo.
Come funzionano i deepfake?
In termini di cosa c'è dietro i deepfake, un indizio è nel nome: deep learning, la scienza delle reti neurali artificiali (ANN). Ciò che fanno per gli algoritmi deepfake è assorbire dati, imparare da essi e creare nuovi dati sotto forma di espressioni facciali o un'intera faccia sovrapposta alla tua.
Gli sviluppatori di software deepfake utilizzano in genere uno dei due tipi di ANN: codificatori automatici o reti generative avversarie (GAN).
Gli autoencoder imparano a replicare le masse di dati che ricevono, principalmente foto di volti ed espressioni, e ricreano i set di dati richiesti. Tuttavia, raramente sono copie esatte.
I GAN, invece, hanno un sistema più intelligente, che include un generatore e un discriminatore. Il primo riproduce i dati appresi in deepfake che devono poi ingannare il secondo.
Il discriminatore confronta le creazioni del generatore con le immagini reali e ne determina l'efficacia. I migliori deepfake, ovviamente, sono quelli che imitano perfettamente il comportamento umano.
Quindi, come vengono realizzati i deepfake con questa tecnologia? Gli algoritmi dietro app come Rifacimento E DeepFaceLab imparano costantemente dai dati che li attraversano in modo che possano regolare efficacemente le caratteristiche e le espressioni del viso o sovrapporre un volto all'altro.
Il software è fondamentalmente un editor video specificamente progettato per manipolare i volti. Alcune app sono più complesse di altre, ma tutto sommato puoi fare qualsiasi cosa, dall'invecchiare qualcuno su o giù per modificare te stesso nei film.
Ma la tecnologia ha ancora difetti. La creazione di Deepfake potrebbe essere più complicata di come vengono realizzati i video live falsi, ma può essere altrettanto semplice da rilevare come falso.
Come individuare un deepfake
Poiché i deepfake sono realizzati principalmente da macchine, le caratteristiche o le maniere del volto digitale non sembrano sempre naturali. Potrebbero esserci anche errori nella configurazione del video. In altre parole, puoi distinguere filmati falsi se sai cosa cercare.
Ecco alcuni segni rivelatori:
- Lampeggio innaturale: il machine learning spesso trascura il battito delle palpebre o lo fa sembrare imbarazzante.
- Caratteristiche sfocate o instabili: I capelli, la bocca o il mento di qualcuno potrebbero essere leggermente sfocati o muoversi in modi strani, spesso esagerati.
- Mancanza o falsa rappresentazione delle emozioni: I poveri deepfake sono impassibili o imitano male le emozioni.
- Linguaggio del corpo imbarazzante: Se la persona nel video muove la testa o il corpo in modo distorto o sconnesso, potrebbe trattarsi di un deepfake.
- Colori e illuminazione sbagliati: Scolorimenti, luci inspiegabili e ombre sono segni sicuri di un video falso.
- Oggetti incoerenti: Durante la regolazione di un video, il software deepfake può commettere errori, come alterare la forma di vestiti, gioielli e oggetti sullo sfondo.
- Audio pessimo: I deepfake possono distorcere il parlato e i suoni in un video.
Fai il meglio di modi per individuare i deepfake imparando a cosa servono di solito questi video e prestando molta attenzione ai dettagli nel filmato che vedi online, rallentalo, se possibile.
Inoltre, vengono sviluppati sempre più strumenti, come Autenticatore Microsoft e Sensibilità Rilevamento forense di deepfake, che analizzano i video a livello di minuto.
Chi utilizza Deepfake?
I cineasti utilizzano sempre più i deepfake per invecchiare o sostituire i volti degli attori, come in Star Wars. Gli artisti riescono ad animare i ritratti ea farli parlare e cantare.
Gli esperti di marketing stanno sperimentando la tecnologia deepfake per contenuti promozionali che non richiedono l'assunzione di attori. Aziende come WPP lo applicano anche ai loro video di formazione.
I tecnici, in generale, creano video divertenti in cui scambiano i volti con gli amici o sovrappongono un attore all'altro nei film popolari. Sylvester Stallone ha ripreso Home Alone e il Joker di Heath Ledger è apparso in A Knight's Tale.
Sfortunatamente, se esplori per cos'altro viene utilizzata la tecnologia deepfake, troverai molti casi dannosi. Ai creatori di deepfake piace diffondere disinformazione e messaggi offensivi, così come prendere di mira le celebrità e inserirle in film per adulti. Le persone vengono persino ricattate con filmati falsi.
Nella sua attuale forma sfrenata, il deepfake è sinonimo di rischio per i diritti alla privacy delle persone, la sicurezza, e persino il copyright, ad esempio, quando l'algoritmo utilizza chiaramente una foto o un'opera d'arte non pubblicamente disponibile.
Questo è il motivo per cui paesi e marchi stanno puntando i piedi. A partire dal 2021, secondo il La mappa della Cyber Civil Rights Initiative delle leggi sul deepfake negli Stati Uniti, quattro stati ora reprimono i video deepfake pubblicati che ritraggono qualcuno in modo esplicito o altrimenti dannoso.
La Cina si sta anche muovendo per criminalizzare i deepfake che danneggiano le persone e la società, violando i diritti individuali o diffondendo notizie false. Anche Meta ha annunciato nel 2020 quei video fuorvianti e manipolati non erano i benvenuti.
Oltre alla regolamentazione, gli organismi ufficiali di tutto il mondo spingono per una migliore individuazione e prevenzione dei crimini di deepfake. IL Rapporto del Rathenau Instituut su come la politica europea dovrebbe gestire i deepfake approva il software con strumenti come il riconoscimento vocale e facciale, il rilevamento della vivacità vocale e l'analisi delle caratteristiche facciali.
Scopri come funzionano i deepfake per ingannarti
I deepfake sono già diventati mainstream, nel bene e nel male. Quindi, goditi i video divertenti e stimolanti mentre ti prepari ad affrontare quelli dannosi.
In fin dei conti, cos'è un deepfake come questo, se non uno strumento progettato per ingannarti? Se sai cosa cercare e come reagire, ha meno potere su di te.
Ad esempio, sarai in grado di individuare i deepfake sui social media insieme a notizie e account falsi e schivare informazioni errate, tentativi di phishing e altro ancora. Man mano che la tecnologia di rilevamento e prevenzione dei deepfake migliora, riceverai più supporto.