Microsoft sta distribuendo uno strumento di rilevamento deepfake

Dato quanto i deepfake siano potenzialmente devastanti per la reputazione di qualcuno e molto difficili da individuare se eseguiti correttamente, sono una delle principali preoccupazioni per la sicurezza. Ora, Microsoft mira ad aiutare a fermare i deepfake rilasciando uno strumento in grado di rilevarli.

La minaccia rappresentata dai deepfake è così sostanziale che ha causato Facebook per vietare tutti i contenuti deepfake. Tuttavia, il più grande ostacolo è il modo in cui i deepfake sono fatti per sembrare convincenti; in quanto tale, individuare e confermare un deepfake è molto difficile.

Facebook bandisce deepfakes e photoshop

Facebook sta vietando i deepfake e le foto photoshoppate. L'idea è di rimuovere i media manipolati progettati per ingannare gli utenti.

Come riportato su Microsoft sui problemi, l'azienda vuole cambiare la situazione con il suo nuovo strumento. Si chiama Microsoft Video Authenticator e analizza i video per cercare le "cuciture" lasciate dalla creazione di deepfake. Queste cuciture sono invisibili agli occhi umani, ma un computer può individuarle utilizzando l'analisi fotogramma per fotogramma.

Per impedire agli agenti dannosi di eseguire il reverse engineering della tecnologia, Microsoft Video Authenticator non sarà una versione pubblica. Invece, Microsoft sta distribuendo il suo sistema alle notizie e alle organizzazioni politiche. In questo modo, quelle organizzazioni possono utilizzare lo strumento per separare il reale dal falso.

Tuttavia, Microsoft ha annunciato una seconda tecnologia per identificare i deepfake. L'azienda propone un sistema in cui un creatore di contenuti può taggare i propri video con una "firma" univoca. Se il video viene modificato, genererà una firma diversa dall'originale, identificando così un file deepfake.

L'autrice di Deep Fakes and the Infocalypse, Nina Schick, ha detto quanto segue:

L'unico uso veramente diffuso che abbiamo visto finora è nella pornografia non consensuale contro le donne. Ma i media sintetici dovrebbero diventare onnipresenti in circa tre o cinque anni, quindi dobbiamo sviluppare questi strumenti in futuro. Tuttavia, man mano che le capacità di rilevamento migliorano, così sarà anche la capacità di generazione - non lo è mai sarà il caso che Microsoft possa rilasciare uno strumento in grado di rilevare tutti i tipi di video manipolazione.

I deepfake sono un problema significativo per la credibilità dei media e le aziende hanno bisogno di un modo per farlo raccontare ciò che è reale da ciò che è finzione. Microsoft ha rilasciato uno strumento per aiutare a individuare i video modificati. Tuttavia, se lo strumento sarà sufficiente o meno per tenere il passo con gli sviluppatori di deepfake è ancora da vedere.

Se non sei sicuro di cosa siano i deepfake e perché siano importanti, vale sicuramente la pena dedicare del tempo per conoscerli. I deepfake sono destinati a diventare l'equivalente di questo decennio delle immagini "Photoshopping" e possono causare gravi danni se usati in modo dannoso.

Deepfakes ha spiegato: l'intelligenza artificiale che rende i video falsi troppo convincenti

I video falsi generati dall'intelligenza artificiale minano completamente la nostra comprensione degli eventi mondiali. Ecco come i deepfake potrebbero cambiare tutto.

Circa l'autore