Deepfake è il nome dato alla tecnica che permette di ricreare l'aspetto o la voce umana con l'aiuto dell'intelligenza artificiale. Con la tecnologia è possibile simulare persone che parlano o agiscono in modi che non farebbero mai.
La parola sarebbe una combinazione dei termini deep learning (una branca del machine learning o machine learning, in portoghese) e fake (falso). Il concetto sarebbe emerso nel 2022, in riferimento a un utente Reddit con il nickname deepfakes.
Secondo quanto riferito, ha utilizzato la tecnologia di apprendimento profondo per sovrapporre i volti di celebrità e persone nei film pornografici. Da allora, il metodo è diventato sempre più realistico e accessibile.
ha preparato una guida per farti capire meglio cos'è e come funziona la funzione di modifica che ha dominato Internet. Scopri anche i rischi offerti e come proteggerti.
Come funziona il deepfake?
Per creare un video deepfake, vengono utilizzati due algoritmi di intelligenza artificiale in competizione, chiamati generatore e discriminatore. Secondo il sito Whatis.com, la funzione del primo è quella di creare video falsi e, del secondo, di identificarli come reali o meno.
Quando il discriminatore trova contenuti falsi, il generatore impara cosa non fare. E così, creerai il prossimo video in modo migliorato. Quando agiscono insieme, generatore e discriminatore generano la cosiddetta rete generativa contraddittoria (GAN).
Come creare un video deepfake?
Non crederai a quello che dice Obama in questo video! 😉Per assemblare un film del genere è necessario disporre di un video sorgente, preferibilmente il più semplice possibile. Pertanto, vengono spesso utilizzati discorsi politici, in cui lo sfondo è neutro e sostanzialmente vengono fatti i movimenti della testa.
Quindi, è necessario combinare due insiemi di dati. Se il personaggio nel video gira la testa a sinistra e apre la bocca, è necessario avere le immagini di chi lo sostituirà nelle stesse posizioni. Ciò potrebbe richiedere una vasta banca di immagini.
Poi tocca al programma basato sull'intelligenza artificiale fare il lavoro. Dopo molti tentativi, errori e successi, la rete contraddittoria generativa incorporerà una faccia nell'altra nel modo più accurato possibile.
Il video qui sopra è uno dei più famosi di deepfake. In esso, i movimenti e la voce dell'ex presidente degli Stati Uniti Barack Obama si sovrappongono a quelli del comico Jordan Peele.
Quali sono i rischi del deepfake?
Nonostante sembri innocuo, il deepfake è stato controverso sin dalla sua comparsa nel 2022 su Reddit. La tecnica è stata ampiamente utilizzata per sovrapporre i volti di attrici e persone nei video pornografici.
Man mano che si sviluppa, la tecnica diventa più realistica e i contenuti finiscono per diventare virali come se fossero reali. Questo è uno dei grandi pericoli della risorsa: la diffusione di contenuti falsi come autentici.
Nel 2022, Facebook si è trovata coinvolta in uno scandalo a seguito della fuga di dati degli utenti da parte di una società di app di terze parti. Poco dopo, un video di Mark Zuckerberg è diventato virale e ha preoccupato molte persone.
Nel cortometraggio, il CEO di Facebook insinua di controllare il futuro avendo il dominio di miliardi di dati. Il contenuto non era altro che un prodotto deepfake creato da Bill Poster per la società Spectre.
Visualizza questo post su Instagram
Un post condiviso da Bill Posters (@bill_posters_uk) il 13 giugno 2022 alle 5:18 PDT
Un altro problema previsto è la perdita di credibilità di qualsiasi tipo di materiale pubblicato su Internet. La tecnologia rende sempre più difficile identificare e filtrare che tipo di notizie siano vere o semplicemente create dal computer. Ciò che i tuoi occhi e le tue orecchie vedono e sentono potrebbe non essere altro che un prodotto software.
Con la divulgazione di programmi che consentono ai laici di creare video del genere, è possibile che anche la gente comune sia sempre più bersaglio di questo tipo di montaggio.
I risultati possono variare dalla simulazione della partecipazione a film per adulti alla creazione di false prove contro qualcuno.
Trattandosi di un fenomeno recente, i governi non hanno ancora leggi specifiche per combattere i crimini legati al deepfake. Nel Regno Unito, il produttore di tali contenuti può essere incriminato per molestie.
Negli Stati Uniti, le accuse possono variare da furto di identità, cyberstalking e revenge porn. Nel nostro Paese non esiste ancora una regolamentazione specifica in materia.
Come identificare un deepfake?
Nonostante l'evoluzione della tecnica, la maggior parte dei deepfake amatoriali può ancora essere identificata ad occhio nudo. In questi casi è possibile individuare una mancanza di naturalezza nel battito di ciglia, nel movimento delle labbra o nella presenza di ombre nei punti sbagliati.
Tuttavia, la preoccupazione per il futuro è reale. Negli Stati Uniti, la Defense Advanced Research Projects Agency (DARPA) sta già investendo in modi per identificare meglio i video.
Per ora, la misura migliore è essere sempre attenti a ciò che si riceve ed essere consapevoli delle fonti di condivisione.
Cos'è ZAO?
Annunciata a settembre 2022 sull'App Store cinese, l'app ZAO fatto notizia in tutto il mondo. Il programma è diventato virale per aver portato gli smartphone a creare deepfake da una foto in soli 8 secondi.
Il risultato rasenta la perfezione ed è stato condiviso su Twitter dall'utente @AllanXia. Il volto dell'attore Leonardo DiCaprio è stato sostituito dal suo in diverse scene e l'espressività è impressionante.
Il lancio dell'app ha riaperto il dibattito su tecnologia e privacy. In primo luogo perché, secondo i termini di utilizzo del programma, utilizzandolo, daresti all'azienda il diritto di utilizzare i tuoi dati e il viso per usi commerciali in modo gratuito e irrevocabile.
Dopo molte denunce, l'azienda responsabile ha cambiato il termine. Ora, afferma che il contenuto sarà utilizzato solo dagli sviluppatori allo scopo di migliorare l'applicazione e la tecnologia utilizzata.
Un altro problema preoccupante è il fatto che l'app rende ancora più semplice creare sovrapposizioni con le immagini di chiunque. E con crescente realismo. Ciò potrebbe rendere più facile per le vittime di video falsi essere viste come reali.
App per deepfake di Outros
Ma questa non è la prima volta che gli spettacoli di deepfake diventano virali. Il primo di questi è stato il fakeapp, rilasciato a gennaio 2022 per desktop. Ti ha permesso di creare e condividere video con volti sostituiti con relativa facilità.
La difficoltà principale era quella di raccogliere una grande quantità di materiale visivo dalla persona che sarebbe stata inserita, in modo che il risultato fosse soddisfacente. Al momento, non è più possibile trovare il programma disponibile.
consiglia:
- Come sapere se un sito Web è sicuro e affidabile per l'acquisto online
- App super divertenti per cambiare la tua voce
