Cosa sono i Deep Fake e perchè dobbiamo preoccuparci

Mark Zuckerberg, Steve Buscemi, Mila Kunis, Emma Stone, Scarlett Johansson e tante altre celebrità sono state vittime di deep fake.

Un misterioso video dove c’è Mark Zuckerberg che parla del potere di Facebook è comparso su Instagram.
Steve Buscemi parla ad una conferenza stampa vestito con un bellissimo tailleur rosso e parlando con una suadente voce femminile. Mila Kunis, Emma Stone, Scarlett Johansson e tante altre celebrità rilasciano i loro film pornografici amatoriali su tutto il web.

Mark Zuckerberg nel video originale modificato dall’account bill_posters_uk

Tre eventi accomunati solo dall’essere completamente falsi e dall’essere stati creati grazie all’Intelligenza Artificiale chiamata Deep Fake. Dietro la complessità della programmazione di una IA come questa esiste una idea molto semplice: sostituire il volto di una persona, all’interno di un video, con il volto di un’altra, in modo da ottenere un nuovo video il più possibile credibile e realistico. Semplice, ma con conseguenze disastrose: più del 90% dei video Deepfake che si trovano online sono video pornografici di pornoattrici il cui volto è stato sostituito con quello di decine di donne dello spettacolo come le sopracitate Mila Kunis, Emma Stone, Scarlett Johansson, ma anche Emma Watson, Kaley Cuoco, Emilia Clarke, Maisie Williams… e Nicholas Cage, per qualche strana ragione. Insomma, l’ennesimo fetish che viene soddisfatto dalla scienza e dalla tecnica, direbbe qualcuno. In realtà c’è altro.

Viviamo già nel futuro

Il volto di Steve Buscemi “incollato” sulla testa di Jennifer Lawrence

Una affermazione banale ma pur sempre vera. La tecnologia dietro ai Deep Fake è infatti molto complessa e avanzata, ma allo stesso tempo facile da usare anche dall’uomo medio. Si parte anzitutto da un video di una persona, possibilmente con buone qualità grafiche. Ogni video, dai tempi del cinema muto, non è altro che una serie di foto che, mostrate molto velocemente una dopo l’altra, realizzano il movimento degli elementi nella scena. Il Deep Fake parte da queste foto (o meglio frame) e identifica il volto della persona da sostituire. I frame, in genere , possono essere anche milioni, dipende dalla lunghezza del video e dai suoi fps (frames per second). Per “identificare” si intende riconoscere la posizione dei punti focali del viso (occhi, bocca, naso, ma anche i muscoli facciali) per avere una base su cui poter poi applicare la faccia “rubata” della celebrità di turno.

La faccia da applicare viene “rubata” da migliaia di foto appositamente scelte per questa funzione. Maggiore è il numero delle foto e la varietà delle stesse, maggiore sarà l’accuratezza con cui lavorerà il Deep Fake e la credibilità del prodotto finale. Per questo i video pornografici di attrici famose la fanno da padrone: è molto più facile avere migliaia di foto di Emily Ratajkowski che della vostra compagna di banco o collega d’ufficio. Deep Fake, avendo da una parte i frame del video e dall’altra il set di espressioni della persona, va a compiere la magia: i volti vengono “incollati” al di sopra del frame del video, naturalmente con una certa logica. Ad esempio, se nel video originale la persona sorride, Deep Fake prenderà come spunto le foto sorridenti e cercherà di ottenere da queste un nuovo volto da applicare al di sopra del frame originale, in modo che il nuovo viso sia ben “incollato” ai pixel circostanti, ma conservi anche il sorriso della persona nel frame.

Porno e propaganda

Con la popolarizzazione di questa IA, attorno ai primi mesi del 2018, c’è stata ovviamente una esplosione della presenza di questi video. I siti pornografici, così come Reddit, hanno aperto sezioni apposite per ospitare tutte queste opere. Ed ovviamente la puzza del pericolo di questa nuova tecnologia si è fatta sentire: Reddit rimuove per sempre la sezione dedicata ai Deep Fake, PornHub promette di rimuovere tutti i video correlati a questa pratica (fallendo miseramente), ma soprattutto alcuni stati degli USA promulgano leggi per mettere al bando ogni video manipolato con questa IA, che sia solo una manipolazione a scopi propagandistici (come per il ban in Texas) o di qualsiasi forma (come in California, che ha bandito sia il Deep Fake per porno sia per propaganda).

La pornografia, purtroppo, non è il problema più grave.

Negli Stati Uniti, dove la tecnologia è stata usata molto di più ed esattamente con toni propagandistici contro gli avversari politici, il Congresso è già molto attento e al lavoro per cercare di arginare la pericolosità di uno strumento che, se non regolato, potrebbe essere estremamente dannoso per qualsiasi partito, per la reputazione di qualsiasi politico e anche per la validità delle imminenti elezioni americane.

Vale la pena lasciare una tecnologia così potenzialmente pericolosa nelle mani di chiunque? Perché non bandire direttamente ogni forma di Deep Fake dal web? A onor del vero, questa tecnologia fa parte della categoria “scienza che non è buona né cattiva ma dipende da come la usi”, un po’ come il nucleare. Ed infatti i Deep Fake possono essere usati come puro divertimento. Per alleviare un po’ gli animi da tutta questa pesantezza, ecco a voi Nicolas Cage recitare in film dove non ha mai realmente recitato.