Il creatore "Questa persona non esiste" rivela la raccapricciante storia di origine del suo sito

Phillip Wang è il trentatreenne ingegnere informatico responsabile della creazione del sito web alimentato da intelligenza artificiale This Person Does Exist che recentemente è diventato virale. Ogni volta che la pagina viene aggiornata, un algoritmo noto come una rete generativa avversaria (GAN) (originariamente codificata da Nvidia) rende i ritratti iperrealistici di persone completamente false.

Lo stunt è stato progettato per richiamare l'attenzione sul potere sempre crescente di A.I. di presentare come immagini reali che sono completamente artificiali. Ma come dice Wang Inverso, questa prodezza ha ramificazioni che si diffondono ben oltre, "hey, guarda questa persona finta dall'aspetto reale." In una società in cui le immagini e le immagini sono i surrogati standard di "prove", GAN, automatizzando il lavoro che una volta richiedeva un lavoro scrupoloso su la parte degli esperti di imaging - permetterà presto a chiunque di fornire "prove" che ogni persona immaginabile abbia fatto una cosa immaginabile.

"Fondamentalmente sono al punto della mia vita in cui ammetterò che la superintelligence sarà reale e ho bisogno di dedicare la mia vita rimanente a esso", spiega. "La reazione parla di quante persone sono al buio su A.I. e il suo potenziale."

Il sito ha colpito un accordo. L'ex ingegnere del software Uber afferma che dal suo lancio, This Person Does Exist è stato visitato circa 4,2 milioni di volte, non male per un sito unico originariamente pubblicato su un gruppo Facebook chiuso. Wang inizialmente lo usava come un modo per convincere alcuni amici a unirsi all'a.I. ricerca a cui sta lavorando attualmente. Ma nel giro di un giorno, ha deciso che un pubblico più ampio potrebbe trarre vantaggio dall'apprendimento del potenziale dei GAN. Ha detto che la reazione echi quanto sia importante informare le persone su come questo tipo di tecnologia possa essere sia rivoluzionaria che pericolosa.

Perché i volti falsi rappresentano una svolta spaventosa

Il sito di Wang fa uso dell'algoritmo StyleGAN di Nvidia che è stato pubblicato nel dicembre dello scorso anno. Il potenziale, a suo avviso, spazia dall'utile-ma-banale (si pensi: semplificando l'impianto della corona dentale) al più lontano, ad esempio consentendo l'immaginazione di molecole del tutto nuove per servire in futuri farmaci. Ma questa tecnologia rivoluzionaria renderà anche l'inganno e la disinformazione più facili che mai.

La ragione per cui i casi d'uso sono così sfaccettati è che ci sono molti, molti modi per applicare i GAN, che vengono addestrati mettendo due reti l'una contro l'altra: il generatore e il discriminatore. Il generatore riceve immagini reali che cerca di ricreare nel miglior modo possibile, mentre il discriminatore impara a distinguere tra immagini contraffatte e originali. Dopo milioni e milioni di sessioni di allenamento, l'algoritmo sviluppa capacità sovrumane per creare copie delle immagini su cui è stato addestrato.

È lo stesso metodo che crea deepfakes, o immagini generate al computer sovrapposte a immagini o video esistenti, e che sono spesso usate per spingere narrazioni di finte notizie o altre bufale.

E mentre Wang è affascinato dall'innovazione che porterà in molte aziende, vuole anche che le persone siano più consapevoli dei potenziali danni che potrebbe causare.

Ad esempio, un attore malvagio potrebbe diffondere un video o un'immagine generata da GAN che descrive un evento fasullo per incitare rivolte, proteste o altre reazioni potenzialmente violente online.

Poiché il processo è completamente automatizzato, tutto ciò di cui qualcuno avrebbe bisogno sarebbe l'accesso a una serie di unità di elaborazione grafica (GPU) o schede grafiche - che alimentano l'apprendimento automatico - e una serie di immagini per iniziare a lanciare falsi come un orologio.

A lungo termine, mentre gli StyleGAN sono in grado di creare immagini fisse di persone che non sono mai esistite, farle parlare e muoversi in modo naturale sono solo un paio di passi oltre. Fortunatamente, Wang nota che semplicemente essere informati sui GAN renderà le persone meno suscettibili a essere ingannati da loro. Un'accresciuta consapevolezza renderà più facile a tutti noi godere dei miglioramenti della grafica 3D e degli effetti che gli StyleGAN probabilmente produrranno.

"Spero solo che la mia dimostrazione aumenti la consapevolezza. Coloro che non sono consapevoli sono più vulnerabili a questa tecnologia ", ha detto Wang. "Il rovescio della medaglia, A.I. porterà davvero molto bene a questo mondo."

Invia un'email all'autore: [email protected]