OpenAI: l'ex studio di Elon Musk è sull'orlo di un nuovo A.I. Era

OpenAI, l'organizzazione no-profit che ricerca l'intelligenza artificiale, co-fondata da Elon Musk nel 2016, ha fatto grandi progressi - anche dopo che Musk si è separato dai disaccordi sulla sua direzione. I ricercatori hanno sviluppato sistemi in grado di giocare, scrivere articoli di notizie e spostare oggetti fisici con livelli rivoluzionari di destrezza.

OpenAI ha causato polemiche con la sua ricerca. La scorsa settimana ha annunciato lo sviluppo di un modello linguistico, GTP2, in grado di generare testi con prompt limitati. Dato il suggerimento scritto "Miley Cyrus è stato catturato dai taccheggi di Abercrombie and Fitch su Hollywood Boulevard oggi", il sistema ha prodotto una storia completa credibile che è continuata con "il cantante 19enne è stato catturato mentre era scortato fuori dal negozio dalle guardie di sicurezza."

Ha anche creato questa storia originale sulla comunicazione di unicorni basata su un breve prompt:

"Non sono stato coinvolto da vicino con OpenAI da più di un anno e non ho gestione o supervisione del board", Musk ha commentato su Twitter durante il fine settimana. "Ho dovuto concentrarmi sulla risoluzione di un numero doloroso di problemi di progettazione e produzione in Tesla (in particolare) e SpaceX. Inoltre, Tesla era in competizione per alcune delle stesse persone di OpenAI e io non ero d'accordo con alcune delle attività che il team OpenAI voleva fare. Aggiungete tutto questo e sarebbe stato meglio dividere le cose in buone condizioni."

Inizialmente, l'azienda sembrava un modo ideale per Musk per raggiungere i suoi obiettivi di sfruttare A.I. per il bene dell'umanità. L'imprenditore ha avvertito in passato del "rischio fondamentale" per la civiltà rappresentato da macchine super-intelligenti, esortando i governi a regolamentare "come facciamo cibo, droghe, aerei e automobili".

Musk ha promesso 10 milioni di dollari per avviare inizialmente l'azienda, e la sua missione si concentra su "scoprire e attuare il percorso verso l'intelligenza artificiale artificiale sicura".

Non è difficile vedere come i programmi che rendono le storie come quella condivisa dal dirigente di OpenAI Greg Brockman possano essere usate da un numero relativamente piccolo di persone per influenzare le opinioni di un pubblico meno esperto.

Un dipendente di OpenAI ha stampato questo campione scritto da AI e lo ha pubblicato dal cestino: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@ gdb), 14 febbraio 2019

"A causa delle nostre preoccupazioni riguardo alle applicazioni malevoli della tecnologia, non stiamo rilasciando il modello addestrato", ha spiegato la società in un post sul blog. "Come esperimento nella divulgazione responsabile, stiamo invece pubblicando un modello molto più piccolo per i ricercatori da sperimentare, oltre a un documento tecnico."

L'annuncio ha portato a temere che la tecnologia potrebbe essere utilizzata per generare notizie false. Analytics India ha avvertito che, con le imminenti elezioni indiane alla fine di quest'anno, l'A.I. potrebbe devastare il processo democratico. Gli stessi ricercatori di OpenAI affermano che, unito alla ricerca sulla produzione di audio e video sintetici, "il pubblico in generale dovrà diventare più scettico nei confronti del testo che trovano online".

Ryan Lowe, un A.I. scienziato ed ex stagista di OpenAI, ha riassunto la minaccia di un programma come questo usato per creare succose notizie false in questo post medio diffuso:

… Un sistema automatizzato potrebbe: (1) consentire ai cattivi attori, che non hanno le risorse per assumere migliaia di persone, di condurre campagne di disinformazione su larga scala; e (2) aumentare drasticamente la portata delle campagne di disinformazione già gestite dagli attori statali.

Non tutte le ricerche di OpenAI si sono dimostrate così controverse. Dactyl, svelato nel luglio 2018, può adattarsi alla fisica del mondo reale per manipolare oggetti nel mondo reale. La mano del robot è molto complessa, con 24 gradi di libertà, ma il sistema può facilmente spostare gli oggetti semplicemente usando tre telecamere RGB e le coordinate della mano del robot.

La mano robotica sfrutta gli algoritmi di apprendimento di rinforzo per scopi generali utilizzati per battere gli umani nei videogiochi. Il team "OpenAI Five" ha affrontato un team di professionisti Dota 2 giocatori nel 2018. Il sistema è stato addestrato in 180 anni di giochi, sfruttando l'incredibile numero di processori da 128.000 e 256 processori grafici. Mentre ha battuto un team umano di ex professionisti e streamer di Twitch, ha fallito contro i giocatori professionisti.

Il muschio usava il Dota 2 partite per attirare l'attenzione su Neuralink, il suo piano per creare una relazione simbiotica con A.I. collegando il cervello umano ed evitando l'acquisizione di un robot:

Ottimo lavoro di @OpenAI. Serve presto l'interfaccia neurale per abilitare la simbiosi umana / AI.

- Elon Musk (@elonmusk), 6 agosto 2018

Nel suo annuncio del generatore di testi, OpenAI ha dichiarato che prevede di discutere la sua strategia più ampia tra sei mesi. L'azienda spera di suscitare una discussione sfumata sui pericoli dell'intelligenza artificiale, una mossa che potrebbe evitare alcuni degli scenari di disastro immaginati da Musk. Tuttavia, anche la compagnia ammette che "non è sicuro che" trattenere il generatore di testo "sia la decisione giusta oggi." Con uno scisma già formato tra due entità principali che avvertono dei pericoli dell'IA, è improbabile che i legislatori abbiano un facile tempo nello sviluppo di soluzioni.