Come il nuovo centro di UC Berkeley potrebbe prevenire un A.I. Apocalisse

L'Università della California Berkeley ha appena aggiunto il suo nome ad una lista crescente di istituzioni rispettabili che lavorano per impedire che l'intelligenza artificiale malevola distrugga l'umanità. Il suo nuovo Centro per l'intelligenza artificiale compatibile con gli esseri umani, annunciato lunedì, è inteso a garantire che A.I. rimane utile, e anche per escludere un A.I. apocalisse.

L'A.I. di Berkeley l'esperto, il professor Stuart Russell, sta conducendo l'impresa. The Open Philanthropy Project ha fornito una sovvenzione di $ 5,5 milioni al Centro, e altri hanno anche contribuito a un taglio. Diversi altri esperti di Berkeley, della Cornell University e dell'Università del Michigan fungeranno da investigatori principali.

Il professore di Cornell, Bart Selman, ha detto Inverso riguardo al Centro, A.I.s che noi dovrebbero paura, e perché il mondo probabilmente non è diretto all'inferno in un cestino - ancora.

Cosa speri di ottenere con il Centro per l'A.I. compatibile con gli umani?

Questi centri sono uno sviluppo relativamente nuovo. Le persone fanno investimenti: il Future of Life Institute, ad esempio, ha un investimento da Elon Musk, di Tesla, per affrontare le questioni riguardanti il ​​futuro della vita e le possibili minacce al futuro della vita e della società. Il nuovo centro di Berkeley è un altro esempio di tale istituto.

È ispirato dal ruolo mutevole dell'intelligenza artificiale e dell'informatica nella nostra società. Queste tecnologie si stanno spostando nella nostra società e avranno un effetto su di noi. Questi istituti servono a riunire ricercatori per studiare possibili impatti negativi o come assicurarsi che non vi siano impatti negativi.

Il titolo stesso del Centro suggerisce che A.I. e l'umanità è intrinsecamente incompatibile. Questa è la tua opinione?

Questa è la prima reazione che le persone hanno, che queste cose potrebbero essere incompatibili. Crediamo veramente che, con le dovute precauzioni e le linee guida e le ricerche adeguate, possiamo davvero allineare gli interessi e fare in modo che queste tecnologie siano vantaggiose. A.I. la tecnologia ha lati positivi enormi, e l'obiettivo per la società è assicurarsi che restiamo sui lati positivi. I ricercatori coinvolti nell'istituto ritengono che sia fattibile.

Se potessi adottare una prospettiva da apripista, quale sarebbe lo scenario del giorno del giudizio più probabile indotto da A.I.?

Un chiaro rischio sarebbe uno sviluppo militare dell'intelligenza artificiale, che potrebbe portare a una corsa agli armamenti di armi da fuoco tra diversi paesi: armi autonome, droni autonomi che seguono i propri comandi, sviluppati da diversi paesi che sono ostili l'uno con l'altro. Questo è il rischio più concreto che vedo. Penso A.I. sviluppato per auto a guida autonoma, per esempio - per ruoli regolari nella società - sarà molto vantaggioso. Ma l'aspetto militare è una componente preoccupante.

È già una battaglia in salita?

I paesi stanno effettivamente considerando questo problema. In un certo senso, è una battaglia in salita: l'esercito sta spingendo in avanti per sviluppare A.I. tecnologia. Ma ci sono stati degli accordi - ad esempio, le armi biologiche sono probabilmente il caso più noto - in cui i paesi a un certo punto hanno deciso che avrebbero beneficiato tutti i paesi non sviluppare armi biologiche su larga scala. Speriamo che i paesi si rendano conto che il lato negativo, per tutti, è troppo grande per entrare in un A.I. corsa agli armamenti.

Se entrambe le parti sviluppano questa tecnologia, nessuno è avanti.

C'è qualcos'altro che dovrei sapere sul Centro, o sulla malevola A.I. in generale?

È importante dare il lato positivo. È facile enfatizzare i rischi - e, naturalmente, questo è in parte il motivo per cui questi centri sono stabiliti - ma è anche importante sottolineare che molti ricercatori ritengono che questo rischio sia gestibile e che i risvolti siano tremendi.

Hai già dato la prospettiva del giorno del giudizio. Quali sono alcuni potenziali usi positivi di A.I. di cui sei davvero entusiasta?

I lati positivi saranno una società in cui siamo assistiti da questa tecnologia. Traduzioni di parole simultanee - tra cinese e inglese, ad esempio - in cui le persone possono conversare, come se parlassero una lingua nativa, l'una con l'altra nel mondo. Assistenza agli anziani: le persone possono rimanere quanto vogliono nella loro casa, perché hanno un robot assistente domestico che li aiuta a vivere in modo indipendente.

Ciò avrà probabilmente un impatto piuttosto drammatico sulla vita in generale - per quanto riguarda l'occupazione e ciò che diamo priorità.

Sì. C'è il dibattito sull'occupazione, che è una sorta di dibattito separato in corso. Ci saranno risorse sufficienti per supportare tutti, quindi c'è il problema di come fare in modo che tutti possano beneficiare di questi sviluppi. Ci sarà una ri-realizzazione di cosa significa lavorare, che tipo di lavoro farà la gente. Ma in linea di principio, le persone avranno più libertà e più tempo per fare attività che amano fare, perché le macchine aiuteranno con molte altre più banali, lavoro -tipo cose. Ci vorrà del tempo, ma crediamo che la società si adatterà e incorporerà lentamente questi cambiamenti.

Questa intervista è stata redatta per chiarezza e brevità.