Can you solve the rogue AI riddle? - Dan Finkel
Come fermiamo un futuro A.I. dal disobbedire agli ordini e scegliere di andare per la sua strada? Potrebbe sembrare la trama di 2001: Odissea nello spazio, ma un esperto sostiene che è qualcosa che potremmo già dover iniziare a pensare. Certo, potremmo disattivare l'algoritmo di ricerca di Google se mai è diventato un ladro, ma di fronte a conseguenze finanziarie e legali, può essere più facile a dirsi che a farsi. In futuro, dal momento che dipendiamo dalla più avanzata A.I., potrebbe rivelarsi impossibile.
"Questo algoritmo non ha deliberatamente progettato si essere impossibile da riavviare o spegnere, ma è co-evoluto per essere così ", ha detto Stuart Armstrong, ricercatore presso il Future of Humanity Institute, al Pirate Summit 2016 di mercoledì. Ciò significa che un cambiamento con risultati involontari potrebbe essere difficile da rettificare e potrebbe non essere il primo A.I. per trovarsi in quella situazione.
La soluzione di Isaac Asimov erano le tre leggi della robotica, che codifica in modo rigido idee che non causano danni agli esseri umani. Il problema è che il danno è piuttosto soggettivo e aperto all'interpretazione. Gli umani lavorano più su valori, come capire che è male causare danni e interpretare la situazione, piuttosto che lavorare su qualche regola difficile che non dovrebbero mai danneggiare.
"È a causa di questo tipo di problema che le persone sono molto più entusiaste ora di utilizzare l'apprendimento automatico per ottenere valori piuttosto che tentare di codificarli in questo modo tradizionale", ha affermato Armstrong. "I valori sono stabili in un modo che altre cose non sono in A.I. I valori si difendono intrinsecamente."
Ma anche in queste situazioni, è importante progettare A.I. per renderli interrompibili mentre stanno correndo. L'interruzione sicura consente modifiche sicure delle policy, che possono evitare conseguenze indesiderate dai valori appresi. Se HAL 9000 ha mai provato a impedire l'apertura delle porte del vano pod, è importante poter identificare che i valori di A.I. sono incasinati e intervenire senza portare il sistema offline.
L'effetto zeno quantico spiega come puoi fermare il tempo usando la fisica
C'è un vecchio detto tra i fisici del cocktail party: "Il tempo vola come una freccia; il frutto vola come una banana. "Questo è vero per metà. La fisica quantistica non riguarda i gusti degli insetti, ma fa cavillare l'idea del tempo unidirezionale. La fisica quantistica afferma che il tempo è semplicemente un'altra dimensione, intendendo ...
WikiLeaks dice agli hacker di imitare Zuckerberg invece di derubarli
Martedì WikiLeaks si è trovata soggetta a un attacco DDoS di due ore da parte di un gruppo di hacker che si descrive come una società di sicurezza. Conosciuto come OurMine, il gruppo si è fatto un nome grazie all'hacking di alcuni degli account con il profilo più alto nel mondo della tecnologia. Obiettivi passati includono gli account Twitter CEO di Facebook M ...
Perché non possiamo sentire i nostri cuori battere? Ecco come il nostro cervello abbassa il volume
Pensa alle volte in cui sei stato in grado di percepire il tuo cuore - il puttering, il lub-dub dopo un allenamento esaustivo o un momento adrenalinico. Se sei sano, questi dovrebbero essere i rari momenti in cui sei consapevole del tuo battito cardiaco. È stato precedentemente ipotizzato che ciò sia dovuto al cervello, ma fino ad ora ...