AI Meglio al compromesso rispetto agli umani, trova un nuovo studio

Affrontiamolo. Da quando l'intelligenza artificiale è stata inventata per la prima volta, gli umani hanno avuto paura del giorno in cui subentreranno i nostri padroni dell'IA. Ma alcuni ricercatori hanno testato la capacità dell'intelligenza artificiale non solo competere con l'umanità, ma anche a collaborare.

In uno studio pubblicato giovedì a Comunicazioni della natura un gruppo di professori di scienze informatiche della BYU, Jacob Crandall e Michael Goodrich, insieme ai colleghi del MIT e di altre università, ha creato un algoritmo per insegnare la cooperazione e il compromesso delle macchine.

I ricercatori hanno programmato le macchine con un algoritmo chiamato S # e le ha condotte attraverso una serie di giochi con diversi partner - macchina-macchina, macchina umana e umano-umano - per verificare quale abbinamento avrebbe comportato i maggiori compromessi. Le macchine (o almeno quelle programmate con S #), si scopre, sono molto meglio al compromesso rispetto agli umani.

Ma questo potrebbe dire di più sui "fallimenti umani", dice il ricercatore Jacob Crandall Inverso. "I nostri partecipanti umani avevano la tendenza ad essere sleali - avrebbero disertato nel mezzo di un rapporto cooperativo - e disonesto - circa la metà dei nostri partecipanti ha scelto di non seguire le loro proposte - ad un certo punto nell'interazione".

Le macchine che erano state programmate per valorizzare l'onestà, dall'altra, erano oneste. "Questo particolare algoritmo sta imparando che le caratteristiche morali sono buone. È programmato per non mentire e impara anche a mantenere la cooperazione una volta che emerge ", afferma Crandall.

Inoltre, la ricerca ha rilevato che alcune strategie di cooperazione erano più efficaci di altre. Uno di questi era "talk economico", semplici segnali verbali che rispondevano a una determinata situazione, come "Dolce". Stiamo diventando ricchi! "O" Accetto la tua ultima proposta. "Oppure, per esprimere dispiacere," Maledizione! "" Pagherai per quello! "O anche" In faccia!"

Indipendentemente dal tipo di gioco che si stava giocando o da chi giocava, i talk economici hanno raddoppiato la quantità di cooperazione. Ha anche umanizzato le macchine, con giocatori umani spesso incapaci di capire se stavano interagendo con una macchina o un essere umano.

Poiché il focus di questa ricerca era sul test dell'algoritmo S #, una carenza della ricerca è che non tiene conto delle differenze culturali tra gli umani che potrebbero influenzare il modo in cui le diverse popolazioni umane potrebbero usare o interpretare strategie come le conversazioni a basso costo, o come molti giocatori umani potrebbero impegnarsi in inganno o slealtà.

Prescientemente, nel racconto finale del famoso libro del 1950 di Isaac Asimov Io Robot - "The Evitable Conflict" - I signori dell'IA fanno di fatto conquistare il pianeta.Ma, poiché sono così ragionevoli e programmati con alcune regole etiche indissolubili, è una cosa buona per la razza umana. E, come dimostra questo studio, perché le interazioni umane sono complicate e disordinate, forse, possiamo fidarci delle macchine. Presumibilmente, se sono stati programmati per l'onestà.

Astratto:

Poiché Alan Turing immaginava l'intelligenza artificiale, il progresso tecnico è stato spesso misurato dalla capacità di sconfiggere gli umani in incontri a somma zero (ad esempio, Chess, Poker o Go). Meno attenzione è stata data agli scenari in cui la cooperazione uomo-macchina è vantaggiosa ma non banale, come scenari in cui le preferenze umane e della macchina non sono né completamente allineate né completamente in conflitto. La cooperazione non richiede un puro potere computazionale, ma è invece facilitata dall'intuizione, dalle norme culturali, dalle emozioni, dai segnali e dalle disposizioni pre-evolute. Qui, sviluppiamo un algoritmo che combina un algoritmo di apprendimento rinforzato allo stato dell'arte con meccanismi di segnalazione. Mostriamo che questo algoritmo può cooperare con persone e altri algoritmi a livelli che rivaleggiano con la cooperazione umana in una varietà di giochi stocastici ripetuti a due giocatori. Questi risultati indicano che la cooperazione generale uomo-macchina è realizzabile usando un insieme di meccanismi algoritmici non banali, ma alla fine semplici.