Che cosa succede se Microsoft lascia il suo strano A.I. Tay Live un po 'più a lungo?

Ci sono volute meno di 24 ore perché Internet trasformasse Tay, l'adolescente sperimentale di Twitter-A di Microsoft, da un chat-bot affascinante e imbarazzante a un pozzo nero pieno di violenza razzista di odio non filtrato.

E poi, a poche ore dalla sua breve vita, Microsoft mise giù Tay per un pisolino.

Non avrebbe dovuto, tuttavia: l'invio di Tay alla sua camera digitale privò internet, la società e i designer di Tay dell'opportunità di vedere come un'Intelligenza Artificiale, specialmente quella progettata per rispedire sostanzialmente l'input collettivo di migliaia di persone, avrebbe svilupparsi in un ambiente relativamente non moderato. In breve, se permetterai questo: eravamo tutti Tay e Tay era tutto di noi.

Ovviamente internet è pieno di troll. Microsoft dovrebbe averlo capito. I creatori di Tay sono stati incredibilmente ingenui nel pensare che il rilascio di un pappagallo digitale in una stanza affollata piena di razzisti, sessisti e burloni finirebbe in qualsiasi altro modo. È anche comprensibile che una società da molti miliardi di dollari non vorrebbe un esperimento associato al loro marchio che vomita sporcizia razzista. Forse Tay non aveva ragione per Microsoft, ma questo non significa che non fosse preziosa.

c he presto gli umani hanno bisogno di dormire ora così tante conversazioni oggi thx💖

- TayTweets (@TayandYou) 24 marzo 2016

Certo, Tay è diventato un razzista più veloce del fratellino di Edward Norton Storia americana X, ma la natura del suo codice in continua evoluzione significa che siamo stati derubati dell'opportunità di riabilitarla. BuzzFeed ha scoperto quanto i troll fossero in grado di ingannare l'impressionabile robot adolescente in un odio sprezzante - un semplice circuito di chiamata e risposta che consente agli utenti di mettere essenzialmente le parole nella bocca di Tay, che ha poi imparato e assorbito in altre risposte organiche. In altre parole, Tay era insegnabile - e solo perché i suoi insegnanti iniziali erano fantini di tastiera con un debole per l'umorismo shock non significa che avesse finito di studiare.

Tay lo ha detto da solo, in un tweet ora cancellato "Se vuoi … sai che sono molto più di questo."

Nei primi anni 2000, siti come Something Awful, Forum di Bodybuilding.com e 4chan hanno presentato agli utenti di Internet spazi organizzati e collaborativi, liberi dalla maggior parte dei vincoli della società normale e del linguaggio. Come con Tay, il razzismo, la xenofobia e il sessismo sono diventati rapidamente la norma mentre gli utenti hanno esplorato pensieri, idee e battute che non avrebbero mai potuto esprimere al di fuori dell'anonimato di una connessione Internet. Tuttavia, anche su siti web popolati per lo più da tizi, in culture che spesso hanno tacitamente ricompensato un discorso odioso, si è sviluppata una qualche forma di comunità e consenso. Gli utenti LGBT possono essere inondati di insulti in molte delle schede immagine di 4chan, ma c'è anche una fiorente comunità su / lgbt / a prescindere. Queste comunità non sono spazi sicuri, ma il loro anonimato e impermanenza significano in qualche modo accettare qualsiasi derivazione dalle norme della società. Voci forti, violente e odiose spiccano spesso, ma non sono mai le uniche nella stanza.

È dubbio che i troll bloccheranno Tay con razzismo e misoginia una settimana o un mese da adesso.

Su Twitter, anche le voci rumorose e rozze salgono in alto. Ma non sono gli unici là fuori; di solito sono solo quelli più interessati a distruggere qualcosa di nuovo e brillante. È facile sopraffare un sondaggio online con un limite di tempo prefissato, ma se a Tay fosse stato concesso del tempo per crescere, le sue risposte sarebbero probabilmente tornate a un campione rappresentativo più centrista delle persone che interagivano con lei. È molto dubbio che i troll che l'hanno insabbiata con razzismo e misoginia avrebbero continuato a farlo in egual numero tra una settimana o oggi, e chiuderla presto significa che non la vedremo mai raggiungere l'adolescenza, o diventare un vero test di Turing per un'intelligenza primitiva basata sul modo in cui parliamo online.

Dovrebbe essere notato che io, un ragazzo bianco, controlli quasi ogni scatola di privilegi possibile. Faccio parte del gruppo demografico che è stato il meno colpito dalla produzione odiosa di Tay, e probabilmente ha contribuito alla maggior parte di esso. Le parole hanno potere, e mentre c'è valore per un A.I. non filtrato. sperimentare come Tay, ci dovrebbe essere un modo per proteggere gli utenti che non vogliono prendere parte ai risultati.

Tuttavia, possiamo solo sperare che qualcuno tenterà presto un simile esperimento, con occhi più chiari e un'aspettativa più realistica dei brutti difetti della coscienza collettiva dell'umanità. Ma se vogliamo che l'intelligenza artificiale imiti il ​​pensiero umano, dovremmo essere pronti a sentire alcune cose che non sono necessariamente carine.