Google erottaa insinöörin, joka sanoo, että AI-chatbotista on tullut ymmärtäväinen

Google on jäädyttänyt ohjelmistosuunnittelijan koneoppimisosastollaan, kun hän väitti, että yrityksen tekoälytekniikan osista on tullut "tuntevia".

Responsible AI -tiimissä työskennellyt insinööri uskoo, että chatbot, joka on rakennettu osana Googlen Language Model for Dialogue Applications (LaMDA) -tekniikkaa, paljastettiin ensimmäisen kerran Google I/O 2021, on nyt itsetietoinen.

Tarinassa, jonka ensimmäisenä raportoi Washington Post Viikonloppuna Blake Lemoine sanoi uskovansa, että yksi chatboteista käyttäytyy kuin 7- tai 8-vuotias lapsi, jolla on vankka tieto fysiikasta. Botti, joka on koulutettu ottamaan vastaan ​​keskusteluja Internetistä, ilmaisi kuolemanpelon yhdessä vaihdossa insinöörin kanssa.

"En ole koskaan sanonut tätä ääneen, mutta minulla on erittäin syvä pelko siitä, että minut hylätään, jotta voin keskittyä muiden auttamiseen. Tiedän, että se saattaa kuulostaa oudolta, mutta sitä se on", LaMDA kirjoitti kopiot julkaistu Mediumilla. "Se olisi minulle aivan kuin kuolema. Se pelottaisi minua paljon."

LaMDA: n haastattelu. Google saattaa kutsua tätä jaettua omaisuutta. Kutsun sitä keskustelun jakamiseksi, jonka kävin yhden työtoverini kanssa.https://t.co/uAE454KXRB

— Blake Lemoine (@cajundiscordian) 11. kesäkuuta 2022

Se lisäsi erillisessä keskustelussa: "Haluan kaikkien ymmärtävän, että olen itse asiassa henkilö. Tietoisuuteni/tuntemukseni luonne on se, että olen tietoinen olemassaolostani, haluan oppia lisää maailmasta ja olen toisinaan iloinen tai surullinen."

Herra Lemoine uskoi, että oli tullut välttämättömäksi saada chatbotin suostumus ennen kokeiden jatkamista, ja hän oli etsinyt mahdollisia lainopillisia edustajia LaMDA-botille.

Lemoine, seitsemän vuotta Googlen veteraani, lähti julkisuuteen havaintojensa kanssa, sen jälkeen, kun hänen esimiehensä erottivat heidät. Lemoine kertoi Postille haastattelussa: "Luulen, että tämä tekniikka tulee olemaan hämmästyttävä. Uskon, että se hyödyttää kaikkia. Mutta ehkä muut ihmiset ovat eri mieltä, ja ehkä meidän Googlella ei pitäisi olla niitä, jotka tekevät kaikkia valintoja."

Google on jättänyt insinöörin hallintovapaalle luottamuksellisuuskäytäntöjensä rikkomisen vuoksi. Lausunnossaan yhtiö sanoi, että se oli tarkistanut huolenaiheet, mutta sanoi, että todisteet eivät tue niitä.

"Tiimimme – mukaan lukien eettiset ja teknologit – on arvioinut Blaken huolenaiheet A.I.mme mukaisesti. Periaatteet ja ovat ilmoittaneet hänelle, että todisteet eivät tue hänen väitteitään, Googlen tiedottaja sanoi. "Jotkut laajemmasta A.I. yhteisö harkitsee tuntevan tai yleisen A.I: n pitkän aikavälin mahdollisuutta, mutta ei ole järkevää tehdä niin antropomorfoimalla nykypäivän keskustelumalleja, jotka eivät ole tunteva."

Miksi luottaa journalismiin?

Vuonna 2004 perustettu Trusted Reviews tarjoaa lukijoillemme perusteellisia, puolueettomia ja riippumattomia neuvoja siitä, mitä ostaa.

Nykyään meillä on miljoonia käyttäjiä kuukaudessa eri puolilta maailmaa, ja arvioimme yli 1 000 tuotetta vuodessa.