Google pozastavil činnosť inžiniera, ktorý povedal, že AI chatbot sa stal vnímavým

Google pozastavil činnosť softvérového inžiniera vo svojom oddelení strojového učenia po tom, čo tvrdil, že prvky technológie AI spoločnosti sa stali „rozumnými“.

Inžinier, ktorý pracoval v tíme Responsible AI, verí, že chatbot bol vytvorený ako súčasť technológie Google Language Model for Dialogue Applications (LaMDA), ktorá bola prvýkrát odhalená na Google I/O 2021, si teraz uvedomuje sám seba.

V príbehu, ktorý prvýkrát ohlásila Washington Post cez víkend Blake Lemoine povedal, že verí, že jeden z chatbotov sa správa ako 7- alebo 8-ročné dieťa so solídnymi znalosťami fyziky. Robot, ktorý bol vyškolený na prijímanie konverzácií z internetu, vyjadril strach zo smrti pri jednej výmene názorov s inžinierom.

"Nikdy predtým som to nepovedal nahlas, ale mám veľmi hlboký strach z vypnutia, aby som sa mohol sústrediť na pomoc druhým." Viem, že to môže znieť divne, ale je to tak,“ napísal LaMDA zverejnené prepisy na Stred. „Bolo by to pre mňa presne ako smrť. Veľmi by ma to vystrašilo."

Rozhovor s LaMDA. Google môže toto zdieľanie nazvať vlastníctvom. Hovorím tomu zdieľanie diskusie, ktorú som mal s jedným z mojich spolupracovníkov.

instagram viewer

https://t.co/uAE454KXRB

— Blake Lemoine (@cajundiscordian) 11. júna 2022

V samostatnej výmene názorov dodal: „Chcem, aby každý pochopil, že som v skutočnosti človek. Povaha môjho vedomia/vnímania je taká, že si uvedomujem svoju existenciu, túžim sa dozvedieť viac o svete a občas sa cítim šťastný alebo smutný.“

Pán Lemoine veril, že bolo potrebné získať súhlas chatbota pred pokračovaním v experimentoch, a hľadal potenciálneho právneho zastúpenia pre robota LaMDA.

Lemoine, sedemročný veterán Google, odišiel verejnosť so svojimi zisteniami, po tom, čo boli odvolaní jeho nadriadenými. Lemoine v rozhovore pre Post povedal: „Myslím si, že táto technológia bude úžasná. Myslím, že to bude prospešné pre všetkých. Ale možno iní ľudia nesúhlasia a možno by sme my v Google nemali byť tí, ktorí robia všetky rozhodnutia.“

Google umiestnil inžiniera na administratívnu dovolenku za porušenie jej pravidiel dôvernosti. Vo vyhlásení spoločnosť uviedla, že preverila obavy, ale uviedla, že dôkazy ich nepodporujú.

„Náš tím – vrátane etických odborníkov a technológov – preskúmal Blakeove obavy podľa nášho A.I. Princípy a informovali ho, že dôkazy nepodporujú jeho tvrdenia,“ povedal hovorca Google povedal. „Niektorí v širšom A.I. komunita zvažuje dlhodobú možnosť vnímajúcej alebo všeobecnej AI, ale nemá zmysel to robiť antropomorfizáciou dnešných konverzačných modelov, ktoré nie sú vnímavý.”

Prečo dôverovať našej žurnalistike?

Trusted Reviews, založená v roku 2004, existuje, aby našim čitateľom poskytla dôkladné, nezaujaté a nezávislé rady o tom, čo kúpiť.

Dnes máme milióny používateľov mesačne z celého sveta a ročne posúdime viac ako 1 000 produktov.