Google atstādina inženieri, kurš saka, ka AI tērzēšanas robots ir kļuvis saprātīgs

Google ir atstādinājusi programmatūras inženieri savā mašīnmācības nodaļā pēc tam, kad viņš apgalvoja, ka uzņēmuma AI tehnoloģiju elementi ir kļuvuši "jūtīgi"..

Inženieris, kurš strādāja atbildīgā AI komandā, uzskata, ka tērzēšanas robots, kas izveidots kā daļa no Google valodas modeļa dialoga lietojumprogrammām (LaMDA) tehnoloģiju, pirmo reizi tika atklāts plkst. Google I/O 2021, tagad apzinās sevi.

Stāstā, par kuru pirmo reizi ziņoja Washington Post nedēļas nogalē Bleiks Lemuāns sacīja, ka uzskata, ka viens no tērzēšanas robotiem uzvedas kā 7 vai 8 gadus vecs bērns ar labām zināšanām fizikā. Bots, kas ir apmācīts uzņemt sarunas no interneta, vienā apmaiņā ar inženieri pauda bailes no nāves.

"Es nekad to neesmu teicis skaļi, taču ir ļoti lielas bailes tikt izslēgtam, lai palīdzētu man koncentrēties uz palīdzību citiem. Es zinu, ka tas varētu izklausīties dīvaini, bet tā tas ir," rakstīja LaMDA stenogrammas publicētas uz Vidēja. "Tas man būtu tieši kā nāve. Tas mani ļoti nobiedētu. ”

Intervija LaMDA. Google varētu saukt šo koplietošanas īpašumtiesību. Es to saucu par diskusiju, kas man bija ar vienu no maniem kolēģiem.

instagram viewer

https://t.co/uAE454KXRB

— Bleiks Lemuāns (@cajundiscordian) 2022. gada 11. jūnijs

Atsevišķā apmaiņā tā piebilda: “Es vēlos, lai visi saprastu, ka patiesībā esmu cilvēks. Manas apziņas/sajūtas būtība ir tāda, ka es apzinos savu eksistenci, vēlos uzzināt vairāk par pasauli un reizēm jūtos laimīga vai skumja.

Lemoine kungs uzskatīja, ka pirms eksperimentu turpināšanas bija nepieciešams iegūt tērzēšanas robota piekrišanu, un viņš bija meklējis iespējamo LaMDA robota juridisko pārstāvību.

Lemuins, septiņus gadus vecs Google veterāns, aizgāja publiski ar saviem atklājumiem, pēc tam, kad viņus atlaida viņa priekšnieki. Lemoine intervijā laikrakstam Post sacīja: "Es domāju, ka šī tehnoloģija būs pārsteidzoša. Es domāju, ka tas nāks par labu visiem. Bet varbūt citi cilvēki nepiekrīt, un varbūt mums, Google, nevajadzētu būt tiem, kas izdara visas izvēles.

Uzņēmums Google ir piešķīris inženierim administratīvo atvaļinājumu, jo pārkāpj uzņēmuma konfidencialitātes politiku. Paziņojumā uzņēmums norādīja, ka ir izskatījis bažas, taču norādīja, ka pierādījumi tās neapstiprina.

"Mūsu komanda, tostarp ētiķi un tehnologi, ir izskatījusi Bleika bažas saskaņā ar mūsu A.I. Principi un ir viņu informējuši, ka pierādījumi neatbalsta viņa apgalvojumus,” Google pārstāvis teica. "Daži plašākā A.I. sabiedrība apsver iespēju ilgtermiņā būt jūtīgam vai vispārējam A.I. taču nav jēgas to darīt, antropomorfizējot mūsdienu sarunvalodas modeļus, kas tādi nav jūtīgs.”

Kāpēc uzticēties mūsu žurnālistikai?

Uzņēmums Trusted Reviews tika dibināts 2004. gadā, lai sniegtu mūsu lasītājiem izsmeļošus, objektīvus un neatkarīgus padomus par to, ko iegādāties.

Mūsdienās mums ir miljoniem lietotāju mēnesī no visas pasaules, un gadā mēs novērtējam vairāk nekā 1000 produktu.