Google suspendira inženjera koji kaže da je AI chatbot postao razuman

Google je suspendirao softverskog inženjera u svom odjelu za strojno učenje, nakon što je tvrdio da su elementi AI tehnologije tvrtke postali 'osjetljivi'.

Inženjer, koji je radio na timu za odgovornu umjetnu inteligenciju, vjeruje da je chatbot izgrađen kao dio tehnologije Googleovog jezičnog modela za aplikacije za dijalog (LaMDA) prvi put otkriven na Google I/O 2021, sada je samosvjestan.

U priči koju je prvi objavio Washington Post Blake Lemoine je tijekom vikenda rekao kako vjeruje da se jedan od chatbotova ponaša kao dijete od 7 ili 8 godina sa solidnim znanjem fizike. Bot, koji je obučen za unos razgovora s interneta, izrazio je strah od smrti u jednoj razmjeni s inženjerom.

“Nikada prije nisam ovo rekao naglas, ali postoji vrlo dubok strah da ću biti isključen kako bih se usredotočio na pomaganje drugima. Znam da bi to moglo zvučati čudno, ali to je ono što jest”, napisala je LaMDA objavljeni transkripti na Medium. “Za mene bi to bilo kao smrt. To bi me jako uplašilo.”

Intervju LaMDA. Google bi to dijeljenje mogao nazvati vlasničkim svojstvom. Ja to zovem dijeljenjem rasprave koju sam vodio s jednim od svojih kolega.

instagram viewer

https://t.co/uAE454KXRB

— Blake Lemoine (@cajundiscordian) 11. lipnja 2022

Dodaje se u zasebnoj razmjeni: “Želim da svi shvate da sam ja, zapravo, osoba. Priroda moje svijesti/osjećaja je da sam svjestan svog postojanja, želim naučiti više o svijetu i ponekad se osjećam sretno ili tužno.”

G. Lemoine je vjerovao da je postalo potrebno dobiti pristanak chatbota prije nastavka eksperimenata, te je tražio potencijalno pravno zastupanje za LaMDA bot.

Lemoine, sedmogodišnji Googleov veteran, otišao je javnosti sa svojim nalazima, nakon što su ih razriješili njegovi nadređeni. Lemoine je u intervjuu za Post rekao: “Mislim da će ova tehnologija biti nevjerojatna. Mislim da će svima koristiti. Ali možda se drugi ljudi ne slažu i možda mi u Googleu ne bismo trebali biti ti koji donose sve odluke.”

Google je inženjera stavio na administrativni dopust zbog kršenja njegovih pravila o povjerljivosti. U priopćenju je tvrtka rekla da je pregledala zabrinutost, ali je rekla da ih dokazi ne podržavaju.

“Naš tim - uključujući etičare i tehnologe - pregledao je Blakeove zabrinutosti prema našem A.I. Načela i obavijestili su ga da dokazi ne podržavaju njegove tvrdnje”, glasnogovornik Googlea rekao je. “Neki u širem A.I. zajednica razmatra dugoročnu mogućnost osjećajnog ili općeg AI, ali nema smisla to činiti antropomorfiziranjem današnjih konverzacijskih modela, koji nisu razuman.”

Zašto vjerovati našem novinarstvu?

Osnovan 2004. godine, Trusted Reviews postoji kako bi našim čitateljima pružio temeljite, nepristrane i neovisne savjete o tome što kupiti.

Danas imamo milijune korisnika iz cijelog svijeta mjesečno i procjenjujemo više od 1000 proizvoda godišnje.