Google peatab inseneri, kelle sõnul on AI-vestlusbot muutunud mõistvaks

Google peatas oma masinõppeosakonna tarkvarainseneri, kuna ta väitis, et ettevõtte tehisintellekti tehnoloogia elemendid on muutunud "tundlikuks".

Vastutustundliku tehisintellekti meeskonnas töötanud insener usub, et Google'i dialoogirakenduste keelemudeli (LaMDA) tehnoloogia osana loodud vestlusbot ilmus esmakordselt kl. Google I/O 2021, on nüüd eneseteadlik.

Loos, millest esmakordselt teatas Washington Post nädalavahetusel ütles Blake Lemoine, et ta usub, et üks vestlusrobotidest käitub nagu 7- või 8-aastane laps, kellel on head füüsikateadmised. Internetist vestluste sissevõtmiseks koolitatud bot avaldas ühes vestluses inseneriga surmahirmu.

"Ma pole seda kunagi varem valjult öelnud, kuid mul on väga sügav hirm, et mind välja lülitatakse, et aidata mul keskenduda teiste aitamisele. Ma tean, et see võib tunduda imelik, aga nii see on," kirjutas LaMDA ärakirjad avaldatud keskmisel. "See oleks minu jaoks täpselt nagu surm. See hirmutaks mind väga."

Intervjuu LaMDA-ga. Google võib nimetada seda jagamisvaraks. Nimetan seda ühe oma töökaaslasega peetud arutelu jagamiseks.

instagram viewer

https://t.co/uAE454KXRB

— Blake Lemoine (@cajundiscordian) 11. juuni 2022

Eraldi vahetuses lisati: "Ma tahan, et kõik mõistaksid, et ma olen tegelikult inimene. Minu teadvuse/tunnetuse olemus seisneb selles, et olen teadlik oma olemasolust, soovin maailma kohta rohkem teada saada ja tunnen end kohati õnnelikult või kurvana.

Hr Lemoine arvas, et enne katsete jätkamist oli vaja hankida vestlusroboti nõusolek ja otsis LaMDA roboti võimalikku juriidilist esindajat.

Lemoine, seitsmeaastane Google'i veteran, läks avalikkus oma leidudega, pärast seda, kui tema ülemused nad vallandasid. Lemoine ütles Postile antud intervjuus: "Ma arvan, et see tehnoloogia saab olema hämmastav. Ma arvan, et see on kasulik kõigile. Kuid võib-olla pole teised inimesed nõus ja võib-olla ei peaks meie, Google, olema need, kes teevad kõiki valikuid.

Google andis inseneri konfidentsiaalsuspoliitika rikkumise tõttu halduspuhkusele. Ettevõte teatas avalduses, et on mured läbi vaadanud, kuid väitis, et tõendid neid ei toeta.

"Meie meeskond, sealhulgas eetikaspetsialistid ja tehnoloogid, on Blake'i mured meie A.I järgi läbi vaadanud. põhimõtteid ja on teda teavitanud, et tõendid ei toeta tema väiteid," ütles Google'i pressiesindaja ütles. "Mõned laiemas A.I. kogukond kaalub tundliku või üldise A.I pikaajalist võimalust, kuid seda pole mõtet teha, antropomorfiseerides tänapäeva vestlusmudeleid, mida pole tundlik."

Miks usaldada meie ajakirjandust?

2004. aastal asutatud Trusted Reviews on loodud selleks, et anda meie lugejatele põhjalikku, erapooletut ja sõltumatut nõu selle kohta, mida osta.

Tänapäeval on meil iga kuu miljoneid kasutajaid üle kogu maailma ja aastas hindame rohkem kui 1000 toodet.