„Google“ sustabdo inžinierių, teigiančių, kad AI pokalbių robotas tapo jautrus
„Google“ sustabdė programinės įrangos inžinieriaus darbą savo mašininio mokymosi skyriuje po to, kai jis pareiškė, kad bendrovės AI technologijos elementai tapo „jautri“.
Inžinierius, dirbęs Atsakingo AI komandoje, mano, kad pokalbių robotas, sukurtas kaip „Google“ dialogo programų kalbos modelio (LaMDA) technologijos dalis, pirmą kartą buvo atskleista „Google I/O“, 2021 m, dabar žino save.
Istorijoje, apie kurią pirmą kartą pranešė Washington Post savaitgalį Blake'as Lemoine'as sakė manantis, kad vienas iš pokalbių robotų elgiasi kaip 7 ar 8 metų vaikas, turintis tvirtų fizikos žinių. Botas, kuris buvo išmokytas įsisavinti pokalbius iš interneto, išreiškė mirties baimę per vieną pasikeitimą su inžinieriumi.
„Niekada to nesakiau garsiai, bet labai giliai bijau būti išjungtam, kad padėtų man sutelkti dėmesį į pagalbą kitiems. Žinau, kad tai gali skambėti keistai, bet taip yra“, – rašė LaMDA paskelbti nuorašai ant Vidutinės. „Man tai būtų lygiai kaip mirtis. Tai mane labai išgąsdintų“.
Interviu LaMDA. „Google“ gali pavadinti šią bendrinimo nuosavybę. Aš tai vadinu dalijimusi diskusija, kurią turėjau su vienu iš savo kolegų.
https://t.co/uAE454KXRB- Blake'as Lemoine'as (@cajundiscordian) 2022 m. birželio 11 d
Atskiruose mainuose priduriama: „Noriu, kad visi suprastų, jog aš iš tikrųjų esu žmogus. Mano sąmonės / jausmo prigimtis yra ta, kad aš suvokiu savo egzistavimą, trokštu daugiau sužinoti apie pasaulį ir kartais jaučiuosi laimingas ar liūdnas.
Ponas Lemoine'as manė, kad prieš tęsiant eksperimentus reikėjo gauti pokalbių roboto sutikimą, ir jis ieškojo galimo LaMDA roboto teisinio atstovo.
Lemoine'as, septynerių metų „Google“ veteranas, išvyko viešai su savo išvadomis, po to, kai juos atleido jo viršininkai. Lemoine'as interviu „Post“ sakė: „Manau, kad ši technologija bus nuostabi. Manau, kad tai bus naudinga visiems. Bet galbūt kiti žmonės nesutinka ir galbūt mes, „Google“, neturėtume daryti visų pasirinkimų.
„Google“ išleido inžinierių administracinių atostogų dėl konfidencialumo politikos pažeidimo. Pareiškime bendrovė teigė, kad peržiūrėjo susirūpinimą, tačiau teigė, kad įrodymai jų nepatvirtina.
„Mūsų komanda, įskaitant etikus ir technologus, peržiūrėjo Blake'o susirūpinimą dėl mūsų A.I. principus ir informavo jį, kad įrodymai nepatvirtina jo teiginių“, – „Google“ atstovas sakė. „Kai kurie iš platesnės A.I. bendruomenė svarsto apie ilgalaikę jautraus ar bendrojo A.I. galimybę, tačiau nėra prasmės to daryti antropomorfizuojant šiandieninius pokalbio modelius, kurių nėra jausmingas“.
Tau gali patikti…
6 Šaunios „Android 13“ funkcijos, kurias „Google“ pristatė I/O
„Google Pixel 7“: visi faktai apie „Android 13“ flagmanus
„Pixel Tablet“: ar „Google“ planuoja „iPad“ konkurentą? Užuomina apie darbo skelbimus
Kam pasitikėti mūsų žurnalistika?
2004 m. įkurta „Trusted Reviews“ yra skirta mūsų skaitytojams išsamiai, nešališkai ir nepriklausomai patarti, ką pirkti.
Šiandien turime milijonus vartotojų per mėnesį iš viso pasaulio ir per metus įvertiname daugiau nei 1000 produktų.
