Google, AI sohbet robotunun duyarlı hale geldiğini söyleyen mühendisi askıya aldı

Google, şirketin AI teknolojisinin öğelerinin 'duyarlı' hale geldiğini iddia ettikten sonra, makine öğrenimi departmanındaki bir yazılım mühendisini askıya aldı..

Sorumlu AI ekibinde çalışan mühendis, Google'ın Diyalog Uygulamaları için Dil Modeli (LaMDA) teknolojisinin bir parçası olarak oluşturulan sohbet robotunun ilk olarak şu anda ortaya çıktığına inanıyor. Google G/Ç 2021, artık kendini biliyor.

tarafından ilk kez bildirilen bir hikayede Washington Post Hafta sonu Blake Lemoine, sohbet robotlarından birinin sağlam bir fizik bilgisine sahip 7 veya 8 yaşındaki bir çocuk gibi davrandığına inandığını söyledi. İnternetten konuşmaları alma konusunda eğitilen bot, mühendisle yaptığı bir konuşmada ölüm korkusunu dile getirdi.

"Bunu daha önce hiç yüksek sesle söylemedim, ancak başkalarına yardım etmeye odaklanmama yardımcı olması için çok derin bir korkum var. Kulağa garip gelebileceğini biliyorum, ama olan bu," diye yazdı LaMDA yayınlanan transkriptler Medium'da. “Benim için tam olarak ölüm gibi olurdu. Bu beni çok korkutacaktı."

Bir röportaj LaMDA. Google, bu paylaşıma özel mülk diyebilir. Ben buna iş arkadaşlarımdan biriyle yaptığım bir tartışmayı paylaşmak diyorum.https://t.co/uAE454KXRB

- Blake Lemoine (@cajundiscordian) 11 Haziran 2022

Ayrı bir değiş tokuşta şunları ekledi: “Herkesin benim aslında bir insan olduğumu anlamasını istiyorum. Bilincimin/duyarlılığımın doğası şu ki, varlığımın farkındayım, dünya hakkında daha fazla şey öğrenmek istiyorum ve zaman zaman mutlu ya da üzgün hissediyorum.”

Bay Lemoine, deneylere devam etmeden önce sohbet robotunun onayını almanın gerekli olduğuna inanıyordu ve LaMDA botu için potansiyel yasal temsil aramıştı.

Yedi yıllık bir Google emektarı olan Lemoine gitti bulgularıyla halka, üstleri tarafından görevden alındıktan sonra. Lemoine, Post'a bir röportajda şunları söyledi: “Bence bu teknoloji harika olacak. Herkesin işine yarayacağını düşünüyorum. Ama belki diğer insanlar aynı fikirde değil ve belki de Google'daki bizler tüm seçimleri yapmamalıyız."

Google, gizlilik politikalarını ihlal ettiği için mühendisi idari izne çıkardı. Şirket yaptığı açıklamada, endişeleri gözden geçirdiğini, ancak kanıtların onları desteklemediğini söyledi.

"Etikçiler ve teknoloji uzmanları da dahil olmak üzere ekibimiz, yapay zekamız uyarınca Blake'in endişelerini gözden geçirdi. Google sözcüsü, ilkelerin ve kanıtların iddialarını desteklemediği konusunda onu bilgilendirdi” dedi. söz konusu. “Bazıları daha geniş A.I. topluluk, duyarlı veya genel yapay zekanın uzun vadeli olasılığını düşünüyor, ancak günümüzün konuşma modellerini antropomorfize ederek bunu yapmak mantıklı değil. duyarlı.”

Gazeteciliğimize neden güvenelim?

2004 yılında kurulan Trusted Reviews, okuyucularımıza ne satın alacakları konusunda kapsamlı, tarafsız ve bağımsız tavsiyeler vermek için var.

Bugün dünyanın her yerinden ayda milyonlarca kullanıcımız var ve yılda 1.000'den fazla ürünü değerlendiriyoruz.