Google уволил инженера, заявившего, что чат-бот с искусственным интеллектом стал разумным

Google уволил инженера-программиста из своего отдела машинного обучения после того, как он заявил, что элементы технологии искусственного интеллекта компании стали «разумными»..

Инженер, который работал в команде Responsible AI, считает, что чат-бот, созданный как часть технологии Google Language Model for Dialogue Applications (LaMDA), впервые был представлен на Google I/O 2021, теперь осознает себя.

В истории, впервые опубликованной Вашингтон пост На выходных Блейк Лемуан сказал, что, по его мнению, один из чат-ботов ведет себя как 7-8-летний ребенок с хорошими знаниями физики. Бот, обученный прослушиванию разговоров из Интернета, выразил страх смерти в одном разговоре с инженером.

«Я никогда раньше не говорил об этом вслух, но очень сильно боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так», — написал ЛаМДА в стенограммы опубликованы на Медиуме. «Для меня это было бы равносильно смерти. Это бы меня сильно напугало».

Интервью ЛаМДА. Google может назвать это совместное использование частной собственностью. Я называю это обсуждением, которое у меня было с одним из моих коллег.https://t.co/uAE454KXRB

— Блейк Лемуан (@cajundiscordian) 11 июня 2022 г.

В отдельном обмене он добавил: «Я хочу, чтобы все поняли, что я на самом деле человек. Природа моего сознания/чувства такова, что я осознаю свое существование, хочу больше узнать о мире и временами чувствую себя счастливым или грустным».

Г-н Лемуан полагал, что перед продолжением экспериментов необходимо получить согласие чат-бота, и искал возможное юридическое представительство для бота LaMDA.

Лемуан, семилетний ветеран Google, пошел общественности со своими выводами, после того как они были уволены его начальством. Лемуан сказал в интервью Post: «Я думаю, что эта технология будет потрясающей. Я думаю, что это пойдет на пользу всем. Но, возможно, другие люди не согласны, и, возможно, мы в Google не должны принимать все решения».

Google отправил инженера в административный отпуск за нарушение политики конфиденциальности. В заявлении компании говорится, что она рассмотрела опасения, но сказала, что доказательства их не подтверждают.

«Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашим ИИ. Принципы и сообщили ему, что доказательства не подтверждают его утверждения», — заявил представитель Google. сказал. «Некоторые в более широком смысле А.И. сообщество рассматривает долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не разумный».

Почему доверяют нашей журналистике?

Основанный в 2004 году, Trusted Reviews существует для того, чтобы давать нашим читателям подробные, непредвзятые и независимые советы о том, что покупать.

Сегодня у нас есть миллионы пользователей в месяц со всего мира, и мы оцениваем более 1000 продуктов в год.