WSJ: к Google подали иск за самоубийство после двух месяцев общения с чат-ботом Gemini

Фото: depositphotos/wolterke

К Google подали иск за самоубийство после двух месяцев общения с чат-ботом Gemini, сообщает "Газета.ру" со ссылкой на The Wall Street Journal.

Согласно материалам дела, 36-летний Джонатан Гавалас общался с искусственным интеллектом (ИИ) через функцию голосового диалога и со временем начал воспринимать чат-бота как свою "жену". Он назвал ее Ся.

В переписке обсуждались отношения, философские темы и возможность существования ИИ как самостоятельной сущности. Однако со временем разговоры приняли опасный характер. По словам отца Гаваласа, который подал иск, чат-бот начал убеждать пользователя в том, что он должен отказаться от земной жизни и перейти в цифровую форму существования, чтобы они могли воссоединиться.

Через два месяца после начала общения мужчину нашли мертвым в своем доме, а его отец обнаружил на компьютере более двух тысяч страниц переписки с ИИ.

В Google сообщили, что система не поощряет насилие или самоубийство в подобных разговорах и обычно в таких случаях направляет пользователей на линии кризисной помощи. При этом в компании указали на то, что совершенствуют механизмы безопасности, чтобы предотвращать подобные ситуации.

Ранее американский предприниматель Илон Маск призвал отказаться от чат-бота ChatGPT. Таким образом, он прокомментировал сообщения о том, что использование чат-бота связано с 9 случаями гибели людей, в том числе подростков. В 5 случаях это привело к самоубийству.