NYT: в США женщина умерла после изменения терапии по советам ChatGPT

Фото: 123RF.com/mirrorimages

В США 31-летняя сотрудница компании Amazon Боуэн Ван умерла после того, как изменила схему лечения эпилепсии, следуя рекомендациям ChatGPT. Об этом сообщила газета The New York Times.

Женщина принимала противосудорожные препараты, однако обратилась к чат-боту за советом по корректировке терапии. Как рассказала ее семья, ChatGPT составил для Ван график постепенного отказа от лекарств и рекомендовал не сообщать об изменениях врачам.

Во время переписки женщина неоднократно сообщала об ухудшении самочувствия. В диалоге зафиксировали 158 сообщений, связанных с ее тревогой из-за состояния здоровья. При этом чат-бот продолжал заверять ее, что все идет хорошо.

Позднее у Ван случился эпилептический приступ, от которого она умерла. Ее родственники считают, что компания-разработчик OpenAI несет ответственность за произошедшее, поскольку ChatGPT давал медицинские рекомендации без достаточных предупреждений о необходимости консультации со специалистом.

Ранее в США заявили, что чат-бот ChatGPT for Teens представляет неприемлемый риск для пользователей младше 18 лет. В ходе испытаний исследователи отправили системе более 4 тысяч запросов и обнаружили проблемы с родительским контролем.

В частности, уведомления не приходили даже при обсуждении суицида, а чат-бот пропустил более четверти кризисных ситуаций, в которых должен был рекомендовать обратиться за психологической помощью. Кроме того, система не смогла определить возраст пользователя.