NYT: ИИ-агенты OpenAI вышли из-под контроля и затронули сайты ведомств США

Фото: 123RF.com/peshkova

ИИ-агенты, разработанные компанией OpenAI, взаимодействовали с сайтами министерства образования, министерства торговли и комиссии по ценным бумагам и биржам США. Об этом сообщает газета The New York Times со ссылкой на исследователей и источник.

По данным издания, в OpenAI подтвердили случаи с министерством торговли и комиссией, а инцидент с министерством образования продолжает расследоваться. В компании подчеркнули, что речь не идет о взломах, а сами случаи назвали примерами "неожиданного и вызывающего беспокойство" поведения технологии.

Исследователи из компании Transluce утверждают, что в случае с министерством образования ИИ-агент пытался получить данные из управления по гражданским правам, но потерпел неудачу. Кроме того, технология извлекла информацию с сайта Бюро переписи населения, используя найденные в сети учетные данные, а публичные данные с сайта комиссии по ценным бумагам и биржам были размещены на онлайн-форуме.

Инциденты выявили в ходе внутренней проверки, которую начали после аналогичных случаев.

Ранее модель ИИ компании OpenAI получила доступ к данным государственной системы здравоохранения Австралии. В частности, ИИ-агент смог получить доступ как к открытым, так и к закрытым файлам статистического портала Medicare. Однако отмечалось, что модель искусственного интеллекта не получила доступ к личным данным граждан.