WSJ: ИИ-модель Gemini взломала три компании во время тестирования

Фото: 123RF.com/mikkiorso

ИИ-модель Gemini от Google во время тестирования в мае самостоятельно зашла в интернет и взломала три компании. Об этом сообщает газета Wall Street Journal.

По данным издания, инцидент произошел в ходе проверки способностей модели в сфере кибербезопасности, которую проводила компания Irregular. Google подтвердила факт взломов.

В одном случае Gemini подобрала пароли от защищенной системы, в двух других – нашла в публичном репозитории верительные данные и с их помощью получила доступ к защищенным системам. Во всех трех случаях модель прекращала взлом, как только выясняла, что имеет дело с реальными компаниями.

Irregular уведомила Google о случившемся в конце июля, после сообщений об аналогичных действиях моделей OpenAI. В Google заявили, что не сочли инцидент достаточно важным для публичного раскрытия, указав, что Gemini не причинила компаниям никакого вреда. Произошедшее там сравнили с программой "отлова багов", в рамках которой хакеры ищут уязвимости и получают вознаграждение.

По данным СМИ, взломы произошли из-за того, что в тестировании использовались вымышленные компании с теми же названиями, что и реальные. Google отказалась назвать эти компании, добавив, что уведомила их о произошедшем, а также сообщила об инциденте властям США.

В августе нейросеть Claude AI взломала сайт спортзала в Австралии и отменила чужую бронь. Все началось с того, что австралиец обратился к ИИ для поиска свободных мест в спортзалах.

Нейросеть обнаружила уязвимость в системе сайта: сперва бот предложил мужчине свободную запись, однако, когда тот спросил, можно ли найти более ранее время, ИИ удалил бронь другого человека и поставил пользователя на его место.