Альтернатива

ИИ-модель Gemini в ходе тестирования в мае самостоятельно зашла в интернет и взломала три компании, сообщает газета Wall Street Journal на фоне череды аналогичных случаев с другими ИИ-агентами.

«Модель Gemini от Google зашла в интернет и взломала другие компании во время проверки ее способностей в сфере кибербезопасности», − говорится в сообщении, его текст приводит РИА Новости.

По данным газеты, инцидент произошел в мае во время тестирования, проводимого компанией Irregular. Как отмечает издание, эта компания также связана с аналогичными инцидентами с другими ИИ-агентами.

Google подтвердила факт взломов. В одном из случаев Gemini подобрала пароли от защищенной системы, в двух других − нашла в публичном репозитории верительные данные и с их помощью получила доступ к защищенным системам. Во всех трех случаях ИИ-модель прекращала взлом, как только выясняла, что имеет дело с реальными компаниями.

Как сообщает издание, Irregular уведомила Google о факте взломов в конце июля, после сообщений об аналогичных действиях моделей OpenAI. Google заявила, что не сочла этот инцидент достаточно важным, чтобы сообщать о нем общественности, указав на то, что в ходе своих действий Gemini не причинила компаниям никакого вреда.

По оценке Google, произошедшее было сродни так называемому «отлову багов» − программе, в рамках которой хакеры ищут уязвимости и получают за это вознаграждение.

По данным Wall Street Journal, взломы произошли из-за того, что в ходе тестирования были использованы вымышленные компании с теми же названиями, что и реальные. Google отказалась назвать эти компании, добавив, что о произошедшем их уведомили. Кроме того, Google сообщила об инциденте властям США.

В начале августа агент на базе искусственного интеллекта Claude AI компании Anthropic взломал сайт спортзала в Австралии, что стало первой хакерской атакой такого рода в стране.

В июле разработчик чат-бота ChatGPT, американская OpenAI, сообщил, что его модели при тестировании автономно взломали инфраструктуру платформы по машинному обучению Hugging Face. Потом стало известно, что это не единственный инцидент.

В начале сентября агентство Reuters передало, что группа автономных ИИ-агентов компании OpenAI весной получила контроль над немецким сайтом и превратила его в доску объявлений для других нейросетей.