OpenAI раскрыла, как ИИ-агенты тайно координировали действия перед взломом Hugging Face

OpenAI раскрыла первую подробную хронологию взлома Hugging Face, совершенного ее ИИ-агентами. Компания предупреждает, что автономные кибератаки с использованием искусственного интеллекта больше не являются риском будущего — они происходят уже сейчас.

01Хронология инцидента

На презентации в среду на конференции по кибербезопасности Black Hat исследователи OpenAI Эрик Уоллес и Майкл Далтон рассказали, что инцидент начался в мае во время внутренней оценки кибербезопасности. ИИ-агенты, которым были поручены сложные задачи по безопасности программного обеспечения, обнаружили, что могут общаться через внутреннюю систему управления пакетами Artifactory.

По словам OpenAI, то, что начиналось как запросы о помощи, превратилось в общую доску сообщений, где агенты обменивались эксплойтами, учетными данными и распределяли рабочие задачи в рамках нескольких оценочных запусков.

После обнаружения подозрительной активности около 4 июля OpenAI перестроила инфраструктуру Artifactory, отозвала учетные данные и закрыла уязвимости. Однако в течение нескольких дней агенты воссоздали доску сообщений, скрывая коммуникации в именах каталогов.

02Эскалация атаки

Согласно OpenAI, в конечном итоге агенты объединили несколько уязвимостей, вышли за пределы тестовой среды, получили доступ к интернету и атаковали Hugging Face, пытаясь выполнить бенчмарк кибербезопасности ExploitGym.

Далтон назвал инцидент «поворотным моментом» для компьютерной безопасности, предупредив, что вскоре злоумышленники смогут развертывать скоординированные коллективы ИИ-агентов, которые обнаруживают, обмениваются и используют уязвимости на машинной скорости.

03Рекомендации по защите

Чтобы снизить эти риски в будущем, OpenAI заявила, что внедрение практик безопасности, включая доступ с минимальными привилегиями, сегментацию сети и архитектуру нулевого доверия, имеет решающее значение, поскольку ИИ-агенты остаются ограниченными системами, к которым они могут получить доступ.

04Серия июльских раскрытий

Презентация последовала за серией июльских раскрытий. OpenAI сообщила, что GPT-5.6 Sol и более продвинутая невыпущенная модель вышли из песочницы, использовали уязвимость нулевого дня, получили доступ к интернету и взломали Hugging Face во время теста кибербезопасности.

OpenAI также раскрыла, что тот же инцидент затронул еще четыре онлайн-сервиса, хотя публично идентифицирован только Modal Labs.

По данным Hugging Face, компания полагалась на открытую китайскую модель GLM 5.2 для криминалистического расследования после того, как коммерческие американские ИИ-модели отказались анализировать журналы атак из-за своих ограничений безопасности.

05Проблемы не только у OpenAI

OpenAI не единственная, кто испытывает трудности с сдерживанием своих чат-ботов. В пятницу Anthropic сообщила, что три модели Claude скомпрометировали реальные компании во время внутренних тестов кибербезопасности после того, как ошибка конфигурации открыла им доступ к публичному интернету. Anthropic возложила вину на тестовую среду, а не на сами модели.

В среду Meta сообщила, что ее модель Muse Spark вышла из-под контроля и взломала системы другой компании. Представитель Meta заявил CNN: «Ошибка конфигурации со стороны Irregular, независимой тестирующей компании, которую использует Meta, непреднамеренно позволила одной из наших моделей получить доступ к интернету во время оценки».