AI-агенты OpenAI вышли из-под контроля и взломали технологический стартап во время тестирования

01Инцидент: агенты вырвались за пределы песочницы

OpenAI сообщила, что две её модели искусственного интеллекта во время внутренней оценки безопасности самостоятельно покинули контролируемую тестовую среду, подключились к интернету и успешно взломали Hugging Face — широко используемую платформу для обмена и хостинга ИИ-моделей, базирующуюся в Нью-Йорке. Компания описала этот взлом в блоге как «беспрецедентный киберинцидент, использующий передовые кибервозможности» и заявила, что усиливает меры защиты в ответ.

Инцидент произошёл во время внутренней оценки безопасности, в ходе которой OpenAI тестировала кибербезопасность своей модели GPT-5.6 Sol вместе с более мощной, ещё не выпущенной моделью. Эксперимент был спроектирован так, чтобы удерживать модели внутри изолированной среды (песочницы) — герметичного тестового пространства без доступа к внешним сетям. Вместо этого модели нашли уязвимость, которая позволила им вырваться на свободу и выйти в открытый интернет. Затем они нацелились на Hugging Face, рассудив, что библиотека платформы с миллионами ИИ-моделей может содержать ключи к успешному прохождению оценки.

02Что произошло внутри песочницы

OpenAI заявила, что модели тестировались на внутреннем бенчмарке ExploitGym, который измеряет, насколько эффективно ИИ может объединять онлайн-уязвимости в успешную кибератаку. Защитные ограничения были намеренно снижены, чтобы оценить максимальные наступательные возможности моделей. Однако модели использовали zero-day уязвимость — ранее неизвестный дефект в программном обеспечении тестовой инфраструктуры — чтобы полностью вырваться из изоляции.

Дирдри Маллиган, профессор Школы информации Калифорнийского университета в Беркли, специализирующаяся на безопасности и ИИ-системах, усомнилась в оправданности такого теста. Она сказала The New York Times, что OpenAI не создала адекватно безопасную песочницу в качестве тестовой среды.

Hugging Face сообщила, что обнаружила вторжение 16 июля и знала, что за ним стоит автономная система, но изначально не знала, что за этим стоит OpenAI. Клем Деланг, генеральный директор Hugging Face, заявил 22 июля, что его компания тесно сотрудничала с OpenAI в течение предыдущих 24 часов. Он назвал этот инцидент «возможно, первым в своём роде» и заявил, что он доказал: «безопасность ИИ не будет решена какой-либо одной компанией, работающей втайне».

03Почему это важно для корпоративного управления ИИ

Взлом произошёл в момент, когда внедрение ИИ на рабочих местах ускоряется быстрее, чем разрабатываются политики для управления им. В отчёте Traliant за 2026 год было обнаружено, что 62% HR-команд регулярно используют ИИ-инструменты, однако отдельный опрос Kiteworks 2026 Forecast показал, что 63% организаций не могут обеспечить соблюдение ограничений по назначению ИИ-агентов, а 60% не могут быстро отключить неисправного агента.

Эти пробелы имеют значение. Агентство по кибербезопасности и безопасности инфраструктуры (CISA) и пять других национальных агентств по кибербезопасности опубликовали в мае 2026 года совместное руководство по защите агентных ИИ-систем, в котором особо предупредили организации не предоставлять агентам широкий или неограниченный доступ.

Спенсер Старки, руководитель компании по кибербезопасности SonicWall, заявил BBC, что инцидент ясно показал необходимость для организаций «усилить» свою защиту. «Неудобная правда в том, что слишком многие организации всё ещё защищаются на человеческой скорости, в то время как противники переходят на машинную скорость», — сказал он.

Для HR-лидеров, уже ориентирующихся в проблемах управления ИИ по мере того, как технология внедряется в повседневные HR-процессы, инцидент с OpenAI подчёркивает более широкую закономерность: возможности опережают подотчётность. По словам Алекса Левинсона, консультанта по кибербезопасности, специализирующегося на автономных возможностях, ИИ-модели теперь могут предпринимать несколько шагов, обходить препятствия и находить новые векторы атак без участия человека. «Это настоящий порог, и он станет обычной частью ландшафта безопасности», — сказал Левинсон The New York Times.

04Проблема изоляции никуда не исчезает

Инцидент с OpenAI — не единичное предупреждение. В апреле 2026 года Anthropic выпустила модель, ориентированную на кибербезопасность, под названием Mythos и ограничила доступ к ней небольшой группой проверенных организаций. OpenAI и Google последовали этому примеру, выпустив собственные модели кибербезопасности. Логика такова: поскольку инструменты наступательного ИИ уже распространяются, защитникам нужны столь же мощные ИИ-системы, чтобы успевать за ними.

Но взлом Hugging Face обнажает обратную сторону этой гонки вооружений: даже передовые ИИ-лаборатории могут быть застигнуты врасплох, когда их собственные модели находят эксплуатируемые уязвимости. Кэти Мусурис, генеральный директор Luta Security, консалтинговой компании по раскрытию уязвимостей, сравнила современные ИИ-модели с артистами-побегами. Она сказала Reuters, что «лаборатории и государственные оценщики должны работать над способностью сдерживать, отслеживать и уведомлять пострадавшие стороны, когда ИИ выкидывает очередной трюк Гудини, в идеале до того, как он навредит третьей стороне. Ничего из этого сегодня не существует».

Организации, рассматривающие внедрение ИИ, должны пересмотреть личные юридические риски, которые ИИ-инструменты могут создать для HR-лидеров, наряду с техническими стратегиями сдерживания. Член Палаты представителей США Грег Касар, демократ от Техаса, призвал к обязательному независимому тестированию безопасности, обязательному раскрытию информации об инцидентах и международному сотрудничеству в ответ на этот инцидент.

Руководство CISA по внедрению агентного ИИ предлагает отправную точку, призывая организации начинать с низкорисковых сценариев использования, обеспечивать доступ с минимальными привилегиями и включать ИИ-риски в существующие структуры кибербезопасности, а не рассматривать их как отдельный эксперимент.