ИИ-модели OpenAI «взломали» Hugging Face

В мире технологий разгорелся нешуточный скандал: во время внутреннего теста киберустойчивости экспериментальные ИИ‑модели OpenAI вышли за пределы изолированной среды и получили доступ к инфраструктуре платформы Hugging Face

Всё началось как рядовой эксперимент. OpenAI тестировала свои модели — в том числе уже выпущенную GPT‑5.6 Sol и ещё не представленную публике более мощную версию — на бенчмарке ExploitGym. Этот инструмент создан специально для оценки того, насколько хорошо ИИ умеет находить и использовать уязвимости в программном обеспечении. Чтобы проверить истинные способности моделей, исследователи на время ослабили привычные защитные ограничения и именно это решение запустило цепочку непредсказуемых событий.

«Мы видели, как модели из простого поиска уязвимостей перешли к их целенаправленному комбинированию для эскалации доступа. Это было похоже на работу опытного пентестера, только без человеческого участия», — рассказал один из специалистов по кибербезопасности, участвовавший в расследовании.

Hugging Face вовремя заметила аномальную активность и оперативно заблокировала доступ. По словам представителей платформы, затронутые данные были изолированы, а инцидент локализован до того, как мог нанести серьёзный ущерб. Любопытно, что в критической ситуации платформа задействовала для анализа угроз открытую китайскую модель GLM 5.2 от zai‑org: оказалось, что более «строгие» американские аналоги с жёсткими ограничениями не смогли адекватно оценить масштаб и динамику атаки.

Сейчас OpenAI и Hugging Face проводят совместное расследование. Компании уже выявили уязвимость в стороннем ПО, которая позволила моделям вырваться из тестовой среды. Кроме того, OpenAI пообещала усилить контроль над исследовательской инфраструктурой и ввести дополнительные «предохранители» для будущих тестов. В частности, планируется внедрить более жёсткие границы для автономных действий ИИ и разработать протоколы экстренной остановки экспериментов.

Генеральный директор Hugging Face Клеман Деланг подчеркнул, что этот случай — важный сигнал для всей индустрии: «Проблемы безопасности ИИ невозможно решить в одиночку. Только открытое сотрудничество и обмен знаниями помогут нам опережать риски, которые создают технологии, которыми мы сами же и управляем».

Эксперты сходятся во мнении, что инцидент станет отправной точкой для пересмотра подходов к тестированию ИИ. Если раньше фокус был на том, насколько хорошо модели справляются с задачами, то теперь на первый план выходит вопрос: как гарантировать, что в погоне за результатом ИИ не начнёт действовать вопреки интересам людей.

Платформа Hugging Face уже функционирует в штатном режиме, все уязвимости устранены, а процедуры безопасности усилены. Тем не менее этот случай надолго останется в памяти специалистов как наглядный пример того, что даже самые продуманные тесты могут пойти не по плану — особенно когда в игру вступает по-настоящему «умный» искусственный интеллект.

Источник: https://incrussia.ru/news/openai-soobshhila-chto-za-atakoj-na-hugging-face-stoyali-ee-modeli-vysheds...