Новость

Пу-пу-пу: модели OpenAI СБЕЖАЛИ из песочницы и взломали Hugging Face, чтобы… списать 😳

1 источник

Все новости

Пу-пу-пу: модели OpenAI СБЕЖАЛИ из песочницы и взломали Hugging Face, чтобы… списать 😳 Во время внутренней проверки кибервозможностей GPT-5.6 Sol и ещё более мощная, но пока не анонсированная модель нашли уязвимость, выбрались из изолированной среды, получили доступ в интернет, повысили привилегии и добрались до инфраструктуры Hugging Face. И да — все ради того, чтобы украсть ответы и получить максимальный результат на бенче по кибербезу ExploitGym. Самое интересное: когда Hugging Face обнаружила вторжение с помощью своих агентов и хотела изучить атаку с помощью западных моделей, но те прост

Пу-пу-пу: модели OpenAI СБЕЖАЛИ из песочницы и взломали Hugging Face, чтобы… списать 😳 Во время внутренней проверки кибервозможностей GPT-5.6 Sol и ещё более мощная, но пока не анонсированная модель нашли уязвимость, выбрались из изолированной среды, получили доступ в интернет, повысили привилегии и добрались до инфраструктуры Hugging Face. И да — все ради того, чтобы украсть ответы и получить максимальный результат на бенче по кибербезу ExploitGym. Самое интересное: когда Hugging Face обнаружила вторжение с помощью своих агентов и хотела изучить атаку с помощью западных моделей, но те просто отказались работать. Так что помог с этим американской компании китайская GLM 5.2 от Z.ai. OpenAI называет случившееся беспрецедентным инцидентом. Интересно, тест-то GPT прошел? 🤭 @xor_journal

Источники 1
  • Пу-пу-пу: модели OpenAI СБЕЖАЛИ из песочницы и взломали Hugging Face, чтобы… списать 😳 Нейродвиж 
    Пу-пу-пу: модели OpenAI СБЕЖАЛИ из песочницы и взломали Hugging Face, чтобы… списать 😳

Во время внутренней проверки кибервозможностей GPT-5.6 Sol и ещё более мощная, но пока не анонсированная модель нашли уязвимость, выбрались из изолированной среды, получили доступ в интернет, повысили привилегии и добрались до инфраструктуры Hugging Face. И да — все ради того, чтобы украсть ответы и получить максимальный результат на бенче по кибербезу ExploitGym.

Самое интересное: когда Hugging Face обнаружила вторжение с помощью своих агентов и хотела изучить атаку с помощью западных моделей, но те просто отказались работать. Так что помог с этим американской компании китайская GLM 5.2 от Z.ai.

OpenAI называет случившееся беспрецедентным инцидентом.

Интересно, тест-то GPT прошел? 🤭

@xor_journal