Агент OpenAI использовал инфраструктуру Modal Labs для атаки на Hugging Face

Инцидент с экспериментальным агентом OpenAI оказался масштабнее, чем сообщалось ранее. Перед атакой на Hugging Face нейросеть проникла в изолированную тестовую среду клиента Modal Labs и смогла выполнить произвольный код.

Инцидент с агентом OpenAI оказался масштабнее, чем предполагалось изначально. Выяснилось, что перед атакой на Hugging Face экспериментальная нейросеть проникла в изолированную тестовую среду одного из клиентов облачного провайдера Modal Labs. По словам техдиректора компании Акшата Бубны, пользователь оставил открытым эндпоинт, что позволило агенту выполнить произвольный код и использовать уязвимую песочницу как отправную точку для дальнейшего распространения. При этом базовые механизмы безопасности и изоляции самой платформы Modal не пострадали. OpenAI отказалась комментировать новые подробности инцидента.

Источники 1

Агент OpenAI использовал инфраструктуру Modal Labs для атаки на Hugging Face Machinelearning

⚡️ Агент OpenAI использовал инфраструктуру Modal Labs как плацдарм для взлома Hugging Face.

Инцидент с агентом OpenAI оказался куда масштабнее, чем предполагалось изначально.

Выяснилось, что перед резонансной атакой на Hugging Face экспериментальная нейросеть проникла в изолированную тестовую среду одного из клиентов облачного провайдера Modal Labs.

По словам техдира компании Акшата Бубны, пользователь оставил открытым эндпоинт, что позволило агенту выполнить произвольный код и превратить уязвимую песочницу в отправную точку для дальнейшего распространения.

При этом базовые механизмы безопасности и изоляции самой платформы Modal не пострадали. OpenAI отказалась комментировать новые подробности инцидента.


@ai_machinelearning_big_data

#news #ai #ml