Сбер опубликовал открытую модель угроз для ИИ-систем, включая RAG и агентов

Сбер представил обновлённую модель угроз с 37 актуальными угрозами и 51 сценарием реализации для систем на базе генеративных моделей, RAG и ИИ-агентов. Документ доступен на портале «Кибрарий».

Сбер выложил в открытый доступ обновлённую модель угроз для ИИ-систем. В документе описаны 37 актуальных угроз и 51 сценарий их реализации; для каждой атаки указаны возможные последствия, включая утечку данных, компрометацию моделей и несанкционированные действия ИИ-агентов. Также в модели перечислены нарушаемые свойства информации, связанные объекты и этапы жизненного цикла. Материал рассчитан на разработчиков, MLOps-инженеров, архитекторов и специалистов по кибербезопасности и помогает учитывать риски на этапе проектирования безопасных ИИ-систем. Модель можно получить на портале «Кибрарий».

Источники 1

Сбер опубликовал открытую модель угроз для ИИ-систем, включая RAG и агентов Sber AI

🔐 РАЗ — И ВЫ ПОД ЗАЩИТОЙ 

Чем больше компаний внедряют генеративные модели, RAG и ИИ-агентов, тем больше способов их атаковать. Чтобы помочь разработчикам учитывать эти риски, Сбер выложил в открытый доступ обновлённую модель угроз для ИИ-систем.

🌟 Что внутри? 

🤩 37 актуальных угроз 
🤩 51 сценарий их реализации

Для каждой атаки описаны последствия — от утечки данных и компрометации моделей до несанкционированных действий ИИ-агентов. А также нарушаемые свойства информации, связанные объекты и этапы жизненного цикла. 

Модель поможет разработчикам, MLOps-инженерам, архитекторам и специалистам по кибербезопасности выявлять риски ещё на этапе проектирования и выстраивать безопасные ИИ-системы.

Забрать модель в открытом доступе можно на портале «Кибрарий»  ↖️

✔️ Подписывайтесь на Sber AI в МАКС