Новость

OWASP назвал Prompt Injection главной угрозой кибербезопасности 2025 года

1 источник

Все новости

OWASP назвал Prompt Injection главной угрозой кибербезопасности 2025 года. Уязвимость нельзя устранить простым запретом, так как это сломает работу модели.

OWASP назвал Prompt Injection главной угрозой кибербезопасности 2025 года. Проблему нельзя решить простым запретом на нарушение правил: такой подход ломает работу модели. В материале объясняется, как работает эта уязвимость LLM, почему с ней сложно бороться и что можно делать для защиты.

Источники 1
  • OWASP назвал Prompt Injection главной угрозой кибербезопасности 2025 года Habr AI 
    Атака на LLM, которую нельзя исправить патчем

Что вершит судьбу LLM в этом мире. Некая незримая инструкция или закон, подобно промту Господнему, парящим над миром? По крайне мере истинно то, что LLM не властен даже над своей волей.

В 2025 году главной угрозой кибербезопасности по версии OWASP стал не вирус и не баг, а обычный человеческий язык. Многие думают, что проблему можно решить, просто запретить модели нарушать правила. Но это так не работает. Promt Injection нельзя просто выключить, потому что так вы все сломаете.

Как работает главная уязвимость LLM? Почему с ней так тяжело бороться? И что все-таки делать, чтобы защититься от нее? Читать далее

#llm #promt_injection #ai #ai_security #promt #owasp #llm_security #guardrails #ии_угроза #bothub | @habr_ai