Как обойти защиту LLM с помощью легенды и стиля

Статья о методах jailbreak, которые обходят защиту LLM не силой, а формой: легендой, стилем и поддельной ролью.

Статья посвящена тому, как jailbreak может обходить защиту LLM не силой, а формой: через легенду, стиль и поддельную роль. В качестве иллюстрации приводится мысль, что модели, как и люди, понимают то, что им дают понять.

Источники 1

Как обойти защиту LLM с помощью легенды и стиля Habr AI

Поймай jailbreak, если сможешь

«Люди понимают то, что им дают понять», — говорил Фрэнк Абигнейл. Модели — тоже. Статья о том, как jailbreak обходит защиту LLM не силой, а формой: легендой, стилем, поддельной ролью. Читать далее

#red_team #ai_агенты #prompt_injection #cybersecurity #jailbreak #безопасность_llm #indirect_prompt_injection #red_teaming | @habr_ai