Новость

Frontier Red Team Anthropic обнаружила криптографические уязвимости с помощью Claude

1 источник

Все новости

Исследовательская команда Frontier Red Team компании Anthropic выявила криптографические слабости с помощью Claude. Компания рассматривает это как часть более широкого изучения безопасности и влияния ИИ-моделей.

Команда Frontier Red Team компании Anthropic, которая анализирует последствия передовых ИИ-моделей для кибербезопасности, биобезопасности и автономных систем, обнаружила криптографические уязвимости с помощью Claude. Это исследование входит в более широкую работу Anthropic по изучению безопасности, внутреннего устройства и социального влияния ИИ-моделей. В Anthropic также работают другие исследовательские группы: Alignment, Economic Research, Interpretability и Societal Impacts. Они занимаются, соответственно, рисками и полезностью будущих моделей, влиянием ИИ на экономику, пониманием внутренней работы больших языковых моделей и изучением реального использования ИИ в сотрудничестве с командами политики и защиты компании.

Источники 1
  • Frontier Red Team Anthropic обнаружила криптографические уязвимости с помощью Claude Anthropic Research 
    Jul 28, 2026 Frontier Red Team Discovering cryptographic weaknesses with Claude

Our research teams investigate the safety, inner workings, and societal impacts of AI models—so that artificial intelligence has a positive impact as it becomes increasingly capable. The Alignment team works to understand the risks of AI models and develop ways to ensure that future ones remain helpful, honest, and harmless. The Economic Research team studies how AI is reshaping the economy, including work, productivity, and economic opportunity. The Frontier Red Team analyzes the implications of frontier AI models for cybersecurity, biosecurity, and autonomous systems. The mission of the Interpretability team is to understand how large language models work internally, as a foundation for AI safety and positive outcomes. Working closely with the Anthropic Policy and Safeguards teams, Societal Impacts is a technical research team that explores how AI is used in the real world.