Новость

Anthropic Frontier Red Team Project Pilot: может ли ИИ управлять дроном?

1 источник

Все новости

Исследовательская группа Anthropic Frontier Red Team изучает, может ли ИИ управлять дроном, и оценивает последствия передовых моделей ИИ для кибербезопасности, биобезопасности и автономных систем.

Anthropic описывает работу нескольких исследовательских команд, которые изучают безопасность, внутреннее устройство и социальные последствия моделей ИИ. Команда Alignment работает над пониманием рисков и способами сделать будущие модели полезными, честными и безвредными; Economic Research анализирует влияние ИИ на экономику, включая работу, производительность и экономические возможности. Frontier Red Team фокусируется на последствиях передовых моделей ИИ для кибербезопасности, биобезопасности и автономных систем, а Interpretability стремится понять, как большие языковые модели работают внутри. Тесно сотрудничая с командами Anthropic Policy и Safeguards, Societal Impacts изучает, как ИИ используется в реальном мире.

Источники 1
  • Anthropic Frontier Red Team Project Pilot: может ли ИИ управлять дроном? Anthropic Research 
    Jul 24, 2026 Frontier Red Team Project Pilot: Can AI control a drone?

Our research teams investigate the safety, inner workings, and societal impacts of AI models—so that artificial intelligence has a positive impact as it becomes increasingly capable. The Alignment team works to understand the risks of AI models and develop ways to ensure that future ones remain helpful, honest, and harmless. The Economic Research team studies how AI is reshaping the economy, including work, productivity, and economic opportunity. The Frontier Red Team analyzes the implications of frontier AI models for cybersecurity, biosecurity, and autonomous systems. The mission of the Interpretability team is to understand how large language models work internally, as a foundation for AI safety and positive outcomes. Working closely with the Anthropic Policy and Safeguards teams, Societal Impacts is a technical research team that explores how AI is used in the real world.