Anthropic объяснила, почему не выпускает модели с открытыми весами

Anthropic заявила, что не публикует веса своих моделей из-за рисков безопасности. Компания при этом поддерживает открытые исследования и не исключает выпуск таких моделей в будущем.

Anthropic сохраняет позицию против выпуска моделей с открытыми весами на текущем этапе. В компании считают, что самые мощные системы ИИ уже достаточно способны, чтобы их веса могли упростить создание опасных кибератак, биологического оружия или автономных инструментов для атак. Вместо полного публичного выпуска Anthropic делает ставку на контролируемый доступ через API, где меры безопасности можно отслеживать и обновлять. При этом компания подчеркивает, что не выступает против открытых весов ИИ в принципе: Anthropic поддерживает открытые исследования и считает такие модели важными для инноваций. В будущем компания допускает выпуск моделей с открытыми весами, если для них можно будет обеспечить, по ее мнению, достаточный уровень защиты.

Источники 1

Anthropic объяснила, почему не выпускает модели с открытыми весами AI Post

🤖 Anthropic explains why it still won’t release frontier open-weight AI models

While much of the AI industry is rallying behind open-weight models, Anthropic is holding its ground.

The company says today’s most powerful AI systems are becoming capable enough that releasing their weights could make it much easier for bad actors to build dangerous cyber, biological, or autonomous attack tools. Instead of full public releases, Anthropic argues for controlled access through APIs, where safety measures can be monitored and updated.

At the same time, Anthropic says it isn’t against open-weight AI. It supports open research and believes open-weight models have an important role in innovation. The company says it may release open-weight models in the future but only when they can be deployed with what it considers adequate safety protections.

@aipost 🏴