Конгресс США предложил обязать передовые ИИ-системы иметь аварийное отключение

В Палату представителей США внесён двухпартийный законопроект, который требует от разработчиков самых мощных ИИ-систем встроить механизм аварийного отключения. Инициатива затрагивает модели с высокой стоимостью обучения и крупной годовой выручкой разработчика.

В Палате представителей США внесён двухпартийный законопроект, который обязывает разработчиков передовых ИИ-систем предусмотреть работающий механизм аварийного отключения. Он должен позволять деактивировать модель, если она станет опасной. Инициатива касается моделей, обучение которых стоит более $100 млн, а годовая выручка превышает $500 млн. В случае принятия закона разработчики должны будут сохранять возможность остановить инференс модели, отключить доступ пользователей и полностью выключить систему при необходимости. Контроль за исполнением должен вести Министерство внутренней безопасности, при этом экстренные отключения потребуют консультаций с Министерством торговли и директором Национальной разведки. В большинстве случаев регуляторы сначала будут пытаться применять менее радикальные меры, такие как ограничение вычислительных мощностей или отключение отдельных функций. Законопроект также вводит требования к отчётности: разработчики должны сообщать о крупных инцидентах в течение 15 дней, сохранять веса модели и телеметрию после приказа об отключении. За игнорирование приказа об экстренном отключении предусмотрены штрафы до $2 млн в день или $20 млн.

Источники 1

Конгресс США предложил обязать передовые ИИ-системы иметь аварийное отключение AI Post

🇺🇸 The U.S. Congress wants a mandatory kill switch for frontier AI.

A bipartisan bill introduced in the House would require the most powerful AI systems to include a working shutdown mechanism, one that can disable the model if it becomes dangerous.

The proposal targets frontier models that cost more than $100 million to train and generate at least $500 million in annual revenue.

If covered, AI developers would be required to maintain the ability to:

• Stop model inference.
• Cut off user access.
• Completely shut down the system when necessary.

The Department of Homeland Security would oversee enforcement, with emergency shutdowns requiring consultation with the Department of Commerce and the Director of National Intelligence. In most cases, regulators would first try less drastic measures, such as limiting compute or disabling specific capabilities, before ordering a full shutdown.

The bill also introduces strict reporting rules. Developers would have 15 days to report major incidents, preserve model weights and telemetry after any shutdown order, and face fines of up to $2 million per day or $20 million for ignoring an emergency shutdown order.

Supporters argue that recent advances in autonomous AI agents make these safeguards increasingly necessary. Polling cited by the bill’s backers says 86% of American voters support requiring advanced AI systems to have a legal kill switch.

But critics point out a major limitation.

A kill switch only works if the AI system remains under the developer’s control. API-hosted models can usually be disabled, but once open-weight models have been downloaded and run elsewhere, there may be no practical way to shut them down remotely.

@aipost 🏴