Сотрудники OpenAI, Google, Anthropic и Meta призвали к регулированию темпов развития ИИ

Более тысячи сотрудников ведущих ИИ-лабораторий подписали письмо «Pacing the Frontier» с призывом к США разработать инструменты контроля за темпами развития передовых систем ИИ. В письме говорится о необходимости выиграть время на устранение рисков и создание мер безопасности.

Сотрудники OpenAI, Google, Anthropic и Meta — около тысячи человек — подписали открытое письмо «Pacing the Frontier». Авторы утверждают, что ведущие ИИ-компании могут быть близки к автоматизации исследований в области искусственного интеллекта, из-за чего возможности ИИ могут начать расти быстрее, чем люди смогут их понимать и контролировать. В письме говорится, что отрасли, государству и обществу нужно выиграть время на устранение рисков и разработку мер безопасности, однако конкурентное давление мешает замедляться в одиночку. Подписанты призывают правительство США поддержать международные усилия по созданию технических и управленческих инструментов для целенаправленного регулирования темпов развития на передовых рубежах автоматизированной разработки ИИ. Также отмечается, что к 1 августа США должны определить понятие «фронтирная система» и список моделей, к которым будут применяться новые правила оценки перед релизом, включая обязательный доступ государства за 30 дней до публичного выпуска.

Источники 1

Сотрудники OpenAI, Google, Anthropic и Meta призвали к регулированию темпов развития ИИ Сиолошная

OpenAI и около тысячи сотрудников других лабораторий, включая Google, Anthropic, META, подписали письмо «Pacing the Frontier»

Вот его содержание:
Искусственный интеллект может помочь создать кардинально лучшее будущее, однако такой исход не гарантирован. Ведущие мировые ИИ-компании полагают, что они могут быть близки к автоматизации исследований в области искусственного интеллекта. Трудно точно предсказать, насколько это ускорит прогресс ИИ, но существует реальный риск того, что развитие его возможностей будет происходить стремительнее, чем наша способность понимать и контролировать создаваемые системы.

Чтобы реализовать потенциал ИИ, отрасли, государству и обществу в целом может потребоваться возможность выиграть время для устранения возникающих рисков, разработки мер безопасности и усиления контроля. Однако каждая компания — как и каждая страна — находится под жестким конкурентным давлением, не позволяющим в одностороннем порядке замедлять эти темпы. При этом сегодня в мире отсутствуют технические и управленческие инструменты для целенаправленного регулирования темпов глобального прогресса в разработке передового ИИ.

Опираясь на уже ведущуюся работу по мониторингу релизов передовых ИИ-моделей мы призываем правительство США:

- поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного регулирования темпов развития на передовых рубежах автоматизированной разработки ИИ

(конец)

В дополнение к новости ждём 1-го августа — к этой дате США должны определиться, что такое «фронтир система» и какие модели к ним относятся. Это важно потому, что к фронтир системам будут применять новые правила оценки моделей перед релизом (как минимум, государство должно получить доступ за 30 дней до публичного выпуска).