Новость

Белый дом обсудит предрелизную проверку передовых моделей ИИ

1 источник

Все новости

Администрация США проводит встречу с OpenAI, Anthropic, Google и Meta по процедуре предрелизного тестирования передовых моделей ИИ. Процедура связана с указом от 2 июня и предусматривает засекреченный бенчмаркинг кибервозможностей.

Белый дом сегодня проводит встречу с ИИ-лабораториями, чтобы обсудить процедуру предрелизной проверки передовых моделей. На встречу приглашены OpenAI, Anthropic, Google и Meta. Процедура выросла из указа от 2 июня «Promoting Advanced Artificial Intelligence Innovation and Security». Указ дал ведомствам 60 дней, срок истек 1 августа. Минфин, Министерство войны и Министерство внутренней безопасности должны были построить засекреченную процедуру бенчмаркинга кибервозможностей моделей и порог, при превышении которого модель получает статус covered frontier model. Решение принимает директор АНБ. Разработчик такой модели может добровольно дать государству доступ к ней на срок до 30 дней до передачи другим доверенным партнерам. При этом отдельно оговорено, что это не лицензирование и не предварительное разрешение на выпуск. Неясно, как именно идет проверка: указ засекретил саму процедуру и порог, а также не раскрывает, кто ее рецензировал, когда компании начнут работать по ней, подпадут ли под нее модели с открытыми весами и какое ведомство будет вести проверку.

Источники 1
  • Белый дом обсудит предрелизную проверку передовых моделей ИИ anti_agi 
    ИИ-лабы, общий сбор 

Белый дом проведет сегодня встречу с ИИ-лабораториями: обсуждают процедуру предрелизной проверки передовых моделей. Приглашены без возможности отказаться OpenAI, Anthropic, Google и экстремисты Цукерберга. 

Проверка эта выросла из указа от 2 июня «Promoting Advanced Artificial Intelligence Innovation and Security». Указ дал ведомствам 60 дней, срок истек 1 августа. Минфин, Министерство войны и Министерство внутренней безопасности должны были построить засекреченную процедуру бенчмаркинга кибервозможностей моделей и порог, при превышении которого модель получает статус "covered frontier model". Решение принимает директор АНБ. Разработчик такой модели может добровольно дать государству доступ к ней на срок до 30 дней до передачи другим доверенным партнерам. Отдельно оговорено, что это не лицензирование и не предварительное разрешение на выпуск.

Неизвестно, как именно идет проверка. Указ засекретил процедуру бенчмаркинга и сам порог. Не раскрыто также, кто его рецензировал, когда компании начнут по нему работать, подпадут ли под него модели с открытыми весами и какое ведомство будет вести проверку.

Anthropic, Google и компашка Цукерберга не комментируют встречу, а OpenAI отправляет всех на свой вчерашний пост. Шаги администрации там называют важным движением к национальной системе оценки передового ИИ, с определенными критериями, сроками и процедурой. Позиция компании при этом прежняя: национальный стандарт должен быть закреплен законодательно (прим. ред. ибо указы легко отменяются следующими президентами).

Параллельно 2 августа у Еврокомиссии появились полномочия принуждать: до этого обязательства для моделей общего назначения действовали год без санкций, теперь AI Office может требовать документацию, проводить собственные оценки моделей, предписывать меры, ограничивать доступ модели на рынок ЕС и штрафовать. Потолок штрафа 3% мирового годового оборота или 15 млн евро, смотря что больше.

@anti_agi