AI 2040: авторы прогноза AI 2027 описали сценарий замедления гонки ИИ

Авторы прогноза AI 2027 представили новый сценарий развития нейросетей — AI 2040. В нём они рассматривают варианты действий государств, включая Plan A с замедлением гонки и созданием управляемого ИИ.

Авторы прогноза AI 2027 выпустили новый сценарий развития нейросетей — AI 2040. Ранее они описывали, как гонка ИИ может привести к появлению сверхинтеллекта. Теперь исследователи во главе с бывшим сотрудником OpenAI Даниэлем Кокотайло предложили несколько вариантов действий для государств. Главный из них — Plan A. Это сценарий с рекомендациями, который должен помочь замедлить гонку и создать управляемый ИИ. В документе описан вариант, при котором США и Китай в 2029 году заключают соглашение и временно останавливают обучение новых передовых моделей, при этом уже существующие нейросети продолжают работать. К концу 2029 года к соглашению присоединяется большая часть мира, а также формируется международный Консорциум. Разработки возобновляются под его надзором, но по четырём правилам: развитие моделей замедляют, исследования передовых систем делают прозрачными, технологии распределяют между странами и компаниями, а инфраструктуру проектируют так, чтобы любой опасный процесс можно было остановить. В сценарии также появляется аналог ядерного сдерживания: новые китайские дата-центры строят в Канаде, а американские — в Монголии. Авторы считают, что даже при замедлении нейросети будут развиваться очень быстро. К 2032 году, по сценарию, одновременно работают 60 миллионов ИИ-агентов, а ИИ выполняют больше интеллектуальной работы, чем все жители США. Параллельно роботы начинают автоматизировать физический труд. В сценарии также описаны социальные изменения: американцы получают выплаты размером около $1 млн в год, к 2036 году работу сохраняют только 26% граждан США, а бедность и голод почти исчезают. При этом Консорциум останавливает развитие моделей на уровне лучших человеческих экспертов, считая, что более умный ИИ уже нельзя будет контролировать старыми способами. К 2038 году безопасность ИИ в сценарии становится отдельной наукой. Появляется множество разных ИИ, которые служат государствам, компаниям, акционерам или благотворительным организациям, а люди постепенно начинают больше им доверять. В 2040 году ограничения на развитие ослабляют, и появляются системы, значительно превосходящие человека. Им постепенно передают управление производством, энергетикой, государственными институтами и частью вооружённых сил. Авторы считают этот шаг допустимым только после того, как согласование целей ИИ станет зрелой наукой.

Источники 1

AI 2040: авторы прогноза AI 2027 описали сценарий замедления гонки ИИ Нейродвиж

Авторы прогноза AI 2027 выпустили новый сценарий развития нейросетей — AI 2040. В прошлый раз они рассказали, как гонка ИИ может привести к появлению сверхинтеллекта. Теперь исследователи во главе с бывшим сотрудником OpenAI Даниэлем Кокотайло описали несколько вариантов того, как государства могут действовать дальше.

Главный из них — Plan A. Это сценарий с рекомендациями, который должен помочь замедлить гонку и создать управляемый ИИ.

Как замедлить развитие ИИ

Правительства понимают, что через несколько лет из-за автоматизации могут потерять контроль над экономикой и дальнейшим развитием нейросетей. Поэтому в 2029 году США и Китай заключают соглашение и временно останавливают обучение новых передовых моделей. Уже существующие нейросети продолжают работать.

К концу 2029 года к соглашению присоединяется большая часть мира и формируется международный Консорциум. Появляется и аналог ядерного сдерживания: новые китайские дата-центры строят в Канаде, а американские — в Монголии. То есть стороны размещают вычислительную инфраструктуру на территориях, уязвимых для оппонента.

Разработки возобновляются под надзором Консорциума, но по четырём правилам. Развитие моделей замедляют, исследования передовых систем делают прозрачными, технологии распределяют между странами и компаниями, а инфраструктуру проектируют так, чтобы любой опасный процесс можно было остановить.

Что будет с обществом

Даже при замедлении нейросети развиваются очень быстро. К 2032 году одновременно работают 60 миллионов ИИ-агентов, способных думать примерно в 20 раз быстрее человека. Они выполняют больше интеллектуальной работы, чем все жители США, а реальный ВВП за год растёт примерно на 50%. Параллельно роботы начинают автоматизировать физический труд.

Благодаря новой экономике американцы получают выплаты размером около $1 млн в год. К 2036 году работу сохраняют только 26% граждан США, но бедность и голод почти исчезают. Тем не менее Консорциум останавливает развитие моделей на уровне лучших человеческих экспертов — более умный ИИ уже нельзя будет контролировать старыми способами.

Мир делится на три типа территорий: гигантские промышленные зоны с заводами и роботами, аркологии — высотные жилые комплексы, окружённые природой, — и исторические и природные заповедники. Последние занимают большую часть планеты: Париж, Нью-Йорк и другие старые города внешне почти не меняются.

Как начнётся новая эпоха

К 2038 году безопасность ИИ становится отдельной наукой. Исследователи учатся создавать более управляемые модели и понимать, как в них формируются цели и ценности. Появляется множество разных ИИ: одни служат государствам и политикам, другие — компаниям, акционерам или благотворительным организациям. Постепенно люди начинают больше им доверять.

В 2040 году ограничения на развитие ослабляют и появляются системы, значительно превосходящие человека. Им постепенно передают управление производством, энергетикой, государственными институтами и частью вооружённых сил. В этот момент нейросети начинают контролировать достаточно инфраструктуры, чтобы люди больше не могли их отключить. Авторы считают этот шаг допустимым только после того, как согласование целей ИИ станет зрелой наукой.

Подписывайтесь 👉 @techno_yandex