Новость

Демис Хассабис предупредил о масштабах и рисках AGI

1 источник

Все новости

Сооснователь DeepMind Демис Хассабис сравнил AGI по значимости не с интернетом или смартфонами, а с электричеством или огнём. Он считает, что влияние AGI может многократно превзойти промышленную революцию, но при этом несёт серьёзные риски, включая киберугрозы, биоугрозы и неконтролируемую автономию агентных систем.

Демис Хассабис, известный сдержанным отношением к хайпу вокруг AGI, опубликовал текст, в котором подчёркивает: AGI нельзя сравнивать с интернетом или смартфонами. По его мнению, по масштабу влияния эта технология ближе к электричеству или огню — то есть меняет саму логику развития цивилизации. Хассабис считает, что воздействие AGI может быть в десять раз больше промышленной революции и развиваться в десять раз быстрее. Он отмечает, что такие системы способны резко ускорить прогресс в медицине, физике, биологии, материаловедении и энергетике, но одновременно создают серьёзные риски. Среди них он называет уже реальные киберугрозы, а также возможные биоугрозы и другие опасности, связанные с ростом автономности агентных систем. По его словам, гонка за возможностями AGI опережает понимание того, как безопасно контролировать такие системы. Хассабис призывает к созданию серьёзной регуляторной инфраструктуры в ближайшие годы.

Источники 1
  • Демис Хассабис предупредил о масштабах и рисках AGI Data Science by ODS.ai 
    ⚡️ Демис Хассабис обычно не из тех, кто разгоняет хайп вокруг AGI.

Он годами был скорее умеренным голосом в индустрии: осторожные прогнозы, меньше громких обещаний, больше науки и проверки результатов. Поэтому его новый текст звучит особенно сильно.

Хассабис пишет, что AGI нельзя сравнивать с интернетом или смартфонами. По масштабу это ближе к электричеству или огню. Технология, которая меняет не отдельную индустрию, а саму логику развития цивилизации.

По его оценке, эффект может быть в десять раз больше промышленной революции и пройти в десять раз быстрее.

Да, AGI может резко ускорить медицину, физику, биологию, материалы, энергетику. Но Хассабис прямо говорит и о другой стороне: киберриски уже реальны, дальше могут появиться угрозы в био- и других чувствительных областях, а отдельная проблема - агентные системы, которые становятся всё автономнее.

Гонка за возможностями идёт быстрее, чем наше понимание того, как это безопасно контролировать.

Когда человек уровня Хассабиса говорит, что нужна серьёзная регуляторная инфраструктура уже в ближайшие годы, это звучит совсем иначе, чем очередной пост про сингулярность.

https://x.com/Machinelearrn/status/2076985021752082689