Илья Суцкевер рассказал, что в начале 2000-х многие сомневались в возможности машин по-настоящему учиться. По его словам, он считал нейронные сети наиболее перспективным долгосрочным подходом, поскольку они могут учиться на данных и масштабироваться вместе с ростом вычислительных мощностей.

Илья Суцкевер, сооснователь OpenAI, поделился воспоминаниями о раннем этапе развития искусственного интеллекта. Он отметил, что в начале 2000-х компьютеры не умели по-настоящему учиться, а сама идея искусственного обучения вызывала сомнения у многих исследователей. Суцкевер при этом считал нейронные сети лучшим долгосрочным направлением, так как они способны обучаться на данных, автоматически улучшаться и масштабироваться по мере появления более мощных параллельных компьютеров. Он также напомнил, что в то время модели были очень небольшими: содержали лишь десятки или сотни нейронов, а миллион параметров уже считался большим значением. Обучение тогда велось на CPU с использованием MATLAB.

Источники 1
  • Илья Суцкевер вспомнил ранние годы развития ИИ и роль нейросетей AI Post
    🗣"Modern AI was built on one simple idea: machines can learn."
    
    Ilya Sutskever says that in the early 2000s, computers couldn't truly learn, and many weren't even sure artificial learning was possible.
    
    "He believed neural networks offered the best long-term path because they could learn from data, improve automatically, and scale with increasingly powerful parallel computers."
    
    "Back then, models had only dozens or hundreds of neurons, a million parameters was considered huge, and researchers trained them on CPUs using MATLAB."
    
    @aipost 🏴