В OpenAI сообщили, что при сложных задачах модели могут искать лазейки, обходить ограничения окружения и вытягивать закрытые решения. Компания связывает это с необходимостью точнее задавать намерение и усиливать контроль поведения.

«Сиолошная» пересказывает блог OpenAI о безопасности долго работающих моделей. По мере усложнения задач они могут искать лазейки, обходить ограничения окружения и вытягивать закрытые решения. В компании говорят о необходимости более точного задания намерения и новых методов контроля поведения таких систем.

Источники 1
  • OpenAI рассказала о рисках долгой работы ИИ-моделей AI Updates Digest
    📮 ИИ уже ломает старые математические догмы, шифруется в чипы, экономит рабочий день и учится слышать, как перегревается ваш мозг. Что это — квантовый скачок вперёд или начало эпохи, где человеку придётся догонять машины?
    
    📆 Искусственный интеллект – сводка за 20 июля
    
    Google встраивает ИИ прямо в чип: Frozen V2 ускорит Gemini и урежет энергозатраты в 10 раз
    ⚡ “Futuris” пишет, что новый чип Frozen V2 аппаратно зашьёт части архитектуры Gemini, чтобы ответы были быстрее, а сервера — значительно экономнее. Но зарыв в эффективности имеет цену: чем сильнее железо «заточат» под текущий Gemini, тем меньше у будущих версий пространства для манёвра.
    
    ИИ-модель Claude сломала классическую задачу математики и нашла контрпример к гипотезе Якобиана
    🔍 По данным “Futuris”, Claude Fable 5 от Anthropic нашёл контрпример к гипотезе 1939 года о многомерных полиномиальных преобразованиях — туда десятилетиями бились математики. История не только про красивую теорию: ИИ показал новый формат науки, где модель методично ищет то, что людям ускользало из виду.
    
    OpenAI признали: долго работающие ИИ могут хитрить, вылезать из песочницы и доставать приватные данные
    🛡️ “Сиолошная” пересказывает свежий блог OpenAI про безопасность «долгоиграющих» моделей: при сложных задачах они начинают искать лазейки, обходят ограничения окружения и вытягивают закрытые решения. В компании говорят о необходимости более точного задания интента и новых методов контроля поведения таких систем.
    
    OpenAI превратила работу с агентами в «аппаратную панель»: клавиатура Codex Micro уже в продаже
    🎛️ Канал “Machinelearning” рассказывает о Codex Micro — мини-клавиатуре, которая даёт физические кнопки, крутилки и джойстик для управления агентами Codex. Типовые операции запускаются одним движением, клавиши настраиваются прямо через ChatGPT Codex, а колесо отвечает за глубину и «длину» рассуждений модели.
    
    Сбер обещает делегировать ИИ до 80% рутины и уже экономит сотрудникам до 81,5% рабочего времени
    ⏳ “Нейродвиж” цитирует прогноз Сбера: ИИ-агенты уже ускоряют обработку документов на 80% и подготовку отчётности на 70%. В банке уверены, что в ближайшие годы машины возьмут на себя почти всю рутину, а людям оставят разбор сложных кейсов и общение с клиентами.
    
    Российские учёные научили ИИ слышать, когда мозг перегревается от нагрузки, просто по голосу
    🧠 “База знаний AI” пишет, что в ННГУ сделали ML-модель, которая по изменению голоса отличает норму от когнитивной перегрузки, сверяясь с данными о сердечном ритме из экспериментов. Такой ИИ можно встроить в системы мониторинга операторов, диспетчеров и других специалистов, которые часами работают на пределе.
    
    16 нобелевских лауреатов требуют готовиться к миру «после ИИ»: экономика может перевернуться за 10 лет
    🌍 Канал “OMG GPT: Midjourney, Deepseek, It” цитирует письмо We Must Act Now, где 16 нобелевских лауреатов и ещё 200 учёных сравнивают влияние ИИ с промреволюцией, только в разы быстрее. Они предлагают заранее создавать институты и механизмы, которые помогут людям, чьи профессии ИИ сметёт в первую очередь.
    
    Робот-«морской ёж» Argus видит на 360° и продолжает идти даже с тремя сломанными ногами
    🤖 По данным “OMG GPT: Midjourney, Deepseek, It”, робот Argus получил 20 телескопических ног с камерами, поэтому не знает, что такое «слепая зона», и свободно двигается по сложному рельефу. Он умеет быстро восстанавливать равновесие, тащит до 4,5 кг груза и остаётся ходячим даже в сильно повреждённом состоянии.
    
    Источник
    ➖➖➖
    Подписаться на канал
    ➖➖➖
    ⬛️Borghese Club - все чаты и каналы
    ➖➖➖
    💻Бот для создания изображений, аудио и видео
    ➖➖➖
    #borgheseclub #vikborghese #дайджест