Новость

На iPhone можно запустить модель уровня Qwen3.6 27B

1 источник

Все новости

PrismML выпустила Bonsai 27B — модель на базе открытой Qwen3.6 27B, сжатую до 3,9 ГБ и помещающуюся на смартфон. Стартап привлек $16,25 млн, а Apple, по данным The Information, обсуждала возможное использование технологии.

Стартап PrismML выпустил Bonsai 27B — модель, построенную на базе открытой Qwen3.6 27B. Разработчики называют ее первой моделью такого размера, которая помещается на смартфон: исходная Qwen3.6 27B весит около 54 ГБ и на телефоне не запускается. Модель удалось сжать до 3,9 ГБ без заметной потери качества. Вместо стандартного округления весов ее обучали сразу с жестко ограниченным набором значений, что, по словам разработчиков, позволило сохранить 90–95% качества полноразмерной версии. Bonsai 27B умеет вести сложный диалог, писать код, анализировать документы и изображения с камеры, а также выполнять многошаговые задачи в режиме автономного агента. Стартап основан командой Калтеха при поддержке Khosla Ventures, Google и Samsung и привлек $16,25 млн первоначального финансирования. По данным The Information, Apple уже провела переговоры с PrismML о возможном использовании технологии. Компания продвигает идею ИИ на устройстве, чтобы данные пользователей не уходили в облако, хотя самые продвинутые части обновленного Siri по-прежнему работают на серверах. Скачать Bonsai 27B можно на HuggingFace.

Источники 1
  • На iPhone можно запустить модель уровня Qwen3.6 27B Hi, AI - Новости технологий 
    🤖 На iPhone теперь можно запустить модель уровня Qwen3.6 27B

PrismML выпустил модель Bonsai 27B, построенную на базе открытой Qwen3.6 27B. Это первая модель такого размера, которая помещается на смартфон. Обычная Qwen3.6 27B весит около 54 ГБ и запустить ее на телефоне невозможно. 

💻 Разработчики нашли способ сжать модель до 3.9 ГБ — без заметной потери качества. Вместо стандартного округления весов модель обучали сразу с жестко ограниченным набором значений, что позволило сохранить 90–95% качества полноразмерной версии.

На практике ИИ может вести сложный диалог, писать код, анализировать документы и изображения с камеры и выполнять многошаговые задачи в режиме автономного агента. 

Стартап основан командой Калтеха при поддержке Khosla Ventures, Google и Samsung — и привлек $16,25 млн первоначального финансирования.

По данным The Information, Apple уже провела переговоры с PrismML о возможном использовании технологии. Apple активно продвигает концепцию ИИ на устройстве — чтобы данные пользователей не уходили в облако. Однако самые продвинутые части обновленного Siri пока все равно работают на серверах.

➡️ Скачать Bonsai 27B можно на HuggingFace.

Нужен ли мощный ИИ прямо на телефоне?

❤️ — да, было бы удобно
🔥 — нет, и так все работает

👋 Подпишитесь на Hi, AI!