Google обратилась к сообществу с вопросом, что оно хочет видеть в следующей версии Gemma. Среди озвученных пожеланий — более крупная MoE-модель, настраиваемые усилия при рассуждении, аудиовход и более мягкие ограничения.

Google спросила сообщество, какие возможности оно хотело бы видеть в следующей версии Gemma. В числе пожеланий — более крупная MoE-модель примерно на 100B параметров, которая помещается в 64 ГБ ОЗУ, настраиваемые усилия при рассуждении, аудиовход и более мягкие ограничения. Публичный сбор таких пожеланий для дорожной карты выглядит необычно для передовой лаборатории.

Источники 1