mimile
mimile.ai
На главную

Z.ai и Alibaba выпустили почти идентичные MoE-модели с разницей в день

AI-дайджест

Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.

Z.ai и Alibaba выпустили почти идентичные MoE-модели с разницей в день

Z.ai выпустила GLM-5.3-Flash, мультимодальную MoE-модель на 320B параметров, а Alibaba — Qwen3.8-Flash-Next, модель на 125B, предваряющую Qwen4, с разницей в один день. Обе модели независимо пришли к гибриду линейного и полного внимания в соотношении 3:1, сжатому индексатору контекста с лимитом 2048 токенов и оптимизатору Muon. GLM-5.3-Flash стоит $0.15 за миллион входных токенов, а Qwen3.8-Flash-Next потребовала примерно в девять раз меньше вычислений, чем Qwen3.7-Plus.

1 источник

Z.ai и Alibaba выпустили почти идентичные MoE-модели с разницей в день