阶跃星辰Step 3.7 Flash发布,专为高效推理设计
This is exactly the philosophy: don't bolt on efficiency, design for it from day one. MFA + AFD are...
AI 导读阶跃星辰发布其推理优化型模型Step 3.7 Flash。该模型为196B MoE架构,从设计之初就专注于推理效率。其采用多矩阵分解注意力机制,使KV-cache成本仅为DeepSeek模型的约22%;同时通过注意力与FFN解耦技术,实现了硬件优化的高效服务。该模型已通过Fireworks AI提供,采用Apache 2.0许可,并可用于构建智能体应用。
来源:阶跃星辰 StepFun · x.com