英伟达 Qwen3.8-Flash-Next 在 GB300 NVL72 上实现超 1.6 万 Token/秒吞吐

英伟达发布文章称，阿里巴巴最新预览模型 Qwen3.8-Flash-Next 已获得英伟达 GB300 NVL72 平台支持。该模型总参数规模达 1760 亿，每 Token 激活约 60 亿参数，原生支持 26.2 万 Token 上下文，并可通过 YaRN 扩展至 100 万 Token，主要面向智能编程、文档处理及工具调用等长上下文 Agent 应用。英伟达表示，Qwen3.8-Flash-Next 采用 Gated DeltaNet（GDN）与 Qwen Sparse Attention（QSA）混合架构，以降低长上下文场景下的计算和 KV 缓存开销。测试显示，在 GB300 NVL72 上，该模型单 GPU 吞吐量超过 1.6 万 Token/秒，单用户吞吐超过 200 Token/秒；同时支持 SGLang、vLLM 及 TensorRT-LLM 等推理框架。

本内容仅供参考，不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息，不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性，存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。