螞蟻開源 Ling-3.0-tiny，79 億參數，M4 Pro 本地跑到 90 Token/s

螞蟻百靈開放 Ling-3.0-tiny 權重，提供 BF16、FP8 和 INT4 三個版本，採用 MIT 許可。該模型共有 79 億參數，每個 Token 只啟動 13 億，主要用於本地部署和 Agent 場景。Ling-3.0-tiny 配備 128 個路由專家，每個 Token 選擇其中 8 個專家，外加 1 個共享專家。注意力部分採用 3:1 的 KDA 與 MLA 混合架構，每 3 層 Kimi Delta Attention 後接 1 層 MLA。官方表示，FP8 版在 M4 Pro MacBook 上可達到約 86-90 Token/s，DGX Spark 上約為 100-105 Token/s。

本內容僅供參考，不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性，存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。