2026-04-04 18:16:22
1

Tether 推出跨平台 BitNet LoRA 框架,可在消費級設備上訓練十億參數模型

摘要

PANews 3月21日消息,據官方公告,Tether 宣布推出 QVAC Fabric 中的跨平台 BitNet LoRA 微調框架,實現對 Microsoft BitNet(1-bit LLM)的訓練與推理優化。該框架顯著降低算力與內存需求,使十億參數級模型可在筆記本、消費級 GPU 及智能手機上完成訓練與微調。 該方案首次實現 BitNet 模型在移動端 GPU(包括 Adreno、Mali 及 Apple Bionic)上的微調,測試顯示,125M 參數模型可在約 10 分鐘內完成微調,1B 模型約 1 小時級別完成,甚至在手機端可擴展至 13B 參數模型。 此外,該框架支援 Intel、AMD 及 Apple Silicon 等異構硬體,並首次實現非 NVIDIA 設備上的 1-bit LLM LoRA 微調。性能方面,BitNet 模型在移動 GPU 上的推理速度較 CPU 提升 2 至 11 倍,同時在顯存佔用上較傳統 16-bit 模型最高降低約 77.8%。 Tether 表示,該技術有望打破對高端算力與雲基礎設施的依賴,推動 AI 訓練向去中心化與本地化發展,並為聯邦學習等新興應用場景提供基礎。

声明:文章不代表币圈子观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险自担!转载请注明出处!侵权必究!
回顶部