Svmuu訊 據官方公告,Tether宣佈推出QVAC Fabric中的跨平台BitNet LoRA微調框架,實現對Microsoft BitNet(1-bit LLM)的訓練與推理優化。該框架顯著降低算力與記憶體需求,使十億參數級模型可在筆記型電腦、消費級GPU及智慧型手機上完成訓練與微調。
該方案首次實現BitNet模型在行動端GPU(包括Adreno、Mali及Apple Bionic)上的微調,測試顯示,125M參數模型可在約10分鐘內完成微調,1B模型約1小時級別完成,甚至在手機端可擴展至13B參數模型。
此外,該框架支援Intel、AMD及Apple Silicon等異構硬體,並首次實現非NVIDIA設備上的1-bit LLM LoRA微調。性能方面,BitNet模型在行動GPU上的推理速度較CPU提升2至11倍,同時在顯示記憶體佔用上較傳統16-bit模型最高降低約77.8%。
Tether表示,該技術有望打破對高端算力與雲端基礎設施的依賴,推動AI訓練向去中心化與本地化發展,並為聯邦學習等新型應用場景提供基礎。
Tether發布QVAC跨平台BitNet LoRA框架:支援消費級設備訓練十億參數AI模型
暫無AI深度解讀,點擊上方「AI解讀」按鈕,即刻生成一份全新解讀
免責聲明:本內容僅代表作者個人觀點,不構成任何投資理財建議。
24小時熱榜
-
1
日經225指數較前收下跌2.72%,現報62,903.43
-
2
三星電子較前收下跌4.31%,現報₩222,000
-
3
韓國KOSPI指數較前收下跌4.77%,現報5,654.61
-
4
台灣加權指數較前收下跌2.68%,現報45,125.33
-
5
幣安黑客拋售UNI、ENA、PEPE、LINK、AAVE、ONDO、WLD,套現70,480 ETH(1.5825億美元)
-
6
三星電子較前收下跌5.82%,現報₩218,500
-
7
SK海力士較前收下跌8.06%,現報₩1,403,000
-
8
上證指數較前收下跌1.16%,現報3,609.01
-
9
分析師:中東衝突支撐儲能需求,寧德時代、比亞迪和國軒高科有望受益
-
10
CNBC分析認為,英特爾股價大跌後仍可能進一步下行,但現在拋售已無法挽回損失。
今日行情
推薦閱讀


