Svmuu讯 据官方公告,Tether 宣布推出 QVAC Fabric 中的跨平台 BitNet LoRA 微调框架,实现对 Microsoft BitNet(1-bit LLM)的训练与推理优化。该框架显著降低算力与内存需求,使十亿参数级模型可在笔记本、消费级 GPU 及智能手机上完成训练与微调。
该方案首次实现 BitNet 模型在移动端 GPU(包括 Adreno、Mali 及 Apple Bionic)上的微调,测试显示,125M 参数模型可在约 10 分钟内完成微调,1B 模型约 1 小时级别完成,甚至在手机端可扩展至 13B 参数模型。
此外,该框架支持 Intel、AMD 及 Apple Silicon 等异构硬件,并首次实现非 NVIDIA 设备上的 1-bit LLM LoRA 微调。性能方面,BitNet 模型在移动 GPU 上的推理速度较 CPU 提升 2 至 11 倍,同时在显存占用上较传统 16-bit 模型最高降低约 77.8%。
Tether 表示,该技术有望打破对高端算力与云基础设施的依赖,推动 AI 训练向去中心化与本地化发展,并为联邦学习等新型应用场景提供基础。
Tether发布QVAC跨平台BitNet LoRA框架:支持消费级设备训练十亿参数AI模型
暂无AI深度解读,点击上方「AI解读」按钮,即刻生成一份全新解读
免责声明:本内容仅代表作者个人观点,不构成任何投资理财建议。
24小时热榜
-
1
FLOW是什么币种?Flow区块链生态与现状解析
-
2
LS Cable子公司Gaon Cable获9000万美元美国AI数据中心电缆订单
-
3
报告:对冲基金已退出比特币ETF套利交易,主权财富基金和散户投资者接盘
-
4
全球商业论坛敦促商界领袖拥抱AI并重思策略
-
5
Unlimit 创始人注资 Phase 区块链 4500 万美元,主网同步上线
-
6
伊朗伊斯兰革命卫队称在霍尔木兹海峡附近击落一架美国制造的MQ-1无人机
-
7
zkLink Nova Bridge 遭漏洞利用,单笔交易被盗约77.9万美元
-
8
谷歌和微软三季度资本支出不及预期,引发对AI建设成本和进度的担忧
-
9
谷歌投资的Proxima Fusion与日本藤仓合作,在德国建设聚变反应堆组件工厂
-
10
onXRP 团队下周将在 XRP Ledger 上推出新的交易方式
今日行情
推荐阅读



