の公式発表によると、TetherはQVAC Fabric内のクロスプラットフォームBitNet LoRAファインチューニングフレームワークを発表し、Microsoft BitNet(1-bit LLM)のトレーニングと推論の最適化を実現した。このフレームワークは計算能力とメモリ要件を大幅に削減し、数十億パラメータレベルのモデルをノートパソコン、消費向けGPU、スマートフォンでトレーニングおよびファインチューニングできるようにする。
このソリューションは、BitNetモデルのモバイルGPU(Adreno、Mali、Apple Bionicを含む)でのファインチューニングを初めて実現した。テストでは、125Mパラメータモデルは約10分でファインチューニングが完了し、1Bモデルは約1時間で完了し、スマートフォンでは13Bパラメータモデルまで拡張可能であることが示された。
さらに、このフレームワークはIntel、AMD、Apple Siliconなどの異種ハードウェアをサポートし、非NVIDIAデバイスでの1-bit LLM LoRAファインチューニングを初めて実現した。性能面では、BitNetモデルのモバイルGPU上での推論速度はCPUと比較して2倍から11倍向上し、同時にメモリ使用量は従来の16-bitモデルと比較して最大約77.8%削減された。
Tetherは、この技術が高性能計算能力とクラウドインフラへの依存を打破し、AIトレーニングの分散化とローカル化を推進し、連合学習などの新しいアプリケーションシナリオの基盤を提供する可能性があると述べている。
TetherがQVACクロスプラットフォームBitNet LoRAフレームワークをリリース:消費向けデバイスで数十億パラメータのAIモデルをトレーニング可能
AI解説はまだありません。上の「AI解説」ボタンで、今すぐ新しい解説を生成できます。
免責事項:本内容は著者個人の見解であり、投資助言を構成するものではありません。
24H人気ランキング
-
1
日経平均株価は前日終値から2.72%下落し、現在62,903.43円。
-
2
サムスン電子は前日終値比4.31%安の222,000ウォンで取引されている。
-
3
韓国KOSPI指数は前日終値から4.77%下落し、現在5,654.61ポイント。
-
4
台湾加権指数は前日終値から2.68%下落し、現在45,125.33ポイント。
-
5
BinanceのハッカーがUNI、ENA、PEPE、LINK、AAVE、ONDO、WLDを売却し、70,480 ETH(1億5,825万ドル)を現金化した。
-
6
サムスン電子は前日終値比5.82%安の218,500ウォンで取引されている。
-
7
SKハイニックスは前日終値から8.06%下落し、現在1,403,000ウォンで取引されています。
-
8
上海総合指数は前日終値から1.16%下落し、現在3,609.01ポイント。
-
9
アナリスト:中東紛争が蓄電需要を押し上げ、CATL、BYD、Gotion High-techが恩恵を受ける可能性
-
10
CNBCの分析によると、インテルの株価は大幅下落後もさらに下落する可能性があり、今売却しても損失は取り戻せないだろう。
本日の相場
おすすめ記事


