SvmuuTether AI Research Group は、スマートフォンやウェアラブル端末などの低スペックハードウェア上でローカルに直接実行でき、クラウドサーバーに依存することなく、複数の医療ベンチマークテストにおいて、より大規模なSOTAモデルを上回る性能を発揮する、次世代医療AIモデル「QVAC MedPsy」を発表しました。
公式データによると、17億パラメータ版のQVAC MedPsyは、7つの非公開医療ベンチマークテストで平均スコア62.62を記録し、GoogleのMedGemma-1.5-4B-itを11.42ポイント上回りました。これはモデル規模が後者の半分未満であるにもかかわらずです。HealthBench Hardなどの実際の臨床テストでは、パラメータ規模が約16倍大きいMedGemma 27Bをも上回る結果を示しました。
さらに、40億パラメータ版は平均スコア70.54を達成し、複数の医療推論評価において、その約7倍の規模を持つ大規模モデルを凌駕しました。Tetherは、このモデルが、後処理による医療推論の最適化、強化学習、高品質な医学データを用いたトレーニングを経て、「小さなモデルで高性能」を実現したと述べています。
従来のクラウドベースのAIアーキテクチャと比較して、QVAC MedPsyは推論コストも大幅に削減します。その40億パラメータ版は、平均約909トークンを生成するのに対し、同種のシステムでは平均2953トークンを生成するため、より低いレイテンシーと低い計算コストを実現します。また、モバイル端末やエッジデバイスへのローカル展開に適したGGUF量子化バージョンも提供されます。
Paolo Ardoino氏は、このモデルの核心的な目標は、単にパラメータ規模を拡大するのではなく、モデルの効率性を向上させることであり、医療AIを病院のローカルシステムやエンドデバイス上で直接実行できるようにし、それによって機密性の高い医療データがクラウドにアップロードされるのを防ぐことだと述べています。