富士通、軽量化AI技術で「高根」を強化

富士通は、同社のAIサービス「富士通コズチ」の中核技術となる、大規模言語モデル（LLM）の重みと消費電力を低減する新たな生成AI再構成技術を開発しました。この技術により、同社のLLM「タカネ」の性能向上に成功しました。 この技術は、AIの思考の基盤となるニューロン間の接続に割り当てられる重みを最小限に抑える「世界最高精度の量子化技術」と、軽量化と元のAIモデルを上回る精度の両方を実現する「世界初のAI特化型蒸留技術」という2つの中核技術で構成されています。 この量子化技術を「Takane」に適用した結果、1ビット量子化（メモリ消費量を最大94%削減）により、量子化前と比較して世界最高水準の精度保持率89%を達成し、処理速度も量子化前の3倍となりました。 これは、従来の主流の量子化手法（GPTQ）の精度保持率である20%未満を大幅に上回るものです。この技術により、従来は4台のハイエンドGPUを必要としていた大規模な生成AIモデルを、1台のローエンドGPU上で高速に実行することが可能になります。.

この技術によって実現された劇的な軽量化により、スマートフォンや工場の機械などのエッジデバイス上でAIエージェントを実行できるようになります。これにより、リアルタイムでの応答性が向上し、データセキュリティが強化されるとともに、AI動作時の消費電力が大幅に削減され、持続可能なAI社会の実現に貢献します。 富士通は、量子化技術を応用した「Takane」の試用環境を、2025年度下半期から順次提供を開始する予定です。さらに
, 本日より、この技術を用いて量子化された、Cohere社の研究向けオープンウェイト「Command A」のモデルを、Hugging Faceを通じて順次公開してまいります。 富士通は、生成AIの信頼性を確保するための研究開発を推進しつつ、その機能を飛躍的に向上させ続け、それによってお客様や社会が直面するより困難な課題の解決に貢献し、生成AIの活用における新たな可能性を切り拓いてまいります。.

近年、生成AIは自律的にタスクを実行するAIエージェントへと進化し、その産業実装は急速に進んでいます。しかし、その基盤となるLLMは大規模化し、高性能なGPUを大量に必要とするため、開発・運用コストの上昇や、消費電力の多さによる環境負荷など、大きな課題となっています。また、企業がジェネレーティブAIを業務に十分に活用するためには、単に汎用的なモデルを利用するのではなく、特定の業務に合わせたモデルの精度向上や、工場や店舗のエッジデバイスで利用できる軽量化が不可欠です。

- 広告

こちらもお読みください： NTT-AT、RPA「WinActor」にAI機能を搭載

生成的AI再構成技術を構成する2つのコア技術

AIエージェントが実行するタスクの多くは、LLMが持つ汎用的な能力のごく一部しか必要としません。LLMの設計において、ここで開発された生成AI再構成技術は、人間の脳が学習や経験、環境の変化に応じて神経回路を再構成し、特定のスキルに特化させる能力に着想を得ています。 この技術は、一般的な知識を持つ巨大なモデルから、特定のタスクに必要な知識のみを効率的に抽出し、専門家の脳と同様に、軽量かつ高効率で信頼性の高いAIモデルを構築します。これは、本技術の以下の2つの中核技術によって実現されています。.

AIの思考を効率化し、消費電力を削減する量子化技術

この技術は、生成AIの思考の基盤となる膨大なパラメータ情報を圧縮し、生成AIモデルのサイズ、消費電力、および処理速度を大幅に削減します。従来の方法では、LLMなどの多層ニューラルネットワークにおいて、量子化誤差が指数関数的に蓄積されるため、課題となっていました。 富士通研究所は、理論的な知見に基づき、量子化誤差を各層に伝播させることでその増大を防ぐ新しい量子化アルゴリズム（QEP：Quantization Error Propagation）を開発しました。さらに、富士通研究所が開発した、大規模問題向けの世界最高精度を誇る最適化アルゴリズム「QQA」を活用することで、 富士通 研究所では、LLMの1ビット量子化を達成しました。

専門知識を凝縮し、精度を高めるAI専門蒸留技術

この技術は、脳が必要な知識を強化し、不要な記憶を整理するように、AIモデルの構造を最適化するものです。まず、ベースとなるAIモデルから不要な知識を削除するために剪定を行い、新たな機能を付与するためにTransformerブロックを追加することで、多様な候補モデル群を生成します。 次に、独自の代理評価技術であるニューラルアーキテクチャサーチ（NAS）を用いて、顧客の要件（GPUリソース、処理速度）と精度のバランスが取れた最適なモデルを、これらの候補の中から自動的に選定します。 最後に、「タカネ」などのトレーニングモデルから知識を抽出し、選択されたモデルに注入します。この独自のアプローチは、単なる圧縮にとどまらず、特定のタスクにおいて、ベースとなる生成AIモデルを上回る精度を実現します。.

当社が保有するCRM（顧客関係管理）データを用いたテキストQAタスクで、各営業案件の結果を予測するデモでは、過去データに基づくタスク固有の知識のみを抽出したモデルを用いることで、推論速度を11倍に向上させ、精度を43%向上させるなど、大幅な精度向上を確認しました。また、高精度化とモデル圧縮を同時に実現することで、パラメータサイズが1/100の軽量な生徒モデルでも教師モデルを上回る精度を達成できることを確認し、必要なGPUメモリと運用コストを70%削減するとともに、より信頼性の高い取引結果の予測を可能にしました。さらに、画像認識タスクでは、未学習のオブジェクトの検出精度を、既存の蒸留技術と比較して10%向上させることに成功しました。これは画期的な成果であり、この分野における過去2年間の精度向上の3倍以上です。

ソース 富士通