Qualcomm Technologiesは2026年9月10日に、次世代のモバイルプラットフォームに向けた新しい「Qualcomm Hexagon NPU」を発表しました。この新しいNPUは、個別のタスクに応じて専門的なモデルを使い分ける「エージェント型AI」の動作に最適化されています。
Transformer処理とメモリ容量を強化
新しいHexagon NPUは、生成AIやエージェント型AIを支えるTransformerワークロードに特化した「Element Accelerator」を搭載しています。これに加えて、NPUの共有メモリシステムを50%拡大しました。これにより、モデルの状態や中間的なデータがチップ上に保持されやすくなり、外部メモリへのアクセスを減らすことで、より高速でレスポンシブな動作を実現します。
MoEモデルへの対応と処理の高速化
次世代のモデルアーキテクチャであるMixture-of-Experts（MoE）モデルの実行にも対応しています。例えば30B（300億）パラメータのMoEモデルにおいて、各トークンの生成ステップでは約3B（30億）のパラメータのみをアクティブにすることで、計算量とメモリ帯域幅の負荷を抑えます。また、INT4ベースのモデルでは、プリフィル（事前処理）のパフォーマンスが最大50%向上しています。
幅広い精度への対応で効率的な実行を実現
開発者がパフォーマンスと品質のバランスを調整できるよう、INT2からFP16までの幅広い精度をサポートしています。これにより、より小さな効率的なモデルでローカルなタスクをこなしつつ、必要なときにはより大きなモデルを活用することが可能です。これらの技術により、デバイス上でのプライバシーを保ちながら、より迅速でパーソナルなAI体験を提供することを目指しています。