これまでのAIと言えば、強力なサーバ群を擁するクラウドで処理する形式が主流でした。しかし、通信の遅延をなくし、電波の届かない場所でも即座に結果を返すレスポンスの速さやプライバシー保護の観点から、端末で処理完結するオンデバイスAIへの移行が急速に進んでいます。

ただ、スマホ上でLLMを動かすには、メモリ領域を占有し続けることになります。

これは、ユーザが普段使うアプリが利用できる領域を圧迫することを意味しています。メモリ容量は、カタログスペック上は余裕があるように見えても、システム内部では限られたメモリ領域を奪い合っているのが現状です。

こうした中、Gemini Nanoの最新世代「v3」がソフトウェア側の最適化でこの課題を解決しようとしているので取り上げます。

Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction>

130MBのメモリを節約するアプローチ

Gemini Nanoは、v3で処理速度を最大50%向上させながら、常駐メモリ容量を約130MB削減することに成功したのは大きなトピックです。いまどき130MBという数字は大騒ぎする数字ではありませんが、常にバックグラウンドで動作し続けるシステムコンポーネントのフットプリントとしては大きな削減幅です。

そのGemini Nano v3では、タスクの実行時に重要度の高いパラメータと低いパラメータを厳密に選別し、メモリへの配置や計算の割り当てを動的に変更する仕組みを取り入れたと考えられます。加えて、AICoreとの連携強化も寄与しています。

SoCに搭載されたNPUに対して、データを無駄なく転送するパイプラインを構築し、メインメモリ上に不要な中間キャッシュを残さない設計を徹底した結果、モデル全体のサイズを削りながらも、処理能力を一段と高めるという理想的なバランスを実現しています。

AIモデルが占有するメモリ領域が130MB減ることは、「⁠Low Memory Killer（LMK⁠）⁠」が発動するまでの猶予が長くなることを意味しています。よって、体感としての「挙動の軽さ」や「アプリ切り替えのスムーズさ」が確実に向上します。さらに、メモリの頻繁な確保とガベージコレクションなど、プロセッサの負荷が軽減されるため、副次的な効果としてバッテリー持ちの改善や端末の発熱抑制にも繋がります。

とは言え足元の状況は、Pixel 9や10シリーズ、Galaxy S26シリーズなどのフラッグシップ端末が対象となっています。現状は、理想と現実に乖離がありますが、Gemini Nano v3で行われた最適化アプローチは、ミドルレンジ向けのSoCでも将来的に高度なAIを実用レベルで動かすための布石となります。システム要件のハードルを可能な限り下げ、幅広い価格帯の端末でAI体験を普及させるための道筋が今回の動きから見えて来ます。

Androidの未来はソフトウェア⁠・オリエンテッド

スマホの進化の歴史は、プロセッサの微細化やメモリ容量の倍増、カメラセンサーの大型化といった、ハードウェアの力技に頼る部分が大きく占めていました。しかし、製造コストの高騰や物理的な電力消費の限界が見えつつある現在、ソフトウェアの最適化が持つ意味はかつてないほど重くなっています。

Gemini Nano v3の試みは、限られたハードウェアリソースの中でいかに最大の効率を引き出すかという古くから行われているアプローチです。派手な新機能追加に比べると、地味なアップデートに見えますが、Android全体の快適性と持続可能性を支える極めて価値の高い一歩です。

ハードウェアに頼った力押しから、ソフトウェアの知的な効率競争へ。こうした取り組みは、これからのスマホ体験の質を決める重要な指標になるはずです。