近年、動画を理解するマルチモーダル大規模言語モデル（Multimodal Large Language Models、以下MLLMs）の進化はめざましく、数時間に及ぶ長尺の映像を扱いながらも高精度な推論を実現できるようになっています。ところが、こうしたMLLMsの弱点の一つが、「キー・バリューキャッシュ（KVキャッシュ）」のメモリ使用量です。映像の時間が長くなると共に、このキャッシュは直線的に増え続け、スマートフォンやARグラス、エッジロボットのようなメモリ制約のあるデバイスでは、すぐに限界に達してしまいます。
この課題を解決する新しいアプローチとして登場したのが、「InfiniPot-V」という革新的なキャッシュ圧縮技術です。本記事ではこの新しい技術を、技術的な背景からやさしく解説しつつ、その可能性を探ります。
InfiniPot-Vとは何か？
InfiniPot-Vは、動画のストリーミング理解におけるKVキャッシュの肥大化を抑制する、画期的なメモリ圧縮フレームワークです。特徴的なのは、次の3つの特長を備えている点です：
1. トレーニング不要（Training-free）
InfiniPot-Vはモデルを訓練し直す必要がありません。既存のMLLMにそのまま適用できます。
2. クエリアグノスティック（Query-agnostic）
後からどんな質問を受けてもいいように、ユーザーの問い合わせ内容を知らなくても圧縮処理が可能です。
3. ハードメモリ制限（Length-independent Memory Cap）
ストリーミング映像の時間を問わず、固定メモリ上限内で処理を継続できます。
これは、これまでの手法とは異なり、あらかじめ全キャッシュを構築しておく必要がなく、ストリーミング処理に適しています。つまり、「逐次長時間映像を処理しても、端末のメモリいっぱいにならない」ことを可能にしているのです。
技術的仕組み：どのように圧縮しているのか？
InfiniPot-Vは、以下の2段階の軽量圧縮手法により、キャッシュメモリの肥大を防いでいます。
① 時間軸冗長性（TaR: Temporal-Axis Redundancy） の検出
これは、時間的に近いフレームで意味的に重複したトークン（単語や特徴量など）を見つけて除去する処理です。たとえば、「人が歩き続けているだけの場面」では、連続的なフレームがほとんど同じ情報を持つため、古い情報を削除しても意味の損失が少ないわけです。InfiniPot-Vはこのような冗長性を自動で検出し、不要なトークンを落とします。
② 意味的に重要なトークンの抽出（VaN: Value-Norm Ranking）
冗長でないトークンの中でも、意思決定や推論に重要な意味を持つものを選ぶ技術です。トークンの「意味的な重み（Value-Norm）」を数値で評価して、重要度の高い順に残します。こうして重要な情報だけを確保しながら、メモリを節約するのです。
圧縮性能と実用性：最大94％メモリ削減！
InfiniPot-Vは、4つのオープンソースMLLM（例：Video-LLaVAなど）と、合計6つのベンチマーク（長時間映像やストリーミング映像を含む）で評価されています。その結果、最大でGPUメモリ使用量を94％削減しながらも、精度はほぼそのまま、さらにマルチターン対話（人間と複数回の質問応答を交わすタスク）でも、従来の「全キャッシュ保持タイプ」と同等以上の成績を記録しています。
現場応用への展望：オンデバイス処理の現実味
InfiniPot-Vの最大の意義は、これまで大がかりなクラウド処理に依存していた長尺映像理解という課題領域に、「オンデバイス処理」という新たな地平を切り開いた点にあります。スマートフォンやARグラスなどの小型端末が、ネットワーク接続なしに高度な映像解釈を可能にすれば、AIアシスタントやナビゲーション、視覚補助、ロボット対話など、応用可能な領域は一気に広がります。
技術的コメント：トランスフォーマーのボトルネックをどう突破したか？
トランスフォーマー系モデルが長期情報を扱う際のボトルネックは、「自己注意（Self-Attention）」における計算量とメモリ使用量がトークン数の2乗に比例する点です。InfiniPot-Vはこの内、計算ボトルネックではなく記憶ボトルネックに着目し、あくまで重要な情報の需給バランスを保つというアプローチを取ったことが秀逸です。圧縮処理そのものが軽量かつ推論時にオンデマンドで動作するという点も、実用性の高さに貢献しています。
まとめ：InfiniPot-Vは「オンデバイスAI」の道を拓く
InfiniPot-Vは、複雑な再学習や外部知識に頼ることなく、長時間の映像でもストリーミング処理が可能になるように、メモリ使用を本質的に押さえ込むアプローチです。今後、現実世界で行われる長時間行動のナビゲーション支援や、障がい者向けの視覚理解サポートなど、オンデバイスAIの実現における重要な鍵となるでしょう。
映像理解における「より小さく、より賢く、より速く」を実現するInfiniPot-V。その登場は、AIと人間の距離を一歩縮める技術革新と言えるかもしれません。
