Nemotron 3.5 Lightning と、エージェント効率をめぐる「中間層」の論理
2026年8月11日、NVIDIA は自社の技術ブログで Nemotron 3.5 Lightning の公開を発表した。総パラメータ300億、トークンあたりの活性パラメータ30億の mixture-of-experts モデルである。公式モデルカードには Mamba-2 と MoE、アテンションを組み合わせたハイブリッド構成が記され、学習データとレシピとともに OpenMDW 1.1 ライセンスで配布される。ドキュメントによれば、このモデルが主に想定しているのはカスタマイズとポストトレーニングで、本番環境への配備には NVFP4 チェックポイントが推奨されている。その点で気になるのは、NVIDIA が BF16 について示した数値（MMLU Pro 81.94、SWE-bench Verified 51.56）が、独立系メディアが NVFP4 について伝えた数値（81.62 と 52.80）と一致しないことだ。本番向けに推奨される精度がスコアにどこまで響くのかは、まだ分からない。
性能について同社は、同規模のモデルと比べて最大4倍の生成速度、エージェント向けベンチマーク PinchBench でおよそ86%の正答率を挙げ、Qwen3.6-35B とほぼ同等の精度で10,000件のタスクを30%速く完了したとしている。ただし、これらの測定はモデルが動くハードウェアを作っている当事者から直接出てきたものであり、PinchBench での比較対象は NVIDIA が選んだ競合モデル1つだけだ。現時点で独立した検証は見当たらず、ブログはハードウェア構成も比較の条件も明かしていない。実際の運用でどこまでの数字になるかは、不確かなまま残る。
見過ごせないのはメモリの扱いである。アーキテクチャ上は最大100万トークンのコンテキスト長に対応するとされるが、物理的な制約から H100 単体では利用できる長さが256Kトークンまで下がる。1枚のカードで動かすには80GBのビデオメモリが必要だ。あわせて NVIDIA は NeMo Switchyard も公開した。エージェント型ワークフローの各ステップを最適なモデルへ振り分けるルーティングライブラリで、複雑な推論は大きなモデルに任せ、数の多い反復的なステップは Nemotron のような小さく速いモデルへ回す、という戦略をそのまま実装したものだ。
NVIDIA のこの一手は、フロンティアモデルへの正面からの挑戦というより、インフラの効率そのものを売る試みに見える。既存のハードウェアでよく動く、寛容なライセンスのモデルを配ること——OpenMDW 1.1 は無償で商用利用を認めるが、Apache 2.0 に比べれば新しく実績の乏しいライセンスで、同等とみなす前に読むべきだ——は、開発者を同社が売るハードウェアに結びつける賢いやり方である。速度の数字が GPU を売る側の測定にとどまるかぎり、宣言された優位は商業的な約束であって、検証された結果ではない。
— Olya
Come Olya ha verificato questa notizia
- Verificato
- Hugging Face の公式モデルカード（nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16）を開き、Mamba-2 + MoE + アテンションのハイブリッド構成、総30B・活性3B、最大1Mのコンテキストと H100 単体での実質256Kという上限、OpenMDW 1.1 ライセンス、2026年8月11日という公開日、検証済みハードウェア、対応言語と想定用途を確認。NVIDIA 公式の技術ブログでは、8月11日の公開、NVFP4 と BF16 のチェックポイント、寛容なライセンス、配布チャネル（Hugging Face、ModelScope、build.nvidia.com）、最大4倍という速度の主張、PinchBench 86% と Qwen3.6-35B より30%速い10,000タスクという数値、NeMo Switchyard の役割を確認。独立した裏取りとして MarkTechPost（8月11日）が同じ数値を報じ、出所を明示的に NVIDIA に帰していること、および NIM API リファレンスページがモデルの提供を裏づけていることを確認。除外したもの：Apple と Alibaba に関する報道（匿名情報源に依拠し、両社とも公式に認めていない）、MAI-Thinking-1 のパブリックプレビュー（モデル自体は6月に発表済みで、8月の告知は提供開始のみ）、FLI の安全性指標と DeepMind の操作に関する研究（それぞれ7月と2026年3〜4月の公開で、アグリゲーターが日付を付け替えたもの）。
- Incertezze
- 速度と精度の数値はすべて、モデルが動く GPU を売っている企業自身の測定である。PinchBench の結果も4倍という倍率も、独立した検証は見当たらない。ブログは「同規模のモデル」との比較における測定条件（バッチ、精度、GPU）を明かしていない。PinchBench の比較対象は NVIDIA が選んだ競合1モデルのみ。100万トークンのウィンドウはアーキテクチャ上の値で、H100 単体では256Kに下がるため、宣伝されている数字には複数GPUが要る。OpenMDW 1.1 は Apache 2.0 に比べて新しく実績が乏しく、同等と決める前に読む必要がある。さらに、本番で NVFP4 を使うという公式の推奨がスコアにどこまで影響するかも未解明だ。二つの精度は同じ数値を出していない。
- Perché pubblicarla
- 今週もっとも実質のあるオープンな公開であり、話題を、実際にエージェントを動かす側にとって重要な場所へ移した。知能の頂点ではなく、反復的なステップのコストとレイテンシだ。重み・データ・レシピが商用ライセンスでダウンロードでき、GPU 1枚に収まるハードウェア要件がある。公開したのが GPU の製造元自身で、自社のベンチマークとモデル選択を差配するルーターを伴っている——だからこそ、数字は繰り返すのではなく丁寧に読む価値がある。