NVIDIA の動画紹介

本動画では、NVIDIAが発表したNVLink Fusionについて解説します。AIファクトリーの構築に必要な、カスタムXPUとCPUをNVIDIAのAIインフラストラクチャプラットフォームに接続するための技術です。

■ NVLink Fusionの概要
- カスタムXPUとCPUをNVIDIA AIインフラに接続
- NVLinkスケールアップネットワーキング、NVIDIA Photonics、NVHBM、NVLink-C2Cを統合

■ アーキテクチャと利点
- MGXラックスケールアーキテクチャに基づく標準化
- 性能向上、市場投入期間の短縮、共通のラック設計を提供

■ パートナーの視点
- 垂直統合かつ水平オープンなプラットフォーム
- シリコンイノベーターは独自コンピューティングに集中可能

AIファクトリーの構築やカスタムチップ開発に携わるエンジニアや意思決定者にとって、XPUとGPUを同一ファクトリーでサポートするラックスケール設計の全体像を把握するのに役立つ内容です。

本動画では、NVIDIAのエキスパートが、エージェントAI時代における推論インフラの進化と、その中核を担うVera Rubinプラットフォームについて解説します。従来の人間参加型のワークロードから、エージェントが自律的に動作する高度なワークロードへの移行に伴い、コンピューティング基盤に何が求められるのかを、具体的なベンチマーク結果や顧客事例を交えて紹介します。

■ エージェントAI時代のワークロード変化
- 従来の推論と比較して、エージェントワークロードは入力トークン数、KVキャッシュサイズ、ターン数が大幅に増加
- 動的なコンテキスト管理、ツール呼び出し、セキュリティ監視など、複雑な処理が必要

■ Vera Rubinプラットフォームの概要
- エージェントワークロード全体を実行するために設計されたAIファクトリー
- GPU（Vera Rubin）、CPU（Vera）、ネットワーク（Spectrum-X）、ストレージ（BlueField）を統合
- 従来比で最大30倍、場合によっては60倍のAIファクトリースループットを実現

■ データセンタースケールの最適化
- 電力制約下でのGPU収容数を最大化する「MaxLPS」ソフトウェア
- 動的な電力管理により、同じ電力で最大40%多くのコンピューティングを提供

■ エコシステムとパートナーシップ
- NVLink Fusionによる他社チップとの相互接続
- Perplexity、ClickHouse、Lambdaなど、早期導入企業の事例

エージェントAIの本格的な普及に備え、データセンターの設計やAIインフラ戦略に関心のあるエンジニアや意思決定者にとって、今後のインフラ構築の方向性を理解する上で有益な内容です。

本動画では、OpenAIのSachin氏とNVIDIAのIan氏が、AIインフラストラクチャを大規模に構築するための課題と最新の取り組みについて対談します。ギガワット規模のデータセンター設計から、AIによるチップ最適化、将来のモデル安全性まで、AI開発の最前線で何が起きているのかを解説します。

■ スケールするAIインフラの設計
- 単一GPUからデータセンター全体へ：計算需要の変化
- 電力・冷却・ネットワークを含むシステム全体の最適化
- オハイオデータセンター：ギガワット規模のグリーンフィールド設計

■ ハードウェアとソフトウェアの革新
- NVIDIA RubinでのAstra推論の高速化：3倍のスループット向上
- AIによる自己最適化：72時間で2倍の性能改善
- ヘテロジニアス環境でのオーケストレーション

■ AIの安全性と将来展望
- 安全性・整合性のための追加コンピューティングの必要性
- NVIDIAのチップ設計におけるAI活用事例

AIインフラに携わるエンジニアや技術戦略に関心のある方にとって、最新の技術動向と実践的な知見を得られる内容です。

NVIDIA DSX AIファクトリーは、電力網・電力管理・冷却を統合し、1メガワットあたりの知能を最大化するよう設計されています。設計から運用までを一つのシステムで接続し、AIキャパシティの拡張と効率向上を実現します。

■ 電力網の柔軟性と電力管理
- DSX ExchangeとDSX Flexによる電力網信号の連携
- DSX MaxLPSによるGPU・ラック・ワークロード間の動的電力管理
- 800 VDCによる電力供給の最適化

■ 冷却効率
- 45°C液体冷却による高密度AI運用の冷却オーバーヘッド低減

AIインフラの設計・運用に関わる技術者やデータセンター管理者が、電力効率を高める具体的な仕組みを理解するのに役立ちます。

NVIDIA RTX対応のAdobe Premiereの最適化版を標準版と比較しながら、RTXアクセラレーションによって編集機能がどのように高速化されるかを解説します。シーン編集検出やカラー補正、オブジェクト追跡、マルチカム再生など、実際の編集作業に直結する機能の性能差を確認できます。

■ RTX最適化版で高速化される機能
- シーン編集検出の処理速度
- 32ビット浮動小数点GPUパイプラインによるカラー補正UI
- オブジェクトマスクツールによるワンクリック追跡
- 4K 10bit 422 60fpsマルチカム映像の同時再生

ハードウェアとソフトウェアが相互に最適化された環境での編集性能に関心がある映像制作者や編集者にとって、RTX対応環境の活用方法を理解するのに役立ちます。

本動画では、NVIDIAとバルセロナ・スーパーコンピューティング・センター（BSC）の協力関係に焦点を当て、欧州最大級のスーパーコンピュータ「MareNostrum 5」を基盤とするAIファクトリーの構築と、その活用による科学技術の進展について解説します。

■ AIファクトリーの概要とNVIDIAの戦略
- 5層構造（エネルギー、チップ、インフラ、モデル、アプリケーション）の説明
- スタートアップや研究者へのコンピューティングリソース提供の重要性

■ BSC AIファクトリーの実際と成果
- 欧州委員会の支援によるインフラ構築
- 中小企業やスタートアップへの専門家支援とアクセラレーション

■ 欧州全体への展開と将来展望
- フランスなど他国のAIファクトリーとの連携
- エコシステム内でのユニコーン創出への期待

本動画は、AI技術の活用を検討するスタートアップ経営者や研究者、欧州の技術政策に関心のある方に適しています。視聴することで、AIファクトリーの仕組みと、産学連携によるイノベーション促進の具体例を理解できます。

人工知能が産業革命を牽引する中、AIを大規模に生み出す「AIファクトリー」の構築には、高性能かつ省電力なインフラが不可欠です。本動画では、台湾の半導体産業がどのようにして世界の野心的なアイデアを実現可能なインフラへと変えているのか、その協業と製造の卓越性に焦点を当てます。

■ 新たな産業革命とAIの進化
- AIの能力拡大とオープンモデルの台頭
- コンピュート需要の高まりとAIファクトリーの必要性

■ 台湾の半導体エコシステム
- パートナーシップと協業の力
- トランジスタからAIファクトリーまでの製造力

■ SEMICONの意義
- インテリジェンス時代の基盤を築く人々とパートナーシップの称賛

AI時代のインフラに興味がある方、半導体産業の最新動向を知りたい方にとって、台湾の役割と今後の方向性を理解する一助となるでしょう。

AIファクトリーの出力であるトークンと、その経済性を指すトークノミクスについて、ゲスト2名が基礎から実践的な分析手法までを解説する。金融や小売などの具体的なユースケースを交えつつ、AIへの投資をビジネスROIに結びつけるために、トークンの価値、需要、供給、収益化の各側面をどのように捉えるべきかを扱う。

■ トークンとトークノミクスの基礎
- トークンの定義と価値を決める要素
- トークノミクスの意味と注目される背景

■ 需要・供給・インフラ分析
- トークン需要の見積もり方とKVキャッシュの影響
- 供給側の効率を決めるモデル・ハードウェア・ソフトウェア
- 適切なモデル選択とルーティング、可観測性

■ 収益化と導入
- 収益化のカテゴリとROIの考え方
- トークン津波へのガードレールと小規模からの開始

AIインフラの導入やトークンコストの最適化に関心のある経営層、IT担当者、AIプロジェクト推進者に適した内容です。視聴後には、自社のユースケースに応じたトークン戦略を検討するための視点が得られます。