GTC March 2024 Keynote with NVIDIA CEO Jensen Huang
このビデオは、NVIDIAのCEOであるJensen Huang氏によるGTC March 2024の基調講演です。
簡単な概要
コンピュータ産業は今日、社会にとって最も重要なツールであり
コンピュータにおける根本的な変革はあらゆる産業に影響を及ぼす。
ジェネレーティブAIは、ソフトウェアの新しいカテゴリーであり、従来のソフトウェアとは全く異なる方法で作成される。
ジェネレーティブAIは、コンテンツ生成、推論、シミュレーションなど、さまざまなアプリケーションで使用される。
NVIDIAは、Blackwellと呼ばれる新しいGPUアーキテクチャを発表した。
Blackwellは、ジェネレーティブAIワークロード向けに特別に設計されており、従来のGPUよりも30倍高速なパフォーマンスを提供する。
詳細
ジェンセン・フアン氏は、GTC基調講演で、コンピュータ産業がかつてないほどの変革期を迎えていると述べた。
この変革は、人工知能（AI）の台頭によって推進されており、特にジェネレーティブAIは、ソフトウェア開発、推論、シミュレーションなど、さまざまな分野に大きな影響を与える可能性を秘めている。
ジェネレーティブAIは、従来のソフトウェアとは全く異なる方法で作成される。従来のソフトウェアは、人間がコードを書いたものであるが、ジェネレーティブAIは、大量のデータから学習し、独自のコードを生成する。
ジェネレーティブAIは、さまざまなアプリケーションで使用される。
例えば、コンテンツ生成では、文章、画像、動画などを自動的に生成することができる。推論では、質問に対する答えを導き出す、意思決定を支援するなど
さまざまなタスクに活用できる。
シミュレーションでは、製品設計、物理現象の分析、医療診断など
さまざまな分野で活用できる。
NVIDIAは、ジェネレーティブAIワークロード向けに特別に設計された
新しいGPUアーキテクチャ「Blackwell」を発表した。
Blackwellは、従来のGPUよりも30倍高速なパフォーマンスを提供し、大規模なジェネレーティブAIモデルのトレーニングと実行を可能にする。
ジェンセン・フアン氏は、Blackwellの登場により、ジェネレーティブAIが今後さらに広く普及し、あらゆる産業に大きな変革をもたらすと述べた。
重要なポイント
ジェネレーティブAIは、ソフトウェア開発、推論、シミュレーションなど、さまざまな分野に大きな影響を与える可能性を秘めている。
ジェネレーティブAIは、従来のソフトウェアとは全く異なる方法で作成される。
NVIDIAのBlackwellは、ジェネレーティブAIワークロード向けに特別に設計された新しいGPUアーキテクチャである。
Blackwellは、従来のGPUよりも30倍高速なパフォーマンスを提供し、大規模なジェネレーティブAIモデルのトレーニングと実行を可能にする。
ジェネレーティブAIは、今後さらに広く普及し、あらゆる産業に大きな変革をもたらす可能性がある。
NVIDIA GTC 2024 基調講演から読み解く、ジェネレーティブAIとロボットの未来
ジェネレーティブAIがもたらす革新
2024年3月19日に行われたNVIDIA GTC 2024基調講演では、ジェネレーティブAIが様々な分野に革新をもたらす可能性が強調されました。具体的には、以下のようなアプリケーションが期待されています。
コンテンツ生成
- 文章：記事、小説、詩、脚本、歌詞など、様々な文章を自動生成
- 画像：写真、イラスト、アイコン、ロゴなど、様々な画像を自動生成
- 動画：実写動画、アニメーション、CG映像など、様々な動画を自動生成
- 音楽：メロディー、コード進行、リズムパターンなど、様々な音楽要素を自動生成
推論・分析
- 質問応答：膨大なデータから質問に対する答えを導き出す
- 異常検知：データから異常なパターンを見つけ出す
- 意思決定支援：データに基づいて最適な意思決定を支援する
シミュレーション
- 製品設計：製品の設計や試作を効率化する
- 物理現象分析：流体解析、構造解析など、様々な物理現象をシミュレーション
- 医療診断：患者の症状に基づいて病気の診断を支援する
ロボット
- ロボット動作の高度化：ジェネレーティブAIによって、より自然で人間らしい動きをするロボットを開発
- ロボット学習の効率化：ロボットが経験を通して学習する際、ジェネレーティブAIによって学習速度を大幅に向上
- ロボットシミュレーションの高度化：ロボット開発におけるシミュレーションでは、ジェネレーティブAIによってより現実的な環境を構築
NVIDIAの貢献
NVIDIAは、ジェネレーティブAIの発展に大きく貢献しています。具体的には、以下のような取り組みを行っています。
- GPUアーキテクチャの開発：ジェネレーティブAIワークロードに特化したGPUアーキテクチャを開発
- ジェネレーティブAIソフトウェア開発キットの提供：開発者がジェネレーティブAIアプリケーションを容易に開発できるソフトウェア開発キットを提供
- ジェネレーティブAIモデルの公開：研究者や開発者が利用できるジェネレーティブAIモデルを公開
ロボットとの融合
ジェネレーティブAIとロボット技術の融合は、新たな可能性を拓きます。
- ロボットの動作をより自然で人間らしくする
- ロボットの学習を効率化する
- ロボットシミュレーションの精度を向上させる
これらの技術革新は、製造業、サービス業、医療、介護など、様々な分野に大きな影響を与えるでしょう。
具体的なアプリケーション例
- 製造業：ジェネレーティブAIを用いて製品設計を最適化し、ロボットによる自動生産を実現
- サービス業：ジェネレーティブAIを用いて顧客一人ひとりに合わせたサービスを提供するロボットを開発
- 医療：ジェネレーティブAIを用いて患者の症状を分析し、最適な治療法を提案するロボットを開発
- 介護：ジェネレーティブAIを用いて高齢者の生活を支援するロボットを開発
今後の展望
ジェネレーティブAIとロボット技術の融合は、私たちの生活を大きく変革する可能性があります。
- より便利で快適な生活
- より効率的な社会
- より豊かな創造性
これらの実現に向けて、技術開発と社会的な議論が進んでいくことが期待されます。
ここからはYOUTUBEの文字起こしの英文を日本語に訳しましたので
皆様に共有いたします
DEEPLを使って翻訳した為、少しわかりづらい箇所もあるかと思いますが。もしよければご覧ください。
GTC これはコンサートではないことを理解してほしい。
この会議では、多くの科学がアルゴリズム・コンピュータ・アーキテクチャについて
説明される。
数学 私は部屋の中にとても重いものを感じた。
これほど多様な分野の研究者が一堂に会する会議は、
世界中どこにもない。
次世代6G無線のMOSをAIでロボット制御する方法を探る。人工知能でさえも、
最初に、私はその感覚に気づいた。
また、この会議には素晴らしい企業が参加している。
マイケル・デルがIT部門に座っている。
このリストを取り上げると、私がこの業界で一緒に育った友人たち全員が
この業界のプレゼンターであることがわかるだろう。
通常のコンピューターでは解決できない問題を
アクセラレーション・コンピューティングを使って解決する。
ケアゲノミクス もちろん小売
ロジスティクス製造業 産業の全域
そして、あなたは自分の研究について話すために発表するために
ここにいるのであって、出席するためだけにここにいるのではないのだ。
絶対に何かが起こっている。
というのも、コンピューター産業は今日、社会にとって最も重要な道具
であり、コンピューターにおける根本的な変革はあらゆる産業に影響を及ぼすからだ。
これは1ページで、NVIDIAの旅は次のように始まった。
1993年、これが私たちの旅だった。
1993年に設立され、2006年にはいくつかの重要な出来事があった。
クーダは革命的なコンピューティング・モデルであることが判明した。一夜にして大成功を収め、約20年後にそれが実現し
た。
その後、2012年にアレックスネットのAiとCudaが初めて接触した。
2016年、我々はこのコンピューティング・モデルの重要性を認識し、dgx oneと呼ば
れる全く新しいタイプのコンピューターを開発した。
170テラ・フロップのスーパーコンピューター 8つのGPUが初めて接続された dgx-1の初号機を新興企業に手渡した
サンフランシスコにあるオープンAI
dgx-1は世界初のAIスーパーコンピュータだった
170テラが大失敗 2017年トランスフォーマーが登場
2022年 チャットGPTは世界の想像力をかき立て
人々は人工知能の重要性と能力を認識する。
2023 ジェネレーティブAIが登場し、新産業が始まる
なぜ、新しい産業かというと、ソフトウェアが以前には存在しなかったか
らである。
それまで存在しなかったまったく新しいカテゴリーであり、何もないところからシェアを奪った。
ソフトウエアの制作方法は、データセンターでこれまで行われてきたようなものではありません。
トークンは、浮動小数点数を非常に大規模に生成する。
この最後の産業革命が始まったとき、人々は工場にエネルギーを供給することに気
づいた。
電気という貴重なものが交流発電機から生まれ、100年後、200年後、私たちはインフラを利用して新しいタイプの電子トークンを作り出している。
工場はAI工場と呼ばれ、信じられないほど価値のある新しいものを生み出している
。
人工知能という新しい産業が出現した。
この新しい業界について、いろいろなことを話していきたい。
この新しい業界のためにあなたが作るソフトウェアのタイプについて、この新しいソフトウェアについてあなたがどう考えるか、この新しい業界でのアプリケーションについて、そして次に何があるか、そして私たちは今日からどのように準備を始められるかについてお話しします。
これから何が始まるのか その前に
コンピュータ・グラフィックス物理学と人工知能の交差点にある
Nvidiaの魂をお見せしたいと思います。
インテリジェンスはすべて、コンピュータの中で交差している。
仮想世界シミュレーションのオムニバース 今日お見せするのは、文字通りすべてだ
。
今日お見せするのはシミュレーションで、アニメーションではありません。物理学だから美しいのだ 世界は美しい。
ロボット工学によってアニメ化され、人工知能によってアニメ化されている。
その日、それは完全に生成され、完全にシミュレートされ、オムニバースとそのすべてだ
これからお楽しみいただくのは、すべてが自家製という世界初のコンサート
です。ホームビデオをご覧いただきますので、どうぞお座りください。ポイント汎用コンピューティングは力尽きた。
そうすることで、コンピューティングの規模を拡大し、コンピューティングのコス
トを下げ続けることができる。
持続可能でありながら、より多くのコンピューティングを消費し続けることができる アクセラレーション•コンピューティングは、汎用コンピューティングよりも劇的に高速化される
そして、私たちが関与するすべての産業において、その影響は劇的なものである
。
この業界では、シミュレーションツールを使って製品を作ることは、我々の業界よりも重要なことなのだ。
コンピューティングのコストを下げることではなく、コンピューティングの規模を拡大することなのだ。
我々がデジタル•ツインと呼んでいるもので、基本的に完全にデジタル化されたフル•フィデリティの製品全体をシミュレートする。
そのためには業界全体を加速させる必要がある。
この旅に参加してくれるパートナーたちがいることをお知らせしたい。
エコシステムによって、世界をアクセラレイティド•コンピューティングに移行させることができるのだが、アクセラレイティド•コンピューティングになると、インフラがgpusに統合されるというボーナスがある。
ジェネレーティブAiのためのインフラとまったく同じである。
アニスは、世界有数の企業数社と非常に重要なパートナーシップを結んでいる
。
私たちは、アンシス•エコシステムを加速させるために彼らと提携しています。
肛門をオムニバースのデジタル•ツインに接続するために、信じられないことがある。
素晴らしいのは、メディアGPUアクセラレーション•システムのインストールベー
スが、世界中のあらゆるクラウド、あらゆるシステムにあるということだ。
そのため、彼らが加速させるアプリケーションは、巨大なインストールベースを持っている。
ユーザーは素晴らしいアプリケーションを手に入れることができ、もちろんシステム•メーカーやCspsは素晴らしい顧客を手に入れることができる。
要求のあらすじ あらすじは、文字通りNVIDIAのものである。
最初のソフトウェア•パートナーである彼らは、私たちの会社の設立初日に現れ、
チップに革命をもたらした。
ハイレベルの設計を持つ業界では、我々はCudaのシノプシスを加速させるつもりだ
。
コンピュテーショナル•リソグラフィーを加速誰も知らなかった最も重要な
アプリケーションのひとつ
チップを製造するためには、リソグラフィを限界までプッシュする必要があります。Nvidiaは、コンピュテーショナル•リソグラフィを信じられないほど高速化する、ドメイン固有のライブラリを作成しました
。
本日、Nvidia kithoのソフトウェア•デファインド（SDS）および
次のステップは、生成的AIを将来の半導体製造に応用することである。
ジオメトリーをさらに進化させるケイデンス
EdaとSDAのツールは不可欠であり、我々はまた、これらの3社の間にケイ
デンスを使用しています シノプシスとケイデンスは、我々は基本的に一緒にNvidiaを構築し、我々はcudです
ケイデンスを加速させるために、彼らはまた、NvidiaのGPUでスーパーコンピューターを構築している。
流体 100倍から1000倍のスケールでのダイナミックシミュレーション
ケイデンス•ミレニアムのスーパーコンピューターは、基本的にリアルタイムで風洞実験を行う。
Nvidiaのgpusは、スーパーコンピュータを構築するソフトウェア会社の中にある。
ケイデンスが、シノプシス•アンシス•ツール•プロバイダーがAIコ•パイロットを提供し、何千何万ものコ•パイロット•アシスタントが支援す る日を想像してみてほしい。
また、ケイデンスのデジタル•ツイン•プラットフォームをオムニバースに接続する予定です。
世界のCAEエダとSDAを加速させることで、私たちは次のような流れを見ている。デジタル•ツインズで私たちの未来を創造し、そのすべてをオムニバースにつなげ
る。
未来のデジタル•ツインのためのシステム規模と規模から多大な恩恵を受けた産業のひとつである。
皆さんもよくご存知のこの大型言語モデルは、基本的にトランスフォーマーの後に作られたものだ。
大規模な言語モデルを驚異的な速度でスケールさせることができた。事実上、半年ごとに倍増しているのだ。
その理由は単純で、もし計算量が2倍になれば、次のようになる。
モデルの大きさが2倍になれば、脳の大きさも2倍になり、それを満たすために必要
な情報も2倍になる。
パラメータ数を2倍にするたびに、トレーニングトークン数も適切に増やす必要がある。
最新のオープンAIモデルをサポートするために必要な計算規模は、約1兆8000億パラメータとなる。
そのため、数兆個のパラメータをトレインに使用する必要があった。この2つを掛け合わせると、数兆トークンのオーダーになる。
1秒間に10億回の浮動小数点演算を行う。今すぐCoの計算をしてみよう。
クアドリリオンはPAのようなもので、もしPAフロップGPUがあれば、次のようになる。
300億秒といえば、約1,000年だ。
早くやりたいけど、やる価値はある。
みんなに言われるんだ、何かをするのにどれくらい時間がかかるのかって 。
でも、来週はできるかな。
私たちに必要なのは、より大きなGPUである。
gpusを一緒に使い、もちろんその過程で10個のセンサーコアを発明するなど、さまざまな技術革新を行った。
MVリンクにより、実質的に巨大なGpusを作成し、それらをすべて接続することができる。
メラノックス•インフィニバンドという会社の素晴らしいネットワークを使って、巨大なシステムを作ることができた。
djx1は我々の最初のバージョンだが、これが最後というわけではなく、我々はずっとスーパーコンピューターを作り続けてきた。
2021年にはセリーヌの4500GPUがあった。
そして2023年、我々は世界最大級のAIスーパーコンピューターを構築した
。
そのために、まずチップを作る必要がある。
システムをネットワークに接続するために必要なすべてのソフトウェアは、以下のように表示されるはずです。
システム全体で動作するソフトウェアを書くことを想像してほしい。
何千ものGpusにまたがっているが、内部には何千もの小さなGpusがある。
gpus数百万個のgpusで、すべてのgpusに仕事を分散させ、バランスをとる。
ワークロードを最大限に活用することで、エネルギー効率を高め、計算時間を短縮
し、コストを抑えることができます。
このような基本的な革新があったからこそ、我々はこ
こまで来れたのだ。
目の前にいる選手たちを見ていると、我々にはまだ長い道のりがあることに気づかされる。
より大きなモデルは、インターネット上のテキストだけでなく、マルチモダリティ
のデータを使ってトレーニングする。
私たちがテレビを見て学ぶように、テキストや画像、グラフや図表を使って訓練する。
腕が壁を通り抜けることはない。
をたくさん見ることで
世界のビデオと世界の多くの言語が組み合わされている。
私たちが学習しようとするとき、想像力を働かせてシミュレーションを行うのと
同じように、合成データを生成するようなものだ。
この基調講演を準備するときに私がしたように、この基調講演がどのような結末を迎えるのか、私はずっとシミュレーションしていた。
私が考えていたようになることを願っている。
この基調講演がどうなるかシミュレーションしているときに、誰かが言ったんだ
。
パフォーマーは完全にトレッドミルの上で演技をした。
もし10分後に風が吹いたら、何が起こったかわかるだろう。強化学習を使う世代は、頭の中で練習することになる。
その他、生徒と教師のデバターと同じように、これらすべてが私たちのモデルのサイズを大きくすることになる。
データ量が増えれば、さらに大規模な施設を建設しなければならなくなる。
gpus ホッパーは素晴らしいが、もっと大きなものが必要だ。というわけで、みなさん、とてもビッグな選手を紹介
しましょう。
デビッド•ブラックウェル数学にちなんで命名されたGPU 私たちは、それが完璧な黒富豪という名前にぴったり
だと考えました。
Blackwellはチップではない。Blackwellはプラットフォームの名前であり、人々は我々がGpusを作っていると思っている。
ここがそうだ、ここがそうだ......もしそうなら 黒人の心だ
これはブラックウェルという社名ではなく、単なる番号であり、このブラックウェルはその隣に座っている。
今日の生産における世界
これがホッパーだ ホッパーが世界を変えた これがブ
ラックウェルだ 大丈夫だ
ホッパー......君はとてもいい子だ いい
子だ いい子だ
2,080億個のトランジスターがある。
2つの染料の間に小さな線があるが、これは2つの染料がこのように接した初めての例である。
チップの2つのダイは1つのチップだと思っていて、その間に10テラ
バイトのデータがある。
ブラックウェルの野望が物理学の限界を超えていると聞かされたとき
、エンジニアは、だからどうした、と言った。
最初のものは、フォーム•フィット•ファンクションと互換性のあるシステムである
。
ホッパーをすべてスライドさせ、ブラックウェルを押し込む。
ホッパーは世界中に設置されており、その効率は非常に高い。
同じインフラ、同じデザイン、同じパワー、同じ電気、同じサーマルズ•ソフトウェアがそれを後押ししている。
これは現在のhgx用のホッパー•バージョンである。
そしてこれが、もう1つの2つ目のホッパーで、これはプロトタイプの
ボードだ。
紳士淑女の皆様
ポール、そしてこれが完全に機能するボードだ。
億円、2番目の
5回目以降はもっと安くなる。
でも、これはかなり高価なもので、取締役会を立ち上げるためのものなんだ。
それで、これを手に取るんだ。
blackwチップと4つのBlackwellダイがGrace CPUに接続され、Grace CPU
は超高速のチップ間リンクを持っている。
第二に、メモリーが首尾一貫していて、まるでひとつのアプリケーションを一緒に作っている大きな家族のように感じられる。
テラバイトのこれとテラバイトのこれは しかし、これは奇跡だ。
ここにあるもの......上のMVリンク、下のPCIエクスプレス どれ
が僕のもので、どれが左のものなんだ？
そのうちのひとつがCPUチップで、もうひとつがチップ間のリンクでも構わない。僕の左側か、君の左側か 僕はそれを整理しようとしていたんだ。
うまくいけば、プラグに接続さ
れることになる。 しかし、まだある。
スペックは素晴らしいが、限界を超えるためには多くの新機能が必要だ。
物理学の限界として、我々は常にもっと多くのXファクターを得たいと考えている。トランスフォーマー•エンジンは、第2世代のトランスフォーマー•エンジンである
。
動的に自動でスケールを変更する機能がある。数値フォーマットを低いPrecisionに変更する。
人工知能は確率の問題であり、1.7倍はある。
1.7倍
およそ1.4がおよそ別のものになる。
パイプラインの特定の段階で必要とされるプレシジョンとレンジを維持するための数学は非常に重要であり、これは
より小さなALUを設計したという事実 世界はそれほど単純ではない。
何千Gpusもの計算機でそれを使うことができる。何週間も、何週間も、何週間も、何週間も。
そして、この新しいトランスフォーマー•エンジンには第5世代のMVリンクが搭載
され、ホッパーの2倍の速さになった。
しかし、非常に重要なのは、ネットワークに計算機能があることだ。
異なるGPUが一緒に動作している場合、互いに情報を共有し、同期して更新する必要がある。
そのため、部分的なプロダクツを減らしてから、その部分的なプロダクツを再放送しなければならない。
部分的な製品の合計を他のすべての製品に戻す。
そして、これらすべてが同期とコレクティブの領域の一部である。
お互いに非常に高速なリンクを持ち、ネットワーク上で数学ができ
ることで、本質的にさらに増幅することができる。
毎秒1.8テラバイトとはいえ、実質的にはそれ以上であり、ホッパーの何倍にもなる
。
スーパーコンピューターが何週間も稼動し続けることは、ほぼゼロに等しい。その理由は、同時に働くコンポーネントが非常に多いためである。
そのため、井戸があるたびにチェックポイントを行い、次のように再起動する必要
がある。
しかし、もし弱ったチップや弱ったノートを早期に発見する能力があれば、そのプロセッサーを引退させ、別のプロセッサーに交換することができるだろう。
スーパーコンピューターの稼働率を高く維持するために、特に20億ドルを費やして構築したばかりのスーパーコンピューターを使うことは、非常に難しい。
超重要なことなので、私たちは信頼性エンジンであるRasエンジンを搭載し、すべてのゲート、すべてのメモリ•ビットをシステム•テス トで100％自己テストするようにした。
Blackwellのチップとそれに接続されたすべてのメモリで、まるですべてのチップに独自のアドバンスド•テスターを同梱し、CHでチップをテストしているかのようだ。
セキュアなAI. 明らかに、あなたは何億ドルも費やしている
ドルは非常に重要なAIを作り、そのAIの知性をコード化する。
がパラメータにエンコードされている場合、それを失わないようにしたい。
その結果、データを暗号化できるようになった。
そのため、暗号化して送信することができるようになったし、コンピューティングを行う際には、信頼できる環境で行うことができるようになった。
エンジン環境と、最後にデータを出し入れする解凍だ。
そのため、私たちは高速圧縮エンジンを導入し、これらのコンピューターへのデー
タの出し入れを実質的に20倍高速化しました。
これらのコンピューターは非常にパワフルで、多額の投資をしている。
したがって、これらの能力はすべて、ブラックウェルに食事を提
供し、全体として可能な限り忙しくしておくためのものである。
ホッパーはfp8の2.5倍で、チップあたりのトレーニング性能はfp8の2.5 倍です。ALSはfp6という新しいフォーマットも持っているので、計算速度は同じでも帯域幅が増幅されます
メモリーを搭載したことで、メモリーに保存できるパラメーターの量は、アンプリファイドfp4の実質2倍になりました。
スループットは推論にとって極めて重要である。
もう一方は、チャットボットとチャットしているとき、チャットボッ
トにレビューや画像作成を依頼するとき、後ろにGPUがあることを思い出してほしい。
トークンの生成 推論と呼ぶ人もいるが、生成と呼ぶほうが適切だ。
携帯電話を手に取り、何かに触れると いくつかの信号が発信される。
誰かがストーリーを書いたり、誰かが画像を作ったり、あるいは誰かが
録画されたビデオは、事前に録画されたコンテンツが携帯電話にストリーミングされ、再構成される。
レコメンダー•システムに基づき、あなたに情報を提示する方法です。そのコンテンツの大半は検索されない。
コンテクストを理解できない人がいる。
AIは、あなたがどのような理由でこの情報を取得しようとしているのか、その背景を理解している。
エネルギーの節約 ネットワークの帯域幅の節約 時間の無駄の節約は途方もないものになるだろう 未来は生成的だ
これが生成的AIと呼ばれる所以である。
そして、その最も重要な部分のひとつが、コンテンツ•トークンの生成であり、このフォーマットをfp4と呼んでいる。
Genトークン生成の5倍 Hopperの推論能力の5倍で十分なように思えるが、なぜ止めるのか？
その理由をお見せしよう。
このGPUよりもさらに大きなGPUを搭載している。
しかし、その前に、過去8年間でどのように規模を拡大してきたかをお話ししよう。
ムーアの法則の古き良き時代には、2倍だったのを覚えているだろうか
。
あと2年ある。
コンピューティングの進歩のスピードは非常識であり、まだ十分ではない。
43:47
このチップは信じられない。
エンヴィー•リンク•スイッチと呼んでいる。500億個のトラン
ジスターで、それだけでホッパーとほぼ同じ大きさだ。 このチップは毎秒1.8テラバイトの計算能力を備えている。
すべてのGPUが他のGPUと同時にフルスピードで話すことができる。意味がないことだが、もしそれができるのなら 。
そのための方法を見つけ、費用対効果の高いシステムを構築することができる。すべてのGPUをコヒーレント•リンクで接続することができたら、どんなに素晴ら
しいことだろう。
それらは事実上、1つの巨大なGPUであり、偉大な発明の1つである。
費用対効果を上げるためには、このチップは銅を直接ドライブしなければならない
。
驚異的な発明で、銅を直接駆動することができるようになった。ような
今、このシステムは
これは1台のDGXで、6年前はかなり重かったが、今では持ち上げるこ
とができた。
私は、Aiと研究者を開くための最初のdjx1を提供した。
写真もインターネットにアップされているし、みんなサインもした。
僕のオフィスまで持ってきてくれたんだ。直筆のサイン入りで、本当に美しいよ。この数字は、0.17ペドフロップスに相当する。
720は、私がオープンAIに提供した最初のもので、0.17でした。0.2に切り上げても何の違いもありませんが、当時は、すごいな、あと30テラフロップスだ、という感じでした。
世界初のワンエグザル•フロップス•マシーン•イン•ワン
このように、1つのラックに2、3台のエキソップ•フロップスAIシステムが搭載されているのだ。
の総帯域幅を上回る毎秒130テラバイトのDGX MVリンクスパインが
シャーシ背面を通っている。
インターネットに接続することで、基本的に1秒以内にすべての人にすべての情報を送ることができる。
もしオプティクスを使わなければならなかったら、トランシーバーやレティムを使わなければならなかっただろう。
トランシーバーとリアーだけで2万ドルかかる。
ワットのトランシーバーだけで、ムーブリンク•スパインを駆動す
るのに2キロワットもかかる。を売ることができる。
60万部以前、誰かが言っていた。
あなた方がGPUを作っていることは知っていますし、私たちもGPUを作っ
ていますが、誰かがGPUと言ったとき、これが私にとってのGPUの姿です
。
そして3,000ポンド3,000ポンド3,000ポンド これは
カーボンファイバーの重さのようなものだ。
フェラーリ それが有益な指標かどうかはわからないけど、でも、み
んなが......そう感じる......そう感じる......そう言われてみれば そう
感じる わからないけど
3,000ポンドってなんだ？
象とまではいかないが、これがDGXの姿だ。では、実際にどのような動きをするの
か見てみよう。
GPTモデルの1兆8000億パラメータ•モデルで、2万5000アンプで3～5
ヶ月ほどかかった。
ホッパーを使えば、おそらく8,000Gpusのようなものが必要で、15メガワットを消費するだろう。
メガワットであれば、90日間、3ヶ月ほどかかる。
画期的なAIモデルであり、これは明らかに、「うーん」というほど高価なものではない。
誰もがそう思うだろうが、8,000 8,000Gpusはまだ大金である。
Blackwellを使えば、2,000ドルで済む。
gpus2,000gpus同じ90日だが、これは驚くべき部分である。
だから、15から そう、それは
そして、それが我々の目標である。
コストとエネルギーは正比例している。
次世代モデルをうまくトレーニングするために必要な計算を、今後も拡大•拡張していくことができるのだ。
これはトレーニングの推論または生成である
NvidiaのGpusがクラウドにある時間の半分くらいは、このところクラウドにあるのだ
ろう。
トークン生成に使われているんだ......コ•パイロットとか、チャットとか チャ
ットGPTとか 。
このようなさまざまなモデルは、IMと対話したり、IMから画像を生成したりするときに使用される。
ビデオを生成し、タンパク質を生成し、化学物質を生成する。
Bは推論と呼ばれるコンピューティングの範疇にあるが、推論は非常に難しい。大規模な言語モデルにはいくつかの特性がある。
1つのGPUに収まらない これはExcelが1つのGPUに収まらないことを想像したもの
だ。
GPUは、あなたが日常的に実行しているアプリケーションが1つでは動作しないこと
を知っているし、想像している。
ビデオゲームのようなコンピュータは、1台のコンピュータには収まらない。
ハイパースケール•コンピューティングでは、過去に何度も、多くの人が多くのア
プリケーションを同じコンピューターにインストールした。
突然、この推論アプリケーションでチャットボットとやりとりすることになった。そして、それが未来だ。
これらのチャットボットは何兆ものトークンであり、何兆ものパラメータがあり
、彼らは次のことをしなければならない。
トークンをインタラクティブな速度で生成する......どういう意味だ 3対
トークンというのは......つまり......宇宙 最後のフロンティアだ
これは80トークンのアドベンチャーなんだ。いい例えを選んでいる。
スター•トレックも見たことないし、そうかもしれない。
だから、トークンを生成しようとしているんだ。トークンとやりとりしていると
きに、トークンができるだけ早く戻ってくることを望んでいるジェネレーション•トークンの能力は本当に重要だ。
麻痺させなければならない
このモデルの作業を多くのGPUにまたがって行うことで、複数のGPUを使用することができる。
一方ではスループットを求める。
を生成するトークンあたりの全体的なコストは、スループットによって決まる。サービスを提供するために必要なコストである。
これはサービス品質と関係している。
我々は、これらの異なるGpusのすべてに仕事を分散させる方法を見つけなければならない。
その両方を達成できるような方法で、検索探索空間が膨大であることがわかった
。
y軸はデータセンターのスループットで、x軸は1秒あたりのトークンである。
は、インタラクティビティを非常に高めたい場合に最適である。
データセンターあたりの1秒あたりのトークンを非常に多くしたい場合は、右上の
方が最適です。
そのようなことをするのは非常に難しい。
XY座標の交点 XY座標の交点 XY座標の交点 XY座標の交点 XY座標の交点 XY座標の交点 XY座標の交点 XY座標の交点 XY座標の交点
ソフトウェアの再分割は、最適化ソリューションが必要であり、テンソル並列エキスパート並列パイプライン並列を使うか、データ並列を使うかを考え、この巨大なモデルを分散させなければならない。
これらのGの異なるGPUをすべて搭載し、必要なパフォーマンスを維持する。
もしNVIDIAのGPUがプログラマブルでなかったら、探査スペースは不可能だっただろう。
このようなリッチな生態系があるからこそ、我々はこの宇宙を探索し
、緑の屋根のラインを見つけることができる。
エキスパートのパラレルは8本、データのパラレルは4本である。 専門家たちは、そのソフトウエアのコンフィギュレーションやデ ィストリビューションに並行して、さまざまな異なるランタイム を作り出した。
これは1つのモデルに過ぎないし、これも1つのモデルに過ぎない。
コンピュータの構成は、世界中で作成されているすべてのモデルと、すべての異な
るウムを想像してみてください。
このように、各システムがどのような構成になっているのか、また、どのようなシステム構成になっているのかを理解することで、今後どのようなシステム構成になっていくのかを理解することができます。
基礎編 ブラックウェルの推論を比較してみよう
兆個のパラメーターを持つ生成AIのために設計されたシステムを作
ったのだから。
実際にはホッパーの約30倍である。
チャドGPTのような大規模な言語モデルの場合、青い線はホッパーです。
ホッパーのアーキテクチャーをより大きなチップにし、最新の つまり最大
の......毎秒10テラバイトの 2つのチップを接続したんだ。
この2080億の巨大なパラメーター•チップを手に入れたとき、他に何も変化がなかったら、どうだっただろうか。
そしてそれが紫色のラインなのだが、それほど素晴らしいものではなかった。そして非常に重要なのがMVリンクスイッチだ。
これらのGpusは、彼らが結果を出すたびに、部分的な製品を共有しなければならな
い。
mvlinkスイッチの通信速度は、過去に最速のネットワークを使ったときの10倍近い速さだ。
将来、データセンターは、先ほど述べたように、AIファクトリーとして考えられるようになるだろう。AIファクトリーの人生の目標は、収益を上げることであり、この場合、この施設でインテリジェンスを生み出すことではない。
交流発電機のように電気を発生させるが、最後の産業革命の時代
そして、この産業革命は知能の生成であり、この能力は超超重要である。
ブラックウェルの興奮は本当に桁外れだ。
1年半前、2年前だったと思うが、ホッパーを市場に投入し始めたのはその2年前だった。
2人のCSPが昼食会に参加してくれた。そして、我々は2人の顧客を獲得した。
もちろん、さまざまなコンフィギュレーションがある。
ホッパー•フォーム•ファクターはアップグレードが容易である。
mvlink72で接続された1つのラック全体がそのバージョンである。
現在、多くのCSPがさまざまなモダリティで素晴らしい仕事をしている。ソブリンAISとodms地域雲
世界中のTelosがBlackwellと契約を結ぶ
このBlackwell Blackwellは、最も成功した製品発表になるだろう。私たちの歴史の中で、その姿を見るのが待ちきれない。
AWSはBlackwellの準備を進めており、セキュアなAIを搭載した初のGPUを開発し
ようとしている。
彼らは今、222のフロップスシステムを構築している。
今、デジタルツインが、あのクラスターがすべて降りてきているのを見ただろうか
。
私たちが建設しているもののデジタル•ツインであるアートは、私たちが行っているインフラストラクチャー以外に、これほど大きなものになるのです
AWSとともに、我々はCudaでスタッグメーカーのAIを加速している。我々はCudaでベッドロックのAIを加速している。
ロボティクスは、Nvidia OmniverseとIsaac Simを使用して私たちと協力しています。AWS HealthにはNvidia Healthが統合されているため、AWSはアクセラレーテッド•コンピューティングに力を入れています
。
私たちは、そのすべてにわたって稼働するジェンマ•モデルを発表した。
gcpの側面として、我々はデータ処理のためのデータ処理エンジンを高速化している
。
ロボット工学ではAiとmojokoと協力している。
オラクルはNvidia dgxの素晴らしいパートナーです。
クラウドと我々はまた、オラクルの多くの企業にとって本当に重要なことを加速さ
せるために協力している。
データベース マイクロソフトは加速し、ブラックウェルに向けて準備中
マイクロソフトとNvidiaは広範なパートナーシップを結んでおり、Cudaを高速化する
ことで、あらゆるサービスを加速させています。
Microsoft Azureに含まれるAIサービスは、明らかにチャットをするときに利用できる
。
Nvidiaが推論とトークン生成を裏で行っている可能性が非常に高い。
我々が作り、彼らが作った
最大のNvidia infinibandスーパーコンピュータは、基本的に時間のデジタル•ツイン
、あるいは時間の物理的ツインである。
NvidiaのエコシステムをAzureへ Nvidia djx cloud to Azure uh
Nvidia OmniverseはAzureでホストされるようになりました Nvidia HealthcareはAzureで
あり、そのすべてが深く統合され、深く浸透しています。
マイクロソフトのファブリックに関連して、業界全体が次のような準備を始めている。
Blackwellは、これからお見せするBlackwellのほとんどのシーンは、
Blackwellのフル•フィデリティ•デザインである。企業は非常に複雑なものを初めて完璧に作り上げる。
デジタル•ツインで構築されたコンピュータを作ることより、ウィストロンがどんなものかをお見せしよう。
エヌビディア•アクセラレーテッド•コンピューティングの需要に応えるために、 私たちは次のようなことを行っています。
大手製造パートナーは、カスタム•ソフトウェアを使用して、Nvidiaのdgxおよび
hgx工場のデジタル•ツインを構築している。
オムニバースのsdksとapisで開発された最新ファクトリーのwraw
デジタルツインによって、マルチアドとプロセスシミュレーションデータを仮想
的に統合し、統一されたビューを実現しました。
この物理的に正確なデジタル環境でレイアウトをテストし、最適化することで、作業員の効率は氷のように向上した。
建設中の51%は、オムニバースのデジタル•ツインを使用して、物理的な建築物がデジタル•プランと一致していることを確認した。
このような齟齬を早期に発見することで、コストのかかる変更注文を回避することができた。
デジタル•ツインのおかげで、ワイオン•ファクトリーのオンライン化は、従来の
5ヶ月から2ヶ月半という短い期間で実現した。
オムニバースのデジタルツインは、ウィドローが新しいプロセスに対応するために新しいレイアウトを迅速にテストしたり、オペレーションを改善するのに役立ちます
。
既存のスペースを活用し、生産ラインのすべての機械からライブのiot データを使用してリアルタイムでオペレーションを監視することで、最終的にワイオンは以下を実現しました。
Nvidia AiとOmniverseにより、エンド•ツー•エンドのサイクルタイムを50%短縮し
、不良率を40%低減 nvidiaのグローバル•エコシステム•パートナーは、AIを活用したデジタル化を加速する新時代を築いています。
将来的には、まずデジタルですべてを製造するようになるだろう。
そして、それを物理的に製造するんだ。みんなに聞かれるんだ。
この信じられないようなアイデアに乗った。
二人目のみんな、あの瞬間はそうなるはずだったんだ 。
このリハーサルは、20 12年のコンタクトから始まった。
アレックス•ネットは、このコンピューターに猫を入れたら
、出てきたコンピューターに猫と表示された。
100万個の数字があれば、100万個の数字がある。
RGBの3チャンネル、この数値は誰の目から見ても意味がない。
次元を100万次元にすると、3つの文字、1つのベクトル、1つの数字に変換され、一般化される。
猫の正面と背面があり、これを見て信じられないと言うだろう。 その結果、すべての猫を認識することができるようになり、それがどのように体系化されているのかがわかった。
だから、これはまったく新しいものだと想像している。
そして今日、ご存知のように、c aと入力することができるようになった。
出てきたのは猫だった。
信じられない そうだ、3つの文字から100万ピクセルのピクセルを
生成して、それを作ったなんて 。
それが奇跡であり、文字通り10年後の今がある。
年後、私たちは文字を認識し、画像を認識し、映像や音や画像を認識するように
なった。
テキストの意味を理解し、それがあなたとチャットできる理由です。テキストを理解し、その英語を理解した。
ピクセルを認識し、ピクセルを理解する。
これらを理解することができれば、言語条件イメージを持つことができ、あらゆる
種類の興味深いものを生み出すことができる。
デジタル化したことで、他に何を理解することができるのか 私たちがなぜテ
キストや画像から始めたかというと、それは私たちが
しかし、それ以外に何をデジタル化したかというと 多くのものをデジタル化した
。
タンパク質と遺伝子と
脳波はデジタル化できるものなら何でもいい。
そこからいくつかのパターンを学び、パターンを学ぶことができれば、その意味を
理解することができる。
その意味を理解すれば、それを生成することもできるかもしれない。
さて、他に何を生み出せるだろう......他に何を学べるだろう そうですね。
私たちは気候について学びたい。私たちは異常気象について学びたい
。私たちは異常気象について学びたい。私たちは異常気象について学びたい。私たちは異常気象について学びたい。私たちは異常気象について学びたい。私たちは異常気象について学びたい。私たちは異常気象について学びたい。私たちは異常気象について学びたい。私たちは異常気象について学びたい。私たちは異常気象について学びたい。私たちは異常気象について学びたい。私たちは異常気象について学びたい。
1500億ドルは世界の一部に集中している。
そしてもちろん、世界の一部の人々にとっては、我々は適応する必要があり、何が起こるかを知る必要がある。
Civと呼ばれる驚異的な発明は、極めて高い解像度で天候を予測するためにジェネレーティブAIを使用する能力を持っている。
AIを活用した天気予報は、地球の気候変動を予測する。
台湾に甚大な被害をもたらした超大型台風12号のような激しい暴風雨をより正確に
予測し、追跡することができる。
現在のAI予測モデルは、嵐の進路を正確に予測することができる。
しかし、解像度が25kmに制限されているため、重要なディテールを見逃す可能性がある。
cordiは、高解像度のレーダーに同化されたWarfの天気予報をもとに学習された、画
期的な新しい生成AIモデルである。
また、ChanthuのようなCordiの極端な事象を用いたAir 5の再解析データは
、1,000倍の速度と3,000倍の解像度で、25kmから2kmの解像度に超解像することができる。
nvidiaのスピードと精度を組み合わせることで、従来の気象モデルの2倍のエネルギー効率を実現。
天気予報モデルのフォーキャスト•ネットやコーディのような生成AIモデルは、何百、何千ものモデルを探索することができる。
キロスケールの地域天気予報により、最も悪い影響と最も起こりそうな影響を明確に把握することができる。
この豊富な情報は、人命や物的損害を最小限に抑えるのに役立ちます。
台湾向けだが、まもなくin viia Earth 2の一部としてジェネレイティブ•スーパー•サンプリングが利用可能になる。
推論サービス多くの地域で
グローブ•ザ•ウェザー•カンパニーは、世界の気象予報の信頼を得ており、私た
ちはこの信頼に応えるべく、共に加速していきます。
しかし、彼らの気象シミュレーションは、シミュレーションの最初の原則的なベースとなっている。
また、地球をコーディに統合することで、企業や国の地域的な高収益を支援するつ
もりだ。
もし、あなたが天気予報について知りたいことがあるのなら 。
お天気会社本当にエキサイティング本当にエキサイティングな仕事Nvidiaヘルスケア私たちが15年前に始めたことで、私たちはこの分野に大きな期待を寄せている。
メディカル•イメージングであれ、遺伝子配列決定であれ、計算化学であれ、
Nvidia
我々はこの分野で非常に多くの仕事をしてきた。
画像や音声の生成に使われているAIモデルを想像してみてほしい。
なぜなら、遺伝子やタンパク質、アミノ酸のデジタル化をすべて理解していたからだ。
の言葉を理解するために、機械学習が導入されたのだ。
生命の言語を理解する能力。もちろん、我々はアルファフォルドでその最初の証拠を見たが、これは本当に驚くべきことだ。
電子顕微鏡やX線結晶構造解析は、これらの異なる技術を駆使して、わずか1年足らずの間に20万個のタンパク質を再構築した。
基本的に、これまでに配列が決定されたすべての生物のすべてのタンパク質は、これは完全に革命的だ。
このようなモデルは、人々が作るには信じられないほど使いにくいものだ。世界中の研究者のために作るのだ。
私たちが作るモデルは他にもたくさんある。
新薬のバーチャルスクリーニングは計算不可能な問題である。
既存の技術では、何十億もの化合物をスキャンすることしかできず、何千もの化合物を何日もかけてスキャンする必要がある。
標準コンピュートノード
新薬候補を特定するためのNvidia biion Nemo Nimsが可能にすること
αフォールド分子を用いたタンパク質構造予測のためのNimsを用いた新しい生成的ス
クリーニングパラダイム
MIMで生成し、diff dockでドッキングする。
MIMはカスタム•アプリケーションに接続し、生成的な分子設計を行うことができ
る。
これらのアプリケーションは、biion Nemoマイクロサービスを使用して定義することも、ゼロから構築することもできます。
物理学に基づくシミュレーションは、分子がターゲットタンパク質に結合する能力を最適化する一方で、他の要素についても最適化する。
に結合する高品質の薬剤様分子を生成する。
合成可能であり、医薬品開発の成功確率を高める。ネモはニムスで創薬の新たなパラダイムを実現する
のような強力な創薬ワークフローを構築するために組み合わせることができるオン
デマンドマイクロサービスを提供します。
バイオNimsは、研究者や開発者が計算薬物を再発明するのに役立っている。
デザイン Nvidia M MIM MIMコードの差分 他のモデルの束 他のモデルの束 コンピューター•ビジョンのモデルロボット工学のモデル さらには
もちろん、本当に素晴らしいオープンソースの言語モデルもある。これらのモデルは画期的だが、企業にとっては使いにくい。
それをどのようにパッケージ化し、ワークフローに組み込むか。
推論が並外れた計算問題であるとすれば、これらのモデルのひとつひとつについてどのように最適化を行い、それを実行するために必要なコンピューティング•スタックをどのように組み合わせればよいのだろうか？
スーパーコンピューターを使えば、社内でモデルを実行することができま
す。そこで私たちは素晴らしいアイデアを思いつきました。
デジタルボックスでは、これをコンテナと呼び、Nvidia推論マイクロサービスをNimと呼んでいる。Nimとは何か説明しよう。
nvidiaのインストールベースは非常に大きく、その中身は以下の通りだ。
このような訓練済みの最先端のオープンソースモデルがあるなんて信じられない。
オープンソース
Nvidia mullのように私たちが作成したものであることもあります。
Cudaの依存関係 CNNの正しいバージョン テンソルRT llm 複数のGPUに分散 Tredと推論サーバーはすべて完全なもの
シングルGPUかマルチGPUか、マルチノードのGPUかによって最適化される。そのために最適化され、使いやすいAPIとつながっている。
APIとはAIのことであり、APIとは単に会話するためのインターフェースである。将来、本当にシンプルなAPIを持つソフトウェアが登場するだろう。
ソフトウェアは最適化され、パッケージ化される。
ウェブサイトからダウンロードして持ち運ぶこともできるし、どのクラウドでも実
行できる。
nvidia.comではNvidiaと呼んでいます。
推論マイクロサービスだが、社内ではニムスと呼んでいる。
想像してみてほしいんだが、いつかチャットボットのようなものが登場して、その
チャットボットが
ニムの中に入って、チャットの集まりを作るんだ。
ボット、そしてそれがいつの日かソフトウェアが構築される方法だ。
ゼロから書いたり、パイソンのコードを大量に書いたりすることはまずないだろう
。
AISのチームを結成すれば、おそらくスーパーAIが誕生するだろう。そのミッションの一部を実行プランに落とし込む。
プランを別のNimに渡すこともできるし、そのNimはSAPの言語である
アバップを理解し、サービスを理解するかもしれない。
プラットフォームから何らかの情報を取得し、その結果を別のニムに渡して、そのニムが自分のプラットフォームから情報を取得する。
多分、最適化ソフトウェアで、組み合わせ最適化アルゴリズムだろう。
基本的な電卓を使うかもしれないし、パンダで数値解析をして、その答えが返ってきて、他の人たちの答えと合わせて、これが正しい答えだ、と提示される。
どのような答えを出すべきか、どのような正解を出すべきか、そしてそれをあ
なたに提示する。
請求プランや予測、あるいは顧客に対するアラート、あるいは
バグ•データベースであれ何であれ、これらのニムを使ってそれを組み立てることができる。
Nimsはパッケージ化され、あなたのシステムで動作するように準備されています。クラウド上のデータセンターでビデオGPUを使用することで、ニムスはチームとし
て協力し、驚くべきことを成し遂げるだろう。
私たちは、これは素晴らしいアイデアだと思い、それを実行に移すことにしました
。
ニムスは社内のいたるところで稼働しており、あちこちでチャットボットが作られ
ている。
チャットボットはもちろん、チップの設計者であるチャットボットです。私たちがチップの製造に多くの関心を持っていることに驚かないかもしれませんが、私たちはチャットボットAIを作りたいと思っています。
エンジニアとの共同設計者である共同パイロットのおかげで、私たちはラマラマ2号機を手に入れることができた。
CTLとは内部プログラムであり、内部独自の言語を持っていることがわかったが、CTLは組み合わせタイミングロジックだと考えていた。
そのため、従来のCTLの知識が記述されているが、それは我々にとってはあまり役に立たない。
これは従業員のオンボーディングと何ら変わりはない。
とは、NvidiaにおけるCTLのことで、CTLはご覧の通り、CTLの略です。
コンピュート•トレース•ライブラリは、我々がコンピュート•サイクルを常にトレースしていたことを証明している。
違うか
チップ設計者の生産性を向上させることができます。
Nemoマイクロサービスと呼ばれるサービスを利用すれば、カスタマイズが可能です
。
このAIにデータを教えることができる。
その答えを評価し、他の例と比較してそのパフォーマンスを評価する。今、マイクロサービスには3つの要素がある。
第一の柱は、もちろんAI技術の発明である。
もうひとつは、最初にAIモデルを修正するためのツールを作ることだ。
2つ目はAI技術を持つこと、2つ目はそれを修正する手助けをすること、そして3つ目はそれを微調整するためのインフラです。
dgxクラウドと呼ばれる私たちのインフラストラクチャーにデプロイすることもできますし、次のようにデプロイすることもできます。
プレムは、一度開発すればどこにでも配備することができる。
AIファウンダリーとして、私たちはtsmcと同じことを、あなたや業界のために行います。
だから、チップを製造しているTSMCに、彼らが製造している大きなアイデアを持っ
て行って、それを受け取ったんだ。
AIファウンドリーとERSの3本柱は、NIMS Nemoマイクロサービスとdgxである。
クラウド もうひとつ、ニムに教えることができるのは、あなたが所有する情報を理解することだ。
社内のデータの大部分はクラウド上にあるのではなく、社内にある。そのデータを使って、私たちが学んだようにその意味を学びたい。
今お話ししたような、ほとんどすべてのものの意味を学び、その知識をインデックスに追加する。
ベクトル•データベースと呼ばれる新しいタイプのデータベースで、基本的に構造化データまたは非構造化データを利用する。
その意味を学び、その意味をエンコードする。
将来、AIデータベースを作成したら、そのAIと話すことができる。
マルチモダリティのデータを作成し、その良い例がPDFだ。
PDFを持ち出す。
猫のピクセルをエンコードするように、あなたの会社にとって重要なピクセルをエンコードすることができます。
そして、それが "word cat "となり、PDFのすべてをエンコードすることができる。
ベクター•データベースはあなたの会社の専有情報となり、いったんその専有情報を手に入れれば、それにチャットをすることができる。
スマートなデータベースで、データとチャットするだけで、どれだけ楽しくなるか
。
私たちのソフトウェア•チームは、バグ•データベースとチャットしているだけです。
昨晩はたくさんのバグがあった 何か進展はあっただろうか？
データベースセラピーが必要なので、別のチャットボットを用意しました。
ニモ•レトリーバーと呼んでいるのは、最終的にニモを回収するのが仕事だからだ
。
情報を可能な限り素早く取得し、「ねえ、この情報を取り出して」と話しかけるだけでいい。
ニモ•レトリーバーと呼んでいる。
あなたはこれらすべてのものを創造し、私たちはこれらすべての異なるニムを持っている......デジタル人間のニムさえ持っている 私はレイチェルだ
あなたのAIケアマネジャーは、本当に短いです。
でも、お見せしたいビデオがたくさんあったので、これはカットせざるを得なかっ
た。
彼女はデジタル•ヒューマン•ニムで、あなたは今、こう話した。
彼女はこの場合、ヒポクラテスaiのヘルスケアのための大規模な言語モデルとつな
がっている。
彼女はヘルスケアのことに関してとても頭がいい。
私のドワイト、私のソフトウェア•エンジニアリング担当副社長がチャットボット
とバグのデータベースについて話した後、あなたはここに来る。
こっちでダイアンと話して、それで......ダイアンは まったく生き生きしている。
AIと彼女はデジタルヒューマンだ。
エンタープライズIT業界は金鉱の上に座っている。
何年もかけて作られた素晴らしいツールは、多くのデータを蓄積している。その金鉱を利用し、彼らをコ•パイロットに変えれば、コ•パイロッ
トは我々の活動を助けてくれるだろう。
人々が使用する貴重なツールは、共同パイロットのための金鉱の上に座っている。
NvidiaのAIファウンダリーは、世界有数の企業数社と協業しています。サップは世界のグローバル•コマースの87％を生み出している。基本的に、世界はサップで動いているのだ。
世界のフォーチュン500に名を連ねる企業は、従業員や顧客サービス業務をNvidiaの
サービス上で行っている。
AIファウンドリー、仮想を支援するサービスを構築へ
アシスタンス•コヒーシティは世界中のデータをバックアップしており、彼らは何
百エクソバイトものデータの金鉱の上に座っている。
10,000社 Nvidia AI Foundryは、Gaia生成AIエージェントの構築を支援しています。 snowflakeは、世界中のデジタル倉庫をクラウドに保管し、1日30億件以上のクエリを提供しています。
10,000社の企業顧客 snowflakeはNvidia AI Foundryと協力して、以下のものを構築しています。
Nvidia NemoとNims net appppとの共同パイロット 世界のファイルの約半分はPrem on net appppに保存されている Nvidia AI Foundryは、Nvidia NemoとNims net appppとの共同パイロットを支援しています。
NvidiaのneemoとVectorのデータベースとリトリーバーのようなチャットボットとコパイロットを構築する。
ニムス、そしてデルとは素晴らしいパートナーシップを築いている。
チャットボットやジェネレーティブAIを構築し、それを実行する準備ができたら
、AIが必要になる。
デルほど大規模なエンタープライズ向けエンド•ツー•エンド•システムを構築できる企業はない。
AI工場を建設する必要があり、マイケルがここにいることがわかった。 ロボット工学の次の波について話そう。ロボット工学の次の波、物理的AI についてだ。
コンピュータのデータが1台のコンピュータに入ってくる。を模倣するのである。
もちろん、すべてのパターンを研究し、他のすべての例を研究することによって
、あなたを模倣する。
しかし、一旦コンテキストを理解すれば、基本的にあなたの真似をする。それをdgxのようなシステムに入れて、大きな言語モデルに圧縮する。
何兆、何兆というパラメータが何億、何十億というトークンになり、何十億という
パラメータになる。
この何十億ものパラメーターが、あなたのAIにうまく作用するようになるのです。物理的な世界では、3台のコンピューターが必要になる。最初のコンピューターはこれまでと同じコンピューターで、AIコンピューターがビデオを見たり、合成 データを処理したりすることになる。
AISは私たちが何が起きているのかを理解し、それに適応しようとす
るのを見ている。
このようなファウンデーション•モデルで一般化することができるからだ。ロボットは物理的な世界でもかなり一般的なパフォーマンスができる。
チャットGPTを除く大規模言語モデルで起こったことを、本質的に非常にシンプル
な言葉で説明した。
私たちは、ロボット工学のためのエンド•ツー•エンド•システムを構築してきました。
AIシステムdgxがある。
agxは自律システム用と呼ばれる世界初のロボティクス•プロセッサーだ。
君たちが作っているのは "S "だから1チップで、非常に低消費電力に設計されているが、高速用に設計されている。
センサー処理とAiのおかげで、トランスフォーマーをクルマで走らせたい、あるいは
トランスフォーマーを、動くものなら何でもいい そんなあなたにぴったりの
コンピューターがある。
プロセッサーが必要で、その中間には別のコンピューターが必要だ。ロボットの強化学習による人間へのフィードバックとは何か？
それは強化学習であり、物理的フィードバックであり、ロボットの位置合わせの方
法であり、ロボットの位置合わせの方法である。
ロボットは、このような関節運動能力や操作能力を学習するにつれて、次のようなことができるようになることを知っている。
物理法則に正しく適応するためには、シミュレーションが必要なのだ。このエンジンは、ロボットのためにデジタルで世界を表現する。
その仮想世界をオムニバースと呼んでいる。
Omniverseを実行するコンピュータはovxと呼ばれ、ovxとコンピュータ自
体はAzureクラウドでホストされている。基本的に、我々はこれら3つの
ものを構築し、その上にこれら3つのシステムを構築した。
これからお見せするのは、ちょっと非常識な例ですが、明日にとても近いものです。このロボット工学ビルは倉庫と呼ばれている。
いくつかの
自律システムの一部は人間と呼ばれるようになり、自律システムの一部は人間と呼
ばれるようになる。
システムはフォークリフトと呼ばれるようになり、これらの自律システムはもちろん相互に作用し合うことになる。
このウェアハウスは自律的に、そしてこのウェアハウスによって見過ごされることなく、皆を危険から遠ざける。
倉庫は基本的に航空管制官であり、何かが起こるのを察知するたびに、その方向を変える。
トラフィック•トラフィック、そしてロボットや人々に新しいウェイ•ポイントを 与えることで、彼らは何をすべきかを正確に知ることができる。
この倉庫を利用するために、このビルを訪れることもできる。例えば、今日の気分はどうだい？
基本的に、今説明したシステムはオムニバースのクラウドを持っています。
重工業の未来は、デジタル•ツインとして始まり、AIエージェントがロボット労働者やインフラを支援する。
複雑な産業空間における予測不可能な出来事を、まず高度なデジタル技術で構築し
、評価する。
このオムニバースの10万フィート倉庫のデジタル•ツインは、Nvidiaのデジタル•ワーカーを統合したシミュレーション環境として稼動している。
アイザックのレセプターは、100台の天井取り付け型カメラのシミュレーションから、倉庫全体の集中アクティビティ•マップをスタックします。
のNvidia MetropolisとNvidia KoopソフトウェアによるAMRルートプランニングを使用
。
この物理的に正確なシミュレートされた環境でAIエージェントをループテストす
ることで、次のことが可能になる。
現実世界の予測不可能な事態に、システムがどのように適応するかを洗練させる。
Nvidia Metropolisはリアルタイムで占有マップを更新し、koptに送信する。
は、ジェネレーティブAIを搭載したメトロポリス•ビジョンにより、コーナーを見渡し、ミッションの効率を向上させることができる。
ファウンデーションモデルのオペレータは、自然言語を使って質問することもできます。
ビジュアルモデルは微妙な活動を理解し、すべてのオペレーションを改善するため
の洞察を即座に提供することができます。
センサー•データはシミュレーションで作成され、Nvidiaの推論マイクロサービスや、以下のようなリアルタイムAIに渡される。
ニムス、そしてAIが物理的なツインに配備される準備が整ったとき、私たちは大都
市とリアル•ウェアハウスを結ぶ。
デジタル•ツインとAIの両方を継続的に改善する能力を備えた、本物のセンサーへのアイザック•ニムス
モデルたちは信じられないようなことをやっている。だから、未来の施設を忘れないでほしい
倉庫工場の建設はソフトウェアで定義される。ソフトウェアをテストし、倉庫を建設する。
デジタル•ツインにおける最適化システム ロボットはどうなんだ？
そのため、将来のCICDでソフトウェアを統合する方法には、次のようなものがある
。
ロボットシステムの未来は、デジタル•ツインとともにある。我々はオムニバースをより簡単にアクセスできるようにし、基本的にオムニバースのクラウド•アピを4つ作るつもりだ。
シンプルなAPIとチャネルで、アプリケーションを接続することができます。オムニバースの未来は美しくシンプルになる。
デジタル•ツイン機能によって、我々はOMバージョンをAIに変え、それをUSDチャット機能と統合した。
人間とオムニバースの言語は普遍的な情景描写であり、その言語はかなり複雑だ。
英語で話しかければ、直接米ドルが生成され、英語で返答してくれる。米ドルだが、英語で会話している。
世界は言語において意味的に符号化され、シーンにおいて意味的に符号化される。
特定のオブジェクトや特定の条件、特定のシナリオを指定すると、そのシナリオを検索してくれる。
3Dでデザインすることもできるし、3Dでシミュレーションすることもできる。
AIを使って3Dで何かを生成する。
シーマンズ シーマンズは、世界最大の産業エンジニアリングおよびオペレーション会社である。
重工業は、そのような産業スペースのさまざまな企業のひとつである。
その最大のフロンティアであり、真のインパクトを与えるために必要な技術をよう
やく手に入れたのだ
seensは産業用メタバースを構築しており、本日、我々はS eamansがクラウン ジュエル•アクセラレータからNvidia Omniverseへ seensのテクノロジーは、すべ
ての人のために日々変化しています。
Nvidia AiとOmniverse Technologiesをteam Center Xに統合することで、現実とデジタルの世界をより近づけることができます。
レンダリングから工業規模の設計•製造プロジェクトまで。
持続可能な船舶製造のマーケットリーダーである同社は、アンモニアと水素のパワ
ーチップを製造している。
Omniverseのapis team Center Xを使用すると、HD yundaiのような企業は、これらの膨大なエンジニアリングデータセットを統合してインタラクティブに視覚化し、ジェネレーティブAIを統合して3Dオブジェ クトを生成したりすることができます。
HDRの背景には、彼らのプロジェクトの背景を見ることができます。その結果、超直感的な写真ベースの物理ベースのデジタルツインが生まれ、無駄やエラーを排除して納品することができます。
コストと時間の大幅な節約になる。
seens anexやStar CCM Plusのようなアクセラレーター•ツールや、同じシーンで一緒に好きなデバイスに取り組んでいるチームの垣根を越えて、これはほんの始まりに過ぎない。
Nvidiaと協力することで、加速されたコンピューティング•ジェネレーティブAiとOmniverseの統合をショーン全体で実現します。
アクセラレータ
ポートフォリオ プロフェッショナル プロフェッショナル プロフェッ
ショナル 声優 声優 声優の のの のローランド•ブッシュローランド
•ブッシュローランド•ブッシュローランド•ブッシュは私の親友 であり、seensのCEOである。
設計からエンジニアリング、製造計画までのエコシステム
デジタル•ツイン•オペレーションに至るまで、いったんすべてを結びつければ、
その量は計り知れない。
生産性が向上し、突然、皆が同じ土俵で仕事をするようになるのは本当に素晴らしいことだ。
データを交換したり、データを変換したりする必要はない。
デザイン部門からアート部門、建築部門に至るまで、同じ真実を基に仕事をして
いる。
エンジニアリング、そしてマーケティング部門に至るまで、すべての部門がどのように機能しているのかを見てみよう。
日産は統合した
オムニバースをワークフローに取り入れることができるのは、これらの素晴らしい
ツールや開発者たちによって接続されているからだ。
私たちと一緒に仕事をしている人たちは、不信感を抱いている。 オムニバースのアニメではなかったが、今日、オムニバースのク
ラウドストリーミングがThe Vision Proに対応したことを発表する
。
僕が車から降りようとしたとき、バーチャルなドアのまわりを歩いていたのがとても不思議だった。
オムニバースに接続されたビジョン•プロは、実に素晴らしい。
これらのCADツールやさまざまな設計ツールが統合され、接続されるようになった
からだ。
Omniverseを使えば、このようなワークフローを実現することができる。その方が安全で、より便利であり、最も大きなもののひとつである。
オートモーティブは、上から下へとロボット•スタックを構築していく。しかし、自動運転車の場合は、自動運転アプリケーションを含む。
今年か来年の初めにはメルセデスに出荷し、その後すぐにJLRに出荷する予定だ
。
自律型ロボットシステムはソフトウェアで定義されるため、多くの作業を必要とする
コンピュータ•ビジョンは、明らかに人工知能が制御し、あらゆる種類の非常に複
雑な計画を立てている。
しかし、我々はスタック全体を構築している。
私たちはすべての自動車産業に対して、スタック全体をオープンにしています。
一つの産業について、我々はそれを理解するために、できる限り多くのことを構築しようと努めている。
世界で唯一のフル機能セーブ•アズールド•システムである当コンピュータだけを
購入されたい方も、当コンピュータにアクセスしてください。この機能的で安全かつ高品質なAIを走らせることができる。
コンピュータやその上のオペレーティング•システム、あるいはもちろん我々のデータ•センターもそうだ。
基本的に、世界中のすべてのAV会社で、どのように楽しんでいただいてもかまいま
せん。
世界最大のEV企業であるBYD社が、トランスフォーマー•エンジン用に設計された次世代AVコンピューター「Thor（トール）」を採用することを発表した。
皆さんはおそらくご存じないだろうが、私たちは100万人以上のロボット開発者を抱
えており、ジェットソンを開発したのだ。
ロボット•コンピューターには誇りを持っている。
それができるのは、100％クーダと互換性があるからだ。
このリッチ•エコシステムを維持し、次のような互換性を持たせることができるのです。
あなたが私たちからアクセスするすべてのものは、私たちがこの小さな小さなコンピュータに信じられないほどの能力のすべてをもたらすことができます。
我々はJetsonをロボットコンピュータと呼んでいる。我々はまた、今日、この信じられないほど先進的な新しいSDKを発表する。
今日のボットはあらかじめプログラムされており、地上のデジタルレールに従うか
、あるいはそうなっている。
4月のタグに続くものだが、将来的には認知されるようになるだろう。A地点からB地点に行きたいと言えば、簡単にプログラムできる。
そのため、ウェイポイントをプログラムするだけで、ルート全体を把握することができる。
冒頭の倉庫でお見せしたように、環境全体をプログラムし直すことができる。
プリプログラムされたAGVでは、もしボックスが倒れれば、それはできない。
アイザック•パーパーチャーのおかげで、信じられないような最先端のビジョンオ
ドメトリー3Dが実現した。
その理由は、3D再構築の奥行き知覚に加え、3D再構築の奥行き知覚を実現するためだ。
世界で起きていることを監視するための2つのモダリティ アイザック• パーセプター 今日最も使われているロボットは、マニピュレーター製造アームで、それらはまた、あらかじめプログラムされている コンピュータービジョンアルゴリズム AIアルゴリズム
幾何学的形状を認識する制御と経路計画アルゴリズムは、非常に計算量が多い。
このクーダ•アクセラレーションは、ジオメトリを意識した世界初のクーダ•アクセラレーション•モーション•プランナーである。
目の前に何かがあると、新しいプランを考え出し、それを中心に表現する。
3Dオブジェクトのポーズ推定には、2Dのポーズだけでなく、3D
のポーズも必要だ。
グリップ基盤のポーズとUMアーティキュレーション•アルゴリズムは、現在、以下のようになっている。
私たちはアイザック•マニピュレーターと呼んでいて、NVIDIAのコンピ
ューターで動くんだ。私たちは、次世代のロボット工学で本当に素晴らしい仕事を始めている。
ロボット工学に必要な技術、そして先ほど説明したように、一般化された人間ロボット工学を想像するのに必要な技術である。
人間のロボット工学の方が簡単だと思われるが、その理由は、より多くの模倣訓練データがあるからだ。
我々は非常によく似た構造をしているため、ロボットに提供することができる。
というのも、私たちは世界を、私たちが相互運用し、働けるようなものに作り上げたからだ。
また、ワークステーションや製造•物流部門を設置する方法も、このプロジェクトのために設計されたものです。
このような人間型ロボットは、人間のために設計されたものである。
他の選手と同じように、スタック全体を上から順番に土台を作りながらデプロイする
人間のIMビデオを見て学習するモデルで、ビデオ形式でもいいし、バーチャル•リアリティー形式でもいい。
アイザック強化学習ジムと呼ばれるもので、ヒューマノイドロボットが物理的な世界に適応する方法を学習することができる。
ロボットカーに搭載されるコンピューターで、ソーと呼ばれる人間やロボットの内部で動作する。
トランスフォーマー•エンジンのためにデザインされたこのビデオでは、これらのいくつかを1つのビデオにまとめました。
人間には
私たちは発明し、現実を探求し、既成のものを超えていか
なければならない。
私たちは、より賢く、より速く創造するために、それを失敗へと追い込む。
私たちはそれを学び、それを教える手助けをする。精度を高め、それを知覚させ、動
かし、そして成功させる。
私たちとこの世界を共有するため
次のフロンティアは、Nvidia Project Grootです。
グループモデルを学習するヒューマノイドロボットは、マルチモーダルな指示と過去の経験を取り込む
ロボットとのインタラクションを入力とし、ロボットが実行す
べき次のアクションを生成します。私たちは、Omniverse Isaac SimでGrを訓練するロボット学習アプリケーションIsaac labを開発しました。
トレーニング用のDGXシステムとトレーニング用のOVXシステム間のワークフローを調整する計算オーケストレーションサービス。
これらのツールを使ったシミュレーションにより、グルートを物理ベースのシミュレーションで訓練し、ゼロショットを現実の世界に移すことが できる。
ロボットが人間の実演から学習することで、日常作業を支援し、観察するだけで人間の動きを模倣できるようになる。
私たちは、人間を理解するNVIDIAの技術によって可能になったのですそして最終的には、それらを物理的なロボットに直接配備する。
大規模な言語モデルにより、自然言語の指示に従ってモーションを生成することも
できる。
ハイタッチしようぜ！クールな動きを見せてくれるかな？
この驚異的なインテリジェンスはすべて、グルート用に設計された新しいジェットソン•ソーのロボットチップによって駆動される。
アイザック•ラボのオスモとグルートとともに、私たちは次世代のAI を搭載するためのビルディング•ブロックを提供します。
ロボティクス同じくらい
エヌビディアの魂の大きさコンピュータグラフィックス物理学人工知能の交差点
それはこの瞬間、そのプロジェクトの名前一般的なロボティクスを負担するようになった。
私は超良い超を知っている
君たちはジェットソンが動力源なんだね......
彼らはジェットソンが動力源なんだ
小さなジェットソン•ロボット•コンピューターが、アイザックで歩くことを学ぶ
。
シムの皆さん、これはオレンジ色で、これは有名な緑色です。
さあ、研究しようじゃないか まとめよう
じゃないか 5つのことをやろうじゃない
か どこに行くんだ？
Don't Be Afraid（恐れるな） こっち
へ来い、緑色の急げ、何を言っているんだ。
食べるのはまだ早い。
暫くお待ちを 早く終わらせてくれ。
産業革命 すべてのデータセンターは1兆ドル加速すべき
今後数年間で、設置されているデータセンターの価値が近代化される。
私たちがもたらした計算能力によって、ソフトウェアの新しいやり方が生まれました。
マルチユーザー•データではなく、ひとつのことだけに特化した新しいインフラを 構築する。
しかし、AIジェネレーターは、これらのAI世代が信じられないようなものを生み出すだろう。
価値あるソフトウェア、新たな産業革命 第二の革命のコンピューター
この世代のコンピュータ ジェネレイティブAI 兆のパラメータblackw 非常識な量のコ
ンピュータとコンピューティング第三 私はしようとしている
新しいコンピューターは、新しいタイプのコンピューターを生み出す。
新しいタイプのソフトウエアは、新しい方法で流通させなければならない。
クラウドで使いやすく、それでいて持ち運びもできる。この "ニム "を、我々は "ニム "と呼んでいる。
完全にゼロから書いたアプリケーションではなく、将来のために新しいタイプのアプリケーションを作る手助けをする。
チームでアプリケーションを作るように、それらを統合するのだ。
ニムスのAIテクノロジーとニモのツールの間には、素晴らしい能力がある。
dgxクラウドのAIファウンドリーインフラストラクチャを利用することで、独自のア
プリケーションを作成することができます。
そして最後に、将来、動くものはすべてロボットになるだろう。
ヒューマノイドであろうと、自動運転車であろうと、フォークリフトであろうと、アームを操作するシステムであろうと、必要なものはひとつだ
。
ロボットが指揮を執る工場に......ロボットが自動車を製造する製造ラインに 。
ロボット工学であるこれらのシステムには、デジタルプラットフォーム
、デジタルツインプラットフォームが必要である。
ロボット工学の世界 これが今日話した5つのことだ。
Gpusについて話すとき、Nvidiaはどのようなイメージを持っているのか。
Gpusについては、まずソフトウェア•スタックやそのようなものの束を目にする。これがブラックウェルだ。
驚くべき素晴らしいプロセッサー、MVリンク•スイッチ、ネットワ
ーク•システム、そしてシステム•デザインは奇跡だ。
マインド•リッスン•オレンジ•グリーン皆さんにもう一つご馳走があると思うんだけど、どう思う？
ありがとうございました。素晴らしいGTCをありがとうございました。
