テックラウンジ#テック
NVIDIAって何がそんなに凄いのでしょうか？
@NVIDIA@Microsoft@Apple
AI特需を受けて一人勝ちのような感じですが、MicrosoftやAppleを差し置いて時価総額も一位になり、何がそこまで凄いのかわかっておらず...是非教えていただけると嬉しいです！
14
コメント一覧
先見の明…と途中で日和らずに投資し続けた胆力、それから少しの時の運だと思ってます。今でこそ一人勝ちの様に見えますが、CUDA を発表したのは 2006 年です。今私たちが見ているのはそこから育て上げた成果です。
昨今話題の生成AIで並列計算が必要であり、GPUがそれに向いている。GPUはもともと画像処理用だったが、AI向けの用途が生まれてきた。AWSなんかは自社開発もしているが世界的に供給が追いついていない。半導体需要による株価上昇ですな
もともとグラフィック用処理で開発したGPUが、応用的にHPCでの超並列計算で使われるようになり（膨大な計算量の処理）、さらにそれが機械学習／AIでの学習と推論という、同様に膨大な計算を要する処理に使われるようになりました。このGPUで世界一位のメーカーがNVIDIAです。
GPUでの計算処理をするには、アプリケーションプログラム側から必要な入力値を渡す必要があります。実際はもっと複雑なやり取りがあり、それをするためにはGPUメーカーが提供するライブラリと呼ばれるソフトウェア群（NVIDIAのはCUDA）を使いこなす必要があります。このCUDAが業界標準となっていて、それをベースにしたソフトウェア資産や技術者のエコシステムが世の中で出来上がっています。
他社と比べるとここが大きな差別化要因で、独占的にビジネスが進められる部分かなと。皆、これまでと今後のデファクトスタンダードに従い、既存の資産を最大限活用し続けたいですからね。
ゴールドラッシュの時につるはしを売った会社と同じように、AIブームの時にAIを作るためのGPUを売っています。
GPUがAIに向いてるということは理解はしているのですが、それこそ京のようなスパコンは使えないんですかね？
京がAIにも使えれば、日本の産業競争力もきっと上がるのになーとかちょうど思ってました
どなたか、スパコンが何故AIには使えないのか教えて下さいー🙇
スパコンももちろん使えると思われますが、それは言わば一点ものの超重装備の高価なハードウェアです。一方、一般的にGPUで構成されて現在使われているハードウェアは汎用品で、計算時間単価あたりのコストはだいぶ安いことでしょう。なにせ、クラウドサービスとして時間単価で使える位ですから。個別のハードウェアを購入してオンプレミスで動作させる場合にしてもそうです。膨大な計算を現実的なコストで行えて初めて意味があるので、GPUで計算することが現実解なのかと。
（続き）また 👆🏻 に記述したように、ソフトウェアのエコシステムが肝要です。NVIDIAのGPUを使うためのソフトウェアライブラリが、AI解析をするための言わばインターフェース（技術者が実際にあれこれ進めるための技術仕様）になってるので、引き続きそのままそれに向き合う形で作業を進めたいのです。スパコンに向き合うにはまた別のライブラリを使いこなす必要があり難儀で、そもそもAIや機械学習用のライブラリがGPU環境ほど充実していない気もします（その辺までは分かっていませんが）。
> 計算時間単価あたりのコストはだいぶ安いことでしょう。
てことですよねー
ただコストはニワトリタマゴ的なところもあるかと思うので、商用向け・ビジネス向けに広く使えるようにできたりしないのかなーと思ってました
中の人はそんなことは当然考えてるとは思うんですけど、なんか色々ともったいないなー、、と思いながら先日のProject X見てました
そもそも最近のスパコンはGPU積んでますけどね。↑の人は勘違いしていますが、スパコンでモデルを学習させることも山ほどあります。
富嶽や京はGPUは積んでいないので学習には向きません。専用プロセッサが入ってますが、元々深層学習向けに設計していないので、ネットワークやメモリアクセスなど色々ボトルネックが生じてしまい、GPUを積んだマシンの方がはるかに深層学習に向いています。CPUで深層学習しないのと同じ原理です。
(編集済み)
詳細なご説明ありがとうございます🙇
> 最近のスパコンはGPU積んでますけどね。スパコンでモデルを学習させることも山ほどあります。
そうなんですねー、知らなかったです。ありがとうございます。
日本メーカーもAIや次世代IT分野(何か分からないですけど)で活躍できると良いですねー
行列計算がCUDAにべったりというのは話に聞くのですが、脱CUDAってどれほど難しいのでしょうか
NvidiaはGPUを生業にしてますが、元々はグラフィック処理や3D処理に使われていて一般的にはゲーム用途で浸透していました。
競合としてAMDもありましたが、この頃から動画はAMD、3DはNvidiaと住み分けされていましたね。
グラフィック処理はいわゆる行列演算をしているわけですが、これに最適化したハードウェアがGPUということで、CPUでも出来なくはないですが、最適化されていないためGPUのほうが圧倒的に処理能力が高いです。
それからしばらくしてニューラルネットワークの研究が躍進しディープラーニングがAI研究の表舞台に上がりましたが、ニューラルネットワークも行列を多用するため、CPUではなくGPUで演算させることが一般的となりました。
ここでnvidiaはいち早くcudaをAIプログラミングに対応させて開発環境のデファクトスタンダードを獲得していった認識です。
AMDはここで完全に出遅れてましたね。
後はAIの開発需要に応じて売り上げがうなぎ登りに上がって行ったという流れです。
個人的にはGPUそれ自体の性能差などではなく、開発環境を席巻した行動の速さが今の時価総額を作り出していると考えています。
(編集済み)
