NVIDIA H200 に関する報道

Amazon SageMaker AI 上のハイブリッド エキスパート モデルの AWS の基礎となるカーネル エンジニアリングの最適化は、クラウド ベンダーの競争の焦点がハードウェア アーキテクチャとコンピューティング スケジューリングの共同調整段階にさらに深く移行していることを意味します。ジャストインタイム コンパイルのオーバーヘッドを排除し、FP8 量子化ルーティングを最適化することで、クラウドでの大規模モデル推論の運用効率がさらに向上します。