「Azure OpenAI Service」は1日100の新規顧客を獲得――Microsoft、AIビジネスの現在地は：NVIDIA H100 GPU搭載VMが正式リリース

　ND H100 v5 VMの主な機能は以下の通り。

• AIスーパーコンピューティングGPU：8基のNVIDIA H100 Tensor コア GPUを搭載。AIモデルのパフォーマンスを従来のVMよりも大幅に向上させ、企業に比類ない計算能力を提供する
• 次世代CPU：AIのトレーニングと推論にはCPU性能が非常に重要であることを踏まえ、VMの基盤として第4世代Intel Xeon Scalableプロセッサを採用した
• 低遅延ネットワーキング：GPU当たり400Gbps、VM当たり3.2Tbpsのクロスノード帯域幅を持つNVIDIA Quantum-2 ConnectX-7 InfiniBandを採用し、GPU間でシームレスなパフォーマンスを確保している
• ホストからGPUへのパフォーマンスの最適化：PCIe Gen5によってGPU当たり64GB／秒の帯域幅を提供し、CPUとGPUの間で大幅なパフォーマンスの優位性を実現する
• 大規模なメモリとメモリ帯域幅：DDR5メモリが高いデータ転送速度と効率性を実現する

　こうしたND H100 v5 VMは、新しい8bitのFP8浮動小数点データ型を使用した場合、従来のVMでFP16を使用した場合に比べて、行列乗算演算を最大6倍高速化する。BLOOM 175BのようなLLMのエンドツーエンドのモデル推論でも、最大2倍の高速化を達成しており、AIアプリケーションのさらなる最適化を実現する可能性を示している。

Azure OpenAI Serviceのグローバル展開

　Microsoftはオーストラリア東部、カナダ東部、米国東部2、東日本、英国南部の各リージョンで、Azure OpenAI Serviceの提供を開始し、強力な生成AI機能を求める企業へのリーチとサポートを拡大した。これまでの米国東部、フランス中部、米国中南部、西ヨーロッパの各リージョンを使用する企業に加えて、これらのリージョンを使用する企業も、GPT-4やGPT-35-Turboなど、OpenAIの最先端モデルを利用できるようになった。これらのモデルはコンテンツ生成、ドキュメントインテリジェンス、顧客サービスなど、幅広い分野に活用できるという。

　Microsoftによると、Azure OpenAI Serviceの現在の顧客数は1万1000を超えており、前回の発表時から3倍近くに増えている。第3四半期（7〜9月期）は、毎日平均100の新規顧客を獲得しているという。