您现在的位置:主页 > 观察 >

微软推出针对AI的全新ND H100 v5 虚拟机 采用英伟达(NVDA.US) H1

标签: 日期:2023-03-14 16:01来源:未知作者:admin
获悉,当地时间周一,微软 宣布加强和英伟达(NVDA.US)的合作,将 GPU 从此前的 A100 升级到 H100,推出专门针对人工智能开发的全新的ND H100 v5 虚拟机。据了解 , 微软先前在 Azure OpenAI 服务中宣布了 ChatGPT 相关服务,而本次虚拟机是该服务的补充,它

  获悉,当地时间周一,微软 宣布加强和英伟达(NVDA.US)的合作,将 GPU 从此前的 A100 升级到 H100,推出专门针对人工智能开发的全新的ND H100 v5 虚拟机。据了解 , 微软先前在 Azure OpenAI 服务中宣布了 ChatGPT 相关服务,而本次虚拟机是该服务的补充,它允许第三方通过 Azure 访问聊天机器人技术。
 

  微软表示,该虚拟机主要面向需要整合或开发人工智能的企业,将使用 8 块英伟达 H100 Tensor Core GPU,通过下一代 NVSwitch 和 NVLink 4.0 互连,在非阻塞(non-blocking)的胖树(Fat-Tree)架构网络下,每块 GPU 的 NVIDIA Quantum-2 CX7 InfiniBand 性能可以达到 400 Gb / s,每台虚拟机可以达到 3.2Tb / s。

  此外,考虑到训练大型语言模型(llm)需要大量的图形处理器(GPU)连接,这些机器允许微软的客户创建可扩展到任何规模的基础设施,以执行任何人工智能任务。

  据悉,去年3月,英伟达在其GTC开发者大会上发布了H100 GPU。值得一提的是,花旗于本周一曾表示,英伟达是芯片行业“最受欢迎”的股票之一。

顶一下
(0)
0%
踩一下
(0)
0%
相关文章
共有人强势围观,期待你的评论!评论区
小提示: 本站的评论不需要审核,即发即显,有什么话你就尽管说吧,但不要过激哦,以免遭跨省处理!

验证码:点击我更换图片 匿名评论
最新评论