您现在的位置:主页 > 世界 >

英伟达中国区首席技术官:将任务负载从CPU移至GPU,整体能耗将节

标签: 日期:2023-07-07 12:47来源:未知作者:admin
英伟达中国区首席技术官赖俊杰表示,英伟达在全球数据中心计算问题上观察到两个重要趋势:一是人们对人机交互的期望大大提高,引发了全球第二波关于大模型的投入浪潮。二是很多互联网公司面临着用户需求增长、功耗越来越多的问题,特别是人工智能的大模型访

  英伟达中国区首席技术官赖俊杰表示,英伟达在全球数据中心计算问题上观察到两个重要趋势:一是人们对人机交互的期望大大提高,引发了全球第二波关于大模型的投入浪潮。二是很多互联网公司面临着用户需求增长、功耗越来越多的问题,特别是人工智能的大模型访问比例增加,意味着需要更多的能耗投入。针对第二个趋势,英伟达提出如果能更多地将任务负载从CPU移至GPU,那么能在支撑同样多的用户请求之同时,节省更多的能耗。

顶一下
(0)
0%
踩一下
(0)
0%
相关文章
共有人强势围观,期待你的评论!评论区
小提示: 本站的评论不需要审核,即发即显,有什么话你就尽管说吧,但不要过激哦,以免遭跨省处理!

验证码:点击我更换图片 匿名评论
最新评论