写CUDA到底难在哪？
来源：
编辑：
时间：2025-06-24 20:40:15
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
-
{dede:pagebreak/}
网友评论：
{dede:include file='ajaxfeedback.htm' /}
栏目分类
最新文章
- 如何看待英舰穿过台湾海峡？英国有什么目的？
- 华为Pura 80首销遇冷，是否说明消费者已经开始对麒麟芯片性能有所觉醒？
- 微软裁了 6000 人，其中软件工程师受影响最大，这会给整个软件行业的人才流动带来怎样的连锁反应？
- 如何评价网易国产动作冒险单机新作《归唐》首支预告片？
- 如果中国的商用飞机是由小米来造，而不是中国商飞，现在会是怎样的情况？
- 如何评价“寡姐”斯嘉丽·约翰逊的身材？
- 三角洲怎么能挣钱。?
- 以色列是如何从三天前的不可一世要灭了伊朗到今天的哭哭啼啼要“为生存而战”的？
- 如何看待Ollama基于Go语言开发而不是别的编程语言？
- 什么是稳定币？有人说它是「一场饮鸩止渴的游戏」，你怎么看？
热门文章