写CUDA到底难在哪？
来源：
编辑：
时间：2025-06-25 08:25:17
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
-
{dede:pagebreak/}
网友评论：
{dede:include file='ajaxfeedback.htm' /}
栏目分类
最新文章
- 你从别人的旧硬盘里发现了什么有趣的东西？
- 2025年，Gitea 和 GitLab 应当如何选择？
- 如何评价剪映svip，599一年，有替代方案吗？
- Rust 使用 Result 的错误处理方式与 Golang 使用 error 的方式有什么本质区别？
- 汉语是牺牲了什么，才成为世界最紧凑、最高效的语言？
- 小区车位10万一个，租的话一个月300元，还有必要买车位吗？
- 消息称三大运营商将于今年下半年全面重启eSIM，eSIM有哪些好处？为何此前暂停这一业务？
- Meovv和Babymonster哪个会越来越火？
- 日本真的有些澡堂和温泉是不分男女的吗？有人去过不分男女的那种吗？
- 蔚来怎么感觉有点方寸大乱呢？
热门文章