
2026 年 8 月 31 日,SemiAnalysis 分析师 Jordan Nanos 透露,OpenAI 已经开始大量使用 AI 生成底层 GPU kernel,甚至出现工程师无法逐行解释代码,但代码仍能正确运行并达到很高性能的情况。

Nanos 表示,他们与 OpenAI 工程师一起查看了一段用于 DeepSeek MLA 的 kernel 代码。这些工程师非常了解芯片硬件、数据流以及整个计算系统,但面对具体代码时,却无法逐行解释代码究竟在做什么。
“你可以一行一行看,然后基本就是:不知道、不知道、不知道。”Nanos 形容。
不过,这并没有阻止这段代码进入实际验证流程。
Nanos 称,这些代码由 AI 生成,AI 同时参与测试和优化,最终得到的 kernel 不仅结果正确,而且运行性能很好。
相关代码使用 Gluon 编写。
Gluon 是 OpenAI 维护的 GPU 编程语言,与 Triton 使用相同的编译器技术栈,但相比 Triton 更接近底层,开发者可以直接控制 GPU 的内存移动、计算布局等细节。
Nanos 将这种代码形容为接近“AI 生成的汇编代码”。
在他看来,未来部分底层代码可能不再需要人类工程师深入理解每一行,只要 AI 能理解硬件的数据移动方式和计算单元,并通过测试验证正确性和性能即可。
OpenAI 此前也已经公开披露类似开发方式。
OpenAI 在介绍 GPT-5.6 Sol 时表示,GPT-5.6 Sol 配合 Codex 已经能够自主重写和优化 OpenAI 生产环境中的 kernel。OpenAI专门训练 GPT-5.6 Sol 使用 Triton 和 Gluon 编写及优化 GPU kernel,并配套使用验证工具检查生成代码的正确性。
OpenAI 称,这些 kernel 优化以及其他改进,使其端到端模型服务成本降低了约 20%。
Kernel 是 AI 模型运行过程中执行矩阵运算、Attention、数据搬运等操作的底层程序,其效率会直接影响 GPU 利用率、模型推理速度和计算成本。
过去,这类代码通常需要熟悉 CUDA、GPU 架构以及内存系统的工程师手工优化。
OpenAI 目前采用的方式开始发生变化,工程师更多负责定义目标、理解硬件架构以及验证运行结果,而具体代码可以由 AI 自动生成和持续优化。
Nanos 认为,这可能代表未来软件开发方式的一种变化,代码本身不一定需要成为人类能够逐行推理和理解的对象,只要生成系统能够证明它是正确的,并达到预期性能。
云头条声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。


网友留言2