关注我们: 微信公众号

扫码关注我们

40 小时从 0.31% 冲到 88.94%!OpenAI 用 AI 榨出芯片性能

云头条 2026-09-16 11

OpenAI 在首款 AI 加速芯片 Jalapeño 的开发过程中,已经让大模型参与代码生成、软件优化、验证和部分物理设计。

13.jpg

到了项目后期,GPT-6 Astra 的前身模型已经能够直接处理 Verilog,甚至接近自主操作专有芯片设计工具。

据 IEEE Spectrum 报道,借助这套 AI 辅助设计流程,Jalapeño 从最初提出架构概念到首颗芯片,用时不到 20 个月;从第一版 RTL 到最终流片,仅用了 9 个月。参与项目的 OpenAI 硬件团队不到 100 人。

8 月 25 日,OpenAI 正式完整披露了其首款 AI 加速芯片 Jalapeño。

Jalapeño 可提供最高 13.4 PFLOPS 的 4-bit 计算性能,配备 232 GB 当前最先进的内存,内存带宽达到 15.4 TB/s。

OpenAI 引用的基准测试显示,与目前 OpenAI 仍在大量使用的 Nvidia GB300 相比,Jalapeño 最多可将端到端延迟,也就是从用户发送提示词到最后一个 Token 输出完成的时间,降低至约三分之一,即最高提速 3.6 倍,同时功耗更低。

这些数据在 Jalapeño 真正规模部署到 OpenAI 推理集群后,能否完全转化为实际性能优势,目前仍有待观察。

但 Jalapeño 值得关注的不只是性能。

另一项更重要的信息,是这颗芯片究竟如何被设计出来。

OpenAI 的大模型深度参与了 Jalapeño 的设计过程,并显著加快了研发速度。

从最初提出芯片架构概念,到拿到首颗芯片,Jalapeño 用时不到 20 个月。

其中,从完成第一版 RTL,也就是用于定义芯片逻辑的寄存器传输级代码,到最终流片,仅用了 9 个月。

这已经是一个非常快的开发周期。

但一些专家认为,随着大模型能力继续提升,并进一步融入芯片设计工具,这一速度未来甚至可能显得“不够快”。

OpenAI 对此也非常乐观。

OpenAI 硬件副总裁 Richard Ho 表示:“这些模型正在赋予我们的工程师‘超能力’。”

Richard Ho 称“工程师仍然主导整个工作,他们仍然是最终做出判断的人。但借助这些模型,他们可以更快完成工作,也能探索更多设计路径。”

OpenAI 用不到 100 人的团队完成快速开发

Richard Ho 表示,在 Jalapeño 项目整个开发周期中,设计团队人数不到 100 人。

目前,这支团队的规模仍然大约为 100 人,并已经开始推进第二代和第三代芯片设计。

这里所说的团队覆盖 OpenAI 硬件部门多个岗位,包括系统设计、软件和供应链人员,但并不包括与 OpenAI 合作开发 Jalapeño 的 Broadcom 团队。

OpenAI 与 Broadcom 的分工,大体可以理解为“设计”和“工程实现”。

OpenAI 负责端到端系统设计,包括推理加速器、内存层级以及网络架构。

Broadcom 则负责“从门级之后开始的物理设计”,Richard Ho 表示。

Broadcom 的参与,也让一些业内人士对 OpenAI 的开发速度持更谨慎的看法。

智能体芯片设计初创企业 Verkor.io 联合创始人 David Chin 表示,OpenAI 公布的开发周期“相当可信”,但他认为 Broadcom 的帮助对于 Jalapeño 能够如此快速完成至关重要。

“如果换成另一支团队完全从零开始,这是不可能做到的。”

Verkor.io 另一位联合创始人 Ravi Krishna 则表示,OpenAI 的速度“相对来说非常令人印象深刻”。

但他也认为,如果今天重新启动这样一个项目,随着大模型能力继续提高,芯片开发周期还能够进一步缩短。

加州大学圣迭戈分校杰出教授 Andrew Kahng 同样认为 OpenAI 的速度值得关注,并称其“很可能代表当前行业最佳水平”。

Kahng 回忆称,他曾共同组织 2016 年 IEEE Design Automation Futures 研讨会。

当时仍在 Google 任职的 Richard Ho 曾担任大会主题演讲嘉宾。

Ho 当时就非常关注芯片设计自动化。

在他看来,一颗芯片需要多长时间才能完成设计,很大程度上取决于一支团队每天能够完成多少轮设计迭代。

OpenAI 的大模型如何加速 Jalapeño 设计

马里兰大学半导体计划与创新负责人 Ankur Srivastava 表示:“自动化在芯片设计领域已经存在几十年了,这并不是一个新的问题。”

但大模型和此前的自动化工具存在一个重要区别:它们能够理解语言和代码。

Srivastava 认为,这让大模型特别适合处理那些“仍然处于语言和代码表达层面”的芯片设计任务。

OpenAI 团队专门设计了一套工作流程,用来发挥大模型的这种优势。

OpenAI 的芯片前端设计流程主要围绕 Accelerated Hardware Synthesis,也就是 XLS 构建。

XLS 是一套最初由 Google 开发的开源高层次综合工具链。

所谓高层次综合,是一种芯片设计自动化技术。

工程师不需要一开始就直接编写底层硬件描述语言,而是可以在更加接近传统软件开发的编程环境中描述芯片功能。

以 XLS 为例,芯片设计人员可以使用 DSLX 和 C++ 等语言进行开发。

DSLX 是一种受到 Rust 启发的领域专用语言。

随后,XLS 会将这些代码转换为 Verilog。

Verilog 是芯片设计中常用的一种硬件描述语言,用于描述数字电路和电子系统。

OpenAI 技术人员 Chris Leary 表示:“我们当时一直在思考,如何利用 AI 加快整个项目。AI 当时明显更擅长处理那些看起来更像软件的问题。”

Leary 表示“从某种程度上说,XLS 看起来就很像软件,因此它能够很好地利用 AI 的优势。”

另一个优势在于,Leary 对 XLS 非常熟悉。

因为他在 Google 工作期间,正是 XLS 项目的创始人之一。

Andrew Kahng 也认为,用 AI 加速 XLS 这类高层次综合流程非常合理。

因为这类环境“对大语言模型来说更加自然”,同时也能够快速迭代。

他说:“我认为这是一种具有普遍价值的工作流程,而且未来很有生命力。”

同样的思路,也促使 Jalapeño 团队重点使用 AI 进行软件优化。

今年 5 月,首批 Jalapeño 芯片从晶圆厂返回后,OpenAI 团队立即让内部 AI 模型参与基准测试软件的开发,其中包括 SemiAnalysis 的 InferenceX。

在 DeepSeek 的多头潜在注意力内核测试中,Jalapeño 的性能利用率最初只有理论峰值的 0.31%。

这里的理论峰值由芯片算力和内存带宽共同决定。

但在大约 40 个小时后,这一比例已经提高到 88.94%。

Richard Ho 表示,这一结果可以重复实现。

从晶圆厂交付首批芯片,到产品进入大规模量产之间所需要的调优时间,可以进一步缩短。

他说:“从现在开始,我们所有进度安排的前提,都会建立在我们已经拥有这种能力之上。”

14.jpg

Jalapeño 被设计为以 Pod 形式部署,每个 Pod 可容纳 2048 颗芯片。

虽然 Richard Ho 和 Chris Leary 在项目开始前,就已经大致设想好了 Jalapeño 的 AI 辅助设计流程,但 OpenAI 模型能力的快速提升,还是带来了一些意外变化。

Leary 表示,项目早期已经开始借助 OpenAI o3 等模型。

o3 于 2025 年 4 月正式面向公众发布,但 Jalapeño 团队更早就已经获得了使用权限。

而到了项目后期,团队已经能够使用 GPT-6 Astra 的前身模型。

GPT-6 Astra 直到 2026 年 9 月 3 日才正式公开发布。

Leary 表示,相比早期模型,新模型已经可以直接处理 Verilog。

它不再需要依赖 XLS 先将普通编程语言转换成 Verilog。

而且,这些模型距离能够自主操作专有芯片设计工具,也已经非常接近。

Richard Ho 还确认,Jalapeño 团队能够使用一些专门针对芯片设计进行微调、但尚未向公众开放的 OpenAI 内部大模型。

他拒绝透露具体使用了哪些模型。

不过 Ho 表示,Jalapeño 团队在项目过程中与 OpenAI 研究团队进行了直接合作。

虽然参与 Jalapeño 设计的部分模型并未公开,但 OpenAI 希望将在这一项目中积累的经验,逐步应用到面向商业用户的大模型中。

Ho 表示:“可以肯定地说,Astra 以及之后的模型都会非常擅长芯片设计。”

AI 在后端设计中的作用较小,但这种情况可能很快改变

如前所述,OpenAI 在 Jalapeño 项目中的主要工作集中在芯片“前端设计”。

芯片前端设计包括从最初的架构概念开始,到编写 RTL 代码定义芯片逻辑,再到验证设计能否在实际物理实现后正常工作的整个过程。

相比之下,Jalapeño 的大量“后端设计”工作由 Broadcom 完成。

芯片后端设计包括互连布线、完成并验证时钟和供电规格,以及向晶圆厂提交制造所需的完整设计数据等工作。

Broadcom 最终负责将 Jalapeño 推进到实际生产阶段。

不过,这并不是 OpenAI 完全没有参与后端设计。

Jalapeño 团队同样拥有物理设计工程师。

这些工程师会与 Broadcom 的对应团队合作,在芯片布局规划、布线等环节提供指导。

在 IEEE Hot Chips 2026 大会上,Richard Ho 和 Chris Leary 公布了一组 AI 辅助物理设计优化数据。

其中,AI 引导的优化使矩阵乘法单元面积相比已经优化过的人类设计基线进一步缩小了 10%。

按照 OpenAI 的说法,在相同的硅片面积中,AI 辅助优化能够容纳更多电路。

Broadcom 则使用自己的内部设计流程。

Broadcom 团队无法使用 OpenAI 为 Jalapeño 项目准备的内部模型,但可以使用 OpenAI 已经公开的商业模型。

Verkor.io 联合创始人 Ravi Krishna 认为,从今天的角度看,OpenAI 在 Jalapeño 后端设计上的做法已经显得有些保守。

他认为,这主要和项目启动时间有关。

Jalapeño 项目始于 2024 年 10 月。

他说:“过去四五个月,模型能力已经有了很大提升。从 2026 年 4 月开始,它们才真正开始具备更好地处理这些任务的能力。”

Verkor.io 联合创始人 Suresh Krishna 也持类似观点。

他表示:“完全没有理由不能建立一个智能体闭环,大幅加速芯片后端设计流程。”

Richard Ho 和 Chris Leary 也暗示,与下一代芯片相比,用于设计 Jalapeño 的流程可能很快就会显得有些“传统”。

Leary 表示:“可以想象,在 Jalapeño 项目中,我们当时的目标就是尽可能快。”

“所以这里始终存在一个取舍:我们究竟要不要花时间进行一些创新,还是继续使用那些过去已经证明有效的方法?”

“到了第二代芯片,我们相当于获得了一次重新开始的机会,可以重新思考所有希望建立起来的能力。”

Ho 表示,在第二代芯片的设计流程中,“很多环节都会引入 AI”。

例如,OpenAI 希望在验证和物理设计阶段进一步扩大 AI 的使用范围。

Leary 还透露,团队现在已经拥有自动处理和查看波形的工具。

这类工具能够自动分析设计数据,识别与故障相关的芯片时钟信号,从而提高芯片仍处于设计阶段时的硬件调试效率。

不过,尽管预计 AI 会在下一代芯片设计中发挥更大的作用,Ho 和 Leary 仍然明确表示,他们并不认为芯片设计能够实现完全自动化。

Ho 表示:“我们并不是说,任何人只要使用 OpenAI 的编程平台 Codex,就能够设计出最先进的前沿 AI/ML 加速芯片。”

“我们真正想表达的是一些非常具体的事情:如何更好地使用 Codex,以及如何通过更小的团队和更快的开发周期,做出高质量的芯片设计。”

云头条声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。

关键词:

网友留言2

未查询到任何数据!
◎欢迎您留言咨询,请在这里提交您想咨询的内容。