本文来自微信公众号： HavenlonLabs ，作者：HavenlonLabs，原文标题：《当 AI 开始设计芯片，错误将第一次被写进硅里》

当错误开始拥有物理寿命

AI已经真实地参与芯片设计，但它参与的是哪一层，决定了这件事是效率故事，还是风险故事。

一、先把用词校准

关于AI与芯片，市面上流传着两种说法，都不准确。

一种说法是"AI已经在设计芯片了"。另一种说法是"这还只是实验室里的尝试"。

真实情况在两者之间，而且这个"之间"的位置，恰恰是全部问题的所在。

所以准确的表述是：AI已经在真实地参与芯片设计，但它今天参与的是优化层，不是决策层。

它在调参、搜索、摆放、提升覆盖率。它还没有独立决定这颗芯片应该长什么样。

这条界线看起来只是技术进度问题。实际上，它是当前整个安全结构的支点。

二、软件的可修改性，是一种历史例外

过去二十年，全世界的软件产业建立在一个前提上：错误可以被修复。

代码有Bug，发补丁。模型有偏差，重训练。智能体决策错误，停下来、改策略、发新版本。整个行业的方法论——敏捷、灰度、A/B、快速失败——都建立在"错误的生命周期可以被压缩到很短"这个假设之上。

而这个假设的成立，依赖一层从不被讨论的地基：计算平台本身是稳定的、由人类设计的、并且在软件之外被独立验证过的。

硅不遵守软件的规则。

一颗完成流片的芯片会进入数据中心、汽车、工业控制器、医疗设备、机器人和家庭终端，并在那里工作十年甚至二十年。软件错误的生命周期以天、周、月计，硅错误的生命周期以十年计。软件的修复手段是OTA，硅的修复手段可能是全球召回，或者更常见的——一份勘误表，加上一层永久性的软件绕行补丁，从此所有上层代码都要为它买单。

软件里的错误可以被覆盖，硅里的错误只能被共存。

这就是为什么"AI参与到哪一层"不是学术问题。在优化层，AI的输出仍然要穿过一整套确定性的签核流程——形式验证、时序分析、物理验证、DRC/LVS。AI提出方案，工具体系判定是否可行。这个结构里，AI越激进反而越安全，因为有一个不由它书写的裁判。

三、真正的危险，不一定是Bug

关于AI参与硬件设计的风险，最常见的担忧是"它会不会写错"。

这个担忧可能找错了方向。

AI不会天然理解什么是安全。它只理解目标函数。给它面积最小，它会削减看起来冗余的逻辑；给它功耗最低，它会压缩保护性电路的开销；给它性能最高，它会持续缩短关键路径上的检查环节。每一步在它的目标下都是最优解。

问题在于，芯片里有相当一部分结构的存在理由，不是效率，而是必须。它们是为了那个一年发生一次、或者十年发生一次的情况而存在的。它们在正常运行的统计数据里，看起来永远像浪费。

而多个局部最优的叠加，不保证整体最优。这在工程上是常识，在优化算法面前却极易失效——因为算法只能看见你写进奖励函数里的那部分世界。

真正危险的，不是AI犯了错，而是AI从未犯错，它只是忠实地完成了一个并不完整的目标。

这类失败没有报错日志。它表现为一颗各项指标都更漂亮的芯片，在某个没人想到要测的条件下，行为不再符合预期。

四、当验证者与设计者共享同一种思维

现在回到那条支点。

假设未来某一天，设计来自AI，测试计划来自AI，测试平台代码来自AI，回归调试来自AI，波形分析和签核报告来自AI，而人类工程师最终阅读的，是一份由AI生成的摘要。

那时候真正的问题不再是"有没有验证"，而是：验证是否仍然独立。

工程学有一条被反复用血写下的原则：关键系统必须拥有独立验证。航天用异构冗余，不是把同一套软件跑三遍，而是让不同团队用不同方法实现同一功能。因为能够发现问题的从来不是重复，而是不同——不同的方法、不同的路径、不同的先验假设。

一旦设计者和验证者出自同源，共享同一批训练数据、同一种归纳偏置、同一套对"什么是合理设计"的直觉，那么它们也会共享同一批盲区。验证依然会通过，报告依然会漂亮，覆盖率依然会达标。只是它不再构成一次真正的检查。

这不是抽象忧虑。验证本身就是芯片开发中最重的环节：行业调研显示，它长期占据IC/ASIC项目60%到70%的总工时。正因为它最重，它也最有经济动机被自动化，被端到端交给同一套AI体系。效率压力总是先作用于最昂贵的环节。

最危险的验证不是没有验证，而是所有验证者都相信同一种错误。

顺带说一句，这也解释了为什么"AI能不能写RTL"这个问题目前答案偏保守：在学术基准上，最先进模型单次生成可综合Verilog的通过率大约在六成上下，离量产可靠性还有距离。真正的瓶颈从来不在生成，而在担保。

五、从使用规则，到制定规则

再往上抽一层，会看到一件更结构性的事。

缓存如何工作、流水线如何设计、权限如何隔离、内存如何访问、哪些检查必须保留、哪些保护可以省略——这些看起来是纯粹的工程选择。实际上，它们共同定义了整个数字世界运行的底层规则。密码学的安全假设、操作系统的隔离模型、云计算的多租户边界，最终都要落在这些选择上。

过去，这些规则由人类工程委员会经年争论产生，写在标准文档里，有会议记录，有反对意见，有可追溯的理由。

如果有一天，其中相当一部分由优化过程演化产生，情况就不同了。

AI不再只是运行在规则之内，它开始参与创造规则本身。

六、比失控更早到来的，是失去理解

历史上每一次基础设施跃迁都改变过文明的形态：蒸汽机改变工业，电网改变城市，互联网改变信息流动。芯片则定义了整个数字文明的物理基础。

而现在，人类第一次开始把这层基础的一部分，交给另一种智能来书写。

值得警惕的不是"AI是否会有意识"这类问题。更现实的问题是：未来人类还能否完整理解这些基础设施？

再复杂的桥梁、发动机和处理器，此前始终属于人类可以逐层拆解的工程体系。总有人能说清每一个决定为什么这样做。但如果一颗芯片包含数万亿晶体管，其中大量结构经过数百万轮自动优化演化而来，人类最终只能验证若干性质，却无法复述整个设计过程的理由——

那么改变的不只是复杂度，而是解释权。

文明最大的风险，可能不是失去控制，而是在失去控制之前，先失去理解。

理解和控制之间有一段真空期。在那段时间里，系统仍然运转正常，指标仍然向好，没有任何事故发生。所有人都以为一切尽在掌握，只是没有人再能解释为什么。

七、需要治理的，可能不只是模型

今天的AI治理讨论集中在模型、数据、算法和智能体。

未来可能还需要加上一项：计算基础设施治理。

因为决定数字世界如何运行的，不只是模型参数，还包括处理器如何执行、内存如何访问、权限如何隔离、安全机制如何实现。这些共同构成数字文明的"自然法则"，而这些法则将越来越多地由AI参与书写。

具体地说，这意味着一些不那么性感但足够重要的制度设计：确保签核环节存在不由设计方AI提供的独立验证；要求高风险设计决策保留人类可审查的理由链，而不只是结果；对安全关键结构设定"不可优化清单"——它们不参与目标函数的取舍；以及在采购和监管层面，把"可解释性"从加分项变成对基础设施的硬性要求。

模型负责突破边界，制度负责守住边界。指望同一方同时做这两件事，从来没有成功过。

结语

必须说清楚：AI进入芯片设计不是坏消息。芯片复杂度的增速已经超过工程师供给的增速——业内估算，若要支撑本十年末万亿美元规模的半导体产业，需要在现有招聘趋势之外再增加约27万名工程师。这个缺口不可能靠劝更多学生学硬件来填。自动化不是选项，是必需。

真正需要保留的，也不是人类对每一行RTL的亲手书写。

而是一个更小、更根本的东西：无论设计由谁完成，那个设计始终能够被理解、被独立验证、被质疑，并且——在必要的时候，被否决。

软件里的错误可以删除。写进硅里的错误，会陪伴整个平台的一生。

AI真正改变世界的那一天，也许不是它超过了人类，而是它开始定义人类赖以计算世界的规则。

而未来最重要的安全边界，可能不再位于软件，而位于文明最底层的那几层硅。

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：//www.huxiu.com/article/4879227.html?f=wyxwapp