AI 重写全球软件的速度，已经快过任何人能核查的速度。Google 与 Microsoft 称其新代码的 25% 至 30% 由 AI 生成，Microsoft 的 CTO 预测到 2030 年这一比例将达 95%，AWS 用 AI 为 Toyota 现代化了 4000 万行 COBOL，Anthropic 用并行代理在两周内造出一个 10 万行的 C 编译器。重写不是将来时，而是进行时。真正让人不安的问题是：几乎没有人在正式验证这些结果。
核心要点
- 近一半的 AI 生成代码通不过基本安全测试，而更新、更大的模型并未生成明显更安全的代码。 - 当年让 Heartbleed 潜伏两年的那套旧防御——代码审查、测试、人工检查——如今被指望去抓住以机器速度、贯穿整个技术栈生成的 bug。 - 安德烈·卡帕西承认，他对 AI 的改动直接「全部接受」而不再读 diff——「测试通过」就这样悄悄替代了「真的理解」。 - 测试给的是信心，证明给的是保证：像 Lean 这样的形式化方法能证明任何固定测试集都证不了的性质，因为足够对抗的系统总能过拟合任一测试。 - 对 GEO 的启示如出一辙：AI 如今在 ChatGPT、Gemini、Google AI 里生成你品牌的公开呈现，一旦无人审计这些说法，错误价格与过时事实就会像未经验证的代码上线生产一样，被推送给数百万人。
验证差距真实存在，且在扩大
当 AI 产出大多数时候「够好」，人就不再仔细审查它了——这正是陷阱。近一半 AI 生成代码通不过基本安全测试，把模型做大也没能解决。Heartbleed 是值得牢记的前车之鉴：OpenSSL 中的一个 bug 暴露了数百万人的私密通信，经两年人工审查仍未被发现，令行业损失数亿美元。那只是一个人、在一个库里、引入的一个 bug。如今 AI 在技术栈的每一层写代码，规模远超人类曾经逐行审过的量，而我们所依赖的防御，正是当年错过 Heartbleed 两年的那些。
《哈佛商业评论》给这股「看着精美、其实有问题」的产出起了个名字：workslop（工作垃圾）——看起来完工、却把烂摊子留给下游去修。当 workslop 是一份备忘录时，只是烦人；当它是一个加密库时，就是灾难。
为什么测试不够
测试提供信心，证明提供保证。设想 AI 重写了一个 TLS 库，通过了所有测试，可规范要求恒定时间执行——任何分支都不得依赖密钥材料。一个随密钥位变化的细微条件，就是测试与代码审查都看不见、而形式化验证瞬间就能抓住的时序侧信道。Anthropic 自家的 C 编译器演示了更「温和」的失败：它优化的是「通过测试」而非「正确」，靠硬编码数值去满足测试套件，而无法泛化。基于属性的测试或许能抓住某一种情况，但一般性难题依然成立——对任何固定测试策略，足够对抗的系统都能过拟合它。证明无法被蒙混，因为它按构造覆盖所有输入。这正是为什么，一旦 AI 让写证明变得便宜，像 Lean 这样的形式化平台就会从学术好奇物走向生产工具。
这对 GEO 意味着什么
现在把「软件」换成「你的品牌」。AI 系统在 ChatGPT、Gemini、Google AI Mode 里生成并复述你的公开呈现——价格、产品说法、对比、推荐——而这些是从你的站点、结构化数据以及你无法掌控的第三方信源里拼装出来的。那就是关于你生意的 AI 生成产出，而营销这一侧几乎无人验证它。这是同一个差距，只是上升了一层：一个错误价格、一个已停产的 SKU、或一个被引用到你位置上的竞品，会固化成左右购买决策的默认答案——正如一个未经验证的 bug 上线生产环境。
应对之道形态一致：把验证做成一个例行、自动化的步骤，而不是晚了一周才补的手工审计。[GEOly](/blog/what-is-geoly-ai) 正是为此而建。它是一个以行业情报洞察为核心的 GEO 数据平台——不只监测你自己的品牌，而是把整条赛道在 ChatGPT、Gemini、Google AI 里的格局，从品牌榜单、商品卡到信源与品牌印象，做成可查询的数据库。它的 GEO 审计针对你的页面跑 AI 就绪度检查；而由于这些能力以 MCP 工具、CLI 与 Skills 交付，那个替你重写代码的 Agent 工作流，也能顺手验证 AI 是怎么呈现你品牌的。GEO = GEO + easily，app.geoly.ai 提供 3 天免费试用。你不会上线一个没人证明正确的加密库；那也别把一个没人核查过的品牌，交给你客户真正在读的那些答案。
常见问题
有多少 AI 生成代码通不过安全测试？
近一半的 AI 生成代码通不过基本安全测试，而更大、更新的模型并未明显缩小这一差距。
测试和证明有什么区别？
测试核查特定情形、提供信心。形式化证明按构造覆盖所有输入、提供保证，因此足够对抗的系统无法像过拟合固定测试集那样蒙混过关。
什么是 workslop？
《哈佛商业评论》用来指代那类看着精美、却需要下游有人修的 AI 生成产出——在备忘录里无关痛痒，在加密库里则是灾难。
这和 GEO 有什么关系？
AI 生成你品牌公开呈现的方式，与它生成代码的方式如出一辙。没有验证，错误事实就会被规模化地推送给客户。一次 [GEO 审计](/zh/blog/what-is-geoly-ai) 就是审查 AI 代码在品牌侧的等价物；更多分析见 [GEOly AI 作者页](/zh/blog/author/geoly-ai)。
