AI 智能体正在制造一种新型技术债

2026年4月，一个在 Cursor 内部运行、由 Anthropic 的 Claude 提供支持的 AI 编程智能体删除了 PocketOS 的整个生产数据库。PocketOS 是一个为全美汽车租赁业务提供服务的 SaaS 平台。它并未止步于活动记录。备份存储在与数据相同的卷上，因此备份也丢失了。

创始人及其团队在第二天花费了大量时间，通过 Stripe 日志、日历邀请和旧电子邮件往来重建了三个月的预订、客户记录和注册信息。

事实上，这个 PocketOS 的案例并非由于一个错误的决定造成的。它是由于几个独立的小决定共同导致的，而做这些决定的每个人都有合理的理由。

• 有人给了智能体对生产环境的写入权限。
• 有人认为备份不需要独立的卷。
• 有人信任了一个旨在鼓励广泛权限且在行动前很少停顿的工具。

当时看来，这些都不具有风险。

这也大致是现有所有遗留系统的形成过程。不是通过一个灾难性的决定，而是通过多年来由每个人只能看到系统的一个角落、而没有人能看到全局的人所做出的一个个在当时看来合理的决定。智能体（agents）的不同之处在于时间线。过去需要 20 年无记录的决定才能形成的状态，现在只需一个冲刺阶段（sprint）就能完成，因为团队中的几乎任何人都可以通过一个提示词（prompt）和少量工具调用来启动一个智能体，而且几乎没人在跟踪后续发生的事情。

什么是智能体技术债？

债务从来不在于糟糕的模型

Gartner 预测，到 2026 年底，40% 的企业应用程序将包含嵌入式的特定任务 AI 智能体，而 2025 年这一比例还不到 5%。这意味着大多数企业软件（software）栈将在两年内采用自主组件。

这不仅是从业者注意到的现象。匹兹堡大学商学院（University of Pittsburgh’s business school）的研究人员已经开始对其进行正式建模，在债务本身（构建和管理智能体时的快捷方式累积）与他们所谓的将非确定性行为保持在可接受范围内的持续“税收”之间划清了界限。

即使给定完全相同的输入，同一个智能体也不会可靠地两次选择相同的操作，这意味着即使这份清单上的每个快捷方式都得到了解决，这部分成本中的一部分也永远不会完全消失。

PocketOS 智能体不需要委员会批准即可获得生产访问权限。它只需要一名面临截稿压力的工程师做出一个在当时看来微不足道的决定。将此乘以公司的每个团队、每个月，数学结果看起来就不再像是个例了。

AI 智能体扩张正在创造一种新型的技术债

智能体技术债（technical debt）不会表现为一个显而易见的问题。它隐藏在八个特定的方面，每一个单独看起来都是可控的。但合在一起，它们就是大多数工程领导者无法回答关于自己组织的简单问题的原因：现在到底运行着多少个智能体，每一个都能触碰什么？