客座专栏：对人工智能的警示

我早年的大学学习包括使用计算尺和为大型计算机编写 FORTRAN 程序。后来，一台 Texas Instruments 计算器让乏味的工程计算变得不那么压力重重，尽管结果并不一定更准确。

在 1980s 早期，我担任高级工程师的那家电力公司为所有工程人员购买了个人电脑。我们被要求把它们带回家自学如何使用。在办公室里，我那台值得信赖的 HP 计算器仍然是日常工具，此外还有公司的大型机。

几十年后，我的工程咨询业务利用 StruCalc、Forte 和 ClearCalcs 等程序完成了大部分结构分析工作。计算机可以在人类手工计算所需时间的一小部分内完成计算。

当我担任 Shelter Island 的镇工程师时，我们曾有机会模拟 Coecles Harbor 的波浪作用。我花了几天时间手工解决这个问题，并得出了在我看来合理的描述。然后我把这项任务交给了一名暑期实习生。

当我吃完午饭回来时，我很惊讶，他高兴地宣布通过他能使用的软件找到了解决方案。我花了几天业余时间努力完成的工作被缩减到了不到一个小时。

实习生感到高兴是可以理解的。但只有一个问题：答案是荒谬的。随之而来的是一个重要的工程教训：软件可以生成答案，但使用软件的人必须对潜在问题有足够的了解，才能判断该答案是否有意义。

我的航海生涯偶然地与我的专业工程工作并行，并提供了基本相同的教训。雷达是主要的船舶导航工具。现代雷达系统包括 Automatic Radar Plotting Aid，它可以进行计算另一艘船的最接近点（即 CPA）所需的数学运算，并协助评估碰撞风险。

然而，寻求海岸警卫队执照的海员仍被要求理解其中的数学原理。即使有了复杂的电子设备，手动标绘和避碰原则仍然是海员知识体系的一部分。计算机可以做算术，但海员必须理解算术的含义。

这与人工智能有什么关系？

AI 通常被描述为计算机或机器执行通常需要人类智能的任务的能力。无论是计算两艘船之间的 CPA，确定结构构件的合适尺寸，还是模拟港口的波浪作用，都可以看到向日益复杂的计算机辅助决策发展的过程。
但有一个重要的区别。在我所有的例子中，计算机产生的是信息或建议的解决方案。人类仍然负责理解、评估并根据其采取行动。

人们很容易认为船桥上日益复杂的系统可以简单地互连，并被允许自动做出决策。但航海导航的发展伴随着一些保障措施，保留了人类操作员的明确角色。避碰信息可能是高度自动化的，但解释情况和安全操纵船只的责任仍由海员承担。

随着我们进入 AI 时代，这一区别似乎尤为重要。

我们越来越多地听到，需要对那些能够以远超以往的速度和规模生成答案、建议、图像、分析甚至决策的系统进行人为监督。与此同时，我们也听到一些观点认为 AI 要么被过度炒作，要么政府难以实现有意义的监管。甚至开发这些系统的公司也承认，其能力和局限性存在重大问题。

AI 开发人员甚至向哲学家求助，帮助他们思考其中的一些问题。这并不奇怪。我们的机器变得越能干，理解我们要求它们做什么，以及我们准备如何处理它们的答案就变得越重要。