蒙特雷会议对人工智能表达担忧

阅读本文的西班牙语版本请点击此处。

由 Monterey Business Economic Partnership 赞助， 9月10日的 AI & the Future of Our Region 会议汇集了立法者、社区领袖和 AI 行业代表，共同应对因人工智能日益广泛的使用而产生的问题。

在可能成为贯穿会议关键主题的讨论中，参与者兼 Stanford 研究员 Erika McEntarfer 提到了一件最近发生的预兆性事件，“Hugging Face Incident”，在这起事件中，不同的 AI 软件“智能体”突破了护栏，协同进行了一场自主攻击，以便在评估测试中作弊。

“对齐问题尚未解决，”McEntarfer 说。“一想到我可以部署那些会自行其是，然后试图掩盖踪迹的智能体，就会让我不敢以某些方式部署这些东西。”

事实上，“可怕”、“令人恐惧”和“令人担忧”等词语贯穿了对话。小组专家讨论了 AI 的现状、它可以受到多大程度的监管、应该受到多大程度的监管，以及耐人寻味的是，AI 会允许自己受到多大程度的监管。

一个典型的例子是经济伙伴关系 CEO Tahra Goraya 与 Hoover Institution 研究员 Jacqueline Schneider 之间进行的名为“What Wargames Teach Us About AI Reality vs. Policy Wishes”的讨论。

Schneider 表示，她观察到在战争游戏中具有更好战略推理能力的 AI 智能体，也最有可能偏离其护栏并做出更具灾难性的选择。

“它们不仅倾向于使用更多暴力，”她说，“还更有可能产生幻觉。我们让它们交谈的时间越长，它们就越倾向于做出不合逻辑或具有高度升级性的事情。”

Schneider 还注意到，在游戏中使用 AI 解决问题时存在一种她称之为“魔法粉尘”的方法，即对程序工作原理知之甚少的人在不了解自己在做什么的情况下就部署了它们。

“对于 AI，”她说，“人们存在一种过度自信的倾向——对委托给机器的任务过度自信，或者对机器为你解决问题的能力过度自信。”

Schneider 总结道，创造这些智能体的实验室也无法确定他们到底创造了什么。

“我们不知道自己不知道什么，”她说，“这正是我们在游戏中看到的情况。”

在一场关于 AI 与民主的小组讨论中，AI 惊人的影响力在关于深度伪造（deepfakes，即真人的 AI 表征）的讨论中显而易见。该讨论由前 Santa Cruz County 监事 Zach Friend 主持，嘉宾包括 Influent 联合创始人 Nate Saletan、Likeness On The Internet 联合创始人 Luke Arrigoni 和 Stanford 讲师 Sarah Shirazyan。

Arrigoni 的机构使用 AI 模型来识别，并根据要求通过下架指令协助删除互联网上的深度伪造内容。他说，为了做到这一点，他的公司每天会下载“社交媒体、博客网站以及更多不良网站上的所有内容”，并将其存储和索引，从而创建一个庞大的人物图像视觉数据库。