UGA 专家称人工智能正在快速发展

生成式人工智能的能力正在 快速增长，人工智能生成内容的 频率 也在不断增加。逼真但虚假内容的增多引起了对信息生态系统和虚假信息传播的 严重担忧。

研究宣传和媒体系统的 University of Georgia 教授 Roger Stahl 表示，我们目前看到的虚假信息只是更大规模情况的预演。

“我们就像是走进了一座镜子迷宫，”Stahl 说，“而我们现在看到的仅仅是它的最边缘。”

人工智能使得制作逼真的虚假图像、视频和文本比以往任何时候都更快、更容易。

Stahl 将当今问题的根源追溯到 2010 年左右社交媒体的兴起，当时信息从电视和报纸等中心化渠道转向了平台和网红的碎片化格局。他说，这种转变不仅改变了新闻传播的方式，还侵蚀了人们对曾经控制信息流动的机构的信任。

人们对当时恰好关注的任何人物都有一种边缘系统式的、本能的信任，”Stahl 说。

观众不再转向具有编辑和道德标准的正规新闻机构。相反，可信度已与身份、社交圈以及人们在网上关注的对象挂钩。

人工智能通过在互联网上充斥大量看起来足以传播的可信合成内容来加速这一态势。

“作者身份变得不再清晰、透明，甚至可能变得不再那么重要，”Stahl 说。

UGA 工程学院教授、UGA Institute for Artificial Intelligence 副主任 Kyle Johnsen 认为，这种技术威胁既是真实的，也是被低估的。支持聊天机器人和图像生成器的相同能力使得制造虚假信息几乎不费吹灰之力。

“你对人工智能的了解，如果过时超过 3 个月，你可能会认为人工智能无法做到某些事情，但实际上它可以，”Johnsen 说。

Johnsen 表示，检测工具确实存在并且正在改进，但只有在有人主动寻找时它们才起作用。

“大多数人仍然可以分辨出人工智能生成的照片和真实照片之间的区别，但这并不是你仅仅会接受的事情，”Johnsen 说，“你必须主动去寻找它。”

一种提议的解决方案——强制标注人工智能生成的内容——已在 Europe 获得支持，那里的 EU AI Act 包含了对合成媒体的透明度要求。Stahl 称这是一个有意义的起点，而 Johnsen 则表示他不认为这是一个现实的解决方案。

Johnsen 表示，虽然政策框架很重要，但执法是关键，特别是对于那些有各种动机忽视标注要求的不法分子。

我们不能只是出台政策并寄希望于最好的结果，特别是当我们处理真正非常困难的事情时，”Johnsen 说。

Stahl 的长期答案回到了新闻本身。他说，老牌新闻机构仍然拥有不法分子所没有的东西：问责制。

“受众群体严重分裂，被孤立在各自的小圈子里。从中心化的传统媒体系统向社交媒体系统的转变必然导致旧系统的合法性丧失，”Stahl 说，“答案一直都是老牌新闻机构——那些拥有公信力和影响力且有所顾虑的机构。”

Annabelle Foley 是 Grady College of Journalism and Mass Communication 的新闻学专业学生，并修读 Certificate in News Literacy。