OpenAI 发现俄罗斯和伊朗利用 ChatGPT 开展影响力行动

OpenAI 在周四的一篇 博客文章 中表示，它封禁了利用该公司的人工智能工具在多个国家协助影响力行动的俄罗斯和伊朗账号。根据这些行动使用 OpenAI 聊天机器人 ChatGPT 生成的内部报告，这些特工称他们成功让新闻机构采纳了他们的虚假叙事，并在一个案例中，引起了一位欧洲议会议员的回应。

OpenAI 调查了账号提到的不同活动的影响，发现那些专注于在老牌媒体机构发布虚假叙事的活动，其触达的受众似乎比专注于使用虚假社交媒体账号传播信息的活动更广。

OpenAI 表示，俄罗斯的行动针对拉美国家，似乎旨在削弱对乌克兰的支持并影响当地政治。OpenAI 称，这些账号似乎主要使用 ChatGPT 向未指明的高层 撰写报告 详细说明他们的工作。该公司表示，其中一份报告似乎描述了 OpenAI 迄今为止发现的覆盖范围最广的 影响力行动，因为它引起了一位政治人物的公开回应。

在这次行动中，俄罗斯特工称他们冒充秘鲁地方教育部门，误导一些学校组织了有关乌克兰的活动，并重点介绍了 Stepan Bandera。Bandera 是一个有争议的人物，因在二战前和二战期间领导乌克兰独立运动而受到民族主义者的推崇。他也被其他人憎恨，包括波兰，因为他的运动站在纳粹一边，杀害了波兰人和犹太人。秘鲁媒体 Extra 报道称，秘鲁的一所学校确实发生了这样的一起事件。

一份关于该学校事件的 波兰新闻报道 促使一位波兰极右翼欧洲议会议员建议禁止公开支持 Bandera 的人入境。

“俄罗斯的造假行为既利用了乌克兰人和波兰人之间的历史紧张关系，又加剧了这种紧张关系，”OpenAI 在报告中写道。

“俄罗斯人一直在采取这类积极措施，”Clemson University 瓦特家族创新中心媒体取证中心联席主任 Darren Linvill 说道，他负责研究在线影响力行动。“试图进行叙事洗白，编造虚假故事，建立虚假人设，以制造或传播符合俄罗斯世界观和俄罗斯政治议程的宣传。”

使用 ChatGPT 创建的俄罗斯内部备忘录还声称，特工们在拉丁美洲运营了一个虚假智库，并招募了不知情的研究人员来采访专家并撰写报告。OpenAI 表示，这一努力与 2020 年俄罗斯的一项行动类似，该行动 冒充独立新闻机构，并与已故寡头 Yevgeny Prigozhin 的 Internet Research Agency 有关，后者曾参与影响 2016 年美国大选。

OpenAI 表示，在其他情况下，俄罗斯特工将他们并不负责的事件归功于自己。OpenAI 称，俄罗斯人确实使用了 AI 生成虚假材料，但这只是工作量的一小部分。

“这些俄罗斯下属试图用 AI 走捷径，减少工作量，就像我们很多人使用 AI 一样，但在这个案例中，这反而导致他们被抓获，”Linvill 说道。