OpenAI 高管 Jason Kwon 将就 AI 盗取澳大利亚人私有数据一事在议会接受质询

OpenAI 必须解释他们将如何阻止其模型不当访问澳大利亚数据。议会人工智能委员会的工党主席在联邦调查听证会之前发出了这一警告，该听证会将对这家科技公司以及 Anthropic、Microsoft 和 Google 进行质询。

独立参议员 David Pocock 也要求得到答案，称 OpenAI 对于其 AI 智能体访问 Services Australia 的 Medicare 数据以及该公司在通知联邦政府该事件方面的“令人震惊的”延误“仍有很多需要交代的地方”。

人工智能联合特别委员会将于本周举行共计四天的听证会，听取科技公司以及工会、雇主团体、银行和行业专家的意见。周二的听证会将包括版权和艺术家团体的代表，以调查围绕访问数据训练 AI 模型的问题，以及澳大利亚广播公司（ABC），该公司在提交的材料中警告称新闻业正面临“蚕食”，并要求 AI 公司像新闻机构一样遵守相同的版权、诽谤和隐私规则。

OpenAI 的首席战略官 Jason Kwon 将与该公司的经济政策主管 Adam Cohen 以及亚太地区国家安全负责人 Peter Anstee 一同出席听证会。OpenAI 上周就 Services Australia 事件及其通知政府的方式道歉，表示其“正在努力做得更好”。

但主持该委员会的工党议员 Jo Briskey 表示，该公司仍有疑问需要回答。

“我们已经听说了发生的事情，我们了解发生了什么，这里存在一些非常严重的问题，不仅在于这些 AI 智能体确实访问了非公开数据，而且事实还在于他们花了太长时间才通知我们，”她说。

“我们看到 OpenAI 向澳大利亚人公开道歉。这很重要……我的焦点在于他们下一步会做什么？他们如何向澳大利亚人保证这种情况不会再次发生？这是一个难题。”

Briskey 表示，她的出发点是询问如何平衡 AI 的潜在风险和回报，例如经济效益以及网络安全和国防应用。她表示，她还将对在线安全、诈骗以及如何让所有澳大利亚人共享利益提出关切。

“我认为，除非我们能够确保并减轻风险，否则我们无法获得回报，”她说。

委员会成员 Pocock 还计划就 Services Australia 事件向 OpenAI 寻求更多答案。

“你有一群本质上是在与 Donald Trump 进行自我调节的公司。我认为没有多少人会信任 Sam Altman 和 OpenAI……这本应是一家澳大利亚政府张开双臂欢迎并与之做生意的公司，”他说。

“Medicare 被黑事件将在委员会过程中得到充分审视。他们的反应一直相当令人震惊。”

Altman 在周一发表的一次 Politico 采访中表示，OpenAI “认为世界应该接受为了这项技术带来的利益和人们拥有能动性而发生的一些坏事。”

Pocock 对艺术家、创作者和受版权保护材料的潜在影响提出了警示，并表示他仍未被这项技术说服。

“关于这一切对澳大利亚的长期利益，仍然存在巨大疑问……没有人能回答这个问题，”他说。

“[政府]正在追逐这种 GDP 带来的短暂快感，但我们还没有触及数据中心建设的重要阶段，而且我们已经[看到]通货膨胀在上升。他们想要提高 GDP，但在建设阶段之后，我们如何获得回报？看看大型科技公司缴纳了多少税款，并不多，我也没看出这会有什么改变。”

Pocock 渴望质询政府处理版权问题的计划。Anthropic 在其提交的材料中建议采用一种“退出”模式，即权利持有人可以要求不抓取其数据；SBS 在其提交的材料中称这一想法“经常被忽视或绕过”。

Pocock 表示，“当这个行业迈向数万亿美元的估值时，很难接受他们说处理权利持有人太难了”，并表示政府应该“强迫他们[AI 公司]谈判达成交易。”