新诉讼称人类正在阅读您的 ChatGPT 聊天记录

简报

• 本月，两名加州 ChatGPT 用户在加利福尼亚北区联邦地区法院对 OpenAI 提起了一项拟议的集体诉讼，指控该公司在未进行妥善披露的情况下让外部承包商阅读真实的客户对话。
• 该投诉集中在 "Project Lily" 上，这是 OpenAI 的一个内部项目，通过人力资源公司聘请的承包商总结用户提示词，并按 1 到 7 的等级对聊天机器人的回答进行评分。
• OpenAI 必须在 10 月 13 日之前出庭作出回应；原告希望默认关闭 "为所有人改进模型" 设置，并且在任何人工阅读对话之前必须获得同意。

OpenAI 正因究竟谁能阅读您的 ChatGPT 对话而面临起诉。

本月提交至美国加利福尼亚北区联邦地区法院的一项拟议集体诉讼指控该公司在没有事先妥善告知用户的情况下，将真实的对话路由给外部承包商。OpenAI 已于 9 月 2 日收到传票。

该诉讼针对的是一项名为 Project Lily 的 OpenAI 内部计划，媒体 404 Media 曾于 9 月 14 日首次曝光该计划。根据控诉，通过第三方人力资源公司聘用的担任 "AI 数据审核员" 和 "聊天机器人评估员" 等职位的承包商会阅读真实的 ChatGPT 提示词和完整对话，总结用户的意图，然后按 1 到 7 的等级对四个不同的模型回答进行评分和评论。

这一过程是 ChatGPT 等聊天机器人实际变得更智能的基础版本。基本上，由人类为 AI 的回答打分，这些分数会被反馈到训练中，以便模型学习人们更喜欢哪些回答，业界将这种技术称为 RLHF 或来自人类反馈的强化学习。该诉讼的控诉点在于，用户从未被明确告知阅读他们对话的可能不仅仅是机器，还有人。

OpenAI 在人工看到对话之前确实会通过一个自动化系统运行对话。控诉书指称，该过滤器并不总是能过滤掉所有内容，这意味着个人细节有时仍会流向承包商。

404 Media 发现审核员根据一个仪表板工作，其中包括 "用户记忆摘要"——对一个人过去对话的回顾，即使去掉了用户名，这些对话也可能透露出其大致位置、职业或个人生活等细节。OpenAI 曾表示，进行审核是为了减少两种特定行为：聊天机器人表现得过于人性化，以及聊天机器人过于顺从，研究人员称这种特性为迎合（sycophancy），即 AI 告诉用户它认为用户想听的话，而不是准确的话。

$87.2k$83.6k$80.0k$76.4k

24h High最高$84,843

24h Low最低$82,941

Vol成交量$1.5B

市场预测赔率提供方 Myriad

ChatGPT 每周有超过 9 亿用户，其中很多人把它当作日记、治疗师或只有自己能看到的搜索引擎。

人们输入健康症状、分手短信、税务问题、法律纠纷。诉讼辩称，OpenAI 的隐私政策列出了一些可以访问用户数据的外部方类别，但从未专门标注数据标注或人工评估供应商是其中之一。

该控诉包含了八项独立的法律主张，包括违反加利福尼亚州的《不公平竞争法》、《消费者隐私法》，以及诸如侵犯隐私（intrusion upon seclusion）等普通法主张——这是一种隐私侵权行为，涵盖了以合理的人认为具有冒犯性的方式窥探私人事务的行为。

原告正在寻求损害赔偿、补偿和惩罚性赔偿。

在禁令方面，要求非常具体。原告希望 OpenAI 在任何对话发送给外部审核员之前必须获得选择加入的同意，将 "为所有人改进模型" 设置默认关闭而非开启，在聊天窗口内部增加明确的警告，并可能删除与被审核对话相关的成果，同时重新训练使用过这些对话的任何模型。

OpenAI 的回应截止日期为 10 月 13 日。

每日简报时事通讯

开启每一天，获取当下的头条新闻，以及原创专题、播客、视频等更多内容。