FTC 正在调查 ChatGPT Maker

美国联邦贸易委员会已对 ChatGPT 的人工智能初创公司 OpenAI 展开调查，调查该聊天机器人是否通过收集数据和发布个人虚假信息而伤害了消费者。

在本周发给这家旧金山公司的一封长达 20 页的信中，该机构表示，它也在调查 OpenAI 的安全实践。 FTC 在信中向 OpenAI 提出了数十个问题，包括这家初创公司如何训练其人工智能模型和处理个人数据，并表示该公司应向该机构提供文件和详细信息。

信中称，FTC 正在调查 OpenAI 是否“参与了不公平或欺骗性的隐私或数据安全行为，或者是否参与了与损害消费者风险相关的不公平或欺骗性行为”。

《华盛顿邮报》早些时候报道了这项调查，并得到了一位知情人士的证实。

FTC 的调查对最知名的人工智能公司之一 OpenAI 构成了美国首个重大监管威胁，并表明随着人们、企业和政府使用更多人工智能产品，该技术可能会受到越来越多的审查。 这项快速发展的技术引起了人们的警惕，因为聊天机器人可以根据提示生成答案，有可能取代人们的工作并传播虚假信息。

OpenAI 的领导者 Sam Altman 表示，快速发展的人工智能行业需要受到监管。 今年 5 月，他在国会作证，邀请人工智能立法，并拜访了数百名立法者，旨在为该技术制定政策议程。

周四，他 发推文 OpenAI 技术的安全性“非常重要”。 他补充说，“我们有信心遵守法律”并将与该机构合作。

OpenAI 已经面临国际监管压力。 今年 3 月，意大利数据保护机构禁止了 ChatGPT，称 OpenAI 非法收集用户的个人数据，并且没有适当的年龄验证系统来防止未成年人接触非法材料。 OpenAI 在下个月恢复了对该系统的访问，并表示已按照意大利当局的要求进行了更改。

FTC 正在以惊人的速度对人工智能采取行动，在 OpenAI 推出 ChatGPT 不到一年后就展开了调查。 联邦贸易委员会主席莉娜·汗 (Lina Khan) 表示，科技公司应该在技术处于萌芽状态时受到监管，而不是等到技术成熟时才受到监管。

过去，该机构通常会在一家公司出现重大公开失误后开始调查，例如在 2018 年有报道称 Meta 与政治咨询公司 Cambridge Analytica 共享用户数据后，该机构开始对 Meta 的隐私做法进行调查。

汗女士周四在众议院委员会听证会上就该机构的做法作证，她此前表示人工智能行业需要审查。

“尽管这些工具很新颖，但它们并不能免除现有规则的约束，即使在这个新市场中，联邦贸易委员会也将大力执行我们负责管理的法律，”她在五月份《纽约时报》的一篇客座文章中写道。 “虽然这项技术发展迅速，但我们已经看到了一些风险。”

周四，在众议院司法委员会听证会上，汗女士表示：“ChatGPT 和其他一些服务正在获取大量数据。 没有检查向这些公司插入什么类型的数据。” 她补充说，有报道称人们的“敏感信息”被泄露。

这项调查可能会迫使 OpenAI 披露其构建 ChatGPT 的方法以及它使用哪些数据源构建人工智能系统。 尽管 OpenAI 长期以来对此类信息相当开放，但最近它很少提及其人工智能系统的数据来自何处以及有多少数据用于构建 ChatGPT，可能是因为它担心竞争对手抄袭并担心诉讼超过某些数据集的使用。

谷歌和微软等公司也在部署聊天机器人，它代表了计算机软件构建和使用方式的重大转变。 他们准备重塑 Google 搜索和 Bing 等互联网搜索引擎，Alexa 和 Siri 等语音数字助理，以及 Gmail 和 Outlook 等电子邮件服务。

当 OpenAI 在 11 月份发布 ChatGPT 时，它立即凭借其回答问题、写诗和几乎任何主题的能力吸引了公众的想象力。 但这项技术也可以将事实与虚构融为一体，甚至编造信息，这种现象被科学家称为“幻觉”。

ChatGPT 由人工智能研究人员所谓的神经网络驱动。 这项技术还可以在谷歌翻译等服务上进行法语和英语之间的翻译，并在自动驾驶汽车在城市街道上行驶时识别行人。 神经网络通过分析数据来学习技能。 例如，通过精确定位数千张猫照片中的模式，它可以学会识别猫。

OpenAI 等实验室的研究人员设计了神经网络，可以分析大量数字文本，包括维基百科文章、书籍、新闻报道和在线聊天日志。 这些被称为大型语言模型的系统已经学会了自己生成文本，但可能会重复有缺陷的信息或以产生不准确信息的方式组合事实。

今年 3 月，推动技术道德使用的倡导组织人工智能和数字政策中心以涉及偏见、虚假信息和安全的担忧为由，要求 FTC 阻止 OpenAI 发布新的 ChatGPT 商业版本。

该组织不到一周前更新了投诉，描述了聊天机器人可能造成伤害的其他方式，并表示 OpenAI 也指出了这一点。

人工智能和数字政策中心总裁兼创始人马克·罗滕伯格表示：“该公司本身已经承认与该产品发布相关的风险，并呼吁进行监管。” “联邦贸易委员会需要采取行动。”

OpenAI 一直致力于完善 ChatGPT 并减少有偏见、虚假或其他有害材料的频率。 当员工和其他测试人员使用该系统时，公司会要求他们评价系统响应的有用性和真实性。 然后通过一种称为强化学习的技术，它使用这些评级来更仔细地定义聊天机器人会做什么和不会做什么。

FTC 对 OpenAI 的调查可能需要数月时间，目前尚不清楚该机构是否会采取任何行动。 此类调查是私下进行的，通常包括企业高管的证词。

消费者保护局前工作人员 Megan Gray 表示，该机构可能不具备全面审查 OpenAI 答案的知识。 “FTC 没有具备技术专业知识的工作人员来评估他们将得到的答复，并了解 OpenAI 可能如何试图掩盖真相，”她说。