[ad_1]
负责创建人工智能聊天机器人 ChatGPT 和图像生成器 Dall-E 2 的公司 OpenAI 的首席执行官周二在参议院司法委员会小组作证时表示，“对人工智能的监管至关重要”。
山姆·奥特曼 (Sam Altman) 首次在国会露面时表示，他支持对这项技术进行监管，以实现人工智能的好处，同时最大限度地减少危害。
“我们认为政府的监管干预对于减轻日益强大的模型的风险至关重要，”奥尔特曼在他准备好的发言中说。 “例如，美国政府可能会考虑超过能力门槛的 AI 模型开发和发布的许可和测试要求。”
奥尔特曼和纽约大学心理学和神经科学名誉教授加里马库斯都呼吁为这项技术建立一个新的监管机构。
马库斯在听证会上说：“我认为人工智能将成为我们未来的重要组成部分，它非常复杂，发展速度如此之快。” “拥有一个全职工作就是做这件事的机构是朝着这个方向迈出的一步。”
除了创建一个可以许可人工智能的新机构外，奥尔特曼还建议建立一套安全标准和模型在部署之前必须通过的特定测试，并允许独立审计员在模型发布之前对其进行检查。 Altman 还认为，现有框架不是规范系统的正确方式。
“对于一项非常新的技术，我们需要一个新的框架，”Altman 说。
Altman 表示，虽然 OpenAi 正在构建“有一天将帮助我们做出新发现并解决人类面临的一些最大挑战，如气候变化和治愈癌症”的工具，但目前的系统还无法做到这些事情。
他还表示，虽然他认为迄今为止部署的工具的好处“大大超过了风险”，但该公司在发布任何新系统之前进行了广泛的测试并实施了强大的安全和监控系统。 “确保他们的安全对我们的工作至关重要，”他说。
Altman 说：“OpenAI 建立在这样一种信念之上，即人工智能有能力改善我们生活的几乎所有方面，但它也会带来我们必须共同努力应对的严重风险。”
参议员 Josh Hawley 和 Richard Blumenthal 说这次听证会只是了解这项技术的第一步。 霍利表示，这项技术将“以我们无法想象的方式发生变革，对美国人的选举、就业和安全产生影响”。
Blumenthal 通过用他的声音播放音频介绍开始了听证会。 “我们经常看到技术超过监管时会发生什么，”布卢门撒尔播放的录音说。 “对个人数据的肆无忌惮的利用……我们已经看到算法偏见如何使歧视和偏见长期存在……这不是我们想要的未来。” 但这实际上不是 Blumenthal 的声音。
Blumenthal 说：“音频是在我的现场演讲中训练的 AI 语音克隆软件，ChatGPT 被问到我将如何开场时，这些评论是由 ChatGPT 写的。”
Blumenthal 说，他认识到社会正处于一个新时代的风口浪尖，并提出了他所说的技术“承诺”，包括“治愈癌症、发展对物理学和生物学的新理解，或模拟气候和天气”。 他还称赞奥特曼引起了人们对技术缺陷的关注。
Blumenthal 表示，他担心的潜在风险包括深度造假、武器化的虚假信息、住房歧视、女性骚扰和假冒欺诈。 “对我来说，也许最大的噩梦是迫在眉睫的新工业革命，数百万工人的流离失所，”他说。
奥特曼表示，这将对就业产生重大影响，但他相信“另一方面会有更多的就业机会”。
“工作会变得更好，”他说。 “我认为将 GPT 视为一种工具而不是一种生物很重要……GPT 4 和类似的工具擅长完成任务，而不是工作。 我认为，GPT 4 将完全自动化一些工作，并将创造我们认为会更好的新工作。”
Altman 还表示，他非常担心大型语言模型服务对选举和错误信息的影响，尤其是在初选之前。
“我们可以做很多事情，”奥尔特曼在回答参议员 Amy Klobuchar 关于 ChatGPT 制作的一条列出虚假投票地点的推文的问题时说。 “有些事情是模型不会做的，并且有监控。 大规模……我们可以检测到有人产生了很多这样的东西 [misinformation] 推文。”
[ad_2]
Source link
