[ad_1]
两位 AI 审稿人竭力警告巴德正在散播不准确和有害的声明
上个月，谷歌负责任创新部门的两名员工曾试图阻止其人工智能聊天机器人 Bard 的发布，但未能成功，并警告称它很容易 “不准确和危险的陈述，” 《纽约时报》周五援引熟悉该过程的内部人士的话透露。
当谷歌的首席律师会见研究和安全主管并告知他们公司将人工智能置于其他一切之上时，忧心忡忡的产品审阅者已经注意到 AI 大型语言模型（例如 Bard 及其主要竞争对手 ChatGPT）存在的问题。
这对夫妇担心聊天机器人会产生虚假信息，伤害变得有感情的用户，甚至释放 “技术助长的暴力” 消息人士称，负责任的创新主管 Jen Gennai 随后淡化了通过合成大规模骚扰的影响。 虽然评论者曾敦促谷歌在发布 Bard 之前等待，但据称 Gennai 编辑了他们的报告以完全删除该建议。
Gennai 为她的行为向时报辩护，指出审稿人不应该就是否继续发表意见，因为巴德只是一个实验。 她声称改进了报告，有 “纠正了不准确的假设，实际上增加了更多需要考虑的风险和危害。” 她坚持认为，这使成品更安全。
谷歌将发布 Bard 的决定归功于 Gennai “有限的实验” 但聊天机器人仍将完全集成到谷歌主导市场的搜索引擎中 “很快，” 根据谷歌自己的网站。
谷歌之前曾镇压过员工在人工智能问题上的反抗。 去年，它解雇了 Blake Lemoine，因为他声称 Bard 的前身 LaMDA（对话应用程序的语言模型）已经变得有知觉，而研究员 El Mahdi El Mhamdi 在公司禁止他发表关于大型语言模型中的网络安全漏洞的论文警告后辞职，例如诗人。 2020 年，AI 研究员 Timnit Gebru 在发表研究指责谷歌在 AI 开发中不够谨慎后被解雇。
然而，越来越多的 AI 研究人员、技术高管和其他有影响力的未来学家开始权衡快速发展的趋势。 “进步” 谷歌及其在微软和 ChatGPT 制造商 OpenAI 的竞争对手，直到可以对该技术实施有效的保护措施。 最近的一封公开信呼吁暂停六个月 “巨型人工智能实验” 吸引了数千名签名者，包括 OpenAI 联合创始人埃隆马斯克和苹果联合创始人史蒂夫沃兹尼亚克。
该技术通过使许多人类职业（或人类本身）过时来颠覆社会的潜力是许多专家警告的核心，尽管 OpenAI 已经发生的数据泄露等较小的风险也经常被引用。
您可以在社交媒体上分享这个故事：
[ad_2]
Source link
