[ad_1]
白宫周五表示，几家开发人工智能的美国顶级公司已同意与美国政府合作，并承诺遵守几项原则，以确保公众对人工智能的信任。
亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 都签署了让人工智能安全、可靠和值得信赖的承诺。 今年 5 月，拜登政府曾表示将与领先的人工智能开发商会面，以确保他们符合美国政策。
这些承诺不具有约束力，不遵守承诺也不会受到任何处罚。 这些政策也不能追溯影响已经部署的人工智能系统——其中一项规定称，这些公司将承诺在发布人工智能之前，对其进行内部和外部的安全漏洞测试。
尽管如此，新的承诺旨在让公众（在某种程度上也让立法者）放心，人工智能可以负责任地部署。 拜登政府已经提议在政府内部使用人工智能来简化任务。
也许最直接的影响将体现在人工智能艺术上，因为所有各方都同意使用数字水印来识别一件艺术品是人工智能生成的。 一些服务，例如 Bing 的 Image Creator，已经做到了这一点。 所有签署者还承诺将人工智能用于公共利益，例如癌症研究，以及确定适当和不适当使用的领域。 这尚未定义，但可能包括防止 ChatGPT 帮助策划恐怖袭击等现有保障措施。 人工智能公司还承诺保护数据隐私，这是微软在企业版 Bing Chat 和 Microsoft 365 Copilot 中坚持的优先事项。
所有公司都承诺在其人工智能系统发布前对其进行内部和外部安全测试，并与行业、政府、公众和学术界分享有关管理人工智能风险的信息。 他们还承诺允许第三方研究人员发现和报告漏洞。
微软总裁布拉德·史密斯（Brad Smith）认可了新的承诺，并指出微软一直倡导建立高风险人工智能系统的国家注册表。 （一名加州议员呼吁成立联邦办公室来监督人工智能。）谷歌还披露了自己的黑客“红队”，他们试图利用即时攻击、中毒数据等攻击来破坏人工智能。
OpenAI 在一份声明中表示：“作为我们构建安全、有益的 AGI 使命的一部分，我们将继续试点和完善专门针对高性能基础模型（如我们生产的模型）量身定制的具体治理实践。” “我们还将继续投资于有助于为监管提供信息的领域的研究，例如评估人工智能模型中潜在危险能力的技术。”
[ad_2]
Source link
