人工智能是否需要监管联合国监督机构？ – 国际问题

• 塔利夫·迪恩 (联合国)
• 2023 年 6 月 6 日，星期二
• 国际新闻社

在其网站上的一份声明中，OPENAI 创始人 Greg Brockman 和 Ilya Sutskever 以及首席执行官 Sam Altman 表示，为了规范人工智能系统的风险，应该有一个“国际监管机构，类似于国际原子能机构（维也纳） – 联合国机构）促进和平利用核能”。

“考虑到存在风险的可能性，我们不能只是被动反应，”他们上周在一份联合声明中警告说。

联合国教育、科学及文化组织 (UNESCO) 在 5 月 26 日举行的开创性在线会议上接待了 40 多位部长，该组织表示，只有不到 10% 的学校和大学遵循使用广受欢迎的人工智能 (AI) 工具的正式指南，比如聊天机器人软件 ChatGPT。

当被问及联合国在 AI 中的作用时，前副秘书长兼联合国高级代表 Anwarul Chowdhury 大使在他的题为 IPS 的报告中告诉联合国秘书长安东尼奥古特雷斯 我们的共同议程 (OCA) 2021 年 9 月发布的承诺，“与成员国合作建立一个应急平台，以应对复杂的全球危机。”

“该平台不会是一个新的常设或常设机构或机构。 它会在足够规模和强度的危机中自动触发，无论所涉及危机的类型或性质如何。”

全球和平文化运动创始人乔杜里大使说，人工智能无疑是此类“复杂的全球危机”之一，现在是秘书长正式分享他计划如何应对这一挑战的想法的时候了.

他指出，秘书长于 2024 年 9 月召集的未来峰会讨论联合国授权下的人工智能全球监管制度为时已晚。 他认为，在那个时间范围内，人工智能技术将以一种不可能进行全球治理的方式表现出来。

One World Trust 和 AI 过渡工作组主席 Robert Whitfield 告诉 IPS，关于联合国和 AI 的观点是 AI 迫切需要全球治理，而联合国是这种治理的天然家园。

他指出，目前，联合国正在准备一项全球数字契约或在 2024 年 9 月批准，其中应包括人工智能。

“但实际上，联合国几乎没有处于人工智能治理的起点，而我目前所在的欧洲委员会正在深入谈判人工智能框架公约，”同时担任主席的惠特菲尔德说世界联邦主义运动/全球政策研究所。

欧洲委员会的工作仅限于对人权、民主和法治的影响——但这些都是广泛的问题。

他说，虽然欧洲委员会条约的参与范围比欧盟广泛得多，并且欢迎其他国家成为签署国，但它并不是真正的全球范围，任何联合国协议都可以预期具有更广泛的基础。

“联合国的主要优势在于它将寻求包括所有国家，包括俄罗斯和中国，可以说是世界上人工智能领域最强大的国家，”惠特菲尔德说。

因此，可以设想一个两步过程：

• 在欧盟人工智能法案最终确定之后，欧洲委员会内部首先出现了一项初步国际协议 • 全球性的联合国人工智能框架公约正在制定中，可能是在建立人工智能治理的多方利益相关者论坛之后. 这样的公约很可能包括建立一个相当于长老会最近呼吁的国际原子能机构的机构。

Democracy Without Borders 执行主任 Andreas Bummel 告诉 IPS：“联合国对人工智能的治理应该超越通常的政府间机制，并通过全球议会机构让公民选举的代表发挥关键作用”。

他补充说，这种议会大会的范围可以扩大到其他问题，并增强联合国的包容性和代表性，而不仅仅是在人工智能领域。

随着生成式人工智能重塑关于人工智能影响的全球对话，国际电信联盟 (ITU)， 联合国信息和通信技术专门机构，将于 7 月 6 日至 7 日在日内瓦举办 2023 年“人工智能造福全球峰会”。

为期两天的活动将展示 人工智能和机器人技术 据国际电联称，这是关于人工智能和机器人技术如何作为善的力量并支持联合国可持续发展目标的全球对话的一部分。

https://aiforgood.itu.int/summit23/

该活动将举办联合国首次 机器人新闻发布会，以与注册记者的问答为特色。 总体而言，超过 40 台专门用于人道主义和发展任务的机器人将与行业高管、政府官员以及人工智能和技术领域的思想领袖一起参加活动。

与此同时，一组联合国任命的人权专家警告说，人工智能驱动的间谍软件和虚假信息正在增加，对该领域的监管已变得紧迫。

在 6 月 2 日的一份声明中，专家们表示，包括基于人工智能的生物识别监控系统在内的新兴技术越来越多地被用于“敏感环境”， 未经个人知情或同意.

包括“在打击恐怖主义的同时促进和保护人权”问题特别报告员 Fionnuala Ní Aoláin 在内的专家们表示：“对于声称能够执行情感或性别识别的技术，需要紧急和严格的监管红线。”

由联合国人权理事会任命的专家们谴责了间谍软件和监视技术对人权捍卫者和记者工作的“惊人”使用和影响，“通常是在国家安全和反恐措施的幌子下”。

他们还呼吁制定监管措施，以解决生成式人工智能的闪电般快速发展问题，这种发展可以大量生产散布虚假信息和仇恨言论的虚假在线内容。

IPS 联合国主席团报告

关注@IPSNewsUNBureau
在 Instagram 上关注 IPS 新闻联合国局

© Inter Press Service (2023) — 保留所有权利原始出处：国际新闻社