[ad_1]
一群行业负责人和专家周二警告说，全球领导人应该努力减少人工智能技术的“灭绝风险”。
一份由数十名专家签署的单行声明，其中包括 Sam Altman，他的公司 OpenAI 创建了 ChatGPT 机器人，称应对人工智能的风险应该是“与流行病和核战争等其他社会规模风险一起的全球优先事项”。
ChatGPT 去年底突然成为人们关注的焦点，展示了根据最简短的提示生成文章、诗歌和对话的能力。
该项目的巨大成功引发了对该领域数十亿美元投资的淘金热，但批评者和内部人士已经敲响了警钟。
常见的担忧包括聊天机器人可能会在网络上充斥虚假信息，有偏见的算法会大量产生种族主义材料，或者人工智能驱动的自动化可能会浪费整个行业。
超级智能机器
位于美国的非营利性人工智能安全中心网站上的最新声明没有详细说明人工智能可能带来的生存威胁。
该中心表示，这份“简洁的声明”旨在就该技术的危险展开讨论。
几个签署人，包括 Geoffrey Hinton，他创造了一些人工智能系统的基础技术，被称为该行业的教父之一，过去曾发出过类似的警告。
他们最大的担忧是所谓的通用人工智能 (AGI) 的兴起——当机器变得能够执行广泛的功能并可以开发自己的程序时，这是一个定义松散的概念。
令人担忧的是，人类将无法再控制超级智能机器，专家警告称，这可能会对物种和地球造成灾难性后果。
来自谷歌和微软等人工智能领域领导者的数十名学者和专家签署了该声明。
两个月前，特斯拉老板埃隆·马斯克 (Elon Musk) 和其他数百人发表了一封公开信，呼吁暂停此类技术的开发，直到它被证明是安全的。
然而，马斯克的信引发了广泛的批评，认为社会崩溃的可怕警告被夸大了，而且往往反映了 AI 支持者的谈话要点。
美国学者艾米丽·本德 (Emily Bender) 与人合着了一篇颇具影响力的批评人工智能的论文，她表示，由数百名知名人士联名签署的 3 月公开信“充斥着人工智能炒作”。
“令人惊讶的是没有偏见”
Bender 和其他批评者抨击人工智能公司拒绝公布其数据来源或透露数据是如何处理的——即所谓的“黑匣子”问题。
批评之一是，算法可以针对种族主义、性别歧视或政治偏见的材料进行训练。
奥特曼目前正在环游世界，以帮助塑造围绕人工智能的全球对话，他多次暗示他的公司正在开发的技术对全球构成威胁。
“如果人工智能出了问题，任何防毒面具都帮不了你，”他上周五在巴黎对一小群记者说。
但他为他的公司拒绝公布源数据辩护，称批评者真的只是想知道这些模型是否有偏见。
“它在种族偏见测试中的表现如何才是最重要的，”他说，并补充说最新的模型“出人意料地没有偏见”。
[ad_2]
Source link
