[ad_1]
几十年来，硅谷一直期待新技术出现并改变一切的那一刻。 它将人类和机器联合起来，可能是为了更好，但也可能是为了更坏，并将历史分成 前 和 后.
这个里程碑的名字：奇点。
它可能以多种方式发生。 一种可能性是人们会将计算机的处理能力添加到他们自己的先天智能中，成为他们自己的增压版本。 或者，也许计算机会变得如此复杂，以至于它们可以真正思考，从而创造出一个全球大脑。
在任何一种情况下，由此产生的变化都将是剧烈的、指数级的和不可逆转的。 具有自我意识的超人机器可以比任何科学家团队更快地设计自己的改进，从而引发智能爆炸。 几个世纪的进步可能会在几年甚至几个月内发生。 奇点是通往未来的弹弓。
在最近的记忆中，人工智能正在席卷科技、商业和政治。 听听硅谷天马行空的说法，似乎许诺已久的虚拟天堂终于近在咫尺。
一向低调的谷歌首席执行官桑达尔·皮查伊 (Sundar Pichai) 称人工智能“比火、电或我们过去所做的任何事情都更深刻”。 亿万富翁投资者里德·霍夫曼 (Reid Hoffman) 说：“在世界上做出积极改变的力量即将获得前所未有的最大推动力。” 微软的联合创始人比尔盖茨宣称人工智能“将改变人们工作、学习、旅行、获得医疗保健和相互交流的方式。”
人工智能是硅谷推出的终极新产品：按需超越。
但是有一个黑暗的转折。 就好像科技公司推出了自动驾驶汽车，并警告说在你到达沃尔玛之前它们可能会爆炸。
“通用人工智能的出现被称为奇点，因为很难预测在那之后会发生什么，”推特和特斯拉的运营者埃隆马斯克上个月告诉 CNBC。 他说他认为“一个富足的时代”会出现，但它“有可能”“毁灭人类”。
科技界最大的 AI 支持者是 OpenAI 的首席执行官 Sam Altman，这家初创公司以其 ChatGPT 聊天机器人引发了当前的狂热。 他说人工智能将是“增强经济能力和 很多人发财了 我们见过。”
但他也表示，马斯克先生是人工智能的批评者，他还创办了一家公司来开发脑机接口，他可能是对的。
天启对于硅谷来说是熟悉的，甚至是心爱的领域。 几年前，似乎每位科技高管在偏远但触手可及的地方都有一个储备充足的末日掩体。 2016 年，奥特曼先生说他正在积累“枪支、黄金、碘化钾、抗生素、电池、水、来自以色列国防军的防毒面具，以及我可以飞到的大苏尔的一大片土地。” 一段时间以来，冠状病毒大流行让技术准备者感到自己是正确的。
现在，他们正在为奇点做准备。
“他们喜欢认为自己是明智的人，在发表明智的评论，但他们听起来更像是 1000 年的僧侣谈论狂欢节，”《智能幻觉》一书的作者 Baldur Bjarnason 说，这是对 AI 的批判性考察。有点可怕，”他说。
超越的根源
奇点的思想根源可以追溯到 John von Neumann，一位先驱计算机科学家，他在 1950 年代谈到“不断加速的技术进步”将如何产生“种族历史上的一些基本奇点”。
英国数学家欧文·约翰·古德 (Irving John Good) 在第二次世界大战期间帮助破译了布莱切利公园的德国谜机，他也是一位有影响力的支持者。 “人类的生存取决于超智能机器的早期建造，”他在 1964 年写道。导演斯坦利·库布里克 (Stanley Kubrick) 就《2001：太空漫游》中由良性转变为恶意的计算机 HAL 咨询了古德先生——计算机科学和科幻小说之间界限模糊的早期例子。
卡内基梅隆大学机器人研究所的兼职教授汉斯·莫拉维克 (Hans Moravec) 认为，人工智能不仅会造福生者：死者也会在奇点中重获新生。 “我们将有机会重现过去，并以一种真实而直接的方式与之互动，”他在“心灵儿童：机器人和人类智能的未来”中写道。
近年来，企业家和发明家雷·库兹韦尔一直是奇点的最大拥护者。 库兹韦尔先生1990年写了《智能机器时代》，2005年写了《奇点临近》，现在正在写《奇点临近》。
到本世纪末，他希望计算机能够通过图灵测试，并且与人类无法区分。 十五年后，他计算，真正的超越将会到来：那一刻“计算将成为我们自己的一部分，我们将把我们的智慧提高一百万倍。”
届时，Kurzweil 先生将 97 岁高龄。在维生素和补品的帮助下，他计划活到 97 岁。
对于奇点的一些批评者来说，在软件王国中复制有组织的宗教信仰体系是一种智力上可疑的尝试。
麻省理工学院计算机科学与人工智能实验室前主任罗德尼·布鲁克斯说：“他们都希望永生，而不必因信仰上帝而带来不便。”
为今天的奇点辩论提供支持的创新是大型语言模型，即为聊天机器人提供支持的人工智能系统类型。 与这些 LLM 之一开始对话，它可以快速、连贯地吐出答案，并且通常具有相当程度的启发性。
“当你问一个问题时，这些模型会解释它的意思，确定它的反应应该是什么意思，然后将其翻译回文字——如果这不是一般智能的定义，那是什么？” Jerry Kaplan 说，他是一位长期的 AI 企业家，也是《人工智能：每个人都需要知道的事情》一书的作者。
卡普兰先生表示，他对自动驾驶汽车和加密货币等备受推崇的奇迹持怀疑态度。 他带着同样的疑虑面对最新的人工智能热潮，但表示他已经被说服了。
“如果这不是‘奇点’，那肯定是一个奇点：一个变革性的技术步骤，将广泛加速一大堆艺术、科学和人类知识的发展——并产生一些问题，”他说。
批评者反驳说，即使是法学硕士令人印象深刻的结果，也与奇点长期承诺的巨大的全球情报相去甚远。 准确区分炒作与现实的部分问题是驱动这项技术的引擎正在变得隐蔽。 OpenAI 最初是一家使用开源代码的非营利组织，现在是一家营利性企业，批评人士称这实际上是一个黑匣子。 谷歌和微软也提供有限的知名度。
许多 AI 研究是由公司进行的，可以从结果中获益良多。 向 OpenAI 投资 130 亿美元的微软研究人员在 4 月份发表了一篇论文，结论是最新的 OpenAI 模型的初步版本“展示了许多智能特征”，包括“抽象、理解、视觉、编码”和“对人类动机和行为的理解”。情绪。”
斯坦福大学计算机科学博士生 Rylan Schaeffer 表示，一些 AI 研究人员描绘了一幅不准确的图景，描绘了这些大型语言模型如何表现出“涌现能力”——无法解释的能力，这些能力在较小的版本中并不明显。
Schaeffer 先生与斯坦福大学的两位同事 Brando Miranda 和 Sanmi Koyejo 一起在上个月发表的一篇研究论文中研究了这个问题，并得出结论认为涌现属性只是测量误差造成的“海市蜃楼”。 实际上，研究人员正在看到他们想看到的东西。
永恒的生命，永恒的利益
在华盛顿、伦敦和布鲁塞尔，立法者正在关注人工智能的机遇和问题，并开始讨论监管问题。 奥特曼先生正在进行路演，试图转移早期的批评，并将 OpenAI 宣传为奇点的牧羊人。
这包括对监管持开放态度，但具体是什么样子还不清楚。 硅谷普遍认为，政府过于缓慢和愚蠢，无法监督快速突破的技术发展。
“政府中没有人能把它做好，”谷歌前首席执行官埃里克·施密特 (Eric Schmidt) 说， 说 在上个月接受“与媒体见面”采访时，争论人工智能自我监管的案例。 “但该行业大致可以做到这一点。”
人工智能，就像奇点一样，已经被描述为不可逆转。 “阻止它需要类似全球监视制度的东西，即使这样也不能保证有效，”奥特曼先生和他的一些同事上个月写道。 他们补充说，如果硅谷做不到，其他人也会。
较少讨论的是从上传世界中获得的巨额利润。 尽管人们都在谈论人工智能是一台无限创造财富的机器，但致富的人几乎都是已经富有的人。
微软今年的市值飙升了 5000 亿美元。 Nvidia 是一家运行 AI 系统的芯片制造商，最近成为美国最有价值的上市公司之一，因为它表示对这些芯片的需求猛增。
“人工智能是世界一直想要的技术，”奥特曼先生发推文说。
这当然是科技界一直想要的技术，在绝对最佳的时间到来。 去年，硅谷因裁员和利率上升而举步维艰。 加密货币，之前的繁荣，陷入了欺诈和失望之中。
跟着钱走，查尔斯·斯特罗斯说，他是小说《书呆子的狂喜》的合著者，这部小说是对奇点的喜剧演绎，也是《加速》的作者，他更严肃地尝试描述生活很快就会发生什么像。
“这里真正的希望是，公司将能够用一些软件取代他们许多有缺陷的、昂贵的、缓慢的、人工信息处理子单元，从而加快速度并减少他们的管理费用，”他说。
长期以来，奇点一直被想象成一个宇宙事件，简直令人兴奋。 它仍然可能是。
但它可能首先表现为——部分归功于当今硅谷对底线的痴迷——作为削减美国企业人数的工具。 当您冲刺以增加数万亿美元的市值时，天堂可以等待。
[ad_2]
Source link
