在超级人工智能的世界里，人类会做什么？

我n “Wall-E”，一个 在 2008 年上映的电影中，人类生活在一个可以被描述为完全自动化的豪华共产主义世界。 形式多样的人工智能机器人负责所有生产性劳动。 人们变胖，在扶手椅上徘徊并看电视。 苏格兰小说家伊恩·M·班克斯 (Iain M. Banks) 的“文化”系列更进一步，考虑到一个世界 艾 已经强大到足以成为超级智能——远远超出现在可预见的范围。 这些书是亚马逊和特斯拉的老板杰夫贝佐斯和埃隆马斯克的最爱。 在班克斯先生的世界里，稀缺已成为过去， 艾 “思想”指导大部分生产。 相反，人类转向艺术，探索浩瀚宇宙的文化，沉溺于纯粹的享乐主义。

这样的故事似乎有些牵强。 但在生成方面的快速进步 艾– 支撑 Open 的那种艾流行的聊天机器人，Chatgpt——让很多人更加认真地对待它们。 5月22日开盘艾的 创始人发表了一篇博文，称“可以想象，在未来十年内， 艾 系统将超越大多数领域的专家技能水平，并开展与当今最大的公司之一一样多的生产活动。” 去年夏天，许多技术人员最喜欢的在线预测平台 Metaculus 上的预测员认为，要到 2040 年代初才能产生一个 艾 能够在两个小时的聊天后欺骗人类以为它是人类，具有足够好的机器人能力来组装模型车并且可以通过其他各种具有挑战性的认知测试。 经过一年的惊人 艾 突破，Metaculus 预测人员现在认为这将在 2030 年代初发生。 研究也不缺钱。 五新生成-艾 今年已经出现了独角兽（价值 10 亿美元或以上的初创公司）。

人工智能是你的牡蛎

不可避免地，这样的思想实验涉及一些相当大胆的假设。 首先，我们假设 艾 将是仁慈的，可控的，与人类有区别的。 我们还假设人类文化不会被技术进步彻底改变到人们开始爱甚至崇拜的地步 艾秒。 相反，我们想象 艾 作为一种工具：一个虚拟的、超级智能的、非常便宜的机器人。 我们假设对广泛使用的限制 艾，例如能源限制，将得到解决。 这些都不能保证，但它有助于使这样的练习成为可能。

2019 年，三位经济学家 Philippe Aghion、Ben Jones 和 Chad Jones 模拟了 艾. 他们发现，如果 艾 可用于使所有生产自动化，包括研究过程本身，从而实现自我改进。 几乎无限的数量 艾他们可以在任何给定的问题上一起工作，开辟广阔的科学可能性。 然而，他们的模型带有一个重要的警告。 如果 艾 自动化大部分但不是所有的生产，或者大部分但不是所有的研究过程，增长就不会起飞。 正如经济学家所说：“限制经济增长的可能不是我们做得好的事情，而是那些必不可少但难以改进的事情。”

已故经济学家威廉·鲍莫尔（William Baumol）提出的一个观点对此做出了解释。 在 1965 年发表的一篇论文中，他和同事威廉·鲍文 (William Bowen) 研究了表演艺术行业的工资。 他们指出，“在标准音乐厅演奏舒伯特四重奏的小提琴手每小时的产出是相对固定的”。 尽管技术进步提高了其他行业的生产力，但表演艺术并未受到影响。 因为即使价格上涨，人们仍然愿意在艺术上花钱——需求是“缺乏弹性的”——艺术占据了更多的份额 国内生产总值 因此对整体增长构成压力。

Baumol 的例子指向一个更广泛的原则。 如果域 艾 能够完全自动化的只是不能完全自动化的那些的不完美替代品，并且对非自动化行业的需求很难改变，那么非生产部门将增长为 国内生产总值，降低整体增长。 Aghion、Jones 和 Jones 先生指出，这实际上是上个世纪大部分时间发生的事情。 技术使农业和制造业自动化，压低了其产品的相对价格。 因此，人们将更多的收入花在了教育、医疗保健和娱乐等行业，而这些行业的生产率并没有得到同样的提高。

Baumol 的故事在这个世界上是否重要？ 艾 比最有才华的人类更有能力？ 如果 艾 不是具身化——也许是因为机器人技术的进步落后于计算——那么答案肯定是肯定的。 大部分经济，包括建筑业和制造业，都绝对是实体经济。 有无数的就业形式，包括医疗保健领域的许多形式，需要结合头脑和穿越物质世界的能力。 这些工作只会在以下情况下增加重要性 艾 开始主导认知劳动。 人类将在物质世界中工作，也许是在 艾 “首席执行官”或“教授”。

但是，如果超级强大呢？ 艾 也开发超人形机器人？ 机械手几乎可以肯定地满足物质需求。 人们可能会期望人类放弃劳作，就像在“Wall-E”中一样。 事实上，在 1930 年，另一位经济学家约翰·梅纳德·凯恩斯 (John Maynard Keynes) 撰写了一篇题为“我们子孙后代的经济可能性”的文章，他在文中推测，在未来的一个世纪里，人们每周的工作时间将少于 15 小时。 他预测，技术带来的增长将解决“经济问题”，并让人们将注意力转向本质上令人愉悦的活动。 诚然，凯恩斯的每周工作 15 小时还没有到来——但更高的财富水平减少了额外工作一小时的好处，从而减少了工作时间。 发达国家平均每周工作时间从 20 世纪末的 60 小时左右下降到今天的 40 小时以下。

尽管如此，有些需求也许只有人类才能满足，即使是在一个充满活力、具身化的世界里。 艾。 还值得注意的是，本质上令人愉悦的可能包括工作。 考虑人类可能仍然发挥作用的三个领域：与游戏混为一谈的工作、游戏本身以及人类保留某种优势的工作

乐趣和游戏

从工作和娱乐之间模糊的界限开始。 尽管工作时间在过去一个世纪有所下降，但大部分下降发生在 80 年代之前。 越来越多的富人比穷人工作的时间更长。 凯恩斯的文章暗示了对这种奇怪发展的解释。 他将人类的欲望分为两类：“一种是绝对的，无论我们同胞的处境如何，我们都能感受到它们；另一种是相对的，只有当它们的满足使我们超越自我时，我们才会感觉到它们。 ，让我们感觉比我们的同胞优越。”

凯恩斯或许低估了第二类需求的规模。 一个愤世嫉俗的人可能会认为整个学术学科都陷入其中：对世界没有明显价值的存在，学者们仍然根据他们的聪明才智激烈地争夺地位。 经济学家会说，对许多人来说，工作已经成为一种“消费品”，提供的效用远远超过其产生的收入。

游戏提供了另一个提示，说明为什么人们可能不会完全停止工作。 数以百万计的人受雇于娱乐和体育行业，在一些人认为无关紧要的活动中争夺影响力。 也许什么时候 艾如果它超过人类，观看此类游戏的兴趣就会减弱。 但是来自人类已经是二流的运动的证据表明情况并非如此。 自从 IBM1997 年，DeepBlue 在国际象棋比赛中击败了世界象棋大师加里·卡斯帕罗夫 (Garry Kasparov)，人们对这项运动的兴趣有增无减。 其他被“破解”的游戏 艾，包括中国古代棋盘游戏围棋和竞技视频游戏，都见证了类似的模式。 在过去十年中，全球电子游戏玩家的数量几乎翻了一番，去年达到 32 亿。 如今，越来越多的游戏玩家以竞争或流媒体为生。

艾 可能会增加这种兴趣。 正如班克斯先生推测的那样，人类可能会专注于“真正重要的事情” [matter] 在生活中，例如运动、游戏、浪漫、研究死去的语言、野蛮社会和不可能解决的问题，以及在没有安全带帮助的情况下攀登高山。” 其他人大概也想看他们。

人类似乎不太可能将政治控制权交给机器人。 一次 艾如果它超越了人类，人们想必会更加关注它。 一些政治任务可能会被委派：例如，人类可以将他们的偏好放入一个 艾 产生如何平衡它们的建议的模型。 然而，正如许多政治哲学家，包括 17 世纪的约翰洛克和 20 世纪的约翰罗尔斯所指出的那样，参与政治程序使结果在同胞眼中具有更大的合法性。 还会有更多愤世嫉俗的考虑在起作用。 人类喜欢相互影响。 即使在一个每个人的基本需求都由机器满足的世界里也是如此。 事实上，从投票到花在政治上的时间等一系列指标，最富有的 1% 的美国人在政治上的参与率是普通公众的两到三倍。

最后，考虑人类在提供商品或服务方面具有优势的领域——称之为“人类溢价”。 即使在超级发达的时代，这种溢价也会保持对劳动力的需求 艾. 这可能是真实的一个地方是公开私人信息。 只要人们比机器更愿意与其他人分享他们的秘密，那些受信任的人就会有选择地向世界披露该信息的作用，并准备好让这些信息被机器吸收。 你的记者希望调查记者仍然有工作。

“人类溢价”也可能出现在其他地方。 人们重视历史、神话和意义。 可以在区块链上验证出处的不可替代令牌的价值通常比具有相同像素但不同历史的图像高出许多倍。 在护理和治疗等领域，人们从与他们共度宝贵时间的其他人身上获得价值，这增加了互动的感觉。 人造钻石与地面钻石具有相同的分子结构，其交易价格大幅折扣——据估计约为 70%。 在未来，带有“由人类制造”标签的物品可能特别受欢迎。

人的问题

如果这个溢价足够大，它甚至会拖累增长。 将经济部门划分为人力溢价高的部门和人力溢价低的部门。 如果人类不愿意用机器生产的商品和服务替代人类同胞生产的商品和服务，鲍莫尔效应只会加深。 衡量的经济增长甚至可能达到零。 确实，如果非常强大 人工智能 未能推动增长，这表明经济已经超越物质性，转向娱乐、政治和人们最看重的与他人互动的领域。

也许有一天 人工智能s 将产生全新的商品和服务，这些商品和服务将超越取悦他人和与他人互动的欲望。 这样一场比赛的进行方式将揭示一些深刻的东西：人类到底有多少“社会动物”？ ■