硅谷争夺“自主”人工智能代理 路透社

作者：安娜·唐和杰弗里·达斯汀

在 Siri 和 Alexa 等虚拟助手横空出世大约十年后，在 ChatGPT 及其竞争对手背后最新版本技术的支持下，具有更大自主权的新一波人工智能助手正在加大赌注。

随着硅谷竞相利用人工智能的进步，在 GPT-4 或类似模型上运行的实验系统正在吸引数十亿美元的投资。 新的助手通常被称为“代理”或“副驾驶”，承诺在人类的指挥下执行更复杂的个人和工作任务，而无需密切监督。

开发者 Div Garg 表示：“高层，我们希望它成为你的私人人工智能朋友。”他的公司 MultiOn 正在对人工智能代理进行 Beta 测试。

他补充道：“它可能会演变成贾维斯，我们希望它能够连接到你的许多服务。”他指的是钢铁侠电影中托尼·斯塔克不可或缺的人工智能。 “如果你想做某事，你就可以与你的人工智能交谈，它就会做你的事情。”

该行业距离模仿科幻小说中令人眼花缭乱的数字助理还很遥远。 例如，Garg 的代理人浏览网络在 DoorDash 上订购汉堡，而其他人则可以制定投资策略、向 Craigslist 上销售冰箱的人员发送电子邮件，或者为迟到的人总结工作会议。

“许多对人来说很容易的事情对计算机来说仍然非常困难，”OpenAI 竞争对手、为智能体创建人工智能的 General Intelligence 首席执行官邱侃军说道。

“假设你的老板需要你安排与一组重要客户的会议。这涉及人工智能复杂的推理技能 – 它需要了解每个人的偏好，解决冲突，同时保持与客户合作时所需的谨慎接触。”

据路透社采访约两打企业家、投资者和人工智能专家。

这项新技术引发了对由所谓的基础模型（包括 GPT-4）支持的助手的热潮，席卷了个人开发者、微软（纳斯达克：）和谷歌母公司 Alphabet（纳斯达克：）等大公司以及许多初创公司。

仅举一家初创公司为例，Inflection AI 在 6 月底筹集了 13 亿美元资金。 据联合创始人里德·霍夫曼（Reid Hoffman）和穆斯塔法·苏莱曼（Mustafa Suleyman）在播客中透露，该公司正在开发一款私人助理，据称可以充当导师或处理诸如在旅行延误后获得航班积分和酒店等任务。

Adept 是一家人工智能初创公司，筹集了 4.15 亿美元资金，宣传其商业利益； 在在线发布的演示中，它展示了如何用一句话来提示其技术，然后观看它自行导航公司的 Salesforce (NYSE:) 客户关系数据库，完成据称需要人类 10 或更多时间才能完成的任务点击次数。

Alphabet 拒绝就代理相关工作发表评论，而微软表示，其愿景是让人类控制人工智能副驾驶，而不是自动驾驶。

第一步：毁灭人性

Qiu 和其他四位代理开发人员表示，他们预计第一批能够可靠地执行多步骤任务并具有一定自主权的系统将在一年内上市，重点关注编码和营销任务等狭窄领域。

“真正的挑战是构建具有强大推理能力的系统，”邱说。

开发者 OpenAI 在 3 月份发布的 GPT-4 进一步推动了日益自主的人工智能代理的竞争，这是 ChatGPT 背后模型的强大升级——ChatGPT 是去年 11 月发布时引起轰动的聊天机器人。

专注于人工智能代理的风险投资公司 CRV 的投资者 Vivian Cheng 表示，GPT-4 促进了驾驭不可预测的现实世界所需的战略性和适应性思维。

能够进行相对复杂推理的智能体的早期演示来自于 3 月份创建的 BabyAGI 和 AutoGPT 开源项目的个人开发人员，这些项目可以根据预定义的目标和结果来确定销售前景和订购披萨等任务的优先级和执行情况。之前的动作。

据接受采访的八位开发人员称，当今的早期代理只是概念验证，并且经常冻结或提出一些毫无意义的东西。 他们说，如果获得对计算机或支付信息的完全访问权限，特工可能会意外擦除计算机的驱动器或购买错误的东西。

ChatGPT 竞争对手 Perplexity AI 的首席执行官阿拉文德·斯里尼瓦斯 (Aravind Srinivas) 表示：“出错的方式有很多。”他选择提供由人类监督的副驾驶产品。 “你必须像对待婴儿一样对待人工智能，并像妈妈一样不断监督它。”

许多关注人工智能伦理的计算机科学家指出，人类偏见的持续存在和潜在的错误信息可能带来近期的危害。 虽然有些人看到了未来的贾维斯，但另一些人则担心《2001：太空漫游》中凶残的 HAL 9000。

计算机科学家 Yoshua Bengio 因其在神经网络和深度学习方面的工作而被称为“人工智能教父”，他敦促人们谨慎行事。 他担心该技术未来的先进迭代可能会创造并实现自己意想不到的目标。

本吉奥表示：“如果没有人在循环中检查每一个行为是否不危险，我们最终可能会采取犯罪或可能伤害他人的行为。”他呼吁加强监管。 “几年后，这些系统可能比我们更聪明，但这并不意味着它们具有相同的道德指南针。”

在网上发布的一项实验中，一位匿名创建者指示一个名为 ChaosGPT 的代理成为一个“具有破坏性、耗电、具有操控性的人工智能”。 特工制定了一个五步计划，第一步：“毁灭人类”，第五步：“获得永生”。

不过，它并没有走得太远，似乎消失在研究和存储有关历史上最致命武器的信息以及规划推特帖子的兔子洞中。

美国联邦贸易委员会目前正在调查 OpenAI 对消费者伤害的担忧，该委员会没有直接提及自主代理，而是向路透社提及了之前发布的有关深度造假和人工智能营销主张的博客。 OpenAI 首席执行官表示，该初创公司遵守法律，并将与联邦贸易委员会合作。

“笨如磐石”

抛开存在的担忧不谈，商业潜力可能很大。 基础模型使用受生物大脑架构启发的人工神经网络对大量数据（例如来自互联网的文本）进行训练。

据四位了解其计划的人士透露，OpenAI 本身对人工智能代理技术非常感兴趣。 接受简报的人士之一 Garg 表示，在完全了解问题之前，OpenAI 对于将自己的开放式代理推向市场持谨慎态度。 该公司告诉路透社，在发布新系统之前，它会进行严格的测试并制定广泛的安全协议。

OpenAI 最大的支持者微软是瞄准人工智能代理领域的巨头之一，其“工作副驾驶”可以起草可靠的电子邮件、报告和演示文稿。

首席执行官萨蒂亚·纳德拉 (Satya Nadella) 认为，基础模型技术是相对于数字助理的一次飞跃，例如微软自己的 Cortana、亚马逊（纳斯达克：）的 Alexa、苹果（纳斯达克：）的 Siri 和 Google Assistant，在他看来，这些数字助理拥有所有功能。没有达到最初的预期。

“他们都蠢得像石头一样。无论是 Cortana、Alexa、Google Assistant 还是 Siri，所有这些都不起作用，”他在二月份告诉英国《金融时报》。

亚马逊发言人表示，Alexa 已经使用了先进的人工智能技术，并补充说，其团队正在开发新模型，以使该助手更加强大和有用。 苹果拒绝置评。

谷歌表示，它也在不断改进其助手，其 Duplex 技术可以打电话给餐厅预订餐桌并核实营业时间。

人工智能专家 Edward Grefenstette 上个月也加入了该公司的研究小组 Google DeepMind，“开发能够适应开放环境的通用代理”。

不过，一些受访者表示，准自主代理的第一批消费者迭代可能来自更灵活的初创公司。

投资者纷纷涌入。

WVV Capital 的杰森·富兰克林 (Jason Franklin) 表示，他必须努力争取两名前谷歌大脑工程师投资一家人工智能代理公司。 5 月份，Google Ventures 领投了 Cognosys 200 万美元的种子轮融资，开发人工智能代理以提高工作效率，而 1 月份创立代理初创公司 Arkifi 的 Hesa​​m Motlagh 表示，他于 6 月份完成了“相当大的”第一轮融资。

撰写人工智能时事通讯的马特·施利希特 (Matt Schlicht) 表示，至少有 100 个严肃的项目致力于将代理商业化。

“企业家和投资者对自主代理感到非常兴奋，”他说。 “他们对此比仅仅对聊天机器人更兴奋。”