[ad_1]
三年多以前，在 Sam Altman 辞去 Y Combinator 总裁一职，成为他于 2015 年与 Elon Musk 共同创立的人工智能公司的首席执行官后不久，这位编辑在旧金山与 Sam Altman 坐下来参加了一个小型活动和其他人，OpenAI。
当时，Altman 描述 OpenAI 的潜力时使用的语言在某些人看来有些古怪。 Altman 说，例如，通用人工智能——可以像人类一样解决问题的机器智能——的机会是如此巨大，以至于如果 OpenAI 设法破解它，该机构“可能会捕捉到所有未来的光锥”宇宙中的价值。” 他说该公司“将不得不不发布研究”，因为它太强大了。 当被问及 OpenAI 是否犯有散布恐惧的罪名时——该机构的联合创始人埃隆·马斯克 (Elon Musk) 一再呼吁所有开发 AI 的组织都应该 受监管 — 奥特曼谈到了危险 不是 当“你在指数曲线上建造东西”时，考虑“社会后果”。
听众因谈话的不同点而大笑，不确定要多认真地对待奥特曼。 然而，现在没有人在笑。 虽然机器还没有人那么聪明，但 OpenAI 向世界发布的技术已经足够接近，以至于一些批评家担心这可能是我们的毁灭（据报道，更复杂的技术即将到来）。
事实上，尽管重度用户说它不是那么聪明，但 OpenAI 上周向公众提供的 ChatGPT 模型非常有能力回答问题像一个人这样的问题，各行各业的专业人士都在努力处理其中的含义。 例如，教育工作者想知道他们如何能够将原创作品与他们必然会收到的算法生成的论文区分开来——而这可以避开反剽窃软件。
Paul Kedrosky 本身并不是教育家。 他是一名经济学家、风险投资家和麻省理工学院的研究员，他称自己是一个“沮丧的正常人，喜欢思考复杂系统中的风险和意外后果”。 但他是那些突然担心我们共同的未来的人之一， 发微博 昨天： ”[S]感谢 OpenAI 将这种袖珍核弹无限制地发射到一个毫无准备的社会。” Kedrosky 写道：“我显然觉得 ChatGPT（及其同类产品）应该立即撤回。 而且，如果重新引入，也只有严格的限制。”
我们昨天与他讨论了他的一些担忧，以及为什么他认为 OpenAI 正在推动他认为是“美国经济 100 年来最具破坏性的变化”，而且不是以一种好的方式。
为了长度和清晰度，我们的聊天已经过编辑。
TC：ChatGPT 于上周三发布。 是什么触发了你在 Twitter 上的反应？
PK：我过去曾使用过这些对话式用户界面和 AI 服务，这显然是一个巨大的飞跃。 在这里特别困扰我的是它的随意残暴，对许多不同的活动造成了巨大的后果。 这不仅是显而易见的，比如高中论文写作，而且几乎涵盖任何有语法的领域—— [meaning] 一种有条理的自我表达方式。 那可能是软件工程、高中论文、法律文件。 所有这些都被这只贪婪的野兽轻而易举地吃掉了，然后又吐了出来，而没有补偿用于训练它的任何东西。
我从加州大学洛杉矶分校的一位同事那里听说，他们不知道如何处理本学期末的论文，他们每门课程收到数百篇论文，每个部门收到数千篇论文，因为他们不再知道什么是假的，什么是假的不是。 所以如此随意地做这件事——就像今天早些时候有人对我说的那样——让人想起所谓的 [ethical] 白帽黑客在广泛使用的产品中发现错误，然后在更广泛的公众知道之前通知开发人员，以便开发人员可以修补他们的产品并且我们没有大规模破坏和电网中断。 恰恰相反，病毒被释放到野外而不考虑后果。
确实感觉它可以吞噬整个世界。
有些人可能会说，‘好吧，当自动化进入汽车工厂并且汽车工人失业时，你有同样的感觉吗？ 因为这是一种更广泛的现象。 但这是非常不同的。 这些特定的学习技术是自我催化的； 他们正在从请求中学习。 因此，制造工厂中的机器人虽然对在那里工作的人们造成了破坏性的影响并产生了令人难以置信的经济后果，但它们并没有转身开始吸收工厂内部的一切，一个部门一个部门地移动，而这不仅仅是我们可以期待的但你应该期待什么。
马斯克让 OpenAI 部分结束 分歧 关于公司的发展，他在 2019 年表示，长期以来他一直将 AI 视为一种生存威胁。 但人们抱怨说他不知道自己在说什么。 现在我们面对的是这项强大的技术，目前尚不清楚谁会介入解决它。
我认为它会同时在很多地方开始，其中大部分看起来非常笨拙，人们会 [then] 冷笑，因为那是技术人员所做的。 但太糟糕了，因为我们通过创造具有如此重要意义的东西而走进了这个世界。 所以就像联邦贸易委员会多年前要求人们经营博客一样 [make clear they] 有附属链接并从中赚钱，我认为在微不足道的层面上，人们将被迫披露“我们没有写这些”。 这都是机器生成的。
我还认为，在我们的培训机器学习算法的背景下，我们将看到针对微软和 OpenAI 的版权侵权诉讼的新活力。 我认为这里将有一个关于这项服务的更广泛的 DMCA 问题。
我认为有可能 [massive] 最终关于服务后果的诉讼和和解，你知道，这可能会花费太长时间并且无法帮助足够多的人，但我不明白我们如何不结束 [this place] 关于这些技术。
麻省理工学院的想法是什么？
Andy McAfee 和他那边的团队更乐观，也有更正统的观点，只要我们看到颠覆，就会创造其他机会，人们是流动的，他们从一个地方到另一个地方，从一个职业到另一个职业，我们不应该如此固执，以至于我们认为这种特殊的技术发展是我们无法改变和迁移的技术。 我认为这大体上是正确的。
但特别是过去五年的教训是，这些变化可能需要很长时间。 例如，自由贸易是一种极具颠覆性的经济体验，作为经济学家，我们都告诉自己，经济会适应，一般人会从较低的价格中受益。 没有人想到的是，有人将所有愤怒的人组织起来，选举了唐纳德·特朗普。 所以有这样的想法，我们可以预测和预测后果会是什么，但是 [we can’t].
你谈到了高中和大学的论文写作。 我们的一个孩子已经问过——理论上！ — 如果使用 ChatGPT 撰写论文属于剽窃。
写文章的目的是为了证明你可以思考，所以这缩短了过程并达不到目的。 同样，就后果和外部性而言，如果我们不能让人们布置家庭作业，因为我们不再知道他们是否在作弊，这意味着一切都必须在课堂上发生并且必须受到监督。 我们不能带任何东西回家。 更多的东西必须口头完成，那是什么意思？ 这意味着学校变得更贵、更手工、更小，而恰恰是我们正试图做相反的事情。 就实际提供服务而言，高等教育的后果是毁灭性的。
你如何看待普遍基本收入的想法，或者让每个人都能分享人工智能带来的收益？
与 COVID 之前相比，我的支持者要少得多。 原因是，从某种意义上说，COVID 是一项普遍基本收入的实验。 我们付钱让人们呆在家里，他们想出了 QAnon。 所以我真的很担心当人们不必跳上汽车，开车到某个地方，做他们讨厌的工作然后再次回家时会发生什么，因为魔鬼会为闲置的手找到工作，而且会有很多空闲的手和很多恶魔。
[ad_2]
Source link
