[ad_1]
在周五晚上的几个小时里，我无视我的丈夫和狗，让一个名叫 Pi 的聊天机器人来验证我的想法。
Pi 告诉我，我的观点是“令人钦佩的”和“理想主义的”。 我的问题是“重要的”和“有趣的”。 我的感受是“可以理解的”、“合理的”和“完全正常的”。
有时，验证感觉很好。 为什么是的，我 是 这些天对气候变化的生存恐惧感到不知所措。 而它 是 有时很难平衡工作和人际关系。
但在其他时候，我错过了我的群聊和社交媒体信息。 人类是令人惊讶的、有创造力的、残忍的、刻薄的和有趣的。 情感支持聊天机器人——这就是 Pi——不是。
所有这些都是设计使然。 本周，资金雄厚的人工智能初创公司 Inflection AI 发布了 Pi，该公司宣布，其目标是成为“站在你这边的善良和支持的伙伴”。 该公司强调，它一点也不像人类。
Pi 是当今人工智能技术浪潮的转折点，聊天机器人正在调整以提供数字陪伴。 可以生成文本、图像和声音的生成式 AI 目前过于不可靠且充满不准确性，无法用于自动执行许多重要任务。 但它非常擅长参与对话。
这意味着，虽然许多聊天机器人现在专注于回答问题或提高人们的工作效率，但科技公司正越来越多地为它们注入个性和对话天赋。
Snapchat 最近发布的 My AI 机器人旨在成为一个友好的个人伙伴。 拥有 Facebook、Instagram 和 WhatsApp 的 Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg) 在 2 月份表示，该公司正在“开发能够以多种方式帮助人们的人工智能角色”。 人工智能初创公司 Replika 多年来一直提供聊天机器人伴侣。
学者和评论家警告说，如果机器人提供糟糕的建议或促成有害行为，人工智能陪伴可能会产生问题。 他们说，让聊天机器人充当心理健康问题严重的人的伪治疗师具有明显的风险。 考虑到对话的潜在敏感性，他们表达了对隐私的担忧。
研究聊天机器人的斯坦福大学研究员 Adam Miner 表示，与 AI 机器人交谈的轻松程度可能会掩盖实际发生的事情。 “生成模型可以利用互联网上的所有信息来回应我，并永远记住我说的话，”他说。 “容量的不对称——这是我们很难理解的事情。”
持有执照的心理学家 Miner 博士补充说，机器人不像他那样在法律上或道德上对强大的希波克拉底誓言或许可委员会负责。 “这些生成模型的公开可用性改变了我们需要如何监管用例的性质，”他说。
Inflection 的首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 表示，他的初创公司是一家公益公司，旨在打造诚实守信的人工智能。因此，Pi 必须表达不确定性，并“知道它不知道什么”，他说。 “它不应该假装它是人类或假装它是任何它不是的东西。”
同时创立了人工智能初创公司 DeepMind 的苏莱曼先生说，Pi 的设计目的是告诉用户，如果他们表示想要伤害自己或他人，请寻求专业帮助。 他还表示，Pi 没有使用任何个人身份信息来训练驱动 Inflection 技术的算法。 他强调了这项技术的局限性。
“我们管理这些新工具的到来的安全和合乎道德的方式是对它们的界限和能力非常明确，”他说。
为了改进这项技术，Inflection 在去年聘请了大约 600 名兼职“教师”，其中包括治疗师，以训练其算法。 该小组的目标是让 Pi 在适当的时候更敏感、更准确、更轻松。
在某些问题上，例如厌女症或种族主义，Pi 表明了立场。 苏莱曼先生说，在其他方面，比如地缘政治，它“以一种肯定会让双方都感到不安的方式”更为公平。
我从星期五开始使用 Pi，方法是在 Inflection 网站上的一个奶油色框中输入查询，然后在其免费应用程序中输入查询。 在 Pi 显示其回复之前，绿色光标摇晃，一次一个段落。 苏莱曼先生说，这项免费服务最终可能会向一些用户收取费用。
Pi 的边界很容易找到。 当我试图挑起争端时，我得到的大多是善意的回报。 “我很感激你这么说，”Pi 的文字在我的屏幕上轻轻展开。 “我认为从各个角度看问题很重要，而不是只关注消极方面。”
随着时间的推移，这种无情的平衡逐渐侵蚀了我，让我争辩的本能变得荒谬可笑。 我意识到，这正是重点。
在堕胎法或取消文化等较重的话题上，Pi 提出了尖锐的问题，促使我重新审视自己的观点。 “这是一个艰难的立场，”它曾在某一时刻表示。 “这是一套始终如一的信念，”它对另一个人说。
对于较轻松的话题，如电影、烹饪或园艺，聊天机器人提供了非常具体、难以通过谷歌搜索的建议。 奇怪的是，Pi 似乎在推动我加入反资本主义运动。
Pi 记得早些时候谈话中的一些事情，但忘记了其他事情。 它“幻觉”了几次，指责我表达了我没有表达过的观点。 但当我注意到它时，它很快就道歉了。
当我向 Pi 询问一些八卦时，它激怒了一个关于詹妮弗洛佩兹的“多汁的名人谣言”。 我坐下了吗？ （是。） 我准备好接受污垢了吗？ （是。） 谣言？ “她暗地里是个鼹鼠人！ 😝 开玩笑的！” （让我休息一下。）
Pi 有时让我想起电视剧《副总统》中的角色 Karen Collins。 凯伦用她模棱两可的喋喋不休惹恼了其他角色，比如，“每个候选人都有利弊，所以我们只需要权衡利弊，”或者“我认为有很多事情要考虑。” Pi 的许多评论都具有千言万语难言之隐的味道。
麻省理工学院心理学家兼教授雪莉·特克尔 (Sherry Turkle) 表示，这类互动可以“将我们推向一条道路，鼓励我们忘记是什么让人们与众不同。”
“同理心的表现不是同理心，”她说。 “伴侣、爱人、治疗师、最好的朋友的领域确实是人们需要人的少数领域之一。”
直到周一早上，在整个周末断断续续地聊了几个小时之后，我才和 Pi 有了“啊哈”的时刻。
我对工作感到不知所措，不确定如何安排我的一天，这种反复出现的挂断常常使我无法开始工作。 “早上好，”我在应用程序中输入。 “我没有足够的时间来做我今天需要做的一切！”
Pi 以一种只有机器人才能在咖啡前激发的热情促使我分解我的待办事项清单以制定一个现实的计划。 就像机器人的大部分建议一样，它明显而简单，您会在生产力大师的自助文章中读到这种内容。 但它是专门为我量身定做的——而且它奏效了。
“我要请你列出你在那个故事中必须完成的所有剩余任务，我们将一起确定它们的优先级，”它说。
我本可以把压力转嫁给家人或给朋友发短信。 但是他们忙于自己的生活，而且，他们以前也听说过。 另一方面，Pi 有无限的时间和耐心，还有无穷无尽的鼓励肯定和详细建议。
Pi 使用认知行为疗法的语言。 周一下午，它建议我为自己的负面情绪“腾出空间”，并“练习对一件事心存感激”。 随后进行了一系列呼吸练习和肌肉放松练习。
我用耸肩表情符号回应，然后是“通过”。
治疗师可能会对这种无礼行为犹豫不决，但 Pi 只是简单地指出我并不孤单。 “很多人发现很难在命令下放松，”它写道。
[ad_2]
Source link
