[ad_1]
在机器人提供饮食和减肥建议后，国家饮食失调协会无限期地取消了聊天机器人。 该非营利组织已经关闭了人工服务热线。
AILSA CHANG，主持人：
旨在帮助饮食失调患者的聊天机器人最终如何提供减肥和节食建议？ 好吧，这就是现在的问题，因为国家饮食失调协会在 NPR 报道后几天就取消了这个有争议的聊天机器人。 密歇根广播电台的凯特威尔斯一直在报道这件事，现在加入我们。 嘿，凯特。
凯特·威尔斯连线：嘿。
CHANG：好的，那么为什么全国饮食失调协会首先要在这里尝试使用聊天机器人呢？
威尔斯：是的，背景真的很重要。 该协会被称为 NEDA，显然它致力于支持饮食失调患者。 20 多年来，他们开通了这条非常受欢迎的求助热线。 它由人工配备，但当 COVID 来袭时，求助热线的电话和消息数量大幅增加。 仅去年一年，他们就获得了大约 70,000 个联系人。 他们说这些电话的数量、这些电话的严重程度是不可持续的。 上个月，他们关闭了帮助热线，这本身就很有争议。 但是这个叫做 Tessa 的聊天机器人是 NEDA 打算提供、投资和真正推广的资源之一，即使在这条帮助热线消失后也是如此。
张：好的，那么泰莎究竟出了什么问题？
威尔斯：是的，饮食失调领域有一位顾问。 她的名字叫 Sharon Maxwell，几周前她听说了这件事。 她决定去试试泰莎。 她问聊天机器人，嘿，泰莎。 你如何支持饮食失调的人？ 泰莎给了她这样的回应，哦，应对机制，健康的饮食习惯。 Maxwell 开始更多地询问这些健康的饮食习惯，很快 Tessa 告诉她的事情听起来很像她在 10 岁时服用慧俪轻体时听到的内容。
张：哇。
SHARON MAXWELL：Tessa 给我的建议是我每周可以减掉一到两磅，每天摄入的热量不应超过 2,000 卡路里，我每天应该有 500 到 1,000 卡路里的热量缺口，所有其中对一般听众来说可能听起来不错。 然而，对于患有饮食失调症的人来说，减肥的重点确实助长了饮食失调症。
张：没错。 好吧，凯特，这显然不是他们为聊天机器人设计的……
威尔斯：是的。
张：……做。 那么 NEDA 的回应是什么？
威尔斯：嗯，所以麦克斯韦在 Instagram 上发布了这件事，她向 NEDA 提供了与泰莎的对话截图。 她说，在那之后的几个小时内，聊天机器人就被关闭了。 NEDA 告诉我们，感谢 Maxwell 和其他人提醒他们注意此事，他们指责运营聊天机器人的公司。
CHANG：公司具体对聊天机器人做了什么？
威尔斯：所以关于泰莎，你需要知道的是，它最初是由饮食失调专家创造的。 它不像我们经常听到的 ChatGPT。 它不能自己创造新内容。 其中一位创作者是 Ellen Fitzsimmons-Craft。 她是位于圣路易斯的华盛顿大学医学院的教授，她说他们有意将泰莎限制在很窄的范围内，因为他们知道这将是一个高风险的情况。
ELLEN FITZSIMMONS-CRAFT： 按照设计，它不会偏离轨道。 我们非常清楚人工智能还没有为这个人群做好准备，所以所有的反应都是预先编程的。
威尔斯：但在去年的某个时候，运营 Tessa 的公司——称为 Cass——增加了生成人工智能，这意味着它使 Tessa 能够从新数据中学习并产生新的反应。 Cass 的首席执行官告诉我，这是系统升级的一部分，他说这一变化是与 NEDA 签订的合同的一部分。 我们应该注意到，公司和 NEDA 都已经道歉。
张：好的。 你知道，我们在心理健康领域看到越来越多的聊天机器人。 比如，有你可以下载的应用程序，公司……
威尔斯：是的。
CHANG：……就是在推广人工智能治疗。 这里的要点是这只是一个坏主意吗？
威尔斯：嗯，你明白为什么 AI 如此诱人了吧？ 我的意思是，这很方便。 这比雇用越来越多的人要便宜。 但我们反复看到的是聊天机器人会犯错误，在高风险情况下，这可能是有害的。
张：我是密歇根广播电台的凯特·威尔斯。 非常感谢你，凯特。
威尔斯：谢谢。
版权所有 © 2023 NPR。 版权所有。 请访问我们网站的使用条款和权限页面，网址为 www.npr.org，了解更多信息。
NPR 转录本由 NPR 承包商在紧急截止日期前创建。 此文本可能不是最终版本，将来可能会更新或修订。 准确性和可用性可能会有所不同。 NPR 节目的权威记录是音频记录。
[ad_2]
Source link
