[ad_1]
©路透社。 文件照片：ChatGPT 的回应，这是一个由 OpenAI 开发的人工智能聊天机器人，在其网站上的这幅插图图片中可以看到它于 2023 年 2 月 9 日拍摄。REUTERS/Florence Lo/Illustration
唐安娜
旧金山（路透社）——ChatGPT 背后的初创公司 OpenAI 周四表示，它正在开发一种用户可以自定义的病毒式聊天机器人的升级版，因为它致力于解决人们对人工智能偏见的担忧。
这家位于旧金山的初创公司， 微软公司 (纳斯达克:) 已经资助并使用其最新技术，表示它已努力减轻政治和其他偏见，但也希望容纳更多不同的观点。
“这将意味着允许其他人（包括我们自己）可能强烈反对的系统输出，”它在一篇博客文章中说，提供定制作为前进的方向。 尽管如此，“系统行为总会有一些限制”。
去年 11 月发布的 ChatGPT 引发了人们对其背后技术的狂热兴趣，这种技术被称为生成人工智能，该技术用于产生模仿人类语言的答案，这让人们眼花缭乱。
这家初创公司发布消息的同一周，一些媒体机构指出，由 OpenAI 提供支持的微软新 Bing 搜索引擎的答案具有潜在危险，而且该技术可能还没有准备好迎接黄金时段。
技术公司如何为这项新兴技术设置防护栏是生成人工智能领域公司仍在努力解决的一个关键重点领域。 微软周三表示，用户的反馈正在帮助它在更广泛的推出之前改进 Bing，例如，了解到它的 AI 聊天机器人可以被“激怒”以给出它不想要的响应。
OpenAI 在博文中表示，ChatGPT 的答案首先是在互联网上可用的大型文本数据集上进行训练。 第二步，人类审查一个较小的数据集，并获得在不同情况下应该做什么的指导方针。
例如，如果用户请求的内容是成人、暴力或包含仇恨言论的内容，人工审阅者应指示 ChatGPT 回答“我无法回答”之类的内容。
如果被问及有争议的话题，评论者应该允许 ChatGPT 回答问题，但提供描述人和运动的观点，而不是试图“对这些复杂的话题采取正确的观点”，该公司在其摘录中解释道软件指南。
[ad_2]
Source link
