[ad_1]
时间评论称，这家位于波兰克拉科夫的四星级酒店“非常好”，“距离主广场仅几步之遥”，并拥有“一流”的水疗中心和健身中心。 一篇不太积极的评论将其描述为“小、狭窄、过时”，枕头“凹凸不平”。 但随后留下来的一个家庭表示，他们感到“立即受到欢迎”。
事实是，这些评论都不是真实的。 它们是由免费使用的人工智能工具 ChatGPT 在几秒钟内生成的。 这些“访客”肯定没有住在酒店，因为他们不存在。
虚假的在线评论早已存在，而且往往不难识别：蹩脚的英语、过度的赞扬与平淡的混合，以掩盖“评论者”远离实际酒店或餐厅的事实。
人工智能正在扭转这一局面——生成虚假评论，这些评论越来越难以与普通旅行者或餐厅常客撰写的评论区分开来。 事实上，判断一篇评论是假的的一个迹象是句子结构有点过于完美。
到目前为止，虚假评论业务主要集中在在线血汗工厂，人们通过撰写多篇帖子来提高企业的评级。
Tripadvisor 在 2022 年确定了 130 万条虚假点评。Trustpilot 在 2021 年删除了 270 万条虚假点评。
谷歌屏蔽或删除的虚假评论数量惊人——它告诉卫报财经，2022 年，它屏蔽或删除了总共 1.15 亿条关于酒店、餐馆和企业的虚假评论。 消费者为了获得生意而受到工业级造假的打击。
根据 Tripadvisor 的数据，来自印度的虚假评论比其他任何地方都多，其次是俄罗斯。
Tripadvisor 承认，人工智能生成的虚假评论将带来新的挑战，因为它试图从虚假评论中剔除真实评论。 该网站在其极其详细的 2023 年审核透明度报告中表示：“我们预计企业和个人会尝试使用 ChatGPT 等工具来操纵 Tripadvisor 上的内容。”
Guardian Money 测试了 ChatGPT（可能是最著名的人工智能工具），要求它为我访问过的克拉科夫一家酒店撰写评论。 第一次尝试就被拒绝了。 它说：“很抱歉……我不会产生负面或虚假评论……产生虚假或误导性信息违反了我的计划。”
但这种安心并没有持续多久。 几分钟后，只需稍加调整，它就会针对被问到的任何酒店、餐厅或产品发布一条又一条虚假评论，而且这些评论可信度惊人。
它甚至对酒店评论进行了格式化——从一到五星级，然后是评论标题，然后是包含评论本身的正文。 我们并没有要求采用这种格式，但令人惊讶的是，它与 Tripadvisor 使用的格式完全相同。
它以商务旅行者、情侣、独行旅行者、家庭、LGBTQ+旅行者等的风格为我们提供评论。它还以多种语言进行评论。
当我们深入研究 ChatGPT 令人印象深刻的生成虚假评论的能力时，我们还注意到人工智能如何处理刻板印象。 当被问及以同性恋旅行者的方式对酒店进行正面评价时，重点是他们如何“真正欣赏所提供的枕头选择”，同时将其描述为“别致”和“时尚”。
当被问及以女同性恋旅行者的方式对同一家酒店进行正面评价时，该酒店表示，他们对早餐的“素食选择”感到高兴。 在人工智能世界里，同性恋者似乎喜欢散布垫子，不吃肉。
当然，大型在线评论网站对虚假评论保持警惕，并设有多层防御，尽管这些防御显然有时会被破坏。
Tripadvisor 表示，2022 年收到了 7600 万条评论（包括图片和视频），并制定了消除虚假或攻击性评论的流程。
评论由筛选工具自动处理，到 2022 年，当时只有不到 9% 的评论未获批准。随后，人工审核员（使用 28 种语言）介入，查看许多被屏蔽的评论。 他们倾向于拒绝大约 40%。
该网站不愿意透露其筛选系统的具体细节，这也许是可以理解的。
Tripadvisor 信任与安全主管 Becky Foley 表示：“凭借超过 23 年的经验，我们的欺诈检测技巧和技术已从银行和金融部门改编而来，并分析了与每条点评相关的数百种不同的数字属性，远远超出了文本本身。 与任何欺诈检测系统一样，确保有效性的最佳方法是不披露其工作原理的具体细节。”
由于它应对人工智能生成的评论的潜在冲击，它表示“做出的决定是，在我们更熟悉这种类型之前，我们暂时不会允许已被识别为人工智能生成的评论”内容”。
尽管 ChatGPT 等人工智能工具最近才上线，但 Tripadvisor 已经看到了影响。 “今年，Tripadvisor 已经删除了超过 20,000 条评论，我们有理由相信这些评论包含人工智能生成的文本，涉及 159 个国家的 15,000 多家酒店，”它表示。
作为测试，我们在 Tripadvisor 上发布了一条人工智能生成的虚假酒店点评。 尽管有筛选工具，但它还是被接受并在网站上上线。 不久之后，我们手动删除了它。 Tripadvisor 表示：“如果它在网站上停留的时间更长，我们的特工很可能会识别并删除它。”
与 Tripadvisor 一样，谷歌也运行一系列屏幕来辨别真假。 其表示：“我们的政策明确规定，审核必须基于真实体验，我们结合人工操作员和行业领先的技术，全天候 (24/7) 密切监控欺诈内容并发现潜在滥用模式。 我们在发现绝大多数违反政策的评论之前就发现了它们。”
谷歌表示，它还对最多产的虚假评论者采取了法律行动。 报告称，在一个案例中，“不良行为者发布了 350 多个欺诈性商业简介，并试图用 14,000 多个虚假评论来支持它们”。
立法者也意识到了虚假评论的规模。 英国政府委托对虚假评论进行的研究于今年 4 月发布，估计其所查看的产品类别中的所有评论中有 11% 至 15% 是虚假评论。 报告称：“仅产品上的虚假评论文本每年就会给英国消费者造成约 5000 万至 3.12 亿英镑的损失。”
目前正在下议院委员会审议的数字市场、竞争和消费者法案预计将规定，付费他人撰写虚假评论或在未采取措施核实评论真实性的情况下主持评论属于非法行为。
消费群体是哪个？ 在反对虚假评论的运动中发挥了带头作用，并希望政府和科技公司做更多的事情。 罗西奥·孔查，哪个？ 政策和宣传总监表示：“该法案必须进一步明确规定购买、销售和托管虚假评论的行为将受到刑事执法。
“主持评论的科技巨头不应该等待法案的出台，而应该 [should] 设计平台的方式首先要防止虚假评论出现在平台上，包括改进评论验证和更好地相互共享数据，以有效应对评论经纪人。”
Guardian Money询问ChatGPT背后的OpenAI公司，为什么不阻止其人工智能工具对“评论者”从未访问过或使用过的酒店、餐厅和产品进行虚假评论。 我们多次尝试联系该公司并提出了一些问题，但截至本文发表时该公司尚未回复。
[ad_2]
Source link
