[ad_1]
一个随着对莫莉·罗素之死的调查于周五结束，一个人脑海中不断闪烁的就像一个错误的霓虹灯一样，是亚历山大·波普在 1735 年提出的一个反问：“谁打破了一只轮子上的蝴蝶？” 对教皇来说，这是指“在轮子上摔断”，这是一种中世纪的酷刑形式，受害者的长骨被铁棍打断，同时被绑在凯瑟琳轮子上，以这种方式处决的圣凯瑟琳命名。
对于接受调查的人来说，这个比喻的意义一定是明白无误的，因为他们正在听一个关于一个无辜和沮丧的 14 岁女孩如何被无情的当代凯瑟琳轮——人工智能驱动的推荐引擎——的叙述。两家社交媒体公司，Instagram 和 Pinterest。
正如验尸官所说，这些将她卷入了一个漩涡，“图像、视频剪辑和文字涉及或涉及自残、自杀或其他消极或令人沮丧的性质……其中一些是未经挑选和提供的莫莉要求他们”。 其中一些内容将年轻人对自己的自残行为浪漫化，而“其他内容试图孤立和阻止与那些可能能够提供帮助的人的讨论”。 他的判决是 不是 自杀，但“莫莉·罗斯·罗素（Molly Rose Russell）死于自残，同时患有抑郁症和在线内容的负面影响”。
这次调查具有更广泛的意义，而不是迟来的——莫莉于 2017 年 11 月去世——承认令人痛心的不公正。 首先，验尸官的判决是世界第一，因为它明确将社交媒体推荐引擎作为死亡的一个因果关系。 其次，他的调查打破了新的程序基础，要求涉及的两家美国公司（Meta、Instagram 的所有者和 Pinterest）的代表亲自宣誓作证。 当然，跨大西洋旅行的两个人——来自 Meta 的 Elizabeth Lagone 和来自 Pinterest 的 Jud Hoffman——本质上只是代表他们各自在硅谷的器官研磨机的猴子。 但是，他们仍然在伦敦，击球在一个非常粘的三柱门上。
第三，莫莉接触过的东西的可怕证据是在公开的法律程序中提出的。 而且它 曾是 太可怕了——以至于一位出庭作证的儿童精神科医生说，即使他也觉得这令人不安和痛苦。 之后，他说：“有些时候我有几个星期睡不好觉，所以考虑到孩子在几个月内看到了这种情况，我只能说她是 [affected] ——尤其要记住，她是一个抑郁的 14 岁女孩。”
对两名公司代表的盘问同样具有启发性。 Pinterest 的家伙很早就屈服了。 拉塞尔家族的律师（奥利弗·桑德斯 KC）带他浏览了莫莉死前看到的最后 100 个帖子。 霍夫曼表达了他“对她能够访问所展示的一些内容深感遗憾”。 他承认，Pinterest 向这名青少年发送的推荐电子邮件，例如“你可能喜欢的 10 个抑郁症别针”，包含“我们不希望任何人花费大量时间的内容类型”，并且其中一些图片他被展示了一些他不会向自己的孩子展示的东西。 可以预见的是，Meta 代表更难破解。 有证据表明，在莫莉去世前六个月期间，莫莉在 Instagram 上保存、分享或喜欢的 16,300 条帖子中，有 2,100 条与抑郁、自残或与自杀有关，桑德斯问她：“你同意我们的观点吗？这种材料对儿童不安全？”
Lagone 回复说，所有用户都制定了政策，并将法院认为的帖子描述为“呼救”。
“你认为这种材料对儿童安全吗？” 桑德斯继续说道。
“我认为人们能够表达自己是安全的，”她回答说。 在桑德斯再次提出同样的问题后，拉贡说：“恕我直言，我不认为这是一个二元问题。”
验尸官在这里插话问道：“所以你是说是的，它是安全的还是不安全的，它不安全？”
“是的，它很安全，”拉贡回答道。
在某种程度上，这是一个“陷阱”时刻，暴露了 Meta 高管无法公开承认公司私下所知道的事实（正如举报人 Frances Haugen 透露的那样），即它的推荐引擎可能有毒，并且在莫莉·拉塞尔的案子，危及生命。
最终，这一切都回到了 Instagram 等公司的商业模式。 他们在用户参与度方面茁壮成长并从中获利——每条内容吸引了多少注意力，分享的范围有多大，观看了多长时间等等。 推荐引擎被编程为监控每个用户喜欢什么，并建议他们可能喜欢的其他内容。 因此，如果您感到沮丧并有自杀念头，那么机器会给您越来越多的相同数量。
莫莉死后，她的家人发现它仍在将这些东西发送到她的帐户。 轮子继续转动，即使它已经把她弄坏了。
John Naughton 担任剑桥大学明德鲁技术与民主中心顾问委员会主席
-
您对本文提出的问题有意见吗？ 如果您想提交最多 250 字的信件以供考虑发表，请通过电子邮件发送给我们[email protected]
[ad_2]
Source link
