在法律纠纷中,就像在生活中一样,有时候没有说出来的比说出来的更能说明问题。想想为一项赋予谷歌和其他科技公司有限诉讼豁免权的法律而向最高法院提交的辩护状吧。
冈萨雷斯诉谷歌案定于周二在最高法院进行口头辩论,涉及《通信规范法案》第230条,该法案于1996年颁布,旨在规范当时新兴的互联网。在该案中提交法庭之友简报的儿童倡导组织指出,社交媒体平台通过在道路上展示危险内容,故意伤害儿童。值得注意的是,科技公司提交的数十份摘要中,没有一份涉及这些危害。
正如一些参议员所说,国会制定第230条的主要目的之一是,“不仅是为了防止明确的内容,也是为了防止滥用。”具有讽刺意味的是,这些平台现在辩称,国会实际上是想让它们免受明知会伤害儿童的商业决策的影响。
冈萨雷斯案是由2015年巴黎恐怖袭击中被ISIS杀害的一名美国人的家人提起的。这家人声称,为了让尽可能多的低调youtube用户留在谷歌上,可以预见的结果是,恐怖分子招募视频正在被分发给潜在的人。对恐怖主义感兴趣。在周三将进行辩论的类似案件中,Twitter诉Tamna,法院将审查这些平台涉嫌未能采取“有意义的措施”删除恐怖主义内容是否违反了联邦反恐法。
社交媒体兴起的影响,不只是让人们更容易接触到恐怖主义内容。在Instagram用户从100万增长到10亿的那些年里,美国10到14岁的儿童中出现了惊人的枪支自杀事件。总体而言,年轻人的自杀人数史无前例地增长了57%。尽管这些平台的发展与青少年精神疾病危机之间的联系并不能证明因果关系,但Facebook泄露的内部研究表明,6%的美国Instagram青少年用户“将他们的自杀欲望追溯到”该平台。
同样,研究人员和临床医生多次广泛记录了与社交媒体相关的儿童心理健康和身体伤害。上周一,美国疾病控制与预防中心报告称,十几岁的女孩正经历着创纪录的悲伤和自杀风险,一些专家将其部分归因于社交媒体的兴起。周二,美国参议院的一个委员会听到了令人心碎的故事,正如一位悲伤的父母所说的,“社交媒体行业的强大力量”所带来的危险。
社交媒体平台通过销售广告赚钱。在平台上花费的时间越多,就意味着对其广告的关注越多,这意味着它可以对这些广告收取更多的费用。此外,用户在平台上花费的时间越多,平台就会开发更多关于用户的数据,这些数据反过来又可以用来让用户在平台上呆得更久。
人类不会亲自检查谁看到了这些平台上的内容。相反,人类会给人工智能技术指令,以最大限度地提高平台所谓的“用户粘性”。人工智能通过测试在数十亿用户中最有效的建议,以极快的速度做到这一点。然后,它提供的内容不仅基于孩子说他们想要的内容,而且从统计数据来看,更有可能让像她这样的孩子黏在屏幕上。通常情况下,答案是利用她的恐惧和焦虑。
这意味着,抑郁的青少年以令人不安的频率得到自杀建议,对身体形象担忧的女孩看到促进饮食失调的内容,熟悉毒品的年轻人有机会购买含有致命芬太尼的药物。此外,这些平台使用了神经科学设计的技巧,如自动滚动,不断提醒返回平台,以及可能让儿童上瘾的多巴胺点赞。通常,孩子们真的想关掉这个平台,但他们做不到;他们的大脑不够大,无法像成年人那样抵制成瘾。
为了保持每个季度的增长,平台必须想办法吸引更多的用户,并让他们停留更长的时间。如果平台被允许继续利用他们知道会伤害大量儿童的技术,而不担心经济后果,他们将继续完善他们的技术,更多的儿童将受到伤害。儿童自杀和我们现在正在经历的心理健康危机只会变得更糟,而且看不到结束的迹象。
事情不一定要这样。谷歌根据网站的经验、可信度和可靠性为浏览者排序内容的方式表明,有很多方法可以决定谁可以看到对儿童和其他人来说危险小得多的内容。
法院的决定不会结束230条款的争议,但它可能会开始让法律回到保护年轻人的最初目标。但这并不意味着故意利用儿童的弱点来对付他们是非法的。
如果我们不能在这一点上达成一致,那么任何认为对儿童的空前伤害是社会为互联网自由必须付出的代价的人,至少应该承认这种伤害。
埃德·霍华德(Ed Howard)是圣地亚哥大学法学院儿童倡导研究所的高级顾问。