美国41州起诉Meta盘剥青少年：诱发多巴胺忽视外面比较伤害

“包括Meta在内的社交媒体公司造成了全国青少年的生理康健危急，他们必须承担任务。
”纽约州总审查长利蒂西亚詹姆斯在声明中称。

美国大多数州组成的同盟起诉社交媒体巨子Meta公司，指控其造孽网络儿童账户信息，并坚持采取侵害未成年人精神康健的算法。

根据最新公布的法庭文件，至少从2019年开始，Meta就故意谢绝关闭13岁以下儿童的大部分账户，同时在未经父母赞许的情形下网络他们的个人信息。

此外，Meta明知其算法危害未成年民气理康健，但谢绝变动其算法，表示这会触发年轻用户间歇性开释多巴胺，导致其在平台上的上瘾性消费循环。
该公司还被指控淡化了平台上缺点信息、仇恨辞吐、歧视和其他有害内容的发生率。

这项起诉哀求法院敕令禁止Meta从事上述违法行为。
Meta旗下拥有Facebook和Instagram两大社交平台，涉及数百万青少年和儿童用户，因此民事惩罚可能高达数亿美元。
大多数州对每次违规行为处以1000至50000美元的罚款。

不屈常的大规模起诉

10月24日，美国33个州提起联合诉讼，指控Meta故意在Facebook和Instagram中加入侵害未成年用户的成瘾性功能。
哥伦比亚特区和其余8个州当天分别对Meta提起诉讼，个中大部分起诉内容相同。
如此多的州联合起来起诉一家科技巨子危害消费者利益，这是不屈常的举动，显示美国各州正在优先考虑儿童和网络安全问题。

“Meta故意在其平台上设计具有操控性的功能，让儿童沉迷于其平台，同时降落他们的自傲，从而从儿童的痛楚中获利。
”纽约州总审查长利蒂西亚詹姆斯（Letitia James）在一份声明中表示，“包括Meta在内的社交媒体公司造成了全国青少年的生理康健危急，他们必须承担任务。
”

这波范围广泛的诉讼基于2021年以来美国两党、多州调查的结果，此前Facebook举报人弗朗西斯豪根（Frances Haugen）供应了恒河沙数的公司内部文件，显示该公司如何知道其产品可能会对年轻人的精神康健产生负面影响。

只管起诉书长达两百多页，但各州引用的大部分证据都因最初提交的文件中的编削而被删除。
当地韶光11月26日晚，新提交的未密封起诉书供应了各州诉讼的新细节，让外界得以理解更多详情。

来自33个州的总审查长指控Meta在2019年初至2023年中从父母、朋友和在线社区成员那里收到了超过100万起Instagram上存在13岁以下用户的投诉，但“Meta仅禁用了个中一小部分帐户”。

根据起诉书，Meta违反了一系列州级消费者保护法规以及《儿童在线隐私保护规则》（COPPA），该规则禁止公司在未经父母赞许的情形下网络13岁以下儿童的个人信息。
每次违反该法律的罚款最高可达50000 美元以上。

“在公司内部，Meta实际知道数百万Instagram用户年事在13岁以下，这是一个公开的秘密，并会定期记录、严格剖析和确认，并积极保护不向"大众年夜众表露。
”起诉书称。

根据法庭文件，Meta自己的记录显示，数十万青少年用户每天花费超过5个小时时间在Instagram上。
一位Meta产品设计师在一封内部电子邮件中写道，“年轻人是最好的”，“希望人们在年轻时尽早为你做事”。

在2019年的一个案例中，Meta员工在电子邮件中谈论了为什么公司没有删除属于一名 12岁女孩的4个账户，只管女孩的母亲提出了哀求，并且“投诉说她女儿只有12岁”。
员工得出的结论是，这些账户被“忽略”，部分缘故原由是Meta代表“无法确定用户是否未成年”。

“Instagram的利用条款禁止13岁以下（在某些国家或地区为13岁以上）的用户，我们已采纳方法，在创造这些账户后将其删除。
然而，验证网络上人们的年事是一项繁芜的行业寻衅。
”Meta在11月26日的一份声明中见告CNN，“例如，许多人——尤其是13岁以下的人——没有身份证件。
这便是 Meta支持联邦立法的缘故原由，该立法哀求运用商店在16岁以下的青少年下载运用程序时必须得到父母的批准。
通过这种方法，不须要让父母和青少年向数百个单独的运用程序供应政府发放的身份证件等敏感信息来验证他们的年事。
”

“对商业模式有代价”

起诉书还称，Meta知道其算法可能会勾引儿童打仗有害内容，从而危害他们的康健。
根据文件中引用的公司内部通讯，员工写道，他们担心“IG（Instagram）上的内容会引发青少年的负面感情并影响他们的生理康健（以及）我们的排名算法将（他们）带入负面的螺旋和反馈循环，很难退出。
”

例如，起诉书称，Meta研究职员在2021年7月进行了一项研究，得出的结论是Instagram的算法可能会放大负面的社交比较，并且“内容可能会导致用户对自己的身体或外表觉得更糟”。
在诉讼中引用的2021年2月的内部电子邮件中，Meta员工据称认识到社交比较与在Meta的社交媒体平台上“花费更多韶光有关”，并谈论了这种征象如何“对Instagram的商业模式有代价，同时对少女造成侵害。
”

在2021年3月针对饮食失落调内容的内部调查中，Meta团队对账户名提及饥饿、瘦弱和饮食失落调的用户进行了跟踪。
起诉称，Instagram的算法随后开始天生推举帐户列表，“个中包括与厌食症干系的帐户”。

然而，Meta环球安全主管安提戈涅戴维斯（Antigone Davis）于2021年9月在国会作证时称，Meta不会“勾引人们不雅观看鼓吹饮食失落调的内容。
这实际上违反了我们的政策，我们会在创造后删除该内容。
我们实际上利用人工智能来查找此类内容并将其删除。
”

起诉书称，Instagram的高等领导层也知道有问题的内容对该平台来说是一个关键问题。
据称，Instagram的卖力人亚当莫塞里（Adam Mosseri）在一封内部电子邮件中写道，“社交比较之于Instagram，就像选举干预之于Facebook。
”

然而，只管该公司的内部研究证明了对其平台上的社交比较的担忧，但起诉书称Meta谢绝改变其算法。
一名员工在诉讼中引用的内部通讯中指出，鞭策负面外不雅观比较的内容“是（在探索页面上）最具吸引力的内容之一，因此这个想法与许多其他团队的紧张方法背道而驰。
”与此同时，“Meta的外部沟通否认或粉饰了其推举算法向年轻用户推广极负面的外不雅观比较内容的事实。
”起诉书称。

根据诉讼中引用的内部文件，Meta还意识到其推举算法“会触发年轻用户间歇性的多巴胺开释”。
其演示文稿称，“当涉及到‘觉得良好’的多巴胺效合时，青少年是永不知足的”，该公司的现有产品已经非常适宜供应能够触发这种强效神经递质的刺激。
“每当我们的青少年用户创造一些意想不到的东西时，他们的大脑就会分泌出多巴胺。
”

Meta在一份声明中回应称：“我们希望青少年能够得到安全、适宜年事的在线体验，我们有30多种工具来支持他们及其父母。
”“我们花了十年的韶光来办理这些问题，并聘请了致力于保护年轻人安全和在线支持的职员。
该起诉利用选择性引用和精心挑选的文件来歪曲我们的事情。
”

淡化缺点信息、仇恨辞吐发生率

起诉书还称，Meta可能大大淡化了其平台上缺点信息、仇恨辞吐、歧视和其他有害内容的发生率。

起诉书指控Meta创建了名为“社区标准实行报告”（CSER）的季度报告，该报告流传宣传其平台上社区标准违规率较低，但打消了用户体验调查中的关键数据，这些数据证明用户碰着有害内容的比率要高得多。

例如，Meta表示，根据其CSER报告中2020年7月至9月的数据，其平台上每10000次内容浏览中只有10或11次包含仇恨辞吐，即比例约为0.10%至0.11%。

但起诉书称，几个月前Meta的一项名为“诚信问题追踪范围调查”（TRIPS）的内部用户调查报告的仇恨辞吐水平明显更高。
根据2020年5月的TRIPS报告，均匀有19.3%的Instagram用户和17.6%的Facebook用户投诉称，在平台上目睹了仇恨辞吐或歧视。
均匀有12.2%的Instagram用户和16.6%的Facebook用户投诉称，在这些平台上看到过暴力争片，超过20%的用户目睹了欺凌和骚扰。

Meta将图片暴力定义为“在Facebook和Instagram上美化暴力或庆祝他人遭受痛楚或羞辱的内容”，并指出欺凌和骚扰“实质上是高度个人化的”，因此“利用技能主动检测这些行为可能比检测其他类型的违规行为更具寻衅性”。

Meta的一位发言人通过电子邮件见告“商业底细”，从这些调查中网络的数据并没有真正衡量“盛行度”（Meta将其定义为违规内容的不雅观看次数占总不雅观看次数的百分比）。
相反，该公司利用这些调查中的信息来开拓新功能，例如有关侵害性评论或内容的关照或善意提醒，鼓励人们在与不认识的人打仗时保持尊重态度。