草根影响力新视野(琪拉编译)

社群媒体发现使用者的愤怒是一个很好用的工具，只要使用者月愤怒，就越会激起共鸣，提升其他使用者的参与度，于是它们便允许更多有害内容出现在社群媒体上，不惜在暴力、性勒索和恐怖主义等问题上牺牲使用者的安全。

Meta的一名工程师描述了高层管理人员如何指示他让更多“游走在有害边缘”的内容出现在用户动态消息中，以与TikTok竞争。“因为股价下跌了。”这位工程师说。

一位TikTok员工罕见地提供了该公司内部用户投诉仪表板的访问权限，以及其他证据，这些证据表明，员工被指示优先处理涉及政客的案件，而不是一系列涉及对儿童有害的举报。之所以做出这些决定，是为了与政治人物保持密切关系，以避免受到监管或禁令的威胁，而不是出于对用户风险的考虑。

在BBC纪录片《愤怒机器内幕》（Inside the Rage Machine）中，一些爆料者近距离展现了TikTok爆炸式增长后，整个行业是如何应对的。 TikTok以其极具吸引力的短影片推荐算法颠覆了社群媒体，让竞争对手疲于追赶。

Meta高级研究员 Matt Motyl表示，该公司的TikTok竞争对手Instagram Reels于2020年推出，但缺乏足够的安全保障措施。 BBC获得的内部研究显示，Reels上的评论中，霸凌、骚扰、仇恨言论以及暴力或煽动性言论的发生率明显高于Instagram的其他平台。

图片取自:(示意图123rf)

根据一项内部研究，Facebook的算法为内容创作者提供了一条以牺牲受众福利为代价的利润最大化的道路，并且可以产生最大经济效益。尽管对这些指控Meta一盖否认，TikTok也说这是捏造的。

曾于2020年至2024年担任TikTok推荐发动机机器学习工程师表示，算法就像一个“黑盒子”，其内部运作难以审查。要建置完全安全的系统非常困难，根本无法控制。而且对工程师来说，贴文内容根本不重要，对它们而言这只是数字，或是ID。

但内部人表示，TikTok为了抢占更多市场，几乎每周都在改进算法，结果却导致他看到更多“游走在边缘”的内容或问题帖子，这些内容往往在用户浏览影片一段时间后才会出现。“游走在边缘”是社群媒体公司常用的术语，通常用来描述那些有害但合法的内容，包括厌女、种族歧视、性暗示以及阴谋论内容。

使用者封锁问题内容的系统形同虚设，主流社群媒体平台仍会向他们推荐暴力和仇恨内容。

Meta的一位发言人否认了这些投诉人的说法。表示已经有严格的政策保护平台上的用户，并且在过去十年中，在安全保障方面进行了大量投资。

资料来源：https://www.bbc.com