草根影响力新视野(琪拉编译)

25岁的雷米自从因为疫情而被公司解雇之后,她胖了20多公斤,也开始花更多时间在TikTok上面。她在TikTok上面分享总是找不到适合她尺寸的衣服,她也无法在纽约找到大尺寸女孩穿的衣服。因为她的坦诚,她也获得多数网友的支持,她在TikTok上有80万民追随者。

去年底,她在TikTok发表了一个留言,表达自己无法穿上Zara的裤子,因为有短短露出一点屁股的画面,她的影片遭到下架。她无法理解这个结果,她说TikTok上面还有更多充满性暗示的影片没被下架,为何独独她自己的影片遭殃?

不只雷米,越来越多年轻的女性抗议自己在TikTok上面的影片被无理由的下架,不知是算法的错误或是人为的错误。

另外,也有人发现TikTok的算法似乎对大尺寸的女士,或是有色人种比较不友善,她们的影片也比较容易因为各种理由被系统删除。有间专门为大尺寸女性设计内衣的公司-Adore Me也发现它们的广告也经常被系统下架,这似乎说明了人工智能在审查网络内容时的误區,尽管电脑没有恶意。

JMOY2505

TikTok公司表示他们绝对不会因为一个人的外观来决定影片是否被下架,而且尽管人工智能会做初步的筛选,最后决定权还是会交由真人来审核。而且他们特别加强与促进使用者的多样性。然而,在2019年它们的确删除了一系列的影片,理由是[禁止霸凌],而这些影片有涉及到体重过重的使用者。

目前这些社群媒体公司都积极与美国政府沟通,表达用人工智能筛选留言的必要性,也表达公司科技有能力区分文章或影片的合适性,但是这些努力还是无法移除人工智能的[失误]。因为这些人工智能是经由大量的信息来自我学习。学习的过程尽管多元,但还是会有误區,学习的结果也常出乎人类的预期。

TikTok前执行长曾经邀请国会会员进入公司,与公司专家一起观看它们如何筛选有疑义影片的过程。尽管如此,还是无法阻挡人类对人工智能的疑虑。目前我们只确定一件事:目前人类的人工智能只能解决被世界网民广传的假信息,而无法再做细致的分别。

无论如何,TikTok也同意决定何种影片或留言需要被删除,何种要留下来,这个过程比想像中还要复杂,甚至受不同文化、不同区域影响,绝对不能仅交给电脑来决定。

资料来源:https://edition.cnn.com