Facebook和Google将用自动化技术移除极端言论

Facebook和Google将用自动化技术移除极端言论
U.S. Army Sgt. William Reese watches flames rise into the night sky after setting canal vegetation ablaze in Tahwilla, Iraq, July 30, 2008. Extremists have been using the canal's thick vegetation to plant bombs under the cover of darkness. The soldiers are assigned to Company B, 1st Battalion, 6th Infantry Regiment.U.S. Army photo by Spc. David J. Marshall

据 路透社报导 ,Google、Facebook 等公司目前正在研究自动去除极端内容的办法,并且有可能会利用侵权移除的手段来识别和压制极端言论。目前尚不清楚「极端」言论的底线在哪里?但是随着难民的涌入以及恐怖袭击事件的日渐增多,欧、美的政治领袖已经把矛头对準了网路上那些激进极端主义思想的传播,并且谋求科技网路公司採取行动。如果这类系统开始被应用,有可能会被用来对付社群网络上面那些欧美敌对分子的激进言论。

更早之前,网路公司的主流做法是靠使用者来标识非法或受限制的内容。今年年初 Facebook 表示,他们的使用者每天标记的内容数已经超过了 100 万则。Twitter 跟 ISIS 相关账号玩打地鼠游戏就已经几乎喘不过气了,光今年二月就暂停了 12.5 万个帐号。Google 也表示在 2016 年,一个月就收到了 7500 万分 DMCA移除请求。显然,光靠人力处理这些东西几乎是不可能的。微软、Twitter、Facebook 和 Google 等之前也有过自动处理内容的先例,不过主要是针对儿童色情照片。

不过据路透社援引两位知情人士的消息,一些网上最大的影音网站,正在开始利用自动化技术来说移除网站上的极端内容,其中就包括了 YouTube 和 Facebook。

这种技术原先主要是用来识别和移除影音网站上受版权保护的内容。工具会查找「哈希」—即自动分配给特定影音内容的一个独特的数位化指纹,一旦发现该影片内容的指纹与之相符,工具就可以自动删除该影片。这是一个重大的调整。因为以前工具只是进行查找和标识的工作。但不会自动隔离内容。

但是这种做法也会引起大家的一些担忧。首先是从技术上来说,何谓极端言论似乎很难用规则来判断,这套压制极端言论的系统也可能被滥用为压制实际上并不极端的言论。其次是发表极端言论的人有可能会对自己的言论进行润饰,发表一些表面上不极端骨子里很激进的内容,这套系统未必能识别出来。

所以这样一套系统的应用,真不知道是好事还是坏事。