新浪科技訊 北京時間5月29日上午消息，據(jù)外媒報道，正是Facebook自家的算法推薦才導(dǎo)致Facebook平臺上極端主義內(nèi)容的盛行，而Facebook高管自2016年就了解此事，但并未采取有力的措施。
《華爾街日報》本周二發(fā)表了一篇文章，報道了Facebook自2016年以來抗擊極端化的努力。這篇報道基于Facebook內(nèi)部文件，以及對現(xiàn)任和前任員工的采訪，詳細地描述了Facebook是如何通過各種途徑來阻止平臺上分裂內(nèi)容的傳播。但在許多情況下，F(xiàn)acebook卻拒絕了致力于解決該問題的員工們的建議。
文章稱，在Facebook上加入極端組織的人群中，超過60%是因為Facebook的算法推薦所導(dǎo)致，包括高級副總裁喬爾·卡普蘭（ Joel Kaplan）在內(nèi)的Facebook高管自2016年就知道該問題，但卻扼殺了解決這一問題的努力。
文章指出，F(xiàn)acebook在2016年進行了一項研究，發(fā)現(xiàn)該平臺上的極端主義內(nèi)容和團體的比例高得令人擔憂。Facebook研究員兼社會學家莫妮卡·李（Monica Lee）當時在一次演講中稱，超過1/3的德國大型政治Facebook群組存在大量極端主義和種族主義內(nèi)容。
莫妮卡·李還發(fā)現(xiàn)，當Facebook用戶加入極端主義組織時，近2/3（64%）的時間是由Facebook的算法推薦的，這意味著該網(wǎng)站自己的推薦系統(tǒng)在社交媒體用戶中“加劇了極端主義問題”。
文章寫道：Facebook在2018年的一張幻燈片上寫道：“我們的算法利用了人腦對分裂的吸引力，如果任其發(fā)展，F(xiàn)acebook將向用戶提供越來越多的分裂內(nèi)容，以努力獲得用戶的關(guān)注，并增加在平臺上的停留時間。
解決這種極端化問題是非常困難的，需要Facebook重新考慮其一些核心產(chǎn)品。其中最值得關(guān)注的是，該項目迫使Facebook考慮如何確定“用戶參與度”的優(yōu)先順序?！坝脩魠⑴c度”是一項涉及停留時間、點贊、分享和評論的指標，多年來一直是其系統(tǒng)的指路明燈。
對于上述描述，首先要說的是，“極端化”可能意味著很多事情，這可能會讓關(guān)于Facebook在這個問題上的貢獻的討論變得困難。從狹義上講，可以談?wù)摮錆M黨派情緒的新聞推送（news feed）可能會導(dǎo)致國家分裂的方式。同時，也可以將其作為一個籠統(tǒng)的術(shù)語，來談?wù)揊acebook和其他社交網(wǎng)絡(luò)最近所稱的“平臺完整性”相關(guān)的舉措，例如，消除仇恨言論，或者給錯誤信息貼上標簽。
關(guān)于“極端化”要說的第二件事是，雖然它有很多負面影響，但需要考慮的是，你提出的替代方案是什么。如果你是一家科技公司的CEO，那么這個問題就會涉及到“對抗”極端化的挑戰(zhàn)：即使你把它視為敵人，也不清楚你會用什么標準來團結(jié)你的公司來應(yīng)對它。
不管怎樣，F(xiàn)acebook對《華爾街日報》的這篇報道反應(yīng)非常沮喪。負責相關(guān)事務(wù)的Facebook高管蓋伊·羅森（Guy Rosen）周三發(fā)表了一篇博客文章，列出了該公司自2016年以來為對抗“極端化”所采取的一些措施。
這些措施包括改變新聞推送，使其包含更多來自朋友和家人的帖子，而不是出版商的帖子；啟動一個事實核查計劃；通過機器學習系統(tǒng)和內(nèi)容審查隊伍，更快地檢測仇恨言論和其他惡意內(nèi)容；從算法推薦中刪除違反Facebook政策的群組。
羅森在這篇博客文章中稱：
我們已經(jīng)采取了許多重要的措施，來減少可能在我們的平臺上導(dǎo)致極端化的內(nèi)容數(shù)量，有時是以犧牲收入為代價的。這項工作永遠不會結(jié)束，因為歸根結(jié)底，網(wǎng)絡(luò)話語是社會的延伸，而網(wǎng)絡(luò)話語又是高度極端化的。但我們的工作是減少極端化對我們產(chǎn)品體驗的影響，我們正致力于做到這一點。
據(jù)Facebook內(nèi)部Workplace上的一篇帖子，F(xiàn)acebook對這篇報道感到沮喪的原因之一是，F(xiàn)acebook花了“幾個月”的時間與《華爾街日報》的記者討論這一發(fā)現(xiàn)。Facebook讓公司多名高管進行公開和非正式的交談，其中包括負責全球公共政策的卡普蘭。
不管怎樣，關(guān)于這篇報道和Facebook的回應(yīng)，有兩件事值得一提。首先，F(xiàn)acebook對極端化的看法存在內(nèi)部緊張。其次，要求Facebook解決分裂（極端化）問題，可能影響Facebook解決其他問題的注意力，包括陰謀論、錯誤信息和仇恨言論的病毒式傳播。
關(guān)于內(nèi)部緊張問題，一方面，文章所描述的Facebook與極端化作斗爭的舉措都是真實存在的。在過去的幾年里，F(xiàn)acebook在平臺完整性方面投入了大量資金。而且，正如一些Facebook員工所說的那樣，F(xiàn)acebook有充分的理由不去實施團隊提出的每一個建議。
例如，有些努力可能沒有已經(jīng)在實施的其他努力那么有效，或者它們可能會產(chǎn)生意想不到的負面后果。顯然，團隊中的一些員工覺得他們的大多數(shù)想法沒有被采用，或者被淡化了。但許多公司的許多團隊都是如此，這并不意味著他們所有的努力都是白費的。
另一方面，F(xiàn)acebook的高管在很大程度上拒絕接受，該平臺在分裂國家層面上存在極端化的觀點。事實是，在許多大國，F(xiàn)acebook在那里的使用率很高，但極端化正在減少，這有助于解釋為什么Facebook高管沒有把這個問題放在首位。
因此，這樣一個案例表明，F(xiàn)acebook在平臺完整性方面可能是“正確的”，而《華爾街日報》在更大的層面上是正確的：Facebook被設(shè)計成一個公開討論的場所，人性導(dǎo)致了這些討論往往會激烈和兩極分化，而Facebook選擇了相對寬松的方式來管理這種分化。之所以這樣做，是因為高管們認為，世界受益于喧鬧的、幾乎不受限制的討論，也因為他們不相信這些討論正在分裂國家。(李明)
重慶分公司
重慶分公司
