祖克柏宣布Meta終止事實查核，改推「社群筆記」恐怕加劇同溫層效應

作者按：本文依原刊版本重新整理，保留原始論證脈絡與圖片順序，並針對站內閱讀節奏重新編排段落與圖說，以便作為可檢索、可引用的典藏版本。

「我是XXX（某名人）很開心跟大家分享我的投資觀點…」、「保證正品，點擊私訊領取（某科技產品）」、「XXX（一堆諧音投資取名相關社團）很準，建議看他的觀點」，相信以上這些內容，所有台灣人都會在去年FB的留言區見過（希望不要包含今年）。

他們是誰？很明顯，幾乎都是詐騙集團，甚至可能連「人」都算不上，而是全由自動生成的虛假訊息機器人所組成。然而，近期Meta集團的改變，將使我們面對更為艱困的社群網路環境。

近日，社群媒體巨擘Meta的創辦人暨執行長祖克柏（Mark Zuckerberg）宣布將從美國開始終止臉書（Facebook）和Instagram上的事實查核計畫，引發美國社會廣泛關注與熱議。

事實上，這是一個牽涉廣泛的議題，不僅引發了對於社群媒體審查機制的質疑，更凸顯出在政治因素影響下，科技巨頭在資訊審核上所面臨的巨大政治壓力。

取消事實查核員：虛假訊息氾濫的隱憂

祖克柏在宣布裁撤事實查核人員時指出，「專家和其他人一樣，有自己的偏見和觀點。」然而，這一決定無疑是對抗虛假訊息的重要防線的削弱。

特別是現今，生成式AI技術的進步，使得偽造新聞、深度偽造（deepfake）等虛假訊息的生成成本大幅降低，並且生成文本的品質越來越高。當人工審查機制被削弱（甚至直接被裁撤），虛假訊息將更容易在各大社群網站中泛濫，對公眾的資訊判斷能力造成嚴重挑戰。

虛假訊息的泛濫，不僅僅是誤導公眾，更可能對社會穩定、政治民主產生深遠影響。如同俄烏戰爭的鮮明例子，虛假訊息已明顯能夠操控輿論，形成戰略敘事，甚至左右國際社會對戰爭雙方的支持與否。

在這樣的背景下，貿然取消第三方審查員的決策，無疑是盲目且危險的，並預示著未來資訊環境的惡化與信任危機的加深。

社群筆記並非萬靈丹：同溫層效應的加劇

同溫層效應指的是人們傾向於接觸、信任與自己觀點一致的信息來源，這種現象在當前社群媒體中尤為明顯。

政治性社團、陰謀論群體，雖然這些都應屬於言論自由的一部分，但小群體的隔絕式對話，將導致所獲取的信息仍可能被自身的偏見所過濾，難以接觸到多元、客觀的真實信息。這將使得資訊環境更加分裂，社會極化問題進一步加劇，進而影響公共議題的理性討論與解決。

祖克柏表示，為此提出的解方是，Meta平台將使用類似於X（前稱推特）的社群筆記（community notes）來取代傳統的事實查核機制。

然而，社群筆記的作用並不完善，尤其在是否存在足夠多的用戶願意在每則貼文、新聞下方添加註記方面，就存在顯著的不確定性。

如果只有足夠大的名人或機構的相關貼文進行註記，而就以台灣而言，每天有數以百萬計的轉發與用戶點對點分享，甚至是所謂的二次創作（懶人包、網路迷因），本身就需要專業人士來溯源和辨別，普通民眾難有持續性的意願和資源投入逐項的撰寫中，這將難以有效打破小團體（如社團）內部的同溫層效應，導致極化團體的形成與加劇。

政治因素的操控：Meta向政治勢力低頭？

事實上，Meta此次重大政策轉變，無疑與近期Meta向共和黨及川普陣營的傾斜有密切關聯。

在這次的新聞發布中，祖克柏不僅將裁撤事實查核團隊，還將內容審核團隊從民主黨主導的加州移至共和黨主導的德州，並聘請Dana White（前UFC總裁，註：多次捐獻政治獻金給川普陣營，並多次為其站台）擔任董事會成員。

此外，祖克柏亦向川普就職基金捐贈100萬美元，進一步凸顯了其在政治立場上的傾斜，並為川普接下來的四年任期做好「準備」。

特別是考慮到，川普多年來對Meta及祖克柏的批評不斷，指控其對保守派有偏見，並說到若重返白宮將對科技巨頭進行報復，甚至揚言「一上任就要逮捕祖克柏」。Meta的這一系列行動，無疑是在政治壓力下做出的妥協，放棄了原有的事實查核機制，並轉而迎合特定政治勢力的需求。

技術對抗的希望：SynthID水印技術的應用

儘管Meta取消事實查核機制帶來了諸多擔憂，但技術上的進步仍為對抗虛假訊息提供了新的希望。

2024年10月，Alphabet（Google的控股公司）Google DeepMind團隊在《Nature》上發表的文章《Scalable watermarking for identifying large language model outputs》提出了通過SynthID水印隱寫技術，來自動檢測內容是否由大語言模型自動生成的方法。

SynthID技術是一種透過在生成式AI生成的內容中嵌入不可見的水印，從而實現對虛假訊息的追蹤與識別。例如：

隱形字符指的是在螢幕上幾乎看不出任何「可見差異」的字元。即使它們在檔案或文字串中實際存在，使用者通常很難用肉眼察覺到。

Zero-width space（零寬空格）Unicode 編碼：\u200B

用途：在某些語言的排版中，作為自動換行的潛在位置，但不會顯示出任何可見的間隔。

（by ChatGPT o1）

透過類似於該技術的應用，將有助於在沒有傳統事實查核機制的情況下，利用人工智慧自動對大語言模型所生成的虛假訊息進行有效的辨識與防範。

然而，技術對抗並非萬全之策。該篇論文於結論部分也坦承，SynthID在語言翻譯轉換或不同平台間的應用時，不一定能夠達到完全的效果。

與此同時，虛假訊息的生成技術同樣在不斷進步，對抗手段也需不斷創新。SynthID水印技術雖然為資訊審核提供了新的工具與概念想法，但其普及與應用仍需時間與資源的投入，且面臨著技術被「繞過」的風險。

因此，除了技術手段的應用，社會各界還需加強對資訊素養的教育，提升公眾對虛假訊息的辨識能力，形成全社會共同抵制虛假訊息的防線。

面對生成式AI時代的挑戰與機遇

Meta取消事實查核機制的決定，無疑是在當下生成式AI技術快速發展的背景下，對於全球最大的社群媒體平台資訊審核機制的一次重大調整。

然而，這一決策所帶來的虛假訊息氾濫、資訊極化加劇等問題，使其遠比表面上看來更加嚴峻。特別在技術手段尚未完全成熟、社會對資訊審核機制的需求依然強烈的情況下，取消審查員的做法，無疑是一個危險的舉措。

其實，面對這樣的挑戰，責任或解決辦法並不應該全由社群媒體平台所承擔或把控。技術開發者、政府監管機構以及公眾都需共同努力，尋找到更加完善的平衡點。

在技術手段不斷進步的同時，加強對虛假訊息的辨識與防範，提升公眾的資訊素養，建立更加健全的資訊審核機制，才能安然度過生成式AI所帶來的「資訊洪流」。