空中作戰！Meta刪除上百個人頭帳號 打擊AI生成假訊息 (2024-05-30 09:06:00)

商傳媒｜記者許方達／綜合報導

Meta公布最新季度威脅報告，安全團隊已成功移除數百個來自中國、以色列、伊朗、俄羅斯等國家的臉書(Facebook)帳號，這些帳號涉及隱蔽的影響力行動，有些甚至使用AI工具來生成虛假資訊。

Meta旗下包括Facebook、Instagram和WhatsApp等平台，經檢視後發現這些帳號濫用AI生成虛假影像、影片及文字，以影響其網站用戶。報告也指出，目前生成式AI的使用尚未影響公司干預這些虛構網路帳號的能力。

在這些假帳號活動中，Meta發現一個來自中國的欺騙性網絡，包括分享AI生成的虛假支持錫克運動(又稱「卡利斯坦運動」)的海報圖片；還有一個以色列網路在媒體組織和公眾人物的頁面下，發布讚揚以色列軍隊的AI生成評論。Meta表示，這些訊息在正式被廣發到網路之前就已經被移除。

Meta全球威脅防禦部門主任阿格拉諾維奇(David Agranovich)透過簡報指出，「目前我們並未看到生成式AI被用於非常複雜的方式」。也就是像創建AI生成的個人資料照片，或使用AI生成大量垃圾內容的策略，迄今為止尚未奏效。阿格拉諾維奇也重申，「但我們知道這些在網路資訊的攻防是持續性的，他們會隨著技術的變化，不斷演變他們的策略」。

包括Facebook、TikTok以及X等社群平台，持續在與大量假冒和誤導性的AI生成內容進行對抗。今年關於美國總統拜登的假影音訊息，還有以哈衝突的虛假圖片，就在美國社交媒體上瘋傳，並獲得數百萬次觀看。

Meta全球事務總裁克萊格(Nick Clegg)強調，公司需要檢測並標記AI生成的內容，尤其要為2024年美國大選週期做準備。今年全球將有超過30個國家舉行選舉，包括美國、印度和巴西等，這些都是Meta用戶活絡的地區。

Meta最近更新政策，改採對網站上AI生成的誤導性內容進行標記，而非先行移除。此外，公司要求廣告商在使用AI創建與社會問題、選舉或政治相關的Facebook或Instagram廣告時需進行披露，但Meta不會對政治廣告進行事實核查。