謝錦芳專欄:生成式AI與人類的戰爭開打,台灣首當其衝

發表於 2024-01-21 06:40 作者: 謝錦芳

台灣人工智慧實驗室創辦人杜奕瑾示警,生成式AI掀起的資訊戰已在台灣上演。(Taiwan AI Labs提供)

資訊爆炸的時代,日常生活中充斥許多訊息,令人目不暇給;生成式AI時代來臨,有心人大量生產各種似是而非的誤導消息,製造社會的混亂與對立,成為民主社會的隱憂。生成式AI與人類的戰爭已經開打,台灣首當其衝。

網路普及便利與科技的發展,原本被視為有助於民主社會的多元發展,然而,生成式AI時代來臨,台灣人工智慧實驗室經過一年的調查發現,生成式科技的進步與社交媒體方便境外操作,反而侵害了數位人權,危害民主的發展。台灣人工智慧實驗室創辦人杜奕瑾表示,這場機器人與人類的戰爭,情勢相當嚴峻。

Taiwan AI Labs發表「2024台灣總統大選期間路訊息操作分析報告」,網路資訊戰自去年5月點燃戰火,大選後一半的帳號消失了。(Taiwan AI Labs提供)

以AI辨識協同團體帳號 分析其行為模式與策略

依台灣人工智慧實驗室的調查,生成式AI用於掀起資訊戰,主要的問題不在於假消息,而是誤導消息(misleading information)。大型語言模型參戰後的主要戰場是文字曲解敘事,生成式AI瞬間大量生成曲解、不對稱的文字,透過大量不對稱的宣傳引發民眾喜惡的情緒反應。

所謂協同團體帳號,意指非真正使用者的帳號。這些帳號例如過去的「五毛」,可能隨官方需要,發布特定內容;也可能是透過自動程式控制;或公關公司操作,有組織地擴散特定言論。

以去年的雞蛋事件為例,由協同團體掌控的操作帳號大量散布訊息誤導民眾囤蛋,這些協同帳號迅速生成大量的新戰場,使得官方闢謠無法發揮效果,於是農業部長陳吉仲請辭下台。

台灣社群媒體上萬協同帳號 選後一半帳號消失

這項調查發現,臉書的前兩大協同團體群,約626個操作帳號所產生的聲量就佔臉書總資訊操弄聲量將近一半。

台灣人工智慧實驗室研判,這些協同團體帳號不是來自台灣本土,而是境外勢力,主要理由包括,這些協同帳號同時以中英文操作國內外論述,以中文論述攻擊台灣政治人物,以英文論述操作反美議題,散播疑美論等。這些協同團體帳號的目的是散播混亂。

標題:謝錦芳專欄:生成式AI與人類的戰爭開打,台灣首當其衝

地址:https://www.coinsdeep.com/article/87737.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

你可能還喜歡
熱門資訊