資訊爆炸的時代，日常生活中充斥許多訊息，令人目不暇給；生成式AI時代來臨，有心人大量生產各種似是而非的誤導消息，製造社會的混亂與對立，成為民主社會的隱憂。生成式AI與人類的戰爭已經開打，台灣首當其衝。
網路普及便利與科技的發展，原本被視為有助於民主社會的多元發展，然而，生成式AI時代來臨，台灣人工智慧實驗室經過一年的調查發現，生成式科技的進步與社交媒體方便境外操作，反而侵害了數位人權，危害民主的發展。台灣人工智慧實驗室創辦人杜奕瑾表示，這場機器人與人類的戰爭，情勢相當嚴峻。
Taiwan AI Labs發表「2024台灣總統大選期間路訊息操作分析報告」，網路資訊戰自去年5月點燃戰火，大選後一半的帳號消失了。（Taiwan AI Labs提供）
以AI辨識協同團體帳號 分析其行為模式與策略
依台灣人工智慧實驗室的調查，生成式AI用於掀起資訊戰，主要的問題不在於假消息，而是誤導消息（misleading information）。大型語言模型參戰後的主要戰場是文字曲解敘事，生成式AI瞬間大量生成曲解、不對稱的文字，透過大量不對稱的宣傳引發民眾喜惡的情緒反應。
所謂協同團體帳號，意指非真正使用者的帳號。這些帳號例如過去的「五毛」，可能隨官方需要，發布特定內容；也可能是透過自動程式控制；或公關公司操作，有組織地擴散特定言論。
以去年的雞蛋事件為例，由協同團體掌控的操作帳號大量散布訊息誤導民眾囤蛋，這些協同帳號迅速生成大量的新戰場，使得官方闢謠無法發揮效果，於是農業部長陳吉仲請辭下台。
台灣社群媒體上萬協同帳號 選後一半帳號消失
這項調查發現，臉書的前兩大協同團體群，約626個操作帳號所產生的聲量就佔臉書總資訊操弄聲量將近一半。
台灣人工智慧實驗室研判，這些協同團體帳號不是來自台灣本土，而是境外勢力，主要理由包括，這些協同帳號同時以中英文操作國內外論述，以中文論述攻擊台灣政治人物，以英文論述操作反美議題，散播疑美論等。這些協同團體帳號的目的是散播混亂。