國戰會論壇

國戰會論壇/蔡炫》美中科技戰白熱化 「生成式AI」戰爭的人類末日

「拜習會」難緩解雙方之間的科技戰持續競爭,去年開始美國對中國實施出口管制,試圖全面切斷先進晶片的所需資源,從關鍵零組件到生產設備一律阻絕。(示意圖/達志影像/shutterstock)
「拜習會」難緩解雙方之間的科技戰持續競爭,去年開始美國對中國實施出口管制,試圖全面切斷先進晶片的所需資源,從關鍵零組件到生產設備一律阻絕。

文/蔡炫

美國總統拜登與中國國家主席習近平11月在美國舊金山舉行「拜習會」試圖「穩定」彼此關係,卻難緩解雙方之間的科技戰持續競爭,去年開始美國對中國實施出口管制,試圖全面切斷先進晶片的所需資源,從關鍵零組件到生產設備一律阻絕;美國通過520億美元的晶片與科技法 (Chips and Science Act)目的在於整體提振本土半導體實力,也讓人工智慧 (AI)聊天機器人ChatGPT背後依賴的「生成式 AI」,可能成為美中科技戰白熱化的新戰線。

「生成式 AI」成為拜登政府考量可以促進中國軍事現代化的「國防科技」,人工智慧已被兩國視為關鍵技術,聯合國開始發聲支持設立國際機構監管人工智慧,如同「禁止核子擴散條約」(NPT)的成員國共同監督模式;我們不禁要問難道AI比核武危險?光以發展純熟的深偽(Deepfake)技術來看,一旦運用在軍事作戰,包含現有聊天機器人、語音複製、深偽影像等將對全球構成嚴重威脅。

聊天機器人到戰鬥機器人

ChatGPT聊天機器人在武器應用恐將進入戰鬥機器人,美國率先呼籲國際訂定AI軍事應用準則,目的在於敦促各國在遵守國際法規前提下推展AI應用,說穿就是確立共同安全機制,確保人類必須掌握「武器主導權」;一旦戰鬥機器人掌握核武,自行決定軍事用途,恐將釀成第三次世界大戰。

以俄烏戰爭而言,這場戰役充分展現無人機的攻擊優勢,假如能在無需人力操控的情況下進行辨識、選擇、攻擊目標,勢必成為下個階段的軍事作戰科技模式,相信世界各國未來也將投入人力物力積極研發;當烏克蘭已有發展AI技術的「半自主攻擊無人機」以及「反無人機武器」,完全自主執行任務的「殺手無人機」(killer drone)勢必成為新式戰爭型態。

語音複製到輿論操控

美國智庫「蘭德公司」(RAND)報告指出中國研究人員正企圖利用「ChatGPT」等生成式人工智慧操縱全球輿論,採取一種混合真實的「合成資訊」誆騙世人,從2005年起開始運用科技操縱特定國家區域的境外輿論,鋪天蓋地用在國際社群當中,強化語言模型說服力道;除了語音複製欺敵戰術,還能透過輿論操控達到軍事目的。

以中國嚴密的資訊審查與管控媒體為例,早將資訊戰視為「武器化」的軍事應用,尤其AI大型語言模式可嫁接與國際上的文化鴻溝,只要內部擁有足以訓練的相關數據,輕易就能針對國際議題形成特定輿論而不被偵測;當中共透過生成式AI工具替人民解放軍形塑大量人設以及相同觀點進行網路作戰,「議題帶風向」如同二十世紀六十年代在海峽兩岸所出現的「空飄傳單」進階到「網飄傳單」。

深偽影像到認知作戰

ChatGPT深偽影像升格為軍事心戰應用並在網路世界遂行認知作戰,AI技術在科技戰爭策略上成為製造衝突利器,例如呈現家屬在斷垣殘壁中搜尋倖存者的影像、大量飛彈炸毀建築、違反人道攻擊醫院等,目的在於獲得龐大露出點擊尋求支持,強化戰爭國家之間的仇恨情緒;一旦有了這類虛假影音撩撥人性本質的焦慮衝動,平民在淺移默化中都能成為認知作戰的傳播媒介。

從以哈衝突來看,這類深偽影像已經創造數以百萬的瀏覽量,例如浴血棄嬰、街道死屍、虐待平民等,部份是以AI深偽技術合成,根據美聯社報導當中有的眼睛閃爍著不自然光芒、手指刻意彎曲以及身形極不自然;目的僅是軍方宣傳工具,在於吸引「意見領袖」作為傳播管道。

AI引領「人類末日」勢必始於戰爭,威脅人類生存的具體災變源自科技始終來自人性,ChatGPT去年點燃的AI熱潮,隨即從生活應用迅速進入軍事科技領域,稍有不甚恐將引來文明浩劫;尤其「生成式AI」恐將成為美中科技戰白熱化的新戰線,一旦軍備競賽全面引爆也將促成聊天機器人、語音複製、深偽影像等對全球構成嚴重威脅。

ChatGPT聊天機器人在武器應用恐將進入戰鬥機器人,走入完全自主執行任務的「殺手無人機」(killer drone);透過生成式人工智慧操縱全球輿論,進階到「網飄傳單」輕易達到說服;深偽影像升格為軍事心戰應用並在網路世界遂行認知作戰,目的在於吸納第三方的「意見領袖」強化傳播效力,因此必須制定一套公認有效的「監管法案」才能降低AI末日降臨機率。

歐洲聯盟12月8日已經推出首項人工智慧AI監管法規的協議草案,針對ChatGPT「生成式AI」科技等生物辨識系統等技術應用範圍,訂立監管罰則與保障措施等治理架構,企圖讓法規跟上科技以免造成全球危機;歐洲這套監管法規開宗明義制定罰則防止AI侵犯人權,相較美中陸續宣佈管理AI技術的行政命令及管理辦法,今年相互積極爭取AI領域主導權,歐盟不僅需要別於國家競爭,還要跳脫地緣政治的意識形態,落實世界維和層次,才能真正避免「生成式AI」戰爭的人類末日,迎來科技烏托邦的理想化境界。

(作者蔡炫為台灣國際戰略學會副研究員,國戰會專稿,本文授權《洞傳媒》國戰會論壇、《中時新聞網》言論頻道、《獨家報導》同步刊登)