俄羅斯干預2016年、2020年美國總統大選的手段技術含量相當低。他們靠一般的機器人賬號向大眾投放數量極多的即時簡訊和低質量內容，這些行動的影響可能有限。
那些日子已是過去式。隨著生成式人工智慧系統的迅猛發展，社交媒體上鋪天蓋地的辱罵和謊言已不再是最大的危險。最大的危險反而是對線上交流緩慢、隱蔽且具有腐蝕性的操縱——這種宣傳的設計不是為了製造轟動，而是為了悄無聲息地滲透到我們的日常數字討論中來。我們已進入了國際輿論影響力行動的新時代，在這個時代里，人工智慧生成的敘事會以不動聲色的方式改變政治格局。
根據我們任職的范德比爾特大學國家安全研究所最近發現的大量文件，一家名叫中科天璣(GoLaxy)的中國公司已正在進行這類活動。這些文件顯示，中科天璣正在成為一場技術上先進、國家導向型的影響力行動中的領軍者，通過部署類人的機器人賬號網路和心理畫像技術，鎖定個體目標。這家公司的活動和宣稱都表明它與中國政府有聯繫。
中科天璣已把它的技術部署到香港和台灣。文件暗示，公司也許正在為將活動擴大到美國做準備。人工智慧驅動的政治宣傳已不再是假想的未來威脅。這種複雜巧妙的技術已投入使用，並正在重塑大規模輿論操控的模式。
中科天璣的一名代表稱，公司業務的重點是提供商業情報服務，並否認公司已研發了針對個體的機器人賬號網路或心理畫像工具。公司還否認隸屬於任何政府機構或組織。
中科天璣的獨特之處在於它將生成式AI與海量的個體數據結合起來。公司的系統不斷挖掘社交媒體平台，以構建動態的心理畫像，用個體的價值觀、信仰、情緒傾向以及弱點來生成定製的內容。文件顯示，這些AI生成的形象能與用戶用看似對話的方式互動，內容真實感強，還能實時調整，讓對話者難以察覺。其結果是一個設計得與真人在線互動幾乎難以區分的高效宣傳引擎，把宣傳以前所未有的規模即時傳遞給受眾。
雖然文件沒有給出這些對話的具體示例，但揭示了該技術生成個性化內容的原理。通過提取用戶數據，以及對更廣泛的行為模式進行分析，AI能構建吸引不同受眾的合成信息。據文件描述，它能適應用戶的語氣、價值觀、習慣和興趣。然後，它能通過給帖子點贊、發表評論，以及推送有針對性內容等做法來模模擬實的用戶。
據我們發現的文件，為了把針對2020年實施的國家安全法（該法律被用於打擊政治異見）的反對聲音減少到最低限度，中科天璣使用其技術，從18萬個香港Twitter賬號中識別出幾千個參與者和意見領袖的賬號。然後，中科天璣針對被其認定為謊言和誤解的信息，動用虛假資料建立的賬號大軍對這些消息源進行「糾正」。
在2024年的台灣大選前夕，中科天璣再次出擊。當時曾有一些親中國的團體散布虛假的腐敗指控，在社交媒體上發布深度偽造的視頻。在競選期間，中科天璣曾建議削弱台灣民進黨的辦法（該黨反對中國對台灣的領土主張）。該公司收集並很可能提供了有關台灣政治辯論趨勢的信息，並建議部署機器人賬號網路，以充分利用黨派政治分歧。據發現的文件，中科天璣已為支持這種干預積累了大量有關台灣的數據，包括政府機構的組織結構圖——詳盡到政治傾向、對中國的態度，以及GPS坐標，還有逾5000個屬於台灣人賬號的個人資料。
中科天璣在一份書面聲明中否認公司為香港和台灣的相關活動提供了技術支持。
到目前為止，中科天璣的主動部署似乎僅限於印太地區。發現的文件中有證據暗示，該公司正為業務擴張進行布局，包括在美國的行動。中科天璣已收集了至少117名美國國會議員及2000多名美國政治人物和思想領袖的數據檔案。假設中科天璣繼續構建美國人的資料庫，公司有可能將活動範圍擴大到太平洋彼岸。中科天璣稱公司沒有針對美國官員收集數據。
中科天璣的行動與中國的國家安全優先事項密切相關，儘管沒有公開資料表明公司處於政府的正式控制之下。這家公司是政府機構中國科學院的一個研究所在2010年創立的，該研究所的一名副所長一直擔任公司董事長。據發現的文件，中科天璣自那時起就一直與高層情報機構、黨政和軍事部門合作，表明公司與中國的政治體系密不可分。
中科天璣的戰略定位在2021年變得更加清晰，公司在那年獲得了中科曙光的資助。總部設在北京的中科曙光是一家超級計算公司，已被五角大樓列為中國軍方附屬機構。中科天璣面向公眾的人工智慧平台與中科曙光的超級計算機以及中國領先的人工智慧模型之一DeepSeek-R1有合作關係。
這些關係提醒人們，影響力行動不再只是一種次要活動，它們正在成為治國的核心工具。戰場不只是有軍隊和艦艇存在的地理版圖，也包括我們每天使用的網路平台。
Illustration by Sam Whitney/The New York Times
中科天璣等公司部署的戰略是將構成民主社會基礎的開放性加以武器化。辯論、透明、多元是民主力量的標誌，也是其脆弱點。中科天璣等公司使用的技術工具利用的正是這些特性。監控與說服之間的界限正在迅速消失。
危險在於這些方法的隱蔽性、規模以及改進的速度。人工智慧生成的內容能在幾乎不遇到任何阻力的情況下悄無聲息地傳播給整個人口。它不間斷地運作，在潛移默化中塑造輿論、腐蝕民主制度。它的規模比如今能想像出來的最有效的社交媒體平台大得多，它針對目標使用的模型更全面，它合成的宣傳內容更具盅惑性、更加難以抵擋。
為消除AI驅動的外國影響力行動日益嚴峻的威脅，各方協調響應至關重要。從事學術研究的人需要緊急行動起來，以釐清人工智慧、可公開獲得的情報以及網路影響力行動是怎樣彙集起來，為敵對國家的目的服務。美國政府必須在打擊這些行動背後的基礎設施方面發揮主導作用，讓國防部打擊外國影響力網路，讓聯邦調查局與數字平台密切合作，以確認和消除用AI偽裝真人建的賬號。私營部門需要加快人工智慧檢測能力，以增強我們發現合成內容的能力。如果我們無法識別，我們就無法阻止。
我們正在進入一個灰色地帶衝突的新時代，其標誌是信息戰正在以前所未有的規模、速度和複雜程度展開。若不能迅速找到如何防禦這種AI驅動的影響力的辦法，我們將徹底暴露在危險面前。