星期三, 5 11 月

中國安全部門的AI願景:利用人工智慧完善對社會的監控

中國安全部門的AI願景:利用人工智慧完善對社會的監控

上海的監控攝像頭,攝於上月。

警察經過展示機器狗的地方,走進北京某個酒店華麗的宴會廳,歡迎視頻中展示著動畫機器人在外太空作戰的畫面。

在接下來的幾個小時里,這些來自中國各地的警官坐下來,聽科技高管和政府研究人員上台描述如何利用人工智慧完善對中國社會的監控。

一位高管表示,他的公司正在與少數民族地區的警方合作,以國家安全的名義部署語音識別軟體。他說,該軟體可以破譯200多種中國方言和少數民族語言。

公安部的一名研究人員說,機器人可以通過訓練來識別抗議橫幅之類的東西,從而減少警察進行街頭巡邏的需求。

另一家自稱利用大數據提升城市安全的公司的首席執行官表示,該公司的軟體可以幫助警方根據一個人的就醫記錄、網購習慣、鄰里互動以及智能家電的使用數據,了解一個人的生活習性、社交關係甚至精神狀態。

這次會議由一個行業組織主辦,很難說在會上宣傳的系統中有多少真正有效,又有多少是為了從與會的許多高級警官那裡贏得合同而過度宣傳。

但很明顯,這些公司和官員有一個共同的目標:一個越來越有能力了解、預測和控制其公民的國家政權。

這種全知全能的國家願景讓華盛頓感到不安,華盛頓把中國利用先進的計算技術進行監視和鎮壓作為限制向中國出口晶元和半導體的理由之一。

參加會議的許多中國公司都被列入美國的出口管制名單,包括科技巨頭華為和監控攝像頭系統製造商海康威視。幾位發言者承認,美國的限制給他們的雄心造成了阻礙,但他們承諾將用本土的替代方案來克服困難。

華為手機,攝於上海。這家科技巨頭還生產供政府使用的監控攝像頭系統。

中國並不是唯一一個利用人工智慧技術來加強監控的國家。例如,紐約警察局就因廣泛且經常未公開地使用追蹤技術而受到民權倡導者的批評。

但中國監控體系的規模和複雜程度是無與倫比的。中國政府通過龐大的攝像頭網路、互聯網控制,以及要求人們使用身份證購買從SIM卡到脫口秀門票等一切商品,對14億人口實施追蹤。

現在,在中央政府最近推出「人工智慧+」行動之後,當局正尋求將它進一步強化。這個宏大計劃旨在將人工智慧技術深度植入教育、醫療、娛樂——幾乎涵蓋中國人生活的所有領域。

這場安全會議上瀰漫著新的政治導向,多位發言者明確提及該計劃。

「我國的安全行業已經成為應用『人工智慧+』最成功的行業之一,」前公安部高級官員顧建國(音)在會議上說。「我們不必謙虛。」

會議強調了與警方合作的中國公司在開發尖端人工智慧技術方面相比國內外競爭對手擁有的一個關鍵優勢:獲得大量數據的渠道。

公司與政府的密切合作為他們提供了無與倫比的信息資源,這些資源可用於培訓和完善人工智慧系統。美國國家經濟研究局發布的一份分析報告發現,獲得公安類政府合同的中國人臉識別企業,後續開發的新商業產品數量顯著多於未與警方合作的同行。

中國官方媒體5月發布的一張照片顯示,北京警方正與機器人進行巡邏演練。與中國警方合作的人工智慧技術開發企業擁有一個重要優勢:能夠獲取海量數據。

中國領先的語音識別公司科大訊飛的代表方策說,警方的報告對該公司來說是特別有價值的輸入來源,因為「數據量非常大」。科大訊飛智慧警務業務部總監方策說,該公司的軟體可以幫助警察記錄和分析報警電話,並能識別隱晦表述,以推斷對方是否在談論犯罪活動,而不是僅靠特定的關鍵詞。

他還表示,科大訊飛開發了一個大規模的語音模型,可以識別74種外語,以及「為保障我們的國家安全,它支持202種方言」。

他還說,該公司一直在「與當地少數民族公安機關進行一定的合作」,保護少數民族語言。

人權組織長期指控科大訊飛協助中國政府利用語音特徵實施監控與壓制,尤其針對新疆、西藏等地區的少數民族。該公司表示,它保護用戶的隱私,並致力於方言和民族語言的保護傳承。

事實上,許多發言者將產品應用場景描述為善意用途:例如,幫助尋找失蹤兒童,或打擊身份欺詐。方策表示,科大訊飛的軟體也可以用來監控警察的失誤或不當行為。

但是,公司也強調了它們針對特定人群的監控能力——這些長期被視為潛在麻煩製造者的群體包括農民工和上訪的民眾。

7月,上海一個展會上科大訊飛人工智慧模型的展位。人權組織指控科大訊飛協助中國政府利用語音特徵壓制部分民眾。

一位來自全民認證公司的發言者描述了他的公司如何幫助當局發現出租屋裡的可疑行為,該公司主要生產幫助政府和企業驗證個人身份的工具。該公司生產的智能門鎖能識別未經授權認證的入住者,以及可以標記異常用電量的電錶。

其中一些技術很可能已經投入使用。據公共採購文件顯示,參加會議的國有企業國投智能公司去年贏得了一份價值148萬元的合同,為中國西南部的某縣政府提供可以分析人們「經常光顧的地區、活動模式和地點」的系統平台。該公司還以相近金額中標中國南方城市東莞的一個項目,它可以根據手機用戶的活動軌跡、快遞記錄和通訊錄條目建立手機用戶畫像。

加州大學聖地亞哥分校研究人工智慧對監控影響的研究員趙思樂說,儘管人工智慧的進步在安防行業引發了巨大的熱情,但監控技術的關鍵在於它的覆蓋能力,而不是它的監控能力。只要人們相信自己受到監視,他們就會在做任何可能觸犯政府的事情時三思而後行。

「監視實際上不需要達到很高的準確性或有效性,就能獲得預期效果,」她說。

發表回復

您的郵箱地址不會被公開。 必填項已用 * 標註