2020年1月31日，美國“戰爭困境”網站發布了詹姆斯•約翰遜和埃莉諾·克拉比爾合作撰寫的《人工智能、網絡空間與核武器》一文，并隨后被知名的美國防務新聞網Real Clear Defense網站轉載。
該文章對人工智能技術、網絡空間、核武器三者之間的關系進行了剖析，論述了人工智能與網絡技術對國家核安全帶來的綜合影響，對人工智能網絡攻防條件下的國家核武器安全提出相關建議，具有重要的參考價值。譯者在此對這篇長文進行了綜合梳理，盡量客觀展現美國反大規模殺傷性武器擴散領域專家對人工智能、網絡空間和核武器安全的基本理念與觀點。
人工智能技術是一把雙刃劍，其在網絡空間和核領域的應用，一方面能夠為網絡安全和核安全提供技術保障;另一方面，人工智能技術也可能為對手所用，通過網絡空間對核武器體系進行滲透進攻，給國家安全帶來嚴峻挑戰。本文以人工智能技術的發展應用為主題，探討了其與網絡安全的相互結合及影響，分析了人工智能與網絡應用對國家核安全帶來的正面和負面影響，假想了兩個威脅核安全的人工智能網絡攻擊案例，并進而對人工智能技術運用提出了思考與建議。
新技術給國家核安全帶來威脅
核安全是國家安全中最具技術性的問題。隨著社會進步和科學技術的發展，各種新技術競相呈現，相互結合，給國家核安全帶來了威脅。
一是人工智能技術給核安全帶來了威脅。人工智能本身即代表著最先進的科技能力，如果對手或者第三方力量將它與網絡技術結合，對國家核指揮、控制與通信系統(NC3)進行網絡攻擊，不但會導致核指揮、控制與通信系統遭到破壞，還可能增加國家間發生軍事沖突的風險。
二是其它新技術給核安全帶來了威脅。比如遠程遙感技術、無人駕駛技術、常規精確彈藥、以及高超聲速武器等，都將給迄今為止隱藏而堅固的核設施帶來挑戰，從而可能逐漸削弱國家核力量的生存能力。
人工智能與網絡結合產生強大的作戰能力
隨著人工智能迅猛發展和軍事自動化程度的日益增強，未來網絡空間領域攻防作戰的速度、力量和規模將不斷擴大，其能力將更加強大。但諷刺的是，人工智能技術是把雙刃劍，在提升網絡安全的同時，也可能讓攻擊者利用該技術捕捉更多系統漏洞，從而暗中操縱網絡，或者干擾網絡。
一是無人化和機器學習技術的發展，使更多物理系統容易遭受黑客入侵、數據欺騙和病毒等網絡攻擊。比如，2016年一名黑客讓一輛吉普車停在交通繁忙的高速公路上，隨后侵入該吉普車的動力系統并使其加速前進。再如，一支中國白帽黑客團隊采取無線遠程的方式，攻擊了一輛特斯拉ModelX。此外，機器學習技術可以模擬并生成虛假的聲音或者視頻，可能導致系統發生錯誤計算、錯誤感知等現象，使意外風險增加，并對網絡空間和現實社會產生影響。
二是以人工智能系統為目標的網絡攻擊，能夠讓攻擊者獲取對方武器系統的機器學習算法，破解對方的人臉識別體系，訪問對方的情報搜集與分析數據庫，獲取對方國防與軍事系統的重要信息。對國家和軍隊來說，這些系統權限和數據有的可以為精確打擊提供支持，有的可以為情報、監視及偵察任務提供支撐，維護它們的安全非常重要。
三是人工智能系統與現有網絡攻擊工具相結合，將成為強大的力量倍增器，能夠使復雜的網絡攻擊以更大的規模(既包括地理空間，也涵蓋網絡空間)、以更快的速度，同步在多個軍事領域展開，同時擁有比以往更強的隱匿性。比如，攻擊者運用人工智能機器學習技術，開發“武器化軟件”，采取入侵、破壞、欺騙等方式，對國家的無人系統、預警系統和其他操作系統(像核指揮、控制和通信系統;情報、監視與偵察系統;預警與自動化控制網絡等)進行攻擊，可能導致這些武器系統發生不可預測的或者是無法檢測的錯誤、故障或者非法操作行為。在目前和未來的物聯網時代，各類數字系統與物理系統廣泛連接，對手利用人工智能網絡技術進行動態與非動態攻擊的可能性逐漸增加。更致命的是，網絡攻擊行為引進人工智能技術，可能會生成一種先進的持續的網絡威脅工具，能夠主動尋找網絡的薄弱環節，甚至可以幫助一名技術平平的攻擊者突破國家的防御網絡。
四是人工智能可以協助應對網絡攻擊。尤其人工智能機器學習創建了大量寶貴的數據和情報庫，與網絡結合形成強大的力量倍增器，能夠應對日益增長的、復雜的、匿名的和可能的多域網絡攻擊行為。
人工智能與網絡如何保護美國國家核安全
美國的一些國家安全官員相信，人工智能作為力量倍增器，應用于攻擊性和防御性網絡武器，將給網絡安全帶來變革性影響，確實能夠提升改善核安全。
一是人工智能與網絡技術得以快速發展。近年來，隨著機器學習技術的發展，解決了人工智能領域的一些技術瓶頸問題，使廣泛應用的無人武器系統和網絡系統的性能得到顯著提升，正通過許多種方式改變核安全，對國家的網絡安全和戰略穩定產生正面的影響。
二是人工智能可以提升軍隊應對網絡攻擊的能力。人工智能網絡防御工具(或者稱反人工智能工具)，其目的在于識別網絡行為模式的變化，檢測網絡異常和軟件代碼漏洞，查找重要的證據，追蹤并確定攻擊者的身份。而利用人工智能機器學習技術(如深度學習技術)，可以及時發現正常網絡活動出現的偏差，協助建立更加牢固的防線，抵御網絡入侵，保護國家核安全。
三是利用人工智能技術開發主動性網絡工具。在對美國核系統積極防御的同時，國家也可以運用人工智能技術，開發對抗性人工智能武器，以加強網絡安全，比如枚舉目標空間或者重新封裝惡意軟件，以規避對手對我方網絡和系統進行偵測或者攻擊，并且能主動對對手開展網絡反制和攻擊行動。此外，人們還認為，通過網絡攻擊(即欺騙、入侵、操縱與數字干擾)滲透對方的核武器系統，可以破壞其通信系統，并最終(且對方可能根本不知道)獲取核與非核指揮控制系統的控制權。
四是美國軍方著手研發人工智能網絡防御工具。正是考慮到人工智能的強大力量，美國國防部國防創新組正在開發一款程序，利用人工智能技術破解高層級戰略問題，繪制事件概率鏈條，制定備用戰略，使國防部系統在遭受人工智能網絡攻擊時能夠快速恢復，而且系統配置和故障修復的速度可以比人做的更快更好。
人工智能與網絡相結合給美國國家核安全帶來的威脅
將人工智能技術賦予網絡中，會導致對手使用惡意軟件，采取秘密行動、欺騙、計謀等手段，控制、操縱或欺騙核網絡系統，從而威脅國家核安全。近期對兩用預警系統成功實施網絡攻擊的報告也表明，核指揮、控制與通信系統(NC3)遭受網絡入侵的猜測正在快速變為現實。
一是人工智能等新技術將威脅核安全。為增強信息能力而開發人工智能、5G網絡、機器學習、大數據分析、量子計算等，可能會被對手利用，開發出自動的、先進的、持續性的威脅工具，破壞核信息系統安全。而且，隨著人工智能和機器學習的不斷發展，可能不需要過多的人力，也不需要很高的技術水平，就可以持續對核網絡開展威脅行動。最近國際戰略研究所舉辦的研討會也證實，預警系統接收到的惡意操作數據，不僅會在特定的情況下破壞人工智能系統的輸出結果，而且如果在程序執行階段，還會破壞整個網絡環境的可靠性。因此，人工智能機器學習技術通過操縱數字信息世界，做出使用核武器的錯誤決策，會加劇國家間爆發沖突的風險。考慮到當前美國與如中國、俄羅斯、朝鮮等有核國家之間的緊張關系，不難想象，如果一個第三方組織或代理國家充滿惡意，使用人工智能深度偽裝，融合數據中毒技術對一方國家核安全開展秘密網絡攻擊，可能引發這些有核國家局勢緊張。此外，在競爭性戰略的背景下，各個國家傾向于對他國的意圖往壞處揣測。一個國家通過人工智能技術提高本國戰略部隊生存能力的舉措，可能被其它國家視為對其核報復能力和核二次打擊能力的威脅。
二是人工智能網絡行動可能導致國家攻防戰略模糊。早期階段的人工智能網絡行動，通常搞不清楚對手是打算搜集情報還是準備實施攻擊。模糊的網絡攻防策略，可能加劇對手對先發打擊的恐懼，增加其先機制敵的打算，在極端情況下還可能促使對手產生使用核武器的考慮。如果在危機期間使用人工智能網絡情報搜集工具(或者間諜行為)，更容易讓對手產生誤解，認為這是對其核力量進行先發制人打擊的前奏。此外，在危機條件下，攻擊性人工智能網絡工具成功破壞對手的核武器系統，導致出現“信息不對稱”的局面，可能引起單方或者雙方高估(或者低估)對方的報復能力，隨之可能采取冒險行動。比如，公開研究表明，中國分析人士認為，中國的核指揮、控制、通信系統容易遭受網絡滲透，哪怕攻擊者的目的僅限于網絡間諜活動，也會被視為高度升級的國家安全威脅問題。因此在危機或沖突期間，人工智能網絡能力的作用存在一些不確定性，可能會降低雙方對風險的承受能力，增加其先發制人的考慮。
三是人工智能技術使核攻擊反應時間大為縮短。在對手核打擊發起的短時間內，針對核武器系統的人工智能網絡攻擊幾乎不可能被提前發現和識別，更不可能對攻擊源、攻擊性質進行判斷。根據公開的信息來源，在預警系統發出即將遭受攻擊的初步征兆后，北美航天航空防御司令部的操作人員只有不到三分鐘時間進行評估和確認。這樣緊迫的決策時間會使政治領導者承受巨大壓力，不得不使用不完整甚至可能是錯誤的信息做出決策，容易導致危機再度升級。
四是人工智能與網絡結合可能導致決策復雜化。人工智能、5G網絡支持下的機器學習、大數據分析和傳感技術，針對即將到來的威脅，能夠以更快的速度和更高的精度向指揮官發出預警，減少在敏感的指揮控制環節發生事故。然而，技術結合也導致兩種風險并存。其一，人工智能機器學習作為網絡攻擊行為的力量倍增器，使一些攻擊行為更加難于發現，如數據中毒欺騙、深度偽裝、數據控制、網絡入侵、數字干擾等，尤其是網絡攻擊者在電磁頻譜對抗環境中使用這些先進的持續性威脅工具。其二，在不能成功發現網絡攻擊行為的情況下，以機器速度確認威脅源(或者攻擊屬性)幾乎是不可能的。因此，當危機發生時，如果一個國家沒有能力判定攻擊者的意圖，可能會得出對方的攻擊行動是計劃破壞其核威懾的結論，從而影響決策。此外，如果不了解人工智能系統如何輔助系統做出決策，可能會導致操作人員對系統的性能或者信心過滿，或者信心不足，也會導致決策復雜化。
五是人工智能的技術尚不成熟。由于人工智能機器學習系統需要通過高質量的數據集來訓練驗證他們的算法，因此隨之產生一個問題，如果將“中毒”數據注入訓練數據集，會導致這些人工智能機器學習系統以人們不希望的和可能無法檢測的方式運行。除非終止系統的機器學習算法，否則在實際應用階段，系統可能學習到一些人們不愿意讓其學習的內容，甚至執行一些設計者不期望其去執行的工作或任務。因此，這就是為什么在武器系統方面，目前人們大多將人工智能機器學習限定在實驗研究領域的主要原因之一。
虛擬案例剖析
為了剖析人工智能、網絡、核安全三者之間的辯證關系，作者以人工智能深度偽造和欺騙技術為藍本，構設虛擬環境，假想了第三方介入或非第三方介入兩種狀況，因人工智能網絡攻擊行動造成國家間危機局勢無端升級的模擬案例。
虛構案例一：深度偽裝攻擊
為了煽動兩個敵對國家發生沖突，A國通過代理黑客制造深度偽裝的視頻或音頻材料，描繪B國高級軍事指揮官正密謀對C國發動先發制人打擊。然后，有意向C國人工智能情報搜集分析系統泄漏這些偽造的音視頻材料，激怒C國不計戰略后果將局勢升級。B國在受到先發制人打擊的威脅下，采取報復性攻擊行動作為回應。
在這個虛擬案例中，雖然兩國危機局勢升級會經過深思熟慮，但是，由于人工智能技術的介入，再經過第三方力量刻意的和欺騙性運用，容易導致國家間產生沖突，增加安全風險。
虛構案例二：欺騙攻擊
A國采取人工智能技術，對B國基于人工智能技術的無人傳感器平臺和自動識別目標系統開展惡意網絡欺騙攻擊。通過這種方式，B國目標自動識別武器系統錯誤地將民用對象(如商業飛機)識別為軍事目標。由于信息的欺騙性以及管理人員的無能，B國沒有及時察知這些假象并采取正確措施，意外地和非主觀意愿地使兩國局勢升級。
這個非第三方介入的案例并非憑空想象。人工智能專家已經驗證，由于技術、管理等多種原因，甚至當數據準確地在人工智能圖像識別軟件上呈現時，系統還經常認為這些有效目標并不存在。此外，如果數據集遭到蓄意破壞并產生錯誤后果(比如在作戰期間攻擊錯誤目標或者誤導同盟國等)，再加上對人工智能算法認識不足，不了解該技術在特定判斷和決策中的地位、作用、運行機制，可能使指揮官很難定下任務決心。
對人工智能技術的有關思考及建議
一是人工智能技術具有重要意義。雖然目前人工智能技術僅處于初始階段，但其對網絡安全、核安全和國家安全非常重要。隨著人工智能技術的快速發展，國家不僅要積極研究和使用這一日益強大的技術，同時還要利用這一技術保證公民安全。
二是客觀認識人工智能技術面臨的諸多挑戰。這些挑戰因素包括：日益增多的威脅國家核指揮、控制與通信系統安全的攻擊工具;新一代極具破壞性的人工智能賦能網絡攻擊能力(深度偽裝、欺騙行為、先進的自動持續威脅工具等);人工智能網絡攻擊與防御的界限變得模糊;在提升人工智能技術的條件下，在競爭和對抗的地緣戰略環境中，網絡能力具有不確定性和戰略模糊性。
三是推進人工智能由理論向實踐轉變。過去很長一段時間，人工智能對核安全的影響很大程度上停留在理論層面。但是隨著技術發展和國家安全戰略變化，目前需要采取積極的干預措施，減少并管理人工智能所帶來的潛在不穩定因素和可能增加的風險。同時，隨著技術日益成熟，積極開發運用人工智能技術，幫助國家先發制人地應對人工智能網絡攻擊，減少武器系統遭受攻擊的風險，使人工智能為國家戰略穩定提供支撐。
四是動用各方力量提升人工智能技術并實現相互融合。為了實現人工智能、網絡技術、核指揮控制三者之間的有效結合，建議政府、國防機構、學術界和私營企業部門應該共同努力，促使人工智能技術深度融入網絡空間與核安全領域，提升網絡安全和核安全能力。
