哈佛大學(xué)肯尼迪政治學(xué)院貝爾弗科學(xué)與國際事務(wù)中心7月發(fā)布《人工智能與國家安全》報告，分析人工智能（AI）對美國家安全的巨大影響，為美政府AI政策提供建議。

報告概要：

雖然美國軍事和情報界計劃在投資組合中納入更多人工智能技術(shù)，但最具顛覆性的AI應(yīng)用尚未實現(xiàn)。報告提出了制定人工智能和國家安全未來政策的三個目標(biāo)：

保持美國技術(shù)領(lǐng)先優(yōu)勢，為軍事和情報能力優(yōu)勢提供砝碼。
支持AI用于和平和商業(yè)用途，幫助民事和商業(yè)部門享受新技術(shù)帶來的好處。
減少災(zāi)難性風(fēng)險，防范或降低偶發(fā)/敵對事件帶來的嚴(yán)重后果。

重點內(nèi)容：

AI技術(shù)發(fā)展迅猛

人工智能領(lǐng)域在過去5年取得了顯著的技術(shù)進步，遠遠超出預(yù)期；這種形勢還將會繼續(xù)發(fā)展，甚至?xí)M一步提速。推動AI快速發(fā)展的4個因素是：計算機性能在近幾十年呈指數(shù)級增長、訓(xùn)練機器學(xué)習(xí)的大型數(shù)據(jù)集數(shù)量增加、機器學(xué)習(xí)技術(shù)不斷進步、商業(yè)投資猛增。其中機器學(xué)習(xí)子領(lǐng)域的發(fā)展是主因。

AI技術(shù)是給國家安全帶來深刻變化的顛覆性技術(shù)

現(xiàn)有的AI技術(shù)能力在國家安全方面擁有巨大潛力，如機器學(xué)習(xí)技術(shù)可使衛(wèi)星圖像分析和網(wǎng)絡(luò)防御等勞動密集型活動實現(xiàn)高度自動化。未來的AI技術(shù)有可能與核武器、飛機、計算機和生物技術(shù)一樣，成為給國家安全帶來深刻變化的顛覆性技術(shù)。AI的每一種技術(shù)都為美國國家安全機構(gòu)的戰(zhàn)略、組織、優(yōu)先事項和資源分配帶來重大變革，其未來影響力至少可與核武器比肩。

AI技術(shù)對國家安全的具體影響

在軍事方面，AI的發(fā)展將產(chǎn)生新的能力，并使現(xiàn)有能力成本被更廣泛的行為體所接受，AI催生的商業(yè)可用技術(shù)（如遠程無人機包裹運送等）可能會使弱國和非國家行為體獲得遠程精準(zhǔn)打擊能力。在網(wǎng)絡(luò)領(lǐng)域，目前需要大量高技能勞動力的活動（如先進持續(xù)性威脅行動等）未來可能會實現(xiàn)高度自動化，并在黑市上廣泛出售。在信息優(yōu)勢方面，AI將大幅提升數(shù)據(jù)收集、分析以及建立數(shù)據(jù)的能力。在情報行動中，意味著有越來越多的信息源可供分辨真相；相應(yīng)的，制造偽情報也變得更加便利。但同時，借助AI技術(shù)，偽造音視頻媒體的質(zhì)量迅速提升，同時成本迅速下降。在經(jīng)濟方面，AI的發(fā)展可能會帶來一次新的產(chǎn)業(yè)革命，將重新塑造世界經(jīng)濟中的勞資關(guān)系。

變革性技術(shù)案例帶來的經(jīng)驗

該機構(gòu)分析了之前的核、航空航天、網(wǎng)絡(luò)和生物技術(shù)4個變革性軍事技術(shù)案例，從中提取出以下幾條可用的經(jīng)驗和教訓(xùn)：激進的技術(shù)變革催生全新的政府政策及思想，世界各國政府將考慮甚至部分國家將采取相當(dāng)激進的政策措施；AI在戰(zhàn)爭和間諜活動上的擴展應(yīng)用是不可避免的，但必須設(shè)立更加溫和的目標(biāo)，對AI技術(shù)進行安全有效的管理；必須認(rèn)識到AI技術(shù)固有的軍民兩用性，對突破性技術(shù)進行保密和保護，擴展民用顛覆性技術(shù)的分類和認(rèn)證流程，限制商業(yè)公司向海外出售技術(shù)；應(yīng)考慮成立正式的研發(fā)管理機構(gòu)；應(yīng)考慮確立AI軍事情報應(yīng)用的技術(shù)投資組合，建立長久的技術(shù)優(yōu)勢。

報告建議：

報告對美國政府有關(guān)AI技術(shù)的國家安全政策提出3項目標(biāo)和11項建議。

維持美國的技術(shù)領(lǐng)先優(yōu)勢

國防部應(yīng)開展以AI為核心的軍事演習(xí)，以甄別潛在的顛覆性軍事創(chuàng)新；國防部應(yīng)資助以人工智能技術(shù)及影響為主題的各種長期戰(zhàn)略分析；國防部應(yīng)優(yōu)先考慮能夠提供可持續(xù)優(yōu)勢并降低核心風(fēng)險的AI研發(fā)投資領(lǐng)域；美國防情報界應(yīng)大力投資“反AI”的進攻和防御能力。

支持AI技術(shù)用于和平目的

DARPA、IARPA、海軍研究辦公室和國家科學(xué)基金會應(yīng)增加與AI相關(guān)的基礎(chǔ)研究經(jīng)費；國防部應(yīng)發(fā)布關(guān)于AI軍民兩用能力的信息征詢書；向美國In-Q-Tel公司（專門服務(wù)于中央情報局）提供更多資源，促進國家安全機構(gòu)和AI商業(yè)公司的合作。

管理災(zāi)難性風(fēng)險

國家安全委員會和國務(wù)院需研究美國應(yīng)利用條約的形式限制哪些AI應(yīng)用；國防和情報部門應(yīng)設(shè)立專門的AI安全機構(gòu)；DARPA應(yīng)為AI系統(tǒng)自動防故障和安全運行技術(shù)研究提供資金；國家標(biāo)準(zhǔn)與技術(shù)研究院和國家安全局應(yīng)探索防AI造假技術(shù)方案。