成人免费午夜在线观看,伊人久久精品,一区二区三区精品

從根本上說，向人工智能和人工智能輔助武器及防御系統(tǒng)的轉(zhuǎn)變，將導(dǎo)致對(duì)智能的依賴。這種智能的運(yùn)作所基于的經(jīng)驗(yàn)范式與人類有本質(zhì)區(qū)別，且具備可觀的分析潛力。在極端情況下，這種依賴甚至演變?yōu)橐环N授權(quán)，可能導(dǎo)致未知的風(fēng)險(xiǎn)。因此，人類操作者必須對(duì)具有潛在致命影響的人工智能加以監(jiān)控，即便不能避免所有錯(cuò)誤，至少要保障道德責(zé)任和問責(zé)能力。

然而，最深層的挑戰(zhàn)可能是哲學(xué)層面上的。如果戰(zhàn)略的分析運(yùn)作無法再為人類理性所理解，則其過程、范圍和最終意義將變得不再透明。如果決策者認(rèn)為，在揭示現(xiàn)實(shí)的最深層模式、了解（可能擁有自己的人工智能的）對(duì)手的能力和意圖并及時(shí)做出應(yīng)對(duì)的過程中，人工智能的輔助已必不可少，那么，將關(guān)鍵決策權(quán)下放給機(jī)器可能成為必然趨勢(shì)。各個(gè)社會(huì)可能會(huì)就“哪些決策權(quán)可以下放”、“何種風(fēng)險(xiǎn)和后果是可以接受的”等問題，給出各不相同的答案。主要大國應(yīng)當(dāng)未雨綢繆，提前就該演變的戰(zhàn)略、學(xué)說和道德影響展開對(duì)話，否則將導(dǎo)致不可逆的影響。國際社會(huì)必須做出努力，以限制這些風(fēng)險(xiǎn)。

管控人工智能

在智能體系互相對(duì)抗之前，我們必須對(duì)這些問題加以考量和理解。隨著網(wǎng)絡(luò)和人工智能能力被用于戰(zhàn)略目的，戰(zhàn)略競(jìng)賽的領(lǐng)域變得更為廣闊，從而使這些問題變得迫在眉睫。某種程度上說，網(wǎng)絡(luò)和人工智能使一切與數(shù)字網(wǎng)絡(luò)相連的地方都成為“戰(zhàn)場(chǎng)”。如今，數(shù)字程序控制著一個(gè)由眾多實(shí)體系統(tǒng)構(gòu)成的領(lǐng)域，該領(lǐng)域極為龐大，且仍在增長（某些情況下，甚至連門鎖和冰箱都接入了網(wǎng)絡(luò)）。這催生出一個(gè)極其復(fù)雜、廣泛和脆弱的系統(tǒng)。

對(duì)人工智能強(qiáng)國來說，追求某種形式的彼此理解和相互制約至關(guān)重要。由于相應(yīng)系統(tǒng)和能力可以通過計(jì)算機(jī)代碼的變化而輕易地悄然改變，各大政府可能傾向于認(rèn)為，其對(duì)手在戰(zhàn)略敏感的人工智能研究、開發(fā)和部署方面的步調(diào)會(huì)比其公開承認(rèn)甚至私下承諾的更進(jìn)一步。從純技術(shù)角度來看，讓人工智能參與偵察、鎖定目標(biāo)或是展開致命性自主行動(dòng)并不難，因此，一套相互制約和驗(yàn)證的體系的體系的構(gòu)建顯得既緊迫又困難。

要尋求保障和制約，就必然與人工智能的動(dòng)態(tài)本質(zhì)相抗衡。由人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)武器一旦問世，就可能在適應(yīng)能力和學(xué)習(xí)能力上遠(yuǎn)超預(yù)期；武器的能力或?qū)㈦S之改變。如果武器能夠以某種方式改變，且改變的范圍或性質(zhì)不同于預(yù)期，那么威懾和升級(jí)的設(shè)想可能變得更加撲朔迷離。因此，無論是在初始設(shè)計(jì)抑或最終部署階段，都需要調(diào)整人工智能的運(yùn)行范圍，以便人類對(duì)系統(tǒng)加以監(jiān)視，在其偏離初始目標(biāo)時(shí)將其關(guān)閉或重新定向。為了避免意外、潛在的災(zāi)難性后果，這種限制必須是相互的。

無論是限制人工智能和網(wǎng)絡(luò)能力，抑或遏制其擴(kuò)散，都非常困難。主要大國開發(fā)和使用人工智能和網(wǎng)絡(luò)的能力，有可能落入恐怖分子和流氓幫派手中。同樣，那些沒有核武器、常規(guī)武器軍力也有限的小國，也可以通過投資尖端的人工智能和網(wǎng)絡(luò)武器，發(fā)揮出巨大的影響力。

各國勢(shì)必會(huì)把非連續(xù)、非致命的任務(wù)委托給人工智能算法（部分由私營實(shí)體操作），其中包括執(zhí)行檢測(cè)和防止網(wǎng)絡(luò)空間入侵的防御功能。一個(gè)高度網(wǎng)絡(luò)化和數(shù)字化的社會(huì)“受攻擊面”太大，人類操作者無法僅憑手動(dòng)實(shí)現(xiàn)防御。隨著人類生活的許多方面轉(zhuǎn)移到網(wǎng)上，經(jīng)濟(jì)也持續(xù)數(shù)字化，一個(gè)流氓網(wǎng)絡(luò)人工智能就可能破壞整個(gè)行業(yè)。國家、公司甚至個(gè)人都應(yīng)該著手構(gòu)建某種失效保護(hù)體系，以防患于未然。

這種保護(hù)的最極端形式即切斷網(wǎng)絡(luò)連接。對(duì)國家而言，離線可能是終極的防御形式。如果排除這種極端措施，那么，能夠執(zhí)行某些重要網(wǎng)絡(luò)防御功能的就只有人工智能了——網(wǎng)絡(luò)空間浩瀚無垠，在此可采取的行動(dòng)選項(xiàng)幾乎無窮無盡，因此，除了少數(shù)幾個(gè)國家，這一領(lǐng)域內(nèi)最重要的防御能力可能是其他國家力所不及的。

除了人工智能防御系統(tǒng)，還有一類最令人頭疼的武器——致命自主武器系統(tǒng)。該系統(tǒng)一旦被激活，就可以在沒有人類干預(yù)的情況下選擇目標(biāo)并實(shí)施打擊。這類武器的關(guān)鍵問題是人類對(duì)其缺乏監(jiān)督和干預(yù)的能力。

與輕武器聯(lián)接的美國陸軍自主遠(yuǎn)程作戰(zhàn)系統(tǒng)（圖源：NPR）

一個(gè)自主系統(tǒng)“在其指令環(huán)路中”的某些行動(dòng)需要人類授權(quán)，或需要一個(gè)人“在指令環(huán)路上”被動(dòng)地監(jiān)控其活動(dòng)。除非受到可遵守和可證實(shí)的相互協(xié)議的限制，前者最終可能涵蓋全部戰(zhàn)略和目標(biāo)（例如保衛(wèi)邊境或?qū)崿F(xiàn)針對(duì)敵人的特定結(jié)果），且無需耗費(fèi)大量人力。在這些領(lǐng)域，必須確保人類的判斷能發(fā)揮作用，實(shí)現(xiàn)對(duì)武器的監(jiān)督和指導(dǎo)。如果只有一個(gè)或少數(shù)幾個(gè)國家接受這些限制，意義是有限的。先進(jìn)國家的政府應(yīng)探討如何以可行的方式進(jìn)行檢查，進(jìn)而在此前提下實(shí)現(xiàn)相互制約。

人工智能的引入，使人們可能為搶占先機(jī)而將某種武器倉促投入使用，進(jìn)而引發(fā)沖突。當(dāng)一個(gè)國家擔(dān)心其對(duì)手正在發(fā)展自動(dòng)化軍力時(shí)，可能會(huì)“先發(fā)制人”；而如果攻擊“成功”了，擔(dān)憂的合理性也就無法再得到證實(shí)或證偽。為防止沖突意外升級(jí)，大國應(yīng)在一個(gè)可驗(yàn)證的限制框架內(nèi)進(jìn)行競(jìng)爭(zhēng)。談判不只包括緩和軍備競(jìng)賽，還應(yīng)該確保雙方都大致了解對(duì)方動(dòng)向。但雙方都必須對(duì)一點(diǎn)有所預(yù)期（并據(jù)此進(jìn)行籌劃）：對(duì)方會(huì)對(duì)自己最具敏感性的秘密有所保留。正如冷戰(zhàn)期間的核武器談判所表明的，國家間永遠(yuǎn)不會(huì)有完全的信任，但這并不意味著無法達(dá)成某種程度的諒解。

我們提出這些問題，是為了界定人工智能給戰(zhàn)略帶來的挑戰(zhàn)。界定核時(shí)代的條約（以及隨之而來的溝通、執(zhí)行和核查機(jī)制）給我們帶來了各方面的收益，但并非歷史的必然產(chǎn)物，而是人類能動(dòng)性的產(chǎn)物，是共同承擔(dān)危機(jī)和責(zé)任的產(chǎn)物。

對(duì)民用和軍事技術(shù)的影響

傳統(tǒng)上，三個(gè)技術(shù)特性促成了軍事和民用領(lǐng)域的分野：技術(shù)差異、集中控制和影響規(guī)模。所謂技術(shù)差異，是指軍用和民用技術(shù)的區(qū)別。所謂集中控制，是指部分技術(shù)易于被政府管控，與容易傳播、規(guī)避政府控制的技術(shù)相反。所謂影響規(guī)模，則是指一項(xiàng)技術(shù)的破壞性潛力。

縱觀歷史，許多技術(shù)都是軍民兩用的。至于其他技術(shù)，一些很容易廣泛傳播，另一些則具有巨大的破壞力。然而，迄今為止，還沒有一種技術(shù)同時(shí)具備以下三種特性：軍民兩用、易于傳播和潛在的巨大破壞性。運(yùn)送貨物到市場(chǎng)的鐵路和運(yùn)送士兵到戰(zhàn)場(chǎng)的鐵路是一樣的，鐵路不具有破壞性潛力。核技術(shù)通常是軍民兩用的，且破壞性巨大，但核設(shè)施很復(fù)雜，這使政府能夠相對(duì)安全地控制核技術(shù)。獵槍可能被廣泛使用，同時(shí)具有軍民用途，但其有限的能力使持槍者無法在戰(zhàn)略層面造成破壞。

而人工智能打破了這種范式。很明顯，人工智能可以軍民兩用；也很容易傳播，只需幾行代碼，大多數(shù)算法（除了部分例外）可以在單個(gè)計(jì)算機(jī)或小型網(wǎng)絡(luò)上運(yùn)行，這意味著政府很難通過控制基礎(chǔ)設(shè)施來控制這種技術(shù)；其應(yīng)用具有巨大的破壞性潛力。這種獨(dú)一無二的特性組合，加上廣泛的利益相關(guān)者，產(chǎn)生了具有全新復(fù)雜性的戰(zhàn)略挑戰(zhàn)。

人工智能賦能武器，使對(duì)手能以驚人的速度發(fā)起數(shù)字攻擊，并極大提高其利用數(shù)字漏洞的能力。這樣一來，對(duì)于即將到來的攻擊，一個(gè)國家可能還來不及評(píng)估就需立即響應(yīng)，否則就可能被對(duì)方解除武裝。如果一個(gè)國家有相應(yīng)手段，就可以在對(duì)方完全展開攻擊之前做出回應(yīng)，構(gòu)建一個(gè)人工智能系統(tǒng)來預(yù)警攻擊并加以反擊。這一系統(tǒng)的存在，及其毫無預(yù)警地實(shí)施行動(dòng)的能力，可能會(huì)刺激另一方投入更多建設(shè)和規(guī)劃，包括開發(fā)并行技術(shù)或基于不同算法的技術(shù)。如果人類也參與了這些決定，那么除非各方謹(jǐn)慎地發(fā)展出一個(gè)共同的限制理念，否則先發(fā)制人的沖動(dòng)可能會(huì)壓倒謀定后動(dòng)的需要，就像20世紀(jì)初的情況一樣。

在股票市場(chǎng)，一些復(fù)雜的所謂量化公司認(rèn)識(shí)到，人工智能算法可以發(fā)現(xiàn)市場(chǎng)模式，并比最佳操盤手更快地做出反應(yīng)。因此，這些公司已將其證券交易的部分控制權(quán)委托給算法。算法系統(tǒng)所贏得的利潤通常遠(yuǎn)超人類操盤手。然而，它們偶爾會(huì)嚴(yán)重誤判，誤判程度遠(yuǎn)超最糟糕的人為錯(cuò)誤。

一款用于操盤的人工智能算法（圖源：Unite.AI）

在金融領(lǐng)域，此類錯(cuò)誤會(huì)毀掉投資，但不會(huì)致人死地。然而，在戰(zhàn)略領(lǐng)域，一次類似“閃電崩盤”的算法故障可能引發(fā)災(zāi)難性后果。如果數(shù)字領(lǐng)域的戰(zhàn)略防御需要戰(zhàn)術(shù)上的進(jìn)攻，那么當(dāng)一方在此類計(jì)算或行動(dòng)上出錯(cuò)時(shí)，就可能在不經(jīng)意間使沖突升級(jí)。

將這些新能力納入一個(gè)明確的戰(zhàn)略和國際均勢(shì)概念的嘗試非常復(fù)雜，因?yàn)榧夹g(shù)優(yōu)勢(shì)所需的專業(yè)知識(shí)不再完全集中于政府方面。從傳統(tǒng)的政府承包商到個(gè)人發(fā)明家、企業(yè)家、初創(chuàng)企業(yè)和私人研究實(shí)驗(yàn)室，各種各樣的行為體和機(jī)構(gòu)都參與到對(duì)這一具有戰(zhàn)略意義的技術(shù)的塑造過程中，而并非其中所有人都認(rèn)為其使命應(yīng)與聯(lián)邦政府所界定的國家目標(biāo)保持內(nèi)在一致。工業(yè)界、學(xué)術(shù)界和政府之間的相互教育過程可以幫助彌合這一鴻溝，并確保各方在一個(gè)共同的概念框架內(nèi)理解人工智能戰(zhàn)略意義的關(guān)鍵原則。很少有哪個(gè)時(shí)代面臨過如此局面：一方面，其遭遇的戰(zhàn)略和技術(shù)挑戰(zhàn)如此復(fù)雜；另一方面，對(duì)該挑戰(zhàn)的性質(zhì)乃至討論其所需的詞匯卻鮮有共識(shí)。

核時(shí)代尚未解決的挑戰(zhàn)是：人類發(fā)展了一種技術(shù)，戰(zhàn)略家們卻找不到可行的軍事行動(dòng)理論。人工智能時(shí)代的困境與之不同：典型技術(shù)將被廣泛獲取、掌握和應(yīng)用。無論是在理論概念上還是在實(shí)踐操作中，實(shí)現(xiàn)相互間的戰(zhàn)略克制，甚至是實(shí)現(xiàn)對(duì)“克制”的共同定義，都將空前地困難。

即使歷經(jīng)半個(gè)世紀(jì)的努力，如今對(duì)核武器的管控仍不盡完善。然而，評(píng)估核平衡其實(shí)相對(duì)簡(jiǎn)單：核彈頭可以計(jì)數(shù)，其生產(chǎn)也是已知的。人工智能則不同：其能力不是固定的，而是動(dòng)態(tài)變化的。與核武器不同的是，人工智能很難被追查：一旦經(jīng)過訓(xùn)練，它們可以被輕易復(fù)制，并在相對(duì)較小的機(jī)器上運(yùn)行。以目前的技術(shù)，對(duì)其存在進(jìn)行證實(shí)或證偽，將是極其困難甚至無法實(shí)現(xiàn)的。在這個(gè)時(shí)代，威懾可能來自一種復(fù)雜性——來自人工智能攻擊能夠借助載體的多樣性，也來自潛在的人工智能反應(yīng)速度。

為了管控人工智能，戰(zhàn)略家必須考慮如何將其納入負(fù)責(zé)任的國際關(guān)系模式。在部署武器之前，戰(zhàn)略家必須了解使用武器的迭代效應(yīng)、這些武器導(dǎo)致沖突升級(jí)的可能性和謀求沖突降級(jí)的途徑。負(fù)責(zé)任地使用策略，再輔以制約原則，將是必不可少的舉措。決策者應(yīng)致力于同時(shí)處理軍備、防御技術(shù)和戰(zhàn)略，以及軍備控制問題，而不是將其視為在時(shí)間上前后不同、在功能上彼此對(duì)立的步驟。必須在技術(shù)付諸使用前就制定理論并做出決定。

那么，這種制約的要求是什么呢？一個(gè)顯見的出發(fā)點(diǎn)就是以傳統(tǒng)強(qiáng)制方式對(duì)能力加以制約。在冷戰(zhàn)期間，這種做法獲得了一些進(jìn)展，至少在象征意義上如此。一些能力受到了限制（如彈頭），另一些（如中程導(dǎo)彈）則被徹底禁止。但無論是限制人工智能的潛在能力，還是限制人工智能的數(shù)量，都不能完全符合這種技術(shù)在民用領(lǐng)域的廣泛應(yīng)用和持續(xù)發(fā)展態(tài)勢(shì)。我們必須研究新的限制因素，重點(diǎn)是人工智能的學(xué)習(xí)和目標(biāo)鎖定能力。

在一項(xiàng)部分預(yù)見到這一挑戰(zhàn)的決定中，美國對(duì)“人工智能賦能武器”和“人工智能武器”進(jìn)行了劃分，前者使人類指揮的戰(zhàn)爭(zhēng)更精確、更致命、更有效，后者則能脫離人類操作者自主做出致命的決定。美國已宣布其目標(biāo)是將人工智能使用限制在前一種類別中，并謀求建立一個(gè)任何國家（包括美國自身）都不擁有后一種武器的世界。這種劃分稱得上明智。與此同時(shí)，技術(shù)的學(xué)習(xí)和演進(jìn)能力也可能導(dǎo)致對(duì)某些特定能力的限制不足。對(duì)人工智能賦能武器的制約性質(zhì)和制約方式進(jìn)行界定，并確保約束是相互的，是關(guān)鍵所在。

在19世紀(jì)和20世紀(jì)，各國逐漸對(duì)某些形式的戰(zhàn)爭(zhēng)進(jìn)行了限制（例如使用化學(xué)武器、攻擊平民）。鑒于人工智能武器使大量新類別的軍事活動(dòng)成為可能，或使舊形式的軍事活動(dòng)重獲新生，世界各國必須及時(shí)界定，何種軍事行為有可能背離人性尊嚴(yán)和道德責(zé)任。要獲得安全，我們就不能只是被動(dòng)應(yīng)對(duì)，而要未雨綢繆。

與人工智能相關(guān)的武器技術(shù)帶來了這樣的困境：對(duì)國家而言，技術(shù)的持續(xù)研發(fā)至關(guān)重要，否則我們將失去商業(yè)競(jìng)爭(zhēng)力和與世界的關(guān)聯(lián)性；但新技術(shù)所固有的擴(kuò)散天性使迄今一切以談判促限制的努力付諸東流，甚至連概念也未能形成。