*中國社會科學(xué)院世界經(jīng)濟與政治研究所全球治理研究系列(GGP)

全球治理學(xué)科動態(tài) 2020年第1期

2020/03/02

全球治理學(xué)科動態(tài)

Global Governance Panel將持續(xù)追蹤全球治理學(xué)科動態(tài)

定期收集整理全球治理研究領(lǐng)域權(quán)威成果推送分享

      專題序言| 包括人工智能在內(nèi)的科技革命和產(chǎn)業(yè)變革不僅會對一國國內(nèi)的治理體系產(chǎn)生影響，并且由于人工智能技術(shù)的研發(fā)和應(yīng)用是在全球平臺上實現(xiàn)的，故此領(lǐng)域也已成為全球治理新疆域的一部分。本期學(xué)科動態(tài)圍繞人工智能對國家間關(guān)系的影響、人工智能發(fā)展的潛在風(fēng)險與契機、保障人工智能良性發(fā)展的全球治理框架與機制等議題進行了討論。

      本文分析了人工智能對國際秩序的影響，并指出人類命運共同體視角和共同安全理念是各國在建立人工智能國際規(guī)范的過程中應(yīng)堅持的出發(fā)點，基于此，作者提出了福祉、安全、共享、和平、法治、合作的六項原則。

      作者首先對國際關(guān)系研究中的人工智能進行了限定，即已知的、基于大數(shù)據(jù)和深度學(xué)習(xí)技術(shù)，以算力、算法和數(shù)據(jù)為三大要素的人工智能技術(shù)及其應(yīng)用，接下來從國際格局和國際規(guī)范兩方面重點分析人工智能對國際秩序的影響：

      在國際格局方面，人工智能首先將從經(jīng)濟上影響國家間力量對比，包括加深“數(shù)字鴻溝”從而在創(chuàng)造財富的同時拉大國家間差距，沖擊發(fā)展中國家的人力資源優(yōu)勢并放大發(fā)達國家的技術(shù)和資本優(yōu)勢從而改變?nèi)虍a(chǎn)業(yè)鏈，以及通過“馬太效應(yīng)”（強者恒強、弱者愈弱）形成國際社會的“階層固化”；其次將從軍事上改變國家間力量對比，包括在自動化、智能化戰(zhàn)爭條件下產(chǎn)生“極速戰(zhàn)”的新戰(zhàn)爭概念和無人自動性武器集群式作戰(zhàn)的新作戰(zhàn)方式；最后，就國際格局的趨勢而言，人工智能亦增添了新的變數(shù)，不僅國家間科技競爭的作用和激烈程度上升，非國家行為體的權(quán)力上升，國際格局還面臨著“北升南降”和“南升北降”兩種可能性孰高，世界未來將走向多極化還是兩極化等問題。

      在國際規(guī)范方面，第一，人工智能因為從決策者、軍隊、民意三個層面降低戰(zhàn)爭門檻而可能使暴力選項重新回歸國際關(guān)系；第二，人工智能因為增加了打擊核反擊力量的可能性、削弱了“相互確保摧毀”的基礎(chǔ)而沖擊全球戰(zhàn)略穩(wěn)定；第三，人工智能因為本身存在核查的技術(shù)困難而增加了建立相關(guān)國際軍控機制的困難；第四，人工智能給國際人道法和戰(zhàn)爭法有關(guān)原則的適用性提出了疑問；第五，人工智能的“數(shù)字鴻溝”和“馬太效應(yīng)”也對國際關(guān)系民主化價值造成沖擊；第六，人工智能給全球治理提出了新課題，即在管理數(shù)據(jù)資源的跨境流動時，應(yīng)該采取怎樣的規(guī)則與制度安排。

      本文從國際秩序切入分析人工智能如何影響國際關(guān)系，并采用將國際秩序劃分為格局和規(guī)范的理論視角，為理解人工智能影響下的國際關(guān)系提供了清晰且完整的框架，也為理解人類歷史進程中科技革命對國際關(guān)系的影響補充了最新案例。在文章最后，作者從人類命運共同體視角出發(fā)，提出人工智能六點原則，為將來政界和學(xué)界圍繞人工智能治理規(guī)則的討論和制定創(chuàng)造了基礎(chǔ)。

      本文從人工智能全球治理中的各類行為主體出發(fā)，梳理了治理活動的現(xiàn)狀，并在此基礎(chǔ)上分析治理該議題的動力和阻力，最后，借鑒其他復(fù)雜的軍民兩用科技的治理經(jīng)驗，為人工智能全球治理的未來發(fā)展提出建議。

      本文首先對人工智能全球治理的相關(guān)概念進行了界定。治理目標(biāo)在于最大化科技價值并最小化科技風(fēng)險，后者主要指失業(yè)、軍事化、責(zé)任缺失、后果不可控等倫理關(guān)切。治理手段包括（1）推進規(guī)范和價值；（2）研究技術(shù)發(fā)展可能產(chǎn)生的影響；（3）創(chuàng)建技術(shù)發(fā)展中問題的解決辦法；（4）建立管理機構(gòu)和法規(guī)等。

      在對各個利益攸關(guān)方的治理概覽中，私人部門——也就是企業(yè)——越來越多地公開其使用人工智能技術(shù)的框架與原則。因為企業(yè)目前在人工智能的發(fā)展中扮演著前沿角色，這樣的現(xiàn)象是可喜的；也有越來越多國家的政府部門以國家戰(zhàn)略或倡議的形式著手應(yīng)對人工智能發(fā)展中的倫理關(guān)切，并呈現(xiàn)出不同的路徑，如歐盟提出了人工智能治理的“三根支柱”——包括迎接社會經(jīng)濟變革和確保歐盟具有與人工智能發(fā)展和應(yīng)用相適應(yīng)的倫理和法律框架；英國尋求領(lǐng)導(dǎo)該領(lǐng)域的規(guī)范構(gòu)建；德國注重發(fā)掘人工智能科技在制造業(yè)中的應(yīng)用潛力；非政府組織包括企業(yè)聯(lián)盟、研究機構(gòu)以及囊括了各類不同主體的其他機構(gòu)，如較早投入人工智能研究的電氣及電子工程師學(xué)會（IEEE），就對很多國家政府的人工智能發(fā)展方案產(chǎn)生了影響；在聯(lián)合國系統(tǒng)內(nèi)部，多個機構(gòu)（聯(lián)合國大學(xué)政策研究中心、聯(lián)合國裁軍事務(wù)辦公室、國際電信聯(lián)盟、國際勞工組織等）分別開展了人工智能相關(guān)的工作內(nèi)容，利用各自專業(yè)領(lǐng)域的知識和經(jīng)驗支持該議題的有效治理。

      目前，政府與企業(yè)之間對待治理的態(tài)度差異、各國政府對施加管理可能導(dǎo)致本國人工智能發(fā)展落后的擔(dān)心、人工智能本身具有的管理困難等因素構(gòu)成了治理的阻力。另一方面，人工智能的誤用很可能造成災(zāi)難性后果，面對可能的風(fēng)險，主動應(yīng)對要遠(yuǎn)好于被動反應(yīng)，而且有效的治理能夠塑造科技發(fā)展的健康激勵，幫助實現(xiàn)長期發(fā)展，歐盟2016年通過的一般數(shù)據(jù)保護法案（GDPR）在實踐過程中就支持了這一觀點。作者對未來提出四點建議：（1）從人工智能的特定問題著手而非尋求一個面面俱到的框架；（2）建立人工智能實踐的核查工具；（3）建立人工智能治理的有效激勵；（4）借鑒此前軍民兩用科技的治理機制。

      本文的梳理和探討建立在細(xì)致充足的資料基礎(chǔ)上，為我們展示了人工智能治理的全球圖景。雖然目前的治理更準(zhǔn)確地說是“全球范圍內(nèi)的治理”而非真正意義上的“全球治理”，但治理活動對科技發(fā)展的影響正愈見清晰，治理的共識和凝聚力也正在形成。

      本篇訪談探討了人工智能治理中的風(fēng)險與挑戰(zhàn)，以及政府和私營部門在建立全面的人工智能治理框架中將扮演的角色。受訪者認(rèn)為，人工智能因其能幫助人類自動化、改進、提高預(yù)測和決策能力，使其可能成為深刻改變?nèi)祟惤?jīng)濟、社會與軍事的技術(shù)。在人工智能治理過程中，需要兼顧人工智能技術(shù)前景及其帶來的影響，從而探索出治理的合作可能性、價值與制度機制。

      本文談到人工智能帶來的風(fēng)險涉及系統(tǒng)性風(fēng)險、知識產(chǎn)權(quán)風(fēng)險和戰(zhàn)略風(fēng)險。關(guān)于系統(tǒng)性風(fēng)險，作者認(rèn)為，當(dāng)一個系統(tǒng)在相關(guān)領(lǐng)域獲得與人類相當(dāng)甚至超越人類的能力時，會出現(xiàn)明顯的風(fēng)險。即使僅是接近人類的表現(xiàn)，也可以使人工智能在一系列任務(wù)中代替人類，僅此一項就可能導(dǎo)致大規(guī)模的勞動力失業(yè)、從根本上加劇不平等；個人隱私受到侵蝕；核不穩(wěn)定風(fēng)險增加；全球經(jīng)濟重組和集中，并破壞軍事攻防平衡，從而增加軍事沖突的風(fēng)險。

      關(guān)于知識產(chǎn)權(quán)風(fēng)險，作者表示，就包括人工智能在內(nèi)的電子技術(shù)而言，其面臨的盜版和非法傳播風(fēng)險大。軍方在限制技術(shù)擴散上有更豐富的經(jīng)驗，但一般私營部門的發(fā)展可能會增加這種風(fēng)險。但更高級的人工智能技術(shù)的擴散難度會增加，因為其需要更多的計算機硬件或大型結(jié)構(gòu)化數(shù)據(jù)集來進行訓(xùn)練和實施。

      關(guān)于戰(zhàn)略風(fēng)險，作者認(rèn)為，先進的人工智能可以提高各方的利益攸關(guān)度。如果不同的國家相信它們可以分享人工智能創(chuàng)造的巨額財富，它們可能會被激勵進行更多的合作。但如果它們不這么做，先進人工智能則會被視為一種戰(zhàn)略資產(chǎn)，這可能會推動不穩(wěn)定的軍備競賽或民族主義。隨著一些利潤極高的人工智能公司占領(lǐng)市場，新的依賴形式可能就此產(chǎn)生，因為許多國家將被迫與中國或美國這類提供大部分人工智能服務(wù)的國家談判。

      在構(gòu)建人工智能治理框架方面，作者指出了多邊組織、政府和企業(yè)參與的重要性。談及多邊組織與談判對人工智能治理的重要性時，作者表示，多邊組織可以通過提供聯(lián)合論壇來制定、協(xié)調(diào)和傳播參與者之間的合作規(guī)范，從而在人工智能治理中發(fā)揮關(guān)鍵作用。同時，非嚴(yán)格多邊的其它倡議也能以對話形式參與討論人工智能的治理與倫理，而參與者涉及不同國家、多個行業(yè)的營利和非營利性機構(gòu)。此外，企業(yè)需要參與到人工智能治理中來，而且在形成人工智能治理框架的基礎(chǔ)方面，企業(yè)可能比政府處于更有利的地位。政府因其自身效率問題，很難及時跟進人工智能技術(shù)的發(fā)展。同時，作者認(rèn)為，國家不再是治理能力的唯一來源，尤其是在人工智能等領(lǐng)域。相反，私營部門在這些領(lǐng)域發(fā)揮著越來越大的作用。這里的關(guān)鍵是在公私利益之間取得平衡，并使企業(yè)發(fā)展動力與追求人類共同利益相一致。

      本文的主要貢獻在于較全面的討論了人工智能發(fā)展帶來的各類風(fēng)險，以及初步提出了人工智能治理框架構(gòu)建的方向和參與者。為進一步研究人工智能治理提供了一定的研究思路。

      本文探討了在人工智能進一步發(fā)展并影響社會生活和公共決策的情況下， 應(yīng)以何種框架規(guī)范人工智能治理，使之與人權(quán)保護不相違背。作者主張，現(xiàn)有的國際人權(quán)框架——包括國際人權(quán)公約系列文件和《聯(lián)合國工商企業(yè)與人權(quán)指導(dǎo)原則》——有足夠的合法性與適用性為人工智能治理提供現(xiàn)成框架基礎(chǔ)。在這一框架下，人類尊嚴(yán)和問責(zé)制等基本原則將受到尊重。

      作者指出，要理解現(xiàn)有人權(quán)框架將如何應(yīng)對人工智能對人類帶來的影響，首先需要關(guān)注人工智能的四個潛在危害與相關(guān)社會關(guān)切。一是隨著人工智能的發(fā)展，機器是否會控制社會。二是如何衡量人工智能的各種應(yīng)用是否合乎倫理；這應(yīng)該由誰、基于什么基礎(chǔ)做出相關(guān)的判斷。三是如何看待人工智能帶來的無意的負(fù)面影響。四是如何看待人工智能對人的主體性和能動性的考驗。

      為回應(yīng)上述公眾關(guān)切，許多利益相關(guān)方開始討論相應(yīng)的新倫理框架以削弱人工智能的潛在風(fēng)險，確保其有益應(yīng)用。但這些新框架并不能包含人工智能對人類帶來的全部風(fēng)險或治理挑戰(zhàn)，也無法在全球利益相關(guān)方中形成廣泛的共識。在此情況下，作者主張以現(xiàn)有國際人權(quán)框架作為未來人工智能治理的框架基礎(chǔ)，其原因有四。其一，人權(quán)框架以人的尊嚴(yán)為出發(fā)點，主張人作為治理和社會的中心。這是確保人工智能將以支持人類和人類社會的方式發(fā)展，而不是以可能傷害人類的方式發(fā)展的關(guān)鍵第一步。其二，這一框架下的國際人權(quán)法律體系通過其廣泛的實質(zhì)性和程序性權(quán)利，直接反映了社會對人工智能最緊迫的關(guān)切。如《世界人權(quán)宣言》中的相關(guān)條款已作出了關(guān)于非歧視、生命權(quán)、侵權(quán)補救、接受與傳遞信息等一些列全面的規(guī)范，而這些規(guī)范可以引申用于人工智能治理領(lǐng)域。其三，人權(quán)框架確立了政府和私營部門在保護和尊重人權(quán)以及糾正侵犯人權(quán)行為方面的作用和責(zé)任。這為人工智能治理以及為評估人工智能做出的決策對人類和社會的影響提供了一個相當(dāng)全面的框架。其四，現(xiàn)有的框架雖然在世界范圍內(nèi)被截然不同地解釋與實施，但其仍有一定程度上的政治認(rèn)同和國際法下的地位。人權(quán)框架建立在幾十年來的全球共識之上，是全球各利益相關(guān)方談判的結(jié)果。因此，這一框架在世界范圍內(nèi)具有一定的適用性與合法性。

      本文的主要貢獻在于正式提出以現(xiàn)有的國際人權(quán)框架作為人工智能治理的框架基礎(chǔ)。這一框架基礎(chǔ)可以更為全面地應(yīng)對人工智能的發(fā)展對人類與社會的影響與挑戰(zhàn)，同時其適用性與合法性可以更好地推動世界范圍內(nèi)的利益相關(guān)方接受人工智能治理框架，從而更好地確保人工智能服務(wù)于人類利益。

      本文指出人工智能將從正反兩個方面深刻影響中美關(guān)系的發(fā)展：一方面，中美之間圍繞人工智能的競爭有可能會加劇雙方的戰(zhàn)略互疑、削弱雙方的戰(zhàn)略穩(wěn)定、改變雙方的權(quán)力動態(tài)；另一方面，人工智能的快速發(fā)展也蘊含巨大潛力,為中美兩國開創(chuàng)新的合作空間。

      首先，人工智能將成為中美戰(zhàn)略競爭的新高地。第一，或?qū)⒁l(fā)兩國圍繞人工智能的軍備競賽。美國國防部建立了聯(lián)合中心推進人工智能的軍事應(yīng)用，中國也在《新一代人工智能發(fā)展規(guī)劃》中強調(diào)人工智能的軍民轉(zhuǎn)化。相比于傳統(tǒng)軍事科技，人工智能更為模糊的兩用屬性意味著即使達成軍控協(xié)議，其核查也存在極大困難，因此未來管控軍備競賽面對挑戰(zhàn)；第二，改變兩國的權(quán)力動態(tài)。革命性科技往往推動國際格局與秩序的變遷，在此輪競爭中，美國自然是要占據(jù)科技發(fā)展的主導(dǎo)位置，中國則將其視作追趕良機。目前，兩國已經(jīng)各自掌握有優(yōu)勢領(lǐng)域，并正在形成膠著態(tài)勢。

      其次，人工智能將成為中美沖突的新來源。第一，侵蝕兩國戰(zhàn)略互信。除安全困境和文化差異外，人工智能等高科技領(lǐng)域?qū)⒊蔀閮蓢鴳?zhàn)略互疑的新來源。美國精英層內(nèi)部普遍將中國視作意圖挑戰(zhàn)美國國際領(lǐng)導(dǎo)地位的修正國家，并主張加嚴(yán)對中國企業(yè)的審查；第二，削弱兩國的戰(zhàn)略穩(wěn)定。這包括降低了二次打擊的可信性、創(chuàng)造了低成本新式武器的選項、增加了“先發(fā)制人”策略的吸引力，從而改變了傳統(tǒng)的大國戰(zhàn)略威懾和攻守平衡，以及通過降低傷亡預(yù)期減輕國內(nèi)民眾對戰(zhàn)爭的抵制情緒、再加上由技術(shù)缺陷引致的互相認(rèn)知失誤，從而使戰(zhàn)爭更易爆發(fā)和升級。

最后，人工智能將成為中美合作的新領(lǐng)域。第一，人工智能技術(shù)本身要求國際合作具有開放性；第二，人工智能技術(shù)將為跨國科技企業(yè)創(chuàng)造更多權(quán)力，后者將更有力地影響國內(nèi)進程和國際關(guān)系，拓寬加深中美經(jīng)貿(mào)聯(lián)系與相互依存；第三，面對人工智能發(fā)展過程中伴隨的問題，中美需要合作應(yīng)對、推進治理。

      本文系統(tǒng)分析了人工智能對中美關(guān)系正在或?qū)⒁l(fā)生的影響，也從雙邊和多邊提出了兩國在人工智能相關(guān)議題避免沖突、加強合作的政策建議。為探知和理解人工智能時代的中美關(guān)系與全球治理提供了方向。