在英國布萊奇利園，警察在首屆人工智能安全峰會上執(zhí)勤。 　　新華社記者 李 穎攝

　　日前，為期兩天的首屆人工智能安全峰會在英國布萊奇利園舉行。英國科學、創(chuàng)新和技術(shù)部的信息顯示，本次峰會邀請了約100名各國官員、人工智能企業(yè)代表和專家。美國、中國、日本、德國、印度等20多個國家的政府代表以及聯(lián)合國、經(jīng)合組織、國際電信聯(lián)盟等多個國際組織的代表參會。各方代表就人工智能技術(shù)快速發(fā)展帶來的風險和機遇展開討論。28個國家和歐盟共同簽署了《布萊奇利宣言》（下稱《宣言》），同意通過國際合作，建立人工智能（AI）監(jiān)管方法。

　　呼吁國際合作

　　《宣言》指出，人工智能帶來巨大機遇，有潛力增強人類福祉、和平和繁榮，并已部署在日常生活的許多領(lǐng)域。但同時人工智能也帶來重大潛在風險。《宣言》強調(diào)，人工智能的許多風險本質(zhì)上是國際性的，因此最好通過國際合作來解決。與會國家和地區(qū)同意協(xié)力打造一個具有國際包容性的前沿人工智能安全科學研究網(wǎng)絡(luò)，以對尚未完全了解的人工智能風險和能力加深理解。

　　《宣言》引發(fā)國際社會關(guān)注。據(jù)英國《金融時報》報道，《宣言》呼吁以“以人為本、值得信賴和負責任”的方式利用人工智能，是首個此類全球承諾。據(jù)《南華早報》報道，《宣言》提出雙管齊下的議程：重點確定各國共同關(guān)心的AI技術(shù)風險，對其形成科學認知的同時，推動跨國政策形成以降低風險。

　　英國科學、創(chuàng)新和技術(shù)部大臣米歇爾·多內(nèi)蘭表示，此次峰會為圍繞人工智能相關(guān)風險的全球討論奠定了基礎(chǔ)，也讓國際社會意識到，必須加深對人工智能相關(guān)風險的理解并采取應(yīng)對舉措。

　　中國現(xiàn)代國際關(guān)系研究院科技與網(wǎng)絡(luò)安全研究所研究員李艷表示，英國選擇在布萊奇利園召開峰會意味深長，這里是二戰(zhàn)期間盟軍破譯密碼的主要地點。半個多世紀前，有“現(xiàn)代計算機科學與人工智能之父”之稱的數(shù)學家圖靈也是在此發(fā)明了第一代圖靈計算機。今年以來，人工智能持續(xù)成為國際熱點，人工智能發(fā)展與安全、國際競爭與規(guī)則制定牽動多方。在全球熱議人工智能安全問題的背景下，英國借此時機召開峰會，其意有三：一是順應(yīng)國際大勢，回應(yīng)國際關(guān)切；二是搭建國際平臺，彰顯國家作為；三是成為未來國際合作重要貢獻方和“斡旋者”。

　　“英國脫歐后，加大了對人工智能領(lǐng)域的投入，開發(fā)了許多底層技術(shù)和數(shù)據(jù)架構(gòu)，人工智能產(chǎn)業(yè)發(fā)展迅速。”北京理工大學網(wǎng)絡(luò)空間國際治理研究基地研究員裴軼說，這為英國舉辦此次人工智能安全峰會提供重要支撐。 

　　根據(jù)英國政府發(fā)表的聲明，下屆人工智能安全峰會將于一年后在法國舉辦，韓國將在未來6個月內(nèi)聯(lián)合主辦一次小型虛擬峰會。據(jù)西班牙《國家報》報道，此次峰會期間，英國建議政府之間成立一個人工智能小組，類似于處理氣候變化問題的政府間氣候變化專門委員會，每6個月舉行一次會議，英國將分別與韓國、法國共同主辦接下來兩場。

　　中國科技部副部長吳朝暉率團參會并在峰會開幕式上發(fā)表講話。中方指出，此次峰會為各國提供了人工智能安全與國際治理議題的重要對話平臺與交流合作機會。人工智能治理攸關(guān)全人類命運，是世界各國面臨的共同課題。發(fā)展人工智能，應(yīng)當積極倡導以人為本，智能向善，加強技術(shù)風險管控，并在相互尊重、平等互利的原則基礎(chǔ)上，鼓勵各方協(xié)同共治，增強發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，不斷彌合智能鴻溝和治理能力差距。與會期間，中國代表團參與人工智能安全等問題討論，積極宣介中方提出的《全球人工智能治理倡議》，并與相關(guān)國家開展雙邊會談。

　　共同應(yīng)對風險

　　正如米歇爾·多內(nèi)蘭所言，世界正處于一場技術(shù)變革中，人工智能的蓬勃發(fā)展或?qū)⒏淖內(nèi)祟惿鐣姆椒矫婷?，不僅帶來巨大機遇，也會帶來威脅全球穩(wěn)定和破壞人類價值觀的風險。抓住機遇、應(yīng)對風險，全球要共同努力。      

　　“人們很早就開始關(guān)注人工智能的風險問題。人工智能技術(shù)歷史上歷經(jīng)幾輪熱潮，受益于大數(shù)據(jù)、算力等領(lǐng)域的突破，此輪人工智能發(fā)展浪潮最顯著的特點是研發(fā)、應(yīng)用和落地速度非?？?，這就給平衡安全與發(fā)展的有效治理帶來巨大挑戰(zhàn)?！崩钇G說，最初，對人工智能風險的預(yù)判和管控主要聚焦于軍事領(lǐng)域，如無人操作系統(tǒng)、無人指揮系統(tǒng)。隨著ChatGPT等通用式人工智能技術(shù)突破，人工智能的應(yīng)用場景愈加廣泛，其風險也不再局限于某一特定領(lǐng)域。

　　在今年的聯(lián)合國大會上，人工智能安全治理是一個新興的熱門議題。7月18日，聯(lián)合國安理會舉行主題為“人工智能給國際和平與安全帶來的機遇與風險”高級別公開會。這是安理會在聯(lián)合國總部舉行的首次人工智能會議。聯(lián)合國秘書長古特雷斯警告稱，人工智能正在多領(lǐng)域發(fā)揮作用，但它也可能被懷有惡意的人使用，包括將其用于恐怖主義、煽動仇恨和暴力等。他說，聯(lián)合國的人工智能監(jiān)管機構(gòu)應(yīng)當規(guī)范、監(jiān)督和執(zhí)行人工智能規(guī)則，監(jiān)管方式與其他機構(gòu)監(jiān)管航空、氣候和核能的方式大致相同。

　　裴軼表示，目前人工智能技術(shù)主要造成三類問題。一是信息安全問題。人工智能需要實時更新海量數(shù)據(jù)用于模型訓練。當前，在個人隱私領(lǐng)域中，相關(guān)企業(yè)、平臺尚未達成遵循知情同意原則的共識，存在越權(quán)使用等現(xiàn)象。因此，用戶如果缺乏相關(guān)意識，在使用人工智能技術(shù)時，很可能導致個人隱私數(shù)據(jù)泄露。二是虛假信息問題。盡管技術(shù)中立，但人為投放不實消息或片面事實可能導致人工智能模型產(chǎn)出虛假信息，也就是“深度偽造”。三是數(shù)字鴻溝問題。人工智能具備高效的信息檢索和整合能力，雖然為人們的工作和生活提供了極大方便，但其產(chǎn)出的真實性和準確性并不牢靠。因此，信息甄別、自主決策能力強的使用者將更善于使用這項工具，而盲從的使用者則可能為其所害。隨著兩者使用技術(shù)的差距不斷沉積，數(shù)字鴻溝也就此加深。

　　李艷表示，目前，人工智能技術(shù)和產(chǎn)業(yè)尚處于發(fā)展初期，很多風險還難以評估。但如果等人工智能安全風險明確顯現(xiàn)或爆發(fā)后再制定治理規(guī)則，人類將付出巨大代價。國際社會需要給予人工智能一個密切審慎觀察的空間，治理規(guī)則的制定需要在技術(shù)和社會的緊密互動中保持靈活性，隨時根據(jù)實際情況校準政策，從而有效且前瞻性地解決問題。

　　兼顧安全與發(fā)展

　　為應(yīng)對人工智能安全領(lǐng)域的風險，各國已紛紛展開行動。

　　10月30日，法國、德國、意大利三國在意大利首都羅馬舉行高級別會議并發(fā)表聯(lián)合公報稱，法德意三國正在制定人工智能戰(zhàn)略愿景，商討歐洲的聯(lián)合項目和額外投資，并通過出臺人工智能監(jiān)管法規(guī)來管控風險。9月底，美國國家安全局宣布成立人工智能安全中心，負責監(jiān)督美國國防和情報部門人工智能能力的開發(fā)和整合。6月，歐盟推出全球首部人工智能法案，對生成式人工智能企業(yè)提出更高的透明度要求。同月，英國首相蘇納克在訪美期間和美國總統(tǒng)拜登發(fā)表《大西洋宣言》，同意在人工智能等領(lǐng)域加強合作。  

　　此外，2019年，聯(lián)合國教科文組織發(fā)布了《人工智能倫理問題建議書》，積極思考人工智能倫理問題，推動人工智能倫理原則在全球范圍內(nèi)的傳播與實施。同年，二十國集團（G20）發(fā)布《G20人工智能原則》，強調(diào)人工智能的倫理和社會責任。2018年，歐盟委員會提出《人工智能的倫理準則》，強調(diào)人工智能的應(yīng)用必須符合人類價值觀和倫理原則，并建議采取措施加強人工智能的監(jiān)管和透明度，促進其可持續(xù)發(fā)展。

　　作為聯(lián)合國安理會常任理事國和國際社會負責任的一員，中國積極參與全球人工智能治理，致力于提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。早在2021年12月，中國就向聯(lián)合國《特定常規(guī)武器公約》第六次審議大會提交《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》。2022年11月，中國又向聯(lián)合國《特定常規(guī)武器公約》締約國大會提交了《中國關(guān)于加強人工智能倫理治理的立場文件》。這些主張堅持維護人類福祉，堅守公平正義，體現(xiàn)了大國責任擔當，為解決全球人工智能治理難題貢獻了中國智慧和中國方案。日前，中方在第三屆“一帶一路”國際合作高峰論壇期間提出《全球人工智能治理倡議》，就各方普遍關(guān)切的人工智能發(fā)展與治理問題給出建設(shè)性解決思路，為人工智能相關(guān)國際討論和規(guī)則制定提供了藍本。

　　“首屆人工智能安全峰會為全球人工智能安全治理搭建了國際交流平臺，引起了各方關(guān)切，為今后開展合作營造了良好的輿論氛圍和國際政策環(huán)境。但此次峰會能否為全球人工智能治理搭建一個更具持續(xù)性、更有穩(wěn)定性的機制，還存在較大不確定性，有待進一步觀察。”李艷說。

　　“人工智能安全治理要達成全球性共識還面臨不少挑戰(zhàn)?！崩钇G表示，不同國家的國情和發(fā)展階段不同，對人工智能安全治理的利益訴求不盡相同。當前，人工智能安全領(lǐng)域比較容易在原則和倫理層面達成共識，但是在軍事、技術(shù)標準等具體領(lǐng)域達成共識的難度相對較大。但無論如何，國際社會就此保持積極的對話交流，總是有助于在發(fā)展和安全之間求取最大的平衡。

　　裴軼表示，監(jiān)管要兼顧安全與發(fā)展，通過細化立法領(lǐng)域、拓寬管轄范圍、提高法律效力層級等方式，為人工智能的探索劃定原則底線。

返回列表