編者的話:伴隨著AI技術(shù)日新月異的發(fā)展,人類對AI的感受總是期待伴隨著焦慮,驚嘆夾雜著不安全感。近日,第二屆全球人工智能(AI)安全峰會在韓國首爾召開,來自全球政治、經(jīng)濟、科技界人士再次聚首,共話AI安全相關(guān)話題。本次峰會距首屆峰會召開和會議成果——《布萊奇利宣言》的簽署發(fā)布僅過去半年。各國在擔憂什么?有哪些AI安全議題值得關(guān)注?
潛在風險加深不安全感
李志起
“AI風險防范”始終是AI治理工作的重中之重。技術(shù)的“雙刃劍效應”在AI領(lǐng)域尤為明顯,它為我們帶來便利的同時,諸多潛在風險也在不斷加深作為普通用戶的不安全感:從個人隱私泄露到算法偏見,再到無法預料的決策失誤,對這些風險的擔憂無處不在。正因如此,更為嚴格的風險評估機制、可執(zhí)行性更高的風險防范措施、全球各國更及時的合作交流才顯得更為重要。
風險防范之外,全球AI治理還涉及多個重要議題,它們共同構(gòu)成了AI發(fā)展的多維框架。這些議題同樣需要重點關(guān)注,具體如下:
首先是AI技術(shù)的倫理道德、標準規(guī)范以及創(chuàng)新發(fā)展等。在倫理道德方面,應推動制定全球通用的AI倫理準則,規(guī)范AI技術(shù)的研發(fā)和應用行為,確保其符合人類價值觀和道德標準。在標準規(guī)范方面,各國應攜手制定AI技術(shù)的國際標準和規(guī)范,以提升技術(shù)的互操作性和降低應用風險。同時,鼓勵和支持AI技術(shù)的創(chuàng)新與發(fā)展也至關(guān)重要,通過政策引導、資金投入和人才培養(yǎng)等措施,推動AI技術(shù)在各個領(lǐng)域?qū)崿F(xiàn)突破與進步。
其次,AI技術(shù)帶來的就業(yè)與社會影響同樣是我們必須正視的重要問題。隨著AI技術(shù)的不斷發(fā)展和普及,越來越多的傳統(tǒng)崗位面臨著被自動化取代的風險。這種取代不僅可能導致大量勞動力失業(yè),還可能對社會的經(jīng)濟結(jié)構(gòu)和穩(wěn)定性造成深遠影響。例如,一些重復性高、技能要求相對較低的工作崗位,如數(shù)據(jù)錄入員、客服代表等,很可能會被智能機器人或自動化系統(tǒng)所替代。因此,在全球AI治理的進程中,各國政府必須高度關(guān)注AI技術(shù)對就業(yè)市場的具體影響。為了應對這些挑戰(zhàn),政府需要制定相應的政策和措施,旨在保障勞動者的合法權(quán)益,減輕因技術(shù)進步而帶來的就業(yè)壓力。這可能包括提供職業(yè)培訓項目,以幫助工人提升技能,適應新的就業(yè)環(huán)境;創(chuàng)造更多與AI技術(shù)相關(guān)的新興就業(yè)崗位,以吸納因自動化而失業(yè)的勞動力;以及完善社會保障體系,為受影響的工人提供必要的生活保障。
再次,數(shù)據(jù)隱私與保護也應該成為全球AI治理中的重要議題。AI技術(shù)的訓練和應用離不開大量數(shù)據(jù),而數(shù)據(jù)的收集和使用往往涉及個人隱私保護的問題。因此,各國在參與全球人工智能治理時,應加強對數(shù)據(jù)隱私的保護,制定嚴格的數(shù)據(jù)安全法規(guī),以防止數(shù)據(jù)泄露和濫用。(作者是北京市政協(xié)經(jīng)濟委員會副主任,振興國際智庫理事長)
發(fā)展中國家需要更多參與
李 崢
短短半年,西方主要國家政府及全球頂尖AI企業(yè)已兩次專門就AI治理問題召開專門會議,體現(xiàn)出各國對于當前AI全球治理發(fā)展進度緩慢的擔憂。近半年內(nèi),AI技術(shù)又出現(xiàn)了一些新的變化,主要體現(xiàn)在三方面。一是生成式AI持續(xù)高速發(fā)展,在多模態(tài)領(lǐng)域取得顯著技術(shù)進步和應用發(fā)展。多模態(tài)的生成式AI意味著該技術(shù)能夠在不同種類信息中自由切換,更自如地生成和理解數(shù)字社會和人類文明。AI生成的內(nèi)容更加豐富和準確,這一進步將讓生成式AI顯著擴大其應用領(lǐng)域。與此同時,甄別AI生成內(nèi)容的難度也在不斷增加,信息偽造更加泛濫。如果缺乏更加嚴格的治理和標準,管控生成式AI不被濫用將成為不可能任務。
第二,先進AI越發(fā)廣泛地運用于生物技術(shù)、化學材料、軍事安全等實體領(lǐng)域,AI與制造業(yè)的結(jié)合正變得愈發(fā)緊密。這一趨勢意味著AI的影響將不限于數(shù)字和虛擬空間,將成為一國生產(chǎn)力、軍事工業(yè)能力以及前沿技術(shù)發(fā)展的倍增器。這場AI革命對于各國而言機遇和挑戰(zhàn)并不相同。
三是AI產(chǎn)業(yè)開發(fā)的成本、基礎條件和制約因素愈發(fā)清晰。近半年來,業(yè)界愈發(fā)關(guān)注AI產(chǎn)業(yè)化后對能源、水資源、人才、環(huán)境、硬件等領(lǐng)域的需求和影響。業(yè)界普遍認為,AI高能耗、需要巨大初始投入、后期迭代成本高的特點將難以發(fā)生變化。這意味著建設AI產(chǎn)業(yè)集群的門檻較高,大多數(shù)國家難以支撐初始研發(fā)或完全技術(shù)自主的成本。AI產(chǎn)業(yè)的未來極有可能仍然是中心化形態(tài),即少數(shù)企業(yè)和國家在全球AI技術(shù)生態(tài)中處于無法替代的地位。這種情況讓中等發(fā)達國家尤為擔憂,擔心該技術(shù)可能進一步拉大這些國家與主要大國之間的差距。
從首爾峰會的情況看,當前AI技術(shù)進步顯著快于全球治理進度,AI安全主要依賴少數(shù)頭部企業(yè)自身承諾,以及廣大AI發(fā)展滯后國家的訴求未被充分接納是困擾當前全球AI安全治理進程的三大問題。除了此次峰會上提出的所謂“底線原則”以及頭部企業(yè)的承諾之外,全球AI治理更需要盡量包容采納發(fā)展中國家的整體訴求,采取實際措施解決AI的發(fā)展鴻溝問題。該進程需要有更多發(fā)展中國家引領(lǐng)和參與。(作者是中國現(xiàn)代國際關(guān)系研究院美國研究所所長助理)
應對“超速技術(shù)綜合征”
沈 陽
在AI如影隨形的時代,公眾對未來AI的安全性充滿不確定和焦慮。機器是否會取代人類的工作?個人隱私是否能得到保護?AI的決策是否可控?從去年11月首屆全球AI安全峰會到本周的第二屆峰會,人們對AI技術(shù)的關(guān)注已從單模態(tài)內(nèi)容生成(如文本數(shù)據(jù))走到了多模態(tài)內(nèi)容生成(如視頻數(shù)據(jù))。AI的發(fā)展可謂一浪高過一浪。這不僅僅是技術(shù)的躍進,更是一場全球性、人類共同應對挑戰(zhàn)與機遇的雙重奏。
在后現(xiàn)代社會的人類焦慮中,技術(shù)的發(fā)展速度正在超越社會和法規(guī)的適應能力,并引發(fā)倫理、安全及社會等層面的多維問題,針對這個現(xiàn)象,我們可以稱之為:超速技術(shù)綜合征。
在AI領(lǐng)域,“超速技術(shù)綜合征”可具體投射在如下維度:比如,AI的快速迭代不僅重塑了商業(yè)模式,帶來了前所未有的便捷,同時也暴露了數(shù)據(jù)安全、算法偏見及自動化引發(fā)的失業(yè)等問題。又如,AI的進步加速了數(shù)字鴻溝,技術(shù)紅利和風險在全球范圍內(nèi)的不均衡分配,使得發(fā)達國家和技術(shù)巨頭可能進一步擴大與發(fā)展中地區(qū)的差距。再如,技術(shù)發(fā)展的雙刃劍效應日益明顯,AI在優(yōu)化資源分配、提高生產(chǎn)效率方面的積極作用不言而喻,然而它也可能導致資源分配不公、勞動力市場的動蕩,等等。
如何應對“超速技術(shù)綜合征”,為全球社會注入一針鎮(zhèn)定劑?跨國合作和全球統(tǒng)一的行業(yè)標準制定顯得尤為關(guān)鍵。全球合作與橫跨政治、經(jīng)濟和商業(yè)實體之間的安全承諾,實質(zhì)上是在為AI發(fā)展筑起了一道安全屏障,試圖營造一個更可預測、更安全的技術(shù)生態(tài),以減緩由技術(shù)引發(fā)的社會焦慮。以近期在首爾召開的AI安全峰會為例,本次發(fā)布的《首爾宣言》就指出,人工智能安全、創(chuàng)新、包容是相互關(guān)聯(lián)的目標,國際社會有必要將其列為全球AI治理結(jié)構(gòu)的首要議題。各方敦促通過以人為本的AI技術(shù)解決全球性難題,以增進民主、法治、人權(quán)、自由等價值,加大隱私保護力度,消除數(shù)字和AI鴻溝,提升人類福利水平。
消除“超速技術(shù)綜合征”需要更多全球技術(shù)企業(yè)和政府之間的對話,也需要科技與社會的妥協(xié)與合作。通過國際間的協(xié)作,我們可以更有效地應對技術(shù)帶來的挑戰(zhàn),確保AI成為推動人類社會進步的正能量