以代碼為核心驅動的人工智能不僅深刻重塑人類行為與互動的每一個層面，更進一步改變人類生活的應對框架和時間觀念。人工智能賦予人類參與更加個性化未來的同時，也將人類悄然拉進復雜的倫理挑戰和治理困境。

縱觀歷史，技術始終是一個中性概念，其價值展現很大程度取決于人類的應用方式。隨著人工智能不斷高速突破技術邊界，在這場人與技術的共舞中，究竟是人工智能在服務人類，還是在駕馭人類的步伐？又或者，人類是否會盲目追隨技術的邏輯，陷入即時反應的漩渦，最終在屏幕的孤立與自我價值的無盡比較中迷失方向？

在這個關鍵時刻，選擇何種道路，不僅關乎技術的未來走向，更關乎人類能否在這場技術與治理的“大戰”中站穩腳跟，正如莎士比亞所述，“要是我們受制于人，親愛的勃魯托斯，那錯處并不在我們的命運，而在我們自己。”

?

01人工智能治理背景與現狀

以ChatGPT為代表的生成式人工智能技術，正助力人類打破不同學科領域的知識壁壘，推動創新探索，并持續催生新的應用場景、業態模式、市場形態與發展范式，為人類社會經濟進步注入了強大動力。然而，人工智能技術的快速迭代升級及其潛在的異化風險，也帶來了一系列的安全挑戰和監管難題。

如何促進人工智能的健康開發、保障其安全性，并建立理性的倫理規則和法律規范，已成為當前無法回避的全球課題。隨著“主權人工智能”等概念的快速興起，各主要國家和經濟體的人工智能監管和治理進程顯著加速。相關機構紛紛成立，立法、指南和規范也陸續出臺或提上議程，爭相創造對自身發展和安全有利的人工智能法律環境。

2023年，美國成立了由28個聯邦部門和機構負責人組成的白宮人工智能委員會，以加強人工智能領域的統籌協調。同年，美國國家科學技術委員會（NSTC）更新了《國家人工智能研發戰略計劃》，美國國家標準及技術研究所（NIST）也發布了首個《人工智能風險管理框架》。

2024年5月，歐盟理事會正式批準了《人工智能法案》，風險級別最高的“禁止”條款預計率先于2024年底啟動適用，標志著全球首個對人工智能進行規范的系統性法律正式生效。

英國政府在人工智能治理方面也采取了積極行動。2023年3月，發布了《創新型AI監管》白皮書，加大包括1億英鎊預算在內的人工智能投資；4月，又發布了《生成式AI使用指南》；11月，舉辦首屆全球人工智能安全峰會，爭當人工智能治理方面的“領頭人”。

我國作為人工智能技術發展和應用的領先國家，始終致力于在人工智能領域構建人類命運共同體，并積極主動推進人工智能治理工作。2021年12月，我國發布了《中國關于規范人工智能軍事應用的立場文件》，呼吁各國在軍事領域負責任地開發和利用人工智能技術。2022年11月，我國向聯合國大會提交了《中國關于加強人工智能倫理治理的立場文件》，該文件從人工智能技術監管、研發、使用及國際合作等方面，進一步梳理了我國關于人工智能倫理治理的主張。2023年7月，國家網信辦等七部門聯合發布了《生成式AI服務管理暫行辦法》，這是全球首個針對生成式人工智能服務制定的具有強約束力的規則。同年10月，習近平主席在第三屆“一帶一路”國際合作高峰論壇開幕式中提出《全球人工智能治理倡議》，為世界提供了基于人類命運共同體理念的人工智能治理中國方案。

?

02《從狹義人工智能（ANI）向通用人工智能（AGI）轉型中的全球治理問題》報告解讀

技術本身并無善惡，其影響關鍵在于人類的利用方式。面對人工智能技術的迅猛發展及其帶來的復雜治理挑戰，國際社會亟需構建一個全面、前瞻且具可操作性的治理框架，以及有效的管理機制，以確保人工智能的健康發展和應用。

近期，千年項目（The Millennium Project，簡稱“MP”）發布了《從狹義人工智能（ANI）向通用人工智能（AGI）轉型中的全球治理問題》報告。該報告聚焦于通用人工智能（AGI）帶來的治理挑戰，以及超級人工智能（ASI）出現可能產生的潛在風險。

報告認為，“治理AGI可能是人類有史以來面臨的最復雜、最困難的管理問題”，并重點強調了解決AGI全球治理問題的緊迫性。報告呼吁各國應在更為先進且超出人類安全控制能力的人工智能出現之前，在國際層面建立針對AGI治理和協調的全球統一監管體系，以有效防止因ASI爆發式增長所帶來的不良后果。

MP是由未來學家兼現任執行主任杰羅姆·格倫（Jerome C. Glenn）和曾是蘭德（RAND）公司顧問的西奧多·戈登（Theodore Gordon）于1996年創立的未來研究領域頂尖國際智庫。該智庫在全球擁有72個分部和3個區域網絡，其宗旨是“改善人類建設更美好世界的前景”。

MP定期發布“未來展望”報告，評估對人類未來發展至關重要的15個全球性挑戰，完成了60多個國際未來研究項目，并開發了40多項未來研究方法，在未來預測、促進國際人工智能治理和人工智能政策指導等方面發揮了重要作用。

該報告的研究階段分為三個部分：第一階段于2020年初啟動，重點就AGI全球治理模式、倫理、原則、價值取向、機制、模型等方面設置了22個相關議題，并對包括薩姆·奧特曼（Sam Altman）、比爾·蓋茨（Bill Gates）和埃隆·馬斯克（Elon Musk）等在內來自美國、中國、英國、加拿大和歐盟等國家和國際組織的55名人工智能相關領域的杰出專家的訪談精華和觀點進行了匯編，構成了整體研究的評估基礎，并于2023年8月發表了《從狹義人工智能向通用人工智能轉型中的全球治理問題》報告；

第二階段由MP借助其全球分部和區域網絡，組織了包括中國MP分部的17位中國專家在內的65個國家的學者，參與了第二階段的實時德爾菲法研究，并于2024年4月完成了《通用人工智能的全球治理要求》的報告，且已提交給聯合國相關機構；第三階段計劃研究并發布現在至2035年期間替代性AGI治理的各種情景分析。

該報告的其他關鍵發現包括：鑒于AGI在醫學、教育、管理及生產力方面所展現出的巨大賦能潛力，各國企業正競相角逐，力求成為這些關鍵領域的領軍者；AGI的崛起預示著政治權力的重新分配，各國政府因此紛紛加速布局，爭相參與AGI的研發與應用，以期在新的國際格局中占據有利地位；國際合作在AGI的治理中扮演著至關重要的角色，然而，當前國家和企業間在人工智能領域的霸權爭奪導致競爭態勢緊張，這可能對國際合作構成威脅。盡管共同的風險可能迫使各方走向合作，但克服彼此間的不信任將是一項艱巨的挑戰。

AGI的全球治理要求具備卓越的執行力，以確保治理措施能夠在全球范圍內贏得信任并得到有效實施。這一要求對于治理體系的構建和實施提出了極高的標準。盡管存在諸多爭議，但報告提出，為了爭取足夠的時間來設計和管理AGI的解決方案，有必要對研發活動進行一定的限制。這一提議旨在平衡AGI的發展與社會、倫理及法律等方面的考量。有效治理AGI的窗口期十分有限，這要求全球各國展開前所未有的緊密合作，共同應對AGI帶來的挑戰和機遇。這一窗口期的緊迫性也凸顯了全球合作的重要性和關鍵性。

?

03幾點思考

（一）構建全球共識與協作機制：緊迫而充滿挑戰

面對人工智能加速迭代帶來的復雜治理挑戰，全球共識與協作機制的構建顯得尤為迫切。僅僅依靠市場力量、分散的國家和多邊力量已不足以應對風險，各國需在技術倫理、法律框架、安全標準等方面形成統一認識，以共同應對AGI可能引發的社會、經濟、科技等全方位變革。

然而，盡管各方對緊迫性達成了廣泛共識，但對于應該做什么、如何做、誰應該做，以及最重要的，為什么應該做，卻沒有達成一致意見。監管國家與地區間話語權的不平衡、監管基礎概念與理念的分歧、對ASI市場的利益爭奪，以及相關國際組織作用受限等困境，使得建立統一機制變得異常艱難。這要求各國必須超越傳統地緣政治的局限，在全球層面形成合力，共同迎接挑戰，通過多邊機制加強對話與合作，打破當前碎片化、區域性的全球監管不平衡格局，共同探索人工智能治理的新模式和新路徑。

（二）探索靈活且規范的治理路徑：平衡安全與創新

無論是AGI還是ASI，作為技術進步的重要組成部分，直接阻斷其發展是不現實的。更重要的是必須在鼓勵創新與確保安全之間找到恰當的“黃金平衡點”。

一方面，過度的監管可能抑制技術創新和應用探索，阻礙人工智能技術帶來的社會發展；另一方面，缺乏有效的監管則可能導致技術濫用、倫理失范乃至系統性風險。

因此，探索一種既能激發創新活力又能有效防控風險的監管模式至關重要。這包括建立靈活的監管框架，允許在嚴格的安全和倫理標準下進行試點項目，并確保關鍵決策環節不缺少人工監督，確保效率與判斷之間的平衡。

（三）制定長遠的可持續應對策略：前瞻性與跨學科治理

伴隨著大模型技術的發展，生成式人工智能行業突飛猛進，加之公眾參與成本和門檻越來越低，可以預見人工智能的升級將持續進行。作為技術創新道路的固有組成部分，人工智能的長遠發展可能引發深遠的社會結構和權力關系變革。

因此，需要前瞻性地考慮其長期影響，并制定相應的應對策略。這包括對經濟模式、就業結構、教育體系、國際關系等方面可能產生的沖擊進行評估，并設計相應的調整方案和社會保障措施。同時，建立跨學科的研究團隊，結合計算機科學、社會學、法學、倫理學等多領域知識，對人工智能的發展路徑進行持續監測和評估，以便及時調整治理策略，應對潛在的不確定性和風險。

總而言之，人工智能治理的核心在于確保技術服務人，而非駕馭人。只有通過正確的方法，才能充分發揮人工智能的價值，迎來一個以數據為驅動、以人為本和以包容性決策為特征的治理黃金時代。

?

作者：首都科技發展戰略研究院國際研究部主任白英、文藝璇。

??

版權聲明：本文版權屬作者和首都科技發展戰略研究院所有。欲轉載文章，請您聯絡cistds@cistds.org.cn，申請轉載授權。轉載時請注明"來源：首都科技發展戰略研究院"。原創之路不易，請自覺遵守我們的轉載要求，尊重作者及原創版權，違者將依法追究責任，感謝您的支持與配合！

編輯：陳瑾