對話嘉賓

朱榮生（清華大學戰略與安全研究中心特約專家、元戰略智庫高級研究員）

劉 偉（北京郵電大學人機交互與認知工程實驗室主任）

半月談記者：在人工智能發展過程中，您認為最難以把控的變量與最突出的風險是什么？

劉偉：最難以把控的變量包括不確定性、數據質量、道德和倫理問題。

人工智能系統的復雜性使得其行為難以預測，常常具有不可解釋性，尤其當系統面臨新的、未曾遇到的情況時。這種不確定性可能導致系統無法做出可靠的決策或產生意外的結果。

人工智能系統通常需要大量的數據來進行訓練和學習，而數據的質量對系統性能至關重要。如果數據存在偏見、錯誤或不完整的情況，那么系統的結果和決策可能也會受到影響。

人工智能系統的決策可能涉及道德和倫理方面的選擇，例如自動駕駛車輛在緊急情況下如何選擇撞擊的對象。如何確保人工智能系統的決策符合社會價值觀成為一個難題。

人工智能面臨的安全風險較為突出。人工智能系統可能受到黑客攻擊，導致數據泄露、系統癱瘓或被濫用。尤其是在關鍵基礎設施、金融系統和醫療等關鍵領域，安全風險顯得尤為突出。

因涉嫌侵犯隱私，ChatGPT在意大利下線

朱榮生：從全球治理角度看，歷史上的顛覆性科技革新在極大地解放社會生產力的同時，也引發了全球發展失衡、財富分配不均、治理機制滯后的社會經濟問題。每一輪科技革命帶動的全球化往往會把世界經濟推向一個深度調整期，不可避免地帶來傳統產業衰退、大量勞動力失業、社會動蕩加劇的經濟負面效應，這對全球經濟治理體系改革提出了新要求。

人工智能等先進技術加速滲透融合到人類經濟和軍事活動的各個領域，放大了維護國際穩定和非傳統安全的挑戰。智能化戰爭初現端倪，人工智能賦能的無人作戰軍事平臺在巴以沖突、納卡沖突、俄烏沖突中被大量應用。國外政策界對于軍用人工智能技術的快速部署、肆意擴散以及不負責任地戰場使用，動搖國際戰略穩定性的擔憂日甚，其中最為急迫的關切是戰爭形態向智能化方向演進將可能強化首攻優勢。

從國家間關系的角度看，AI“強者先行”的發展特點也將強化國際競爭壓力。盡管每個國家都有維護自身“人工智能主權”利益的需求，但是大國和小國因實力的不均衡面臨著不同程度的挑戰。大國具有更強的技術儲備和抗風險能力，能夠在國際技術交流網絡中處于核心地位。相比之下，小國恐怕會因缺少足夠的資源而越發依賴于大國的技術供給，從而在全球AI生態體系發展中處于邊緣位置。這將進一步提高數字地緣政治競爭的烈度，壓縮大國之間本已有限的關系緩和空間。

半月談記者：如何在控制風險的同時，讓AI成為對人類、對社會進步普惠而有益的工具？

劉偉：確保AI系統的決策過程是透明的，并能提供解釋，以便人們理解其工作原理，如此一來，可增強人們對AI系統的信任感，并幫助預防潛在的不良影響。同時，需要及時制定明確的倫理準則，確保AI系統的設計和使用符合道德原則和社會價值，包括確保AI系統不歧視、不侵犯隱私和個人權利，并遵守相關法律法規。在源頭上確保AI系統所使用的數據具有高質量的特點，并嚴格保護個人隱私。數據的來源、使用和存儲都應符合相關法規，并通過安全措施保護數據不被濫用或泄露。

建立有效的監管機制，確保AI系統的開發和使用符合政府制定的規定和標準，加強對AI技術和應用的審查和監督，以避免濫用和不良影響。鼓勵公眾參與AI技術的發展和決策過程，并確保各利益相關方的利益得到平衡，這可以通過開展公開磋商、征求意見和建立多方合作來實現。建立監測和評估機制，及時發現和解決AI系統可能出現的風險和問題，不斷改進和優化AI系統的性能和安全性。

朱榮生：從規制人工智能潛在風險的角度出發，各國在維護利益的同時，應推動AI全球治理合作。AI領域的相關治理攸關人類命運，是全球治理面臨的嚴峻課題。國際社會需要重視廣大發展中國家在新興技術浪潮中的脆弱性，技術強國不應一味只顧本國利益而采取“脫鉤斷鏈”手段。AI是一項軍民兩用技術，就其民用領域來說，引導全球AI行業健康發展，實現“人工智能向善”的目標，進而促進AI技術造福于全人類，是世界各國的共同利益。

  在更為敏感的軍事安全方面，AI的軍事化應用越發引起國際輿論的關注。據國際媒體報道，AI技術已在新一輪巴以沖突中被運用，造成平民傷亡。從建構人工智能全球安全治理規則的角度出發，國際社會恐怕需要審視美西方提出的“負責任的人工智能”理念是否過于理想，是否應該探索建立某種“有人道的AI”的共同主張，以避免算法定生死釀成的人道主義災難?？傊苿訉崿F“AI為了人類”的目標，恐怕不僅僅需要確保每個國家僅基于本國基本安全和發展利益的“主權人工智能”，更需要具有推動構建基于人類命運共同體的“全球人工智能”的意識與行動。

半月談記者：您覺得普通人應如何迎接人工智能時代？

劉偉：隨著人工智能的發展，某些工作崗位可能會被自動化取代，所以不斷學習和提升自己的技能變得尤為重要，AI在大量重復性、機械化的工作中表現出色，但在涉及創造性思維、情感交流和問題解決方面仍有限制，因此，重要的是培養自己的合作能力和創造力，發展與人工智能協作的能力。

人工智能的應用需要運用各種科技工具和數據分析技能，人們可以學習如何使用各種科技工具，以及如何進行數據處理和分析，從而更好地與人工智能共同工作。同時，隨著人工智能的不斷發展，工作環境和需求也會發生變化。因此，普通人需要保持靈活性和適應性，積極適應新的工作方式和技術變革。

雖然人工智能在某些方面表現出色，但在涉及情感交流、人文關懷和倫理決策等領域仍有不少局限性，因此，我們可以培養一些情感技能和人文關懷，發展與人工智能進行人性化交互的能力。

朱榮生：大家應當理性看待人工智能技術應用對社會發展產生的影響。盡管科技界和產業界對能夠睥睨人類智能水平的人工智能最終走入大眾視野存在樂觀預期，但是當前的人工智能技術還沒有表現出引發社會結構顛覆性變化的效果。從ChatGPT到Sora，人工智能所發揮的主要賦能作用是提高用戶的工作效率，而沒有達到“大量機器取代人類就業”的變革程度。與其對不確定性的未來抱有焦慮情緒，不如理性看待AI的發展及其影響。

當然，忽視AI技術失序發展可能產生的風險是不負責任的。如果人工智能技術依然延續當前通過不斷疊加算力的“暴力計算”方式來提高能力，并且最終實現超越人類的“智能外溢”，那么放縱人工智能技術無限度發展的潛在風險將會加大。（半月談記者 宋晨 梁姊）