人工智能的突破帶來了前所未有的機遇，但也帶來了經(jīng)濟、政治和社會的顛覆。專家表示，人工智能需要監(jiān)督，以確保其帶來的變化是更好的。

要點：

• 2022年，隨著OpenAI開發(fā)的生成式人工智能聊天機器人ChatGPT的發(fā)布，人工智能(AI)實現(xiàn)了代溝式的飛躍。
• 私營公司控制著美國大部分的人工智能開發(fā)。專家表示，這項技術(shù)將需要新的規(guī)則來最大限度地發(fā)揮其潛力，避免嚴重風(fēng)險。
• 人工智能在國際上的日益普及可能會重塑全球力量平衡，并可能帶來嚴重的地緣政治后果。

簡介

人工智能(AI)已存在數(shù)十年，但新的進步使該技術(shù)脫穎而出。專家表示，其的崛起可能會反映以前的技術(shù)革命，為全球經(jīng)濟增加價值數(shù)十億美元的生產(chǎn)力，同時也帶來了一系列新的風(fēng)險，可能會顛覆全球地緣政治秩序和社會本身的性質(zhì)。

管理這些風(fēng)險至關(guān)重要，隨著美國、歐盟(EU)等主要大國在監(jiān)管這項技術(shù)方面采取越來越不同的方法，關(guān)于人工智能治理的全球辯論正在激烈進行。與此同時，人工智能的開發(fā)和部署繼續(xù)以指數(shù)速度進行。

人工智能是如何定義的？

雖然沒有單一的定義，但“人工智能”通常是指計算機執(zhí)行傳統(tǒng)上與人類能力相關(guān)的任務(wù)的能力。這個詞的起源可以追溯到20世紀(jì)50年代，斯坦福大學(xué)計算機科學(xué)家John

McCarthy使用“人工智能”一詞來描述“制造智能機器的科學(xué)和工程”。對McCarthy而言，智力的標(biāo)準(zhǔn)是在不斷變化的環(huán)境中解決問題的能力。

自2022年以來，所謂的生成式人工智能工具的公開使用提高了該技術(shù)的知名度，如聊天機器人ChatGPT。生成式人工智能模型從大量訓(xùn)練數(shù)據(jù)中提取數(shù)據(jù)，根據(jù)特定提示生成統(tǒng)計上可能的結(jié)果。由此類模型支持的工具可生成類似人類的文本、圖像、音頻和其他內(nèi)容。

人工智能的另一種常用形式是通用人工智能(AGI)，或“強”人工智能，指的是能夠像人類一樣學(xué)習(xí)和應(yīng)用知識的系統(tǒng)。然而，這些系統(tǒng)尚不存在，專家們對它們究竟需要什么意見不一。

人工智能是如何發(fā)展的？

研究人員研究人工智能已有八十年歷史，數(shù)學(xué)家Alan Turing和John von Neumann被認為是該學(xué)科的創(chuàng)始人之一。自從教授基本計算機二進制代碼以來的數(shù)十年里，軟件企業(yè)已經(jīng)使用人工智能來為下棋計算機和在線語言翻譯器等工具提供支持。

在人工智能投資最多的國家，發(fā)展歷來依賴公共資金。在許多國家，人工智能研究主要由政府資助，而美國數(shù)十年來依靠國防高級研究計劃局(DARPA)和其他聯(lián)邦機構(gòu)。近年來，美國人工智能的發(fā)展很大程度上轉(zhuǎn)向了私營部門，私營部門為此投入了數(shù)千億美元。

2022年，美國總統(tǒng)拜登簽署了《芯片和科學(xué)法案》，該法案將美國政府的支出重新集中在技術(shù)研發(fā)上。該法案將2800億美元的聯(lián)邦支出用于半導(dǎo)體，這是一種能夠支持人工智能所需的大規(guī)模處理和數(shù)據(jù)存儲能力的先進硬件。2023年1月，ChatGPT成為有史以來增長最快的消費者應(yīng)用。

Eurasia Group總裁Ian Bremmer和Inflection AI首席執(zhí)行官Mustafa Suleyman在《外交事務(wù)》雜志上寫道，人工智能的到來“標(biāo)志著一個大爆炸時刻，一場改變世界的技術(shù)革命的開始，這場革命將重塑政治、經(jīng)濟和社會?！?/p>

人工智能會對全球經(jīng)濟產(chǎn)生什么影響？

世界各地的企業(yè)和組織已經(jīng)將人工智能工具應(yīng)用到其產(chǎn)品中。Tesla等無人駕駛汽車制造商多年來一直在使用人工智能，依賴算法模型進行某些交易操作的投資銀行，以及使用算法投放定向廣告的技術(shù)企業(yè)也是如此。但在ChatGPT出現(xiàn)后，即使是不太注重技術(shù)的企業(yè)也開始轉(zhuǎn)向生成式人工智能工具來實現(xiàn)客戶服務(wù)等系統(tǒng)的自動化。在McKinsey于2023年4月進行的一項調(diào)查中，全球三分之一的企業(yè)聲稱正在以某種方式使用人工智能。

人工智能的廣泛應(yīng)用可以加速全面的技術(shù)創(chuàng)新。半導(dǎo)體產(chǎn)業(yè)已經(jīng)蓬勃發(fā)展；在全球?qū)Π雽?dǎo)體需求飆升的情況下，生產(chǎn)大部分人工智能芯片的Nvidia的股價在2023年增長了兩倍多，總估值超過1萬億美元。

許多專家預(yù)計，隨著人工智能行業(yè)的發(fā)展，全球經(jīng)濟將受益匪淺，預(yù)計未來十年全球國內(nèi)生產(chǎn)總值(GDP)每年將增加7萬億美元。

人工智能會取代人類的工作嗎?

與歷史上許多其他大規(guī)模技術(shù)變革一樣，人工智能可能導(dǎo)致生產(chǎn)力提高和失業(yè)之間的權(quán)衡。但與之前的突破不同，這些突破主要消除了低技能的工作，生成式人工智能可能會使白領(lǐng)工作面臨風(fēng)險，并且可能比以往任何時候都更快地取代許多行業(yè)的工作。經(jīng)濟合作與發(fā)展組織(OECD)稱，全球四分之一的工作崗位極有可能被人工智能自動化取代。Pew Research Center的一項研究發(fā)現(xiàn)，這些工作往往依賴于生成式人工智能能夠以與人類工人類似的質(zhì)量水平完成的任務(wù)，比如信息收集和數(shù)據(jù)分析?！案叨缺┞丁北蝗斯ぶ悄苋〈墓ぷ魅藛T包括會計師、網(wǎng)絡(luò)開發(fā)人員、營銷專業(yè)人員和技術(shù)作家。

經(jīng)合組織(OECD)表示，生成式人工智能的興起也引發(fā)了人們對不平等的擔(dān)憂，因為技術(shù)含量最高的工作似乎是最安全的，不會受到與該技術(shù)相關(guān)的干擾。但其他分析表明，低技能工人可以通過利用人工智能工具提高生產(chǎn)力而受益：麻省理工學(xué)院(MIT)和斯坦福大學(xué)的研究人員在2023年進行的一項研究發(fā)現(xiàn)，在兩組人員開始使用人工智能后，經(jīng)驗不足的呼叫中心操作員的工作效率提高了一倍。

人工智能將如何影響氣候變化？

人工智能與環(huán)境的關(guān)系既預(yù)示著危險，也預(yù)示著希望。雖然一些專家認為，生成式人工智能可以促進應(yīng)對氣候變化的突破，但也有人對這項技術(shù)的巨大碳足跡提出了警告。其巨大的處理能力需要能源密集型的數(shù)據(jù)中心；這些系統(tǒng)已經(jīng)產(chǎn)生了相當(dāng)于航空業(yè)的溫室氣體排放量，而且人工智能的能源消耗只會隨著未來的進步而增加。

人工智能倡導(dǎo)者認為，開發(fā)商可以使用可再生能源來減少部分排放。Apple、Google和Meta等科技企業(yè)使用自產(chǎn)的可再生能源運行數(shù)據(jù)中心，并且還購買所謂的碳信用額來抵消排放避免任何依賴化石燃料的能源使用。

人們還希望人工智能可以通過加強對可再生能源的研究，和使用先進的數(shù)據(jù)分析來優(yōu)化能源效率，從而幫助減少其他行業(yè)的排放。此外，人工智能還可以改善氣候適應(yīng)措施。例如，莫桑比克的科學(xué)家正在利用這項技術(shù)更好地預(yù)測洪水模式，加強對即將發(fā)生的災(zāi)害的預(yù)警系統(tǒng)。

人工智能與國家安全有什么關(guān)系？

許多專家認為，人工智能的發(fā)展是美國和中國之間爭奪技術(shù)主導(dǎo)地位的斗爭。他們認為，這場競爭的獲勝者將獲得經(jīng)濟和地緣政治優(yōu)勢。到目前為止，美國的政策制定者似乎都是在這個框架下運作的。2022年，拜登以國家安全為由，禁止向中國出口最強大的半導(dǎo)體，并鼓勵美國盟友也這樣做。一年后，拜登提議徹底禁止美國對中國人工智能領(lǐng)域的多項投資，商務(wù)部宣布了一系列新的限制措施，旨在遏制中國“人工智能的突破”。大多數(shù)專家認為，迄今為止，美國在人工智能發(fā)展方面已經(jīng)超過了中國，但中國將很快縮小差距。

人工智能還可能對美國國家安全產(chǎn)生更直接的影響：美國國防部預(yù)計，這項技術(shù)將通過增強自主武器權(quán)力和改善戰(zhàn)略分析，改變“戰(zhàn)爭的本質(zhì)”。一些專家已經(jīng)推動禁止自主致命武器。在烏克蘭與俄羅斯的戰(zhàn)爭中，基輔正在部署自主操作的人工智能無人機，這是首次在一場重大沖突中使用這種技術(shù)。交戰(zhàn)各方也可能很快依賴人工智能系統(tǒng)來加速戰(zhàn)場決策或自動攻擊敵方基礎(chǔ)設(shè)施。一些專家擔(dān)心這些能力可能會增加使用核武器的可能性。

此外，人工智能可能會加劇虛假信息和宣傳的雙重威脅，隨著世界即將迎來比以往任何時候都多的人投票的一年，這一問題變得尤為重要：70多個國家(占全球人口的一半)將在2024年舉行全國選舉。生成式人工智能工具正在使深度造假變得更容易，而且這項技術(shù)已經(jīng)出現(xiàn)在全球各地的競選活動中。專家們還指出，不良行為者可能會利用人工智能創(chuàng)建復(fù)雜的網(wǎng)絡(luò)釣魚嘗試，這些釣魚嘗試是根據(jù)目標(biāo)的利益量身定制的，以獲取對選舉系統(tǒng)的訪問權(quán)限。從歷史上看，網(wǎng)絡(luò)釣魚一直是潛在選舉黑客進入這些系統(tǒng)的一種方式。據(jù)美國司法部稱，俄羅斯曾使用該方法干預(yù)2016年美國大選。

通用人工智能（AGI）會存在嗎？

一些專家表示，稱人工智能為“智能”尚不準(zhǔn)確，因為其不涉及人類水平的推理。專家認為，其并沒有創(chuàng)造新的知識，而是將現(xiàn)有的信息聚合起來，并以一種易于理解的方式呈現(xiàn)出來。

但這種情況可能會改變。ChatGPT背后的OpenAI是一家非營利組織，致力于確保AGI造?！罢麄€人類”，其聯(lián)合創(chuàng)始人Sam Altman表示停止AGI的發(fā)展是“不可能或不可取的”；2023年，Google DeepMind首席執(zhí)行官Demis Hassabis表示AGI可能會在五年內(nèi)到來。包括CFR高級研究員Sebastian Mallaby在內(nèi)的一些專家認為，人工智能在某些任務(wù)上已經(jīng)超越了人類的智能水平。2020年，DeepMind利用人工智能解決了蛋白質(zhì)折疊問題，這在當(dāng)時被廣泛認為是最復(fù)雜、未解之謎之一。

人工智能會導(dǎo)致人類滅絕嗎？

許多人工智能專家似乎都這么認為。2023年5月，數(shù)百名人工智能領(lǐng)導(dǎo)者，包括Anthropic、Google DeepMind和OpenAI的首席執(zhí)行官，簽署了一封簡短的信，其中寫道：“減輕人工智能帶來的滅絕風(fēng)險，應(yīng)該與流行病和核戰(zhàn)爭等其他社會規(guī)模的風(fēng)險一樣，成為全球的優(yōu)先事項?！?/p>

關(guān)于滅絕如何發(fā)生的一個流行理論假設(shè)，優(yōu)化某項任務(wù)的指令可能會導(dǎo)致超級智能人工智能通過轉(zhuǎn)移人類生存所需的資源來實現(xiàn)其目標(biāo)。例如，負責(zé)減少海洋中有害藻類數(shù)量的人工智能，可能會吸收大氣中的氧氣，導(dǎo)致人類窒息。雖然許多人工智能研究人員認為這一理論是危言聳聽，但其他人表示，這個例子準(zhǔn)確地說明了強大的人工智能系統(tǒng)在執(zhí)行其指令的過程中，可能造成巨大的、無意的傷害的風(fēng)險。

這場辯論的懷疑論者認為，關(guān)注如此遙遠的存在風(fēng)險會混淆更直接的威脅，例如獨裁監(jiān)視或有偏見的數(shù)據(jù)集。世界各地的政府和企業(yè)都在擴展面部識別技術(shù)，一些分析人士擔(dān)心，北京方面正在利用人工智能加強鎮(zhèn)壓。當(dāng)人工智能訓(xùn)練數(shù)據(jù)包含過多或過少的元素時，就會出現(xiàn)另一個風(fēng)險。根據(jù)此類數(shù)據(jù)訓(xùn)練的工具可能會產(chǎn)生偏差的結(jié)果。這可能會加劇對邊緣群體的歧視，例如當(dāng)人工智能驅(qū)動的租戶篩選算法根據(jù)有偏見的數(shù)據(jù)進行訓(xùn)練時，會不成比例地拒絕向有色人種提供住房。生成式人工智能工具還可以促進混亂的公共話語——“幻覺”聊天機器人將虛假信息呈現(xiàn)為真實的信息，或者用可疑的人工智能生成的結(jié)果污染搜索引擎。

政府在人工智能方面做了什么？

幾乎所有政策制定者、民間社會領(lǐng)袖、學(xué)者、獨立專家和行業(yè)領(lǐng)袖都同意應(yīng)該治理人工智能，但對于如何治理，卻意見不一。在國際上，各國政府正在采取不同的方法。

美國在2023年加強了對人工智能的管理。拜登政府繼其2022年的《人工智能權(quán)利法案》之后，宣布了一項承諾十五家領(lǐng)先技術(shù)企業(yè)自愿采用人工智能安全共同標(biāo)準(zhǔn)[PDF]，包括提供其前沿模型供政府審查。2023年10月，拜登發(fā)布了一項內(nèi)容廣泛的行政命令，旨在為整個行政部門安全使用人工智能制定統(tǒng)一的框架。一個月后，兩黨參議員小組提出了管理這項技術(shù)的立法。

歐盟立法者正在推進立法，引入透明度要求，并限制人工智能用于監(jiān)控目的。然而，一些歐盟領(lǐng)導(dǎo)人對該法律可能阻礙歐洲創(chuàng)新表示擔(dān)憂，并對如何執(zhí)行該法律提出疑問。

一些政府已尋求在國際層面上合作監(jiān)管人工智能。在2023年5月的七國集團(G7)峰會上，該集團啟動了所謂的廣島進程，以制定人工智能治理的共同標(biāo)準(zhǔn)。2023年10月，聯(lián)合國成立了人工智能咨詢委員會，其中包括美國和中國代表，以協(xié)調(diào)全球人工智能治理。接下來的一個月，28個國家的政府參加了在英國舉行的首屆人工智能安全峰會。包括美國和中國特使在內(nèi)的代表簽署了一份聯(lián)合聲明，警告人工智能可能造成“災(zāi)難性”傷害，并決心共同努力“確保以人為本、值得信賴和負責(zé)任的人工智能”。中國還宣布了自己在“一帶一路”倡議國家的人工智能全球治理努力。

人工智能治理應(yīng)該是什么樣子？

CFR高級研究員Kat Duffy表示，人工智能的復(fù)雜性使得這項技術(shù)不太可能受任何一套原則的約束。提案涵蓋了從全面自我監(jiān)管，到各種類型的公共政策護欄等多種潛在監(jiān)督級別的政策選擇。

一些分析人士承認，人工智能的風(fēng)險會帶來不穩(wěn)定的后果，但其認為這項技術(shù)的發(fā)展應(yīng)該繼續(xù)進行。其表示，監(jiān)管機構(gòu)應(yīng)該對計算能力或計算能力加以限制，因為在過去十年中，計算機的計算能力增長了50億倍，允許模型在響應(yīng)人類提示時整合更多的訓(xùn)練數(shù)據(jù)。其他人則表示，治理應(yīng)該關(guān)注眼前的問題，比如提高公眾對人工智能的認識，創(chuàng)建道德的人工智能系統(tǒng)，包括防止歧視、錯誤信息和監(jiān)視。

一些專家呼吁限制開源模型，這可能會增加對技術(shù)的訪問，包括不良行為者。許多國家安全專家和領(lǐng)先的人工智能企業(yè)都支持這樣的規(guī)定。然而，一些觀察人士警告稱，廣泛的限制可能會導(dǎo)致最大的人工智能企業(yè)在成本高昂的行業(yè)中鞏固自己的實力，從而減少競爭和創(chuàng)新。與此同時，還有建議建立一個全球框架來管理人工智能的軍事用途;其中一種方法將效仿管理核技術(shù)的國際原子能機構(gòu)。

人工智能的下一步是什么？

中美關(guān)系對人工智能治理的影響很大：隨著北京追求一項旨在到2030年使中國成為“人工智能理論、技術(shù)和應(yīng)用”的全球領(lǐng)導(dǎo)者的國家戰(zhàn)略，華盛頓的政策制定者正在努力為人工智能發(fā)展設(shè)置護欄，同時又不損害美國的技術(shù)優(yōu)勢。

與此同時，人工智能技術(shù)正在快速發(fā)展。自2012年以來，計算能力每3、4個月翻一番，人工智能科學(xué)家預(yù)計，到2025年，模型的計算量將增加一百倍。

在缺乏強有力的全球治理的情況下，控制人工智能發(fā)展的企業(yè)正在行使通常只屬于民族國家的權(quán)力，開創(chuàng)了一個技術(shù)極世界秩序。這些企業(yè)已經(jīng)成為“自己的地緣政治參與者”，因此需要參與任何全球規(guī)則的設(shè)計。

人工智能的變革潛力意味著風(fēng)險很高。如果有適當(dāng)?shù)谋Ｕ洗胧斯ぶ悄芟到y(tǒng)可以促進科學(xué)發(fā)現(xiàn)，治愈致命疾病，抵御氣候變化的最壞影響，并開創(chuàng)一個全球經(jīng)濟繁榮的時代。