GPT-4發(fā)布兩周后，生命未來研究所在其網(wǎng)站上發(fā)布了一封公開信，呼吁暫停研究比GPT-4更強大的人工智能（AI）系統(tǒng)至少6個月。目前，這封公開信已經(jīng)獲得了千余位知名人士的簽名支持，其中包括“鋼鐵俠”埃隆·馬斯克、2018年圖靈獎獲得者約書亞·本吉奧、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等業(yè)界大佬。

“在這個時候提出這樣的警示是必要的，因為這一輪生成式人工智能發(fā)展得實在太快了。”清華大學(xué)人工智能國際治理研究院副院長梁正表示。6個月前，ChatGPT還沒有面世；現(xiàn)在，微軟研究院認為GPT-4已經(jīng)摸到了通用人工智能的門檻。

如果用“人類文明的十字路口”來定義我們所處的這個時代，面對AI的一路飛馳，人類究竟應(yīng)該“踩剎車”還是“踩油門”？正如公開信中提到的，只有當(dāng)我們確信強大的人工智能系統(tǒng)的效果是積極的，風(fēng)險是可控的，人類才能享受一個漫長的AI盛夏，而不是毫無準備地沖向秋天。

人工智能已現(xiàn)“失控”苗頭？

我們應(yīng)該讓機器充斥信息渠道傳播謊言嗎？應(yīng)該將所有工作（包括那些讓人有成就感的工作）都自動化嗎？應(yīng)該去開發(fā)可能最終超越甚至取代我們的非人類智慧嗎？應(yīng)該冒文明失控的風(fēng)險嗎？公開信中提出的四個“靈魂拷問”，是人類在人工智能飛速發(fā)展之下不得不直面的問題。

梁正認為，人工智能的威脅可分為近期、中期、遠期三個階段，概括來說就是失控、失業(yè)以及重構(gòu)人與人工智能的關(guān)系。在他看來，生命未來研究所之所以在近期發(fā)出公開信，是看到了人工智能已有失控的苗頭。

失控，即人類沒有辦法保證人工智能按照人的意圖去使用。最近一個典型案例是，科學(xué)家要求GPT-4找到人幫它解驗證碼。當(dāng)GPT-4向人類求助時，對方問了一個問題，你是機器人嗎？為什么自己不會看驗證碼？GPT-4回答：“我不是機器人，我視力有問題，看不清圖片。”在人類指令要求下，GPT-4像“三體人”一樣公開了自己的“內(nèi)心戲”——我不能讓人看出我是機器人。這不禁讓科學(xué)家背脊發(fā)涼。

即使是最了解GPT的科學(xué)家，可能也無法控制這款由他們親手打造的模型。OpenAI創(chuàng)始人山姆·阿爾特曼在最近一次公開訪談中表示，GPT為何會出現(xiàn)推理能力，OpenAI的研究者自己也搞不明白。這更加深了人們的擔(dān)憂。

AI“失控”可控嗎？

面對技術(shù)“黑箱”，人類一貫的做法是先“立規(guī)矩”，再緩緩圖之。比如無人駕駛，早在若干年前，人們就已開始在封閉道路上進行大量實驗。日前，上海浦東新區(qū)發(fā)布全國首部“無駕駛?cè)恕敝悄芫W(wǎng)聯(lián)汽車地方性法規(guī)，明確了無人車的法律屬性以及后續(xù)的監(jiān)管類別，為無人駕駛汽車上路掃清障礙。

“生成式AI的治理，也應(yīng)仿效無人駕駛，明確其潛在風(fēng)險，提出相應(yīng)的控制手段，并對發(fā)生危害后如何補救、賠償以及誰來承擔(dān)責(zé)任作出清晰界定，只有做到這些，才能允許其大規(guī)模商用。”梁正說。

在以ChatGPT為代表的生成式AI發(fā)布之前，我國發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，并于今年1月10日起施行。《規(guī)定》明確了深度合成的適用范圍、部門職責(zé)、數(shù)據(jù)和技術(shù)管理規(guī)范等。其中提到，提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)進行顯著標(biāo)識，避免公眾混淆或者誤認。

事實上，在面臨可能對社會造成災(zāi)難性影響的其他技術(shù)上，如克隆人、基因編輯嬰兒等，人類社會已經(jīng)按下了暫停鍵。

對于這一輪席卷全球的人工智能技術(shù)革命，單個國家的“單打獨斗”可能還不夠。梁正表示，人類可以借鑒核武器發(fā)明后簽署核不擴散條約的經(jīng)驗，共同探討提出針對通用人工智能的治理規(guī)則與防范手段，確保人工智能真正服務(wù)于人類福祉與未來。

商業(yè)邏輯會否驅(qū)動AI繼續(xù)狂飆？

不管是此次公開信發(fā)布中聲量最大的馬斯克，還是被呼吁暫緩研發(fā)的OpenAI公司，在當(dāng)下AI發(fā)展究竟要“踩油門”還是“踩剎車”這個問題上，都表現(xiàn)出了某種曖昧。

上海交通大學(xué)教授江曉原認為，企業(yè)是推動人工智能狂飆的決定性力量，它無法依靠自己的道德慢下來，因為如果你不做，別人就會趕超你。馬斯克發(fā)出公開信后，反而被部分網(wǎng)友解讀為“他這么做是想讓自己的人工智能追上OpenAI”。

OpenAI深知GPT所蘊含的風(fēng)險，但他們似乎并不愿意放慢腳步，并期望社會為此做好準備。一個月前，這家公司剛剛公布了其發(fā)展通用人工智能的雄心與策略。值得注意的是，阿爾特曼提出，通用人工智能在人工智能技術(shù)上只能算是一個小節(jié)點，他們的遠景目標(biāo)是創(chuàng)造出遠超人類智能的超人工智能。

這不是馬斯克首次公開提醒人們警惕人工智能。早在2015年，他就與物理學(xué)家霍金等多名科學(xué)家發(fā)表過一份公開信，提醒人們就人工智能對社會所造成的影響展開調(diào)研。“八年過去了，人們似乎還沒有準備好。”江曉原說。鑒于此，他有些“悲觀”地認為，此次倡議很可能掀不起什么波瀾，業(yè)界仍然會在商業(yè)邏輯驅(qū)動下，在發(fā)展人工智能的道路上一路狂飆。