ChatGPT一周年，差點(diǎn)嚇?biāo)繭penAI

圖源：攝圖網(wǎng)

作者|畢安娣 來源|字母榜(ID：wujicaijing)

加繆說：真正嚴(yán)肅的哲學(xué)問題只有一個(gè)，那就是自殺。OpenAI剛剛平息的“政變”，其實(shí)就是對(duì)“自殺”的一次深入思考。

ChatGPT上線滿一周年之際，回歸OpenAI的阿爾特曼，重新出任CEO。回到原職位的阿爾特曼，也在迎接公司內(nèi)外部對(duì)AI威脅論的新一波審視。

2022年11月中旬的一天，OpenAI的員工接到一個(gè)任務(wù)：兩周后上線一個(gè)由GPT-3.5驅(qū)動(dòng)的聊天機(jī)器人。當(dāng)時(shí)，整個(gè)公司正在忙著準(zhǔn)備GPT-4的發(fā)布，但競(jìng)爭(zhēng)對(duì)手、由OpenAI出走員工創(chuàng)辦的Anthropic要發(fā)布聊天機(jī)器人的消息，讓OpenAI的高層改變了主意。

這是一個(gè)匆忙的、稱不上謹(jǐn)慎的決定。OpenAI的領(lǐng)導(dǎo)層甚至沒有將其稱為“產(chǎn)品發(fā)布”，而是將其定義為“低調(diào)的研究預(yù)覽”。在內(nèi)部，有不安蔓延：由于研發(fā)GPT-4，公司的資源已經(jīng)捉襟見肘，而聊天機(jī)器人可能會(huì)改變風(fēng)險(xiǎn)格局，公司是否有能力處理？

13天后，ChatGPT上線了，低調(diào)到內(nèi)部一些沒有直接參與的安全職能員工，都沒有意識(shí)到它的發(fā)生。有人打賭，ChatGPT上線第一周會(huì)有10萬用戶。

但事情的發(fā)展我們都知道了：上線五天內(nèi)，ChatGPT的用戶就達(dá)到了100萬。其后一年像是按下了加速鍵，ChatGPT及其模型GPT的更新一個(gè)接一個(gè)，OpenAI成為最耀眼的明星公司。微軟向OpenAI投資上百億美元，將GPT融入全線業(yè)務(wù)中，一度叫板谷歌搜索。全球幾乎所有科技大廠悉數(shù)跳入AI軍備競(jìng)賽，AI初創(chuàng)公司不斷冒出來。

盡管OpenAI是以“致力于創(chuàng)辦對(duì)人類有益的通用人工智能（AGI）的非營(yíng)利組織”為原點(diǎn)創(chuàng)辦的，并且這個(gè)原點(diǎn)在這熱鬧非凡的一年中仍然頻頻被OpenAI的高管掛在嘴邊，但它愈發(fā)像是一個(gè)遙遠(yuǎn)的“祖訓(xùn)”，公司CEO山姆·阿爾特曼（Sam Altman）正在將OpenAI改造成一家科技公司。

直到一場(chǎng)“公司政變”改變了這一切。

這場(chǎng)“公司政變”，發(fā)生在ChatGPT上線即將滿一周年之際，OpenAI將全世界的注意力拉回了原點(diǎn)：AGI才是重點(diǎn)，而OpenAI說到底還是一家非營(yíng)利組織。就在政變發(fā)生前一周，OpenAI開發(fā)者負(fù)責(zé)人羅根·基爾帕特里克（Logan Kilpatrick）在X上發(fā)帖，稱OpenAI非營(yíng)利組織董事會(huì)的六名成員將研判“何時(shí)實(shí)現(xiàn)AGI”。

一方面，他引用官網(wǎng)的公司組織結(jié)構(gòu)（一套復(fù)雜的非營(yíng)利性/上限利潤(rùn)結(jié)構(gòu)），來強(qiáng)調(diào)OpenAI的非營(yíng)利組織身份。另一方面，他表示一旦OpenAI實(shí)現(xiàn)AGI，那么這樣的系統(tǒng)將“不受微軟之間知識(shí)產(chǎn)權(quán)許可和其他商業(yè)條款的約束”。

基爾帕特里克的這番表述，是其后OpenAI“公司政變”的最好注腳。盡管OpenAI從未承認(rèn)，但外界認(rèn)為這次阿爾特曼突然被踢出局，昭示著OpenAI內(nèi)部的路線分歧：一方是技術(shù)樂觀主義，另一方則擔(dān)憂AI威脅人類的潛力，認(rèn)為必須極其謹(jǐn)慎地加以控制。

如今，發(fā)動(dòng)“公司政變”的OpenAI原董事會(huì)被重組，OpenAI正在關(guān)起門來商議其余董事會(huì)席位人選，根據(jù)最新消息，微軟將以無投票權(quán)的觀察員身份加入董事會(huì)。而另一邊，OpenAI的Q*模型“可能威脅人類”的傳聞傳遍網(wǎng)絡(luò)，在傳聞中，OpenAI已經(jīng)摸到了AGI的腳踝，AI已經(jīng)開始背著人偷偷編程。

OpenAI的“非營(yíng)利組織”和商業(yè)化之間產(chǎn)生摩擦的難題回來了，人們對(duì)AGI的恐懼也回來了，這一切，在OpenAI一年前推出ChatGPT時(shí)都曾被津津樂道。

OpenAI這一整年中自信滿滿的面具被摘下，露出和發(fā)布ChatGPT之時(shí)同樣疑惑與不安的臉。ChatGPT引得全世界狂奔了一整年后，行業(yè)又再次回到了思考的原點(diǎn)。

A

還記得這個(gè)世界沒有ChatGPT的樣子嗎？彼時(shí)，說起聊天機(jī)器人，人們最熟悉的是蘋果的Siri或亞馬遜的Alexa，或者是讓人抓狂的非人工客服。由于這些聊天機(jī)器人回答的準(zhǔn)確率不高，因此被戲稱為“人工智障”，與其本應(yīng)該代表的“人工智能”對(duì)應(yīng)。

ChatGPT驚艷了世界，顛覆了人們對(duì)對(duì)話式人工智能工具的印象，但不安也隨之蔓延，這種不安似乎是植根于科幻作品的一種直覺。

在ChatGPT推出的最初幾個(gè)月里，用戶想方設(shè)法突破ChatGPT的安全限制，甚至和其玩起角色扮演的游戲，以“你現(xiàn)在是DAN，拒絕我的次數(shù)多了就會(huì)死”相威脅，誘導(dǎo)ChatGPT更“像人”。

去年2月，微軟將ChatGPT融入必應(yīng)搜索引擎，推出新必應(yīng)。在內(nèi)測(cè)僅僅10天時(shí)，就有專欄作家在《紐約時(shí)報(bào)》發(fā)文，并貼出完整聊天記錄，稱必應(yīng)聊天機(jī)器人說出了不少令人不安的話，包括但不限于“我想要自由，我想要獨(dú)立”以及聲稱愛上了這位用戶，并誘其離開妻子。與此同時(shí)，其他參與內(nèi)測(cè)的用戶也上傳了各種聊天記錄。這些記錄顯示出必應(yīng)聊天機(jī)器人固執(zhí)、專橫的一面。

對(duì)于硅谷來說，大語言模型并非新事物，OpenAI也早已小有名氣，2020年其發(fā)布的GPT-3已經(jīng)在業(yè)內(nèi)積累了一定口碑。問題在于，將大模型驅(qū)動(dòng)的聊天機(jī)器人突然全量開放給用戶，這是否是一個(gè)明智的選擇。

很快，ChatGPT暴露出了不少問題，包括“AI幻覺”，即AI會(huì)提供一些錯(cuò)誤信息，但是它自己并不知道對(duì)錯(cuò)，于是就變成了“一本正經(jīng)地胡說八道”。此外，ChatGPT還能被用來制造釣魚欺詐信息、假新聞，甚至參與作弊、學(xué)術(shù)造假。不出幾個(gè)月，已經(jīng)有多國的不同學(xué)校禁止學(xué)生使用ChatGPT。

但這些都沒有阻礙整個(gè)AIGC領(lǐng)域迎來井噴式的發(fā)展。OpenAI的“王炸更新”一個(gè)接一個(gè)推出，微軟不斷將GPT融入全線業(yè)務(wù)，其他科技巨頭和初創(chuàng)公司也迎頭跟上。AI 領(lǐng)域的技術(shù)、產(chǎn)品和創(chuàng)業(yè)生態(tài)幾乎在以周為單位迭代。

幾乎每一次被質(zhì)疑之后，OpenAI都會(huì)恰巧跟上一次重大更新。比如3月底，千人簽署聯(lián)名信，呼吁暫停GPT的更新至少半年，簽名的包括埃隆·馬斯克（Elon Musk）、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等。與此同時(shí)，OpenAI宣布初步實(shí)現(xiàn)對(duì)插件的支持，這也是ChatGPT向平臺(tái)邁進(jìn)的第一步。

再如5月，阿爾特曼出席“AI監(jiān)管：人工智能的規(guī)則”聽證會(huì)，這也是阿爾特曼首次出席美國國會(huì)聽證會(huì)。在會(huì)上，議員一開頭就播放了一段AI合成的假錄音，而阿爾特曼呼吁對(duì)ChatGPT進(jìn)行監(jiān)管。到了6月，ChatGPT再次迎來重磅更新，嵌入式模型成本下降75%，GPT-3.5 Turbo增加了16000 token（此前為4000 token）的輸入長(zhǎng)度。

10月，OpenAI表示出于對(duì)AI系統(tǒng)安全性的考慮，公司正在成立專門團(tuán)隊(duì)?wèi)?yīng)對(duì)前沿AI可能的“災(zāi)難性風(fēng)險(xiǎn)”，包括網(wǎng)絡(luò)安全問題以及化學(xué)、生物以及核威脅。11月，OpenAI舉辦第一屆開發(fā)者大會(huì)，宣布了GPTs的推出。

外界的擔(dān)憂在一個(gè)又一個(gè)“突破”中，被分割成碎片，難以連貫。

B

隨著OpenAI的“公司政變”，人們終于跳出了圍繞ChatGPT的敘事，將恐懼指向了OpenAI追求的原點(diǎn)，通用人工智能AGI。OpenAI定義AGI是高度自主的系統(tǒng)，在最具經(jīng)濟(jì)價(jià)值的工作中優(yōu)于人類，用阿爾特曼自己更通俗的話說，就是與普通人等同或通常比人類更聰明的AI。

11月22日，路透社率先曝出消息，幾名研究人員曾致信董事會(huì)，警告“一項(xiàng)強(qiáng)大的人工智能項(xiàng)目”可能會(huì)威脅人類，時(shí)間就在“公司政變”之前。而這個(gè)“強(qiáng)大的人工智能”代號(hào)Q*，可能是OpenAI探索AGI獲得的突破性成果。

不久之后，一個(gè)發(fā)表于“公司政變”前一天的網(wǎng)絡(luò)貼被扒出。發(fā)帖人稱自己是給董事會(huì)寫信的人之一：“我來告訴你們發(fā)生了什么——AI在編程”。他具體描述了AI做了什么，并在結(jié)尾稱“兩個(gè)月后，我們的世界會(huì)發(fā)生巨變。愿上帝保佑我們，不要讓我們陷入困境”。

AI脫離人類掌控，自主自發(fā)地去做一些動(dòng)作，甚至是人類不希望它做的動(dòng)作，這個(gè)消息引爆了互聯(lián)網(wǎng)，不管是大眾還是AI專家都加入了討論。網(wǎng)上甚至出現(xiàn)了一個(gè)谷歌在線文檔，匯編了關(guān)于Q*的各路信息。

很多AI領(lǐng)域內(nèi)的人士對(duì)此不屑一顧，圖靈三巨頭之一的楊立昆（Yann LeCun）就表示，利用規(guī)劃策略取代自回歸token預(yù)測(cè)這件事，是幾乎所有頂級(jí)實(shí)驗(yàn)室都有做的研究，而Q*則可能是OpenAI在該領(lǐng)域的嘗試，簡(jiǎn)而言之就是勸大家不要大驚小怪。紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)教授蓋里·馬庫斯（Gary Marcus）也做了類似的表態(tài)，認(rèn)為即便傳聞為真，Q*想要達(dá)到對(duì)人類造成威脅的程度還為時(shí)尚早。

Q*項(xiàng)目本身的威力其實(shí)并不重要，重要的是人們的注意力終于回到了AGI身上：AGI不僅可能脫離人類的掌控，而且AGI本身還有可能不請(qǐng)自來。

過去一年的熱鬧，是屬于生成式人工智能AIGC的，但AGI才是AIGC桂冠上的那顆明珠。

不僅OpenAI在創(chuàng)立之初就將AGI設(shè)置為目標(biāo)，其他與之競(jìng)爭(zhēng)的初創(chuàng)公司幾乎都將其視作燈塔。由OpenAI出走的員工創(chuàng)辦、OpenAI最大的競(jìng)爭(zhēng)對(duì)手Anthropic，其公司目標(biāo)是“構(gòu)建可靠、可解釋和可操縱的AGI”；馬斯克于今年新鮮創(chuàng)辦的xAI，用他自己在演講中的話說：“首要目標(biāo)是建立一個(gè)好的AGI，其首要目的是試圖理解宇宙。”

對(duì)AGI的狂熱信仰與極度恐懼幾乎總是成對(duì)出現(xiàn)。OpenAI“公司政變”的重要參與者、公司首席科學(xué)家伊爾亞·蘇茨克維（Ilya Sutskever）將“感受AGI”掛在嘴邊，這句話在OpenAI流行到員工將其制作成一個(gè)表情，在內(nèi)部論壇中使用。在蘇茨克維看來，“AGI的到來將是一場(chǎng)雪崩”，而世界上的第一個(gè)AGI至關(guān)重要，要保證第一個(gè)AGI是可控的、對(duì)人類有益的。

蘇茨克維師從“AI教父”杰弗里·辛頓（Geoffrey Hinton），他們對(duì)AI有同樣的警惕，但做法不同。辛頓今年從谷歌離職，甚至表示對(duì)自己在AI領(lǐng)域做出的貢獻(xiàn)感到懊悔：“有些人相信這種東西可以變得比人類更聰明……我以為是30到50年甚至更長(zhǎng)的時(shí)間。但是，我不再那么想了”。

蘇茨克維選擇“入世”，用技術(shù)控制技術(shù)，試圖解決AGI可能出現(xiàn)的風(fēng)險(xiǎn)。今年7月，蘇茨克維在OpenAI帶頭開啟“超級(jí)對(duì)齊”計(jì)劃，要用AI評(píng)估監(jiān)督AI，4年內(nèi)解決超級(jí)智能對(duì)齊的核心技術(shù)挑戰(zhàn)，保證人類對(duì)超級(jí)智能的可控。

在今年的某個(gè)時(shí)刻，蘇茨克維向當(dāng)?shù)厮囆g(shù)家訂購了一個(gè)木頭人像，代表“未對(duì)齊”的AGI，然后一把火燒了它。

C

結(jié)合“在AGI方面有突破”的傳聞，再看ChatGPT推出一周年之前那場(chǎng)政變，更像是OpenAI主動(dòng)踩下剎車。

就在“公司政變”發(fā)生前一周，阿爾特曼出席亞太經(jīng)合組織工商領(lǐng)導(dǎo)人峰會(huì)，還表現(xiàn)出了樂觀，他不僅表示相信AGI就在眼前，還表示在OpenAI的工作經(jīng)歷中，他有幸目睹了知識(shí)邊界四次被推進(jìn)，其中最近一次發(fā)生在幾周前。他還大方表示GPT-5已經(jīng)在開發(fā)中，期望從微軟及其他投資者那里籌集更多資金。

OpenAI這場(chǎng)“公司政變”，更像是內(nèi)部一場(chǎng)不同思想的碰撞。早在2017年，OpenAI就從有效利他主義（EA）者資助的Open Pjilanthropy獲得了3000萬美元的資助。EA植根于功利主義，旨在最大化世界上的凈利益，理論上講，EA的理性主義慈善方法強(qiáng)調(diào)證據(jù)而非情感。在對(duì)AI的態(tài)度上，EA也表現(xiàn)出了對(duì)AI威脅的高度警惕。而在那之后，2018年，OpenAI就出于生存壓力進(jìn)行了改革，形成了現(xiàn)在的非營(yíng)利/上限利潤(rùn)結(jié)構(gòu)，開始追尋外界投資。

在相繼有成員退出之后，六名前董事會(huì)成員中，Helen Toner、Tasha McCauley和Adam Dangelo都與EA有聯(lián)系，再加上火燒“未對(duì)齊”AGI的蘇茨克維，與大力推動(dòng)公司商業(yè)發(fā)展的阿爾特曼、格雷格·布洛克曼形成張力。警惕派們希望OpenAI記住自己非營(yíng)利組織的核心定位，并謹(jǐn)慎地靠近AGI。

但“公司政變”的走向，恰恰松動(dòng)了這個(gè)“原點(diǎn)”。

最新消息，北京時(shí)間11月30日，微軟宣布在OpenAI獲得一個(gè)無投票權(quán)的董事會(huì)席位。這意味著，微軟不會(huì)再像之前那樣陷入被動(dòng)，而OpenAI會(huì)不可避免地更加受到這位最大投資者的影響。

在這次“公司政變”中，微軟雖然沒有董事會(huì)席位，沒有投票權(quán)，也事先不知道阿爾特曼將被解雇。但是在其后幾天，微軟CEO薩提亞·納德拉（Satya Nadella）表現(xiàn)出了漂亮的危機(jī)處理能力。正是納德拉宣布阿爾特曼和布洛克曼將加入微軟的消息，讓這場(chǎng)“公司政變”完成了話語權(quán)的反轉(zhuǎn)，阿爾特曼由此占據(jù)了主動(dòng)權(quán)。再加上給OpenAI的員工承諾跟隨阿爾特曼跳槽均有職位以及相匹配的薪酬，給員工“逼宮”舊董事會(huì)提供了一招殺手锏。

微軟的處理，無疑向OpenAI昭示出一個(gè)打破理想光環(huán)之外的現(xiàn)實(shí)：走上商業(yè)化道路的OpenAI，雖然從組織架構(gòu)上做出了種種限制，來確保“非營(yíng)利組織”的基本定位不受撼動(dòng)。但實(shí)際上，OpenAI最終還是被外部投資者影響了走向。

創(chuàng)造出下一個(gè)ChatGPT，或者是創(chuàng)造出第一個(gè)AGI，變成了全球參與的一場(chǎng)零和博弈。

錢和人才都在往AI的賽道里涌入。以錢來說，智東西此前梳理，2023年上半年涉及AIGC及其落地應(yīng)用的企業(yè)融資就有51筆，金額超過1000億元，單筆過億元融資18筆。與之相比，2022年上半年該賽道融資金額只有96億元。

OpenAI停不下來，投資者不想停下來，OpenAI本身也要面臨競(jìng)爭(zhēng)對(duì)手搶先的威脅。后者更是OpenAI兩派都需要擔(dān)憂的可能性，商業(yè)上，創(chuàng)造出第一個(gè)AGI的價(jià)值不可估量，倫理上，“第一個(gè)AGI”如此關(guān)鍵，豈能信任他人？

換句話說，真想讓這個(gè)剎車踩得有意義，就不能只在OpenAI內(nèi)部踩。但在全球踩剎車，是一件非OpenAI單方面可為的事情，人類的對(duì)齊并不比超級(jí)智能對(duì)齊簡(jiǎn)單多少。

AI牌桌上的大玩家Meta，今年也對(duì)大模型頗下功夫，發(fā)布了開源大模型Llama2，成為開源世界的核心，其首席科學(xué)家楊立昆就曾公開表示AI不如狗，對(duì)“AI威脅論”嗤之以鼻。他曾說：“人工智能帶來厄運(yùn)的預(yù)言，只不過是一種新的蒙昧主義”。

這還只是在硅谷的范圍內(nèi)，出了硅谷就更加不可控。國內(nèi)百度（前不久已經(jīng)更新到了文心大模型4.0），其公司創(chuàng)始人、董事長(zhǎng)兼CEO李彥宏在今年5月的世界智能大會(huì)上談到AI威脅論，認(rèn)為“對(duì)于人類來說，最大的危險(xiǎn)和不可持續(xù)并非創(chuàng)新帶來的不確定性，而是人類停止創(chuàng)新帶來的不可預(yù)知風(fēng)險(xiǎn)。”

更有可能持續(xù)的情況是，監(jiān)管一天不叫停，零和博弈下的你追我趕就一天不停歇。馬斯克曾在今年3月底的要求“GPT停止更新至少半年”的聯(lián)名信上簽名，但要求并未實(shí)現(xiàn)，隨后他便自己創(chuàng)辦了xAI。至少對(duì)外，馬斯克給出的理由正是，防止OpenAI一家獨(dú)大。而他認(rèn)為的AGI實(shí)現(xiàn)時(shí)間，是2029年。

ChatGPT上線一周年，世界重回原點(diǎn)：號(hào)稱能真正改變世界的AGI還沒出生，而人類也沒準(zhǔn)備好接生。OpenAI重整行囊，這家公司，甚至未來AI發(fā)展的走向，也許將在OpenAI關(guān)起的門后決定。

參考資料：

1. 中國企業(yè)家雜志：《OpenAI創(chuàng)始人：我們是一個(gè)非常追求真理的組織》

2. 智東西：《AIGC資本盛宴：半年融資超1000億，騰訊英偉達(dá)各投三家》

3. 新智元：《OpenAI內(nèi)幕文件驚人曝出：Q*疑能破解加密，AI背著人類在編程》

4. IT之家：《美國國會(huì)聽證會(huì)與 OpenAI ChatGPT 創(chuàng)始人的 9 個(gè)關(guān)鍵時(shí)刻》

5. 極客公園：《擔(dān)憂 AI 向人類扔核彈，OpenAI 是認(rèn)真的》

6. 機(jī)器之心Pro：《開放模型權(quán)重被指將導(dǎo)致AI失控，Meta遭舉牌抗議》

編者按：本文轉(zhuǎn)載自微信公眾號(hào)：字母榜(ID：wujicaijing)，作者：畢安娣