AI威脅論：先過狗關(guān)，再賽人智

（圖片來源：攝圖網(wǎng)）

作者|樟稻 來源|科技新知(ID：kejixinzhi)

“AI不如狗”，控制AI是否為時(shí)尚早？

ChatGPT讓人工智能再次引起科技界的震動，同時(shí)也激起了政策制定者、消費(fèi)者倡導(dǎo)團(tuán)體以及企業(yè)領(lǐng)導(dǎo)層的警覺。他們普遍要求為這種前沿技術(shù)制定規(guī)范，以確保其發(fā)展道路的可控性和可持續(xù)性。

幾個月前，馬斯克資助的生命未來研究所（Future of Life Institute，F(xiàn)LI）發(fā)起了一場具有影響力的公開信簽名運(yùn)動。該運(yùn)動強(qiáng)烈呼吁先進(jìn)大模型研究應(yīng)至少暫停6個月，目的在于對當(dāng)前人工智能發(fā)展的快速膨脹進(jìn)行深入反思，因?yàn)檫@可能正導(dǎo)致我們失去對這項(xiàng)技術(shù)的控制。

上個月，人工智能安全中心（Center for AI Safety，CAIS）公布了一份矚目的簡短聲明。這份聲明得到了OpenAI和DeepMind的高級管理人員、圖靈獎得主以及其他AI領(lǐng)域的領(lǐng)軍研究人員的共同簽署。他們稱AI這一堪比“疫情和核戰(zhàn)爭”的技術(shù)或?qū)θ祟悩?gòu)成生存威脅。

不過，與眾多AI謹(jǐn)慎派不同，以“深度學(xué)習(xí)三巨頭之一”楊立昆（Yann LeCun）為代表的樂觀派并認(rèn)為，我們應(yīng)該更加耐心，更加相信科技的進(jìn)步；AI現(xiàn)階段仍處在它的青澀和幼稚期，我們遠(yuǎn)未抵達(dá)那個需要緊急行動的點(diǎn)。

這兩派的對立并非細(xì)枝末節(jié)的學(xué)術(shù)爭論，而是關(guān)于人類如何看待技術(shù)的問題，是人類把技術(shù)看作是工具，完全受人類控制，還是把它看作可能脫離人類控制，甚至危及人類存亡的潛在威脅。

01

樂觀派：AI不如狗

上周三的Viva Tech大會上，Meta首席AI科學(xué)家楊立昆被問及AI目前的限制。

“這些系統(tǒng)仍然非常有限，它們對現(xiàn)實(shí)世界的底層現(xiàn)實(shí)沒有任何理解，因?yàn)樗鼈兺耆窃诖罅康奈谋旧辖邮苡?xùn)練的。”楊立昆說，“大部分人類的知識與語言無關(guān)……所以人類經(jīng)驗(yàn)的那一部分并未被AI捕捉到。”

“這告訴我們，人工智能還缺失了一些真正重要的東西……別說是趕上人類的智力水平了，人工智能現(xiàn)在是連狗都不如。”楊立昆總結(jié)道。

這并不是楊立昆首次發(fā)言“AI不如狗”，在上月底350位AI領(lǐng)域大佬簽署CAIS組織的聯(lián)名公開信時(shí)，楊立昆轉(zhuǎn)發(fā)了同是樂觀派華人科學(xué)家吳恩達(dá)的推文表示：

“在人類最重要的生存問題清單上，根本排不上超越人類的人工智能。主要是因?yàn)樗€不存在。直到我們能設(shè)計(jì)出起碼達(dá)到狗狗水平的智能（更不用說人工智能了），再來談安全問題也不遲。”

當(dāng)然，“AI不如狗”本質(zhì)上輸出的結(jié)論是，人類并沒有真正設(shè)計(jì)出超級智能系統(tǒng)，談?wù)摪踩蚩刂茊栴}有些為時(shí)過早。至于如何更加全面地反駁AI威脅論，他提供了兩個更有力的論證角度。

其一，人們不會給現(xiàn)階段的AI以完全自主權(quán)：

楊立昆指出，現(xiàn)階段的自回歸模型如GPT-4，雖然擁有強(qiáng)大的自然語言處理能力，但其輸出結(jié)果是不可預(yù)測和難以控制的。無論是改變訓(xùn)練數(shù)據(jù)的統(tǒng)計(jì)信息，還是調(diào)整問題的形式，都無法直接地約束這些AI模型以滿足某種特定目標(biāo)。

這種情況自然引發(fā)了一系列的擔(dān)憂。人們在某種程度上假設(shè)，一旦允許這些AI系統(tǒng)自由地做任何我們能通過互聯(lián)網(wǎng)連接的事情，讓它們有自由使用網(wǎng)絡(luò)資源的權(quán)限，那么它們可能會做出一些瘋狂的、不理智的，甚至可能帶來危險(xiǎn)的行為。一些人擔(dān)心，我們將無法控制這些AI系統(tǒng)，它們會逃脫我們的控制，甚至可能控制我們，因?yàn)樗鼈兊囊?guī)模更大，所以它們的智能也會增強(qiáng)。

然而，這種觀點(diǎn)其實(shí)是沒有根據(jù)的，或者說是純粹的想象和夸大。未來被授予自主性的系統(tǒng)，應(yīng)該是能夠規(guī)劃一系列行動、有明確目標(biāo)且易于控制的。因此，楊立昆預(yù)測，理智的人不會使用完全自動的大語言模型，他們會轉(zhuǎn)向更復(fù)雜、可控制的系統(tǒng)。

其二，智力和控制欲毫無關(guān)聯(lián)性：

許多人認(rèn)為，智能實(shí)體會因?yàn)楸热祟惛斆鞫胍淙祟悺Ｈ欢?，楊立昆認(rèn)為這是個誤解。智力高并不意味著就有支配他人的欲望，這更多的是與進(jìn)化和生物性質(zhì)相關(guān)。

人類、黑猩猩、狼、狗等社會動物會想要影響他人，是因?yàn)樗鼈冊谶M(jìn)化過程中建立了這種欲望。而對于非社會動物如長頸鹿來說，它們并沒有支配他人的欲望。因此，控制欲望和能力與智力是兩個不同的概念，它們之間沒有必然聯(lián)系。

此外，談及AI帶來的失業(yè)問題，他認(rèn)為關(guān)鍵在于如何分配財(cái)富，如何組織社會使每個人都能從中獲益。這是一個政治問題，不是技術(shù)問題，也不是人工智能造成的新問題，而是技術(shù)進(jìn)化造成的。

在楊立昆、吳恩達(dá)等樂觀主義者的觀點(diǎn)中，可以發(fā)現(xiàn)一個共識：任何新技術(shù)在初次出現(xiàn)時(shí)，都不可能完美無缺。

實(shí)際上，人類需要的是一種可以控制的方式，限制技術(shù)可能帶來的危害，對其進(jìn)行有效地監(jiān)管，并解決可能的惡性用例。完全中斷研發(fā)進(jìn)程并不是一個明智的決策。人類應(yīng)該保持對技術(shù)進(jìn)步的尊重和包容，而不是因?yàn)楹ε挛粗^早地否定其潛在的價(jià)值。

02

謹(jǐn)慎派：心思各異的聯(lián)盟

相較于樂觀派，謹(jǐn)慎派的陣營似乎人數(shù)更多，也反應(yīng)了人性的一種普遍趨勢。當(dāng)新的事物出現(xiàn)時(shí)，它往往會引發(fā)人們的擔(dān)憂和疑慮。這是人類對可能帶來顛覆性改變的新技術(shù)所產(chǎn)生的本能反應(yīng)。

在兩輪的公開簽名活動中，可以看到謹(jǐn)慎派的聲音和影響力逐步增強(qiáng)。當(dāng)這種關(guān)于“AI風(fēng)險(xiǎn)”的討論在外界引發(fā)了廣泛地思考和討論的同時(shí)，一些質(zhì)疑聲音也不斷出現(xiàn)。

關(guān)于“AI的風(fēng)險(xiǎn)和危害”，這個話題已經(jīng)成為了一個表態(tài)的舞臺，每個參與者都希望在這場風(fēng)潮中塑造自己的正面形象。

然而，問題在于，這場大討論真的有用嗎？表面看起來，似乎每個人都在積極參與，但實(shí)際上，卻鮮有人真正采取行動。這種現(xiàn)象在一定程度上顯得像是在浪費(fèi)大家的時(shí)間。“那些創(chuàng)造出AI技術(shù)的人參與這種聲明，其實(shí)無非就是為了給自己博取好名聲。”這是不少業(yè)界人士對這種現(xiàn)象的評價(jià)。

就連“人工智能之父”，德國計(jì)算機(jī)科學(xué)家于爾根·施密德胡伯（Jürgen Schmidhuber）也表示，許多在公開場合對人工智能的危險(xiǎn)提出警告的人只是在尋求宣傳。

當(dāng)然，在一些人可能試圖利用這種情況來提升自己的知名度的同時(shí)，不乏也有一些獨(dú)到的見解。

中國科學(xué)院自動化研究所人工智能倫理與治理研究中心主任曾毅，也在CAIS組織的這封公開信中簽名。他認(rèn)為，公開信的目的并不是阻礙人工智能的發(fā)展，而是絕大多數(shù)人有權(quán)利知道人工智能的潛在風(fēng)險(xiǎn)，研發(fā)者們也有義務(wù)確保人工智能不給人類帶來生存風(fēng)險(xiǎn)，至少要確保這種風(fēng)險(xiǎn)的最小化。

在他的觀點(diǎn)中，人工智能對人類生存所可能帶來的威脅，可以從兩個不同的角度進(jìn)行分析：

如果將目光放到無限遠(yuǎn)，遠(yuǎn)到通用人工智能和超級智能到來，AI智力水平可能遠(yuǎn)超人類，那么或許就會像很多影視作品呈現(xiàn)的那樣，視人類如同螻蟻，與人類爭奪資源，甚至危及人類生存。

如果只看現(xiàn)在和不遠(yuǎn)的未來，當(dāng)代人工智能只是看似智能的信息處理工具，不具有真正的理解能力。但曾毅認(rèn)為，正因?yàn)樗鼈兯悴簧险嬲闹悄埽焕斫馐裁词侨祟?、什么是生死和什么是生存風(fēng)險(xiǎn)，才有可能會以人類難以預(yù)期的方式犯下人類不會犯的錯誤。而這恰恰是更緊迫的關(guān)切所在。

有趣的是，這似乎正好在反駁楊立昆的兩大主要論點(diǎn)。

此外，謹(jǐn)慎派陣營中，三位“人工智能教父”中的兩位辛頓（Geoffrey Hinton）和本吉奧（Yoshua Bengio）也赫然在列。他們曾因在深度學(xué)習(xí)方面的工作，與楊立昆共同獲得2018年“圖靈獎”。

然而，與楊立昆的觀點(diǎn)相左，本吉奧在接受采訪時(shí)坦言，他開始對自己這一生的工作成果產(chǎn)生了一種“迷茫”的感覺。本吉奧認(rèn)為，所有致力于構(gòu)建強(qiáng)大AI產(chǎn)品的企業(yè)都應(yīng)該進(jìn)行正式的注冊和報(bào)備。“政府需要對這些公司的行動進(jìn)行追蹤，對其工作內(nèi)容進(jìn)行審查，對AI行業(yè)至少要實(shí)行像對待航空、汽車或者制藥等領(lǐng)域一樣的監(jiān)管機(jī)制。”

辛頓則在近期辭去了谷歌的工作，并警告這一技術(shù)領(lǐng)域的持續(xù)發(fā)展或?qū)砭薮箫L(fēng)險(xiǎn)。辛頓表示，“我總在用這樣的借口安慰自己：哪怕我自己不做，其他人也會這樣做。但目前真的不知道要怎么防止壞蛋利用 AI 來作惡。”

辛頓對于AI的擔(dān)憂主要有兩個方面。首先，他擔(dān)心AI會完全取代那些需要大量記憶的工作，這可能會對許多行業(yè)和職業(yè)產(chǎn)生深遠(yuǎn)影響。其次，隨著AI逐步獲取編寫和運(yùn)行自身代碼的能力，他擔(dān)憂AI最終可能取代人類的位置。

03

寫在最后

上文中對立兩派的觀點(diǎn)，其實(shí)也有重合的地方。對于如今的 AI 是否具有風(fēng)險(xiǎn)以及該如何克服，兩派代表人物楊立昆和奧特曼看法一致。他們都認(rèn)為，即便風(fēng)險(xiǎn)存在，但可以通過仔細(xì)的工程設(shè)計(jì)，減輕或抑制它。

可以肯定的是，隨著AI技術(shù)的不斷發(fā)展和深化，兩派之間的爭論和爭議仍將持續(xù)不斷。

不過相對于國外熱火朝天地討論，國內(nèi)對AI倫理和風(fēng)險(xiǎn)的關(guān)注相對較少。市場似乎更專注于AI大模型如何改變各行各業(yè)，并對此感到喜悅和興奮。

原因可能在于，一方面為了在全球競賽中奪取發(fā)言權(quán)，商業(yè)公司首先需要縮小與國外AI大模型的差距；另一方面，也正由于國內(nèi)的AI大模型能力還未進(jìn)入未知前沿，大家對AI可能帶來的威脅并未給予足夠的關(guān)注。

在此背景下，國內(nèi)的AI創(chuàng)業(yè)者更傾向于維持一種技術(shù)樂觀主義的態(tài)度，他們不希望過早收斂自身發(fā)展，認(rèn)為這將相當(dāng)于提前投降，放棄了與國外競爭的機(jī)會。

總的來說，這次的爭論并非毫無意義的口舌之爭。它為我們提供了一個理想的舞臺，讓我們深入探討AI的未來走向，以及如何以人類的智慧和經(jīng)驗(yàn)，來引導(dǎo)這一領(lǐng)域的發(fā)展，使其真正地服務(wù)于人類社會，而非反過來控制我們。

從這場激烈的辯論中，可以清楚地看到，人類現(xiàn)在正站在一個重大的決策點(diǎn)。無論是選擇樂觀地?fù)肀I的發(fā)展，還是謹(jǐn)慎地審視其可能帶來的風(fēng)險(xiǎn)，都需要意識到，現(xiàn)在所做的每一個決定，將會影響人類和AI之間的關(guān)系，也將塑造人類對未來的想象和期望。

編者按：本文轉(zhuǎn)載自微信公眾號：科技新知(ID：kejixinzhi)，作者：樟稻