30 年前，互聯(lián)網(wǎng)剛剛萌芽、就連個(gè)人電腦都很稀罕，一位科技作家開始了自己對當(dāng)時(shí)社會(huì)各界的一次前沿漫游。在與世界最有智識(shí)的人們交流之后，他窺探到了一些未來圖景，并最終寫成一本大部頭著作《失控》（1994 年）。直至十多年后，當(dāng)移動(dòng)互聯(lián)網(wǎng)、智能手機(jī)時(shí)代到來，人們驚訝地發(fā)現(xiàn)，那些時(shí)下最新的概念「全球信息互聯(lián)、分布式系統(tǒng)、數(shù)字貨幣、云計(jì)算等」早被這本書預(yù)言。

這名科技作家就是凱文·凱利，也被稱為 KK。他是《連線》雜志的創(chuàng)辦人，科技觀察家和「預(yù)言者」。2010 年，《失控》中文版推出，KK 也開啟了在中國的一系列探訪，并逐漸被國人熟知。

站在今天的節(jié)點(diǎn)，通用人工智能（AGI）正在萌芽、一場時(shí)代變革即將拉開，這又隱隱和《失控》一書中的預(yù)言相呼應(yīng)。KK 當(dāng)時(shí)就預(yù)測，人類最終會(huì)和機(jī)器走向統(tǒng)一，「機(jī)器正在生物化、而生物正在工程化」。用他自己的話說，《失控》只講了一個(gè)內(nèi)容，那就是如何打造一個(gè)「復(fù)雜系統(tǒng)」——機(jī)器人、人工智能（AI）等都可被視作復(fù)雜系統(tǒng)，他認(rèn)為這一思想至今依然適用。

不久前，我們和大模型創(chuàng)業(yè)公司出門問問創(chuàng)始人& CEO 李志飛一起，跟 KK 展開了一場對談。

前者站在技術(shù)、商業(yè)的實(shí)務(wù)角度，后者站在人類、歷史、甚至宇宙的抽象角度，共同探討了人工智能的崛起、影響和威脅。這是一次頗有「科幻意味」和「想象力」的討論，我們試圖再次「預(yù)言」人類和人工智能的未來。

二者都認(rèn)為，今天的人工智能已經(jīng)具備生命的形式，而這在人類歷史上還是頭一次。李志飛說，目前的 AI 已經(jīng)相當(dāng)于人類小孩的智商，已擁有知識(shí)、邏輯、推理、規(guī)劃等真正的通用智能能力。而 KK 認(rèn)為，作為「硅基生命」，AI 將和人類一樣有適應(yīng)性，能夠自我學(xué)習(xí)、成長。

非常相似地，他們都信奉技術(shù)樂觀主義。KK 認(rèn)為，AI 不會(huì)讓人類失業(yè)，只會(huì)讓人類更高效、并從「可惡」的工作中解放出來。AI 看似會(huì)拉大貧富差距，但更可能像人類歷史上的每一次技術(shù)變革一樣，通過做大蛋糕、更好地實(shí)現(xiàn)公平正義。而在對商業(yè)的影響上，它會(huì)同時(shí)讓個(gè)體、中小公司、大公司都獲得權(quán)力。

正如《失控》一書的名字所言——凱文·凱利覺得，為了更好地獲得 AI 的力量，人類應(yīng)當(dāng)允許 AI 的部分「失控」。畢竟，ChatGPT 正是在人類失控的「涌現(xiàn)」?fàn)顟B(tài)下誕生的。他和李志飛都認(rèn)為，目前 AI 的智能依然稚嫩，人類應(yīng)該繼續(xù)放手，而不是過早地、過度地控制（監(jiān)管）。后者可能將創(chuàng)新扼殺在搖籃中。

將目光放到更長遠(yuǎn)，如果有一天 AI 真的成為一個(gè)超級生命體，那人類到底該如何與之相處？

科幻小說和電影都描繪了一個(gè)灰暗的未來，其結(jié)局往往是 AI 自我覺醒之后殺死人類。但凱文·凱利認(rèn)為，這是人類缺乏想象力的表現(xiàn)。失敗總比成功更容易想象、也具故事的誘惑性。關(guān)于未來，人工智能的益處與價(jià)值其實(shí)不難想象。

他的建議是，不妨將 AI 視作「人工外星人」，人類將能借助 AI 的智慧解決自身問題、且實(shí)現(xiàn)一定程度的「控制」。而李志飛則認(rèn)為，作為 AI 的「祖先」，人類最終會(huì)跟 AI 相互融合、而非控制。

至于這次的預(yù)言是否會(huì)成立，就要看 5000 天之后的世界了。

以下是對話全文：

01 即便 OpenAI 沒有做出 ChatGPT，很快也會(huì)有其他公司做出來

張鵬：無論中美，最近人們都在探討大模型。你對這一波大模型的技術(shù)變革有什么感受？會(huì)覺得十分震撼嗎？

凱文·凱利：人工智能（AI）已經(jīng)存在了幾十年。當(dāng) AI 模型開始采用神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)時(shí)，出現(xiàn)了一個(gè)重大的飛躍，它們變得越來越龐大。大約 4、5 年前，它開始產(chǎn)生非常龐大的 transformer 模型（采用自注意力機(jī)制的深度學(xué)習(xí)模型）。而最近兩年，它開始與大型語言模型進(jìn)行接口交互。

其實(shí)最近，AI 的重大變化不在于它的能力，這方面它的表現(xiàn)并沒有好多少。最近 AI 真正的變化是，它讓我們有了一個(gè)對話用戶界面，可以用（自然）語言與 AI 進(jìn)行真正的交流。而在此之前，人們需要學(xué)習(xí)大量的編程知識(shí)、非常精通才能使用 AI。但現(xiàn)在，突然之間每個(gè)人都會(huì)用 AI 了。這才是真正令人興奮的部分。

李志飛： 我同意 KK 說的，目前大語言模型最主要的變化是自然語言交互能力的提升。這確實(shí)是很多普通老百姓能感受到的，也正因如此，今天 ChatGPT 才會(huì)產(chǎn)生這么大的社會(huì)影響力。

但我認(rèn)為，今天的大模型在能力上也有很大的變化，而且正是這種變化才使得它的自然交互變得可能。因?yàn)閷?shí)現(xiàn)自然交互背后，需要 AI 有很強(qiáng)的知識(shí)、理解能力、語言能力、推理規(guī)劃能力等等。AI 必須在這些基礎(chǔ)能力上有突破，才能實(shí)現(xiàn)自然語言的交互。

并且我認(rèn)為未來大模型的能力，將不僅僅是自然語言交互。比如寫程序、企業(yè)自動(dòng)化流程、機(jī)器人自動(dòng)化等事情，都是不交互的，但它們未來也會(huì)成為可能。

張鵬：我非常認(rèn)同 AI 跟人類更好的對話能力，將會(huì)帶來一波技術(shù)和商業(yè)的范式革命。如果說 ChatGPT 是 AI 發(fā)展的第二曲線，那它的出現(xiàn)到底是必然還是偶然？

凱文·凱利：ChatGPT 的能力超出了所有人的預(yù)期。我不認(rèn)為有人預(yù)料到這一點(diǎn)，包括人工智能領(lǐng)域的人士。實(shí)際上，大多數(shù)研究人員都不知道 ChatGPT 的工作原理，他們想努力改進(jìn)它，但很困難，因?yàn)椴⒉恢浪侨绾喂ぷ鞯?。因此，ChatGPT 的出現(xiàn)是一個(gè)意外。

盡管 ChatGPT 非常令人驚訝，但我們也看到了它的局限性。它主要的限制在于，這個(gè)模型是根據(jù)人類創(chuàng)作內(nèi)容的平均水平進(jìn)行訓(xùn)練的，因此它傾向于產(chǎn)生平均水平的結(jié)果。而我們常常想要的并不是平均水平、而是超過平均水平的東西。這很難做到。

其次，這些模型的優(yōu)化目標(biāo)是合理性，而不是準(zhǔn)確性。因此，如何使它們更準(zhǔn)確是當(dāng)前所有人都在努力解決的重大挑戰(zhàn)。

李志飛：我覺得 ChatGPT 的出現(xiàn)，從短期看是偶然的，但長期看是必然的。可以說，去年底 OpenAI 做出 ChatGPT 是偶然的，但就算它沒做出來，很快也會(huì)有其他公司做出來。

這在技術(shù)的歷史上無數(shù)次重演。以深度學(xué)習(xí)為例，2012 年 AlexNet 第一個(gè)做出 image annotation（圖像標(biāo)注），但當(dāng)時(shí)很多信念、工程能力都很強(qiáng)的團(tuán)隊(duì)也在做，如果 AlexNet 沒做出來，其他人也會(huì)做出來。還有 2017 年 Google 做出 transformer，都是在解決之前 RNN、LSTM 這些序列模型低擴(kuò)展性等問題，如果 Google 沒做出來，其他團(tuán)隊(duì)也會(huì)做出來。

ChatGPT 誕生的背景是，transformer 已經(jīng)很成熟了、而且我們有很強(qiáng)的算力去訓(xùn)練互聯(lián)網(wǎng)的海量數(shù)據(jù)，所有 ChatGPT 必需的元素都已經(jīng)具備，它的誕生是必然的。只不過，OpenAI 在那個(gè)時(shí)間點(diǎn)把它組合得最好。

張鵬：聊到必然性和偶然性的問題，讓我想到了最近非常熱的一個(gè)詞「涌現(xiàn)」。這個(gè)詞在 KK《失控》這本書出現(xiàn)過至少 88 次，今天我們應(yīng)該如何理解涌現(xiàn)這個(gè)詞的意義？

凱文·凱利：從英語的角度來看，「emergence」是一個(gè)術(shù)語，指的是一個(gè)系統(tǒng)的行為、一整堆相互連接的事物，比如互聯(lián)網(wǎng)、機(jī)器人、身體、生態(tài)系統(tǒng)甚至整個(gè)世界，其行為不包含在任何單個(gè)部分的行為中。比如蜂巢可以記住超出單個(gè)蜜蜂壽命的事物，因此蜂巢本身具有一種行為、能力和力量，而單個(gè)部分沒有。我們稱之為「emergence」。

同樣，許多正在生成的人工智能也是「涌現(xiàn)」的。因?yàn)?span style="font-weight: bold; color: #ffa53d;">在模型中沒有一個(gè)地方能夠解釋它的來源，它需要所有部分共同協(xié)作才能產(chǎn)生這種新的能力。就像我們的大腦沒有一個(gè)地方有「思想」，「思想」是從整個(gè)神經(jīng)元中「涌現(xiàn)」出來的。思維、進(jìn)化、學(xué)習(xí)等事物都可以從系統(tǒng)中「涌現(xiàn)」出來。

李志飛：我對「涌現(xiàn)」的了解來自《復(fù)雜》這本書，它講到「more is different」，「多即不同」。就像中國的一句古話，「量變導(dǎo)致質(zhì)變」。大模型第一次講到「涌現(xiàn)」，是去年底斯坦福跟 Google 發(fā)的一篇文章。他們通過實(shí)驗(yàn)發(fā)現(xiàn)，通過增加大模型的規(guī)模、當(dāng)?shù)竭_(dá)某個(gè)臨界點(diǎn)時(shí)，它會(huì)突然「涌現(xiàn)」某種能力。

我現(xiàn)在感覺，「涌現(xiàn)」這個(gè)詞其實(shí)被濫用了。因?yàn)槲覀兘忉尣磺宄竽Ｐ偷哪芰κ窃趺磥淼模头Q之為「涌現(xiàn)」，這個(gè)詞不可解釋、也不可操控，對我們訓(xùn)練和應(yīng)用大模型沒有任何幫助?，F(xiàn)在，大家不再研究「涌現(xiàn)」了，而是更多研究大模型參數(shù)量跟最終能力表現(xiàn)之間的量化關(guān)系，這可能對我們了解、把控大模型更有幫助。

張鵬：我們可以理解為，「涌現(xiàn)」會(huì)導(dǎo)致「失去控制」嗎？

凱文·凱利：這樣理解并不完全正確。當(dāng)然，它會(huì)有「失去控制的部分」，如果你希望能夠?qū)Α赣楷F(xiàn)」行為的力量加以利用，你可能需要容忍一些事物不受你的控制。目前在人工智能領(lǐng)域，我們對它的理解和控制可能還不夠好，但這實(shí)際上是為了獲得最佳結(jié)果所必需的。

但與此同時(shí)，我們又不能讓一切都「失控」，我們必須進(jìn)行一定程度的「控制」，也就是引導(dǎo)、管理人工智能。再次強(qiáng)調(diào)，我們不希望過度限制、但也必須實(shí)現(xiàn)一定程度上的控制。不過，我們很可能永遠(yuǎn)無法完全控制它們，特別是對于更強(qiáng)大的人工智能，我們很可能永遠(yuǎn)無法完全理解其工作方式。這就是其中的權(quán)衡。

張鵬：你寫下《失控》這本書已經(jīng)過去很多年了，在今天這個(gè)節(jié)點(diǎn)、結(jié)合著這一波的 AI 革命，你覺得《失控》有什么值得重新校準(zhǔn)的部分嗎？

凱文·凱利：我認(rèn)為我在《失控》這本書中并沒有過多談?wù)撊斯ぶ悄芎褪Э?，它其?shí)主要講了如何將簡單事物制造成復(fù)雜事物。有一種叫做羅德尼·布魯克斯的子系統(tǒng)架構(gòu)，它提到你可以通過將智能的各個(gè)部分嵌入其中，制造一個(gè)復(fù)雜的機(jī)器人。這個(gè)通向復(fù)雜的過程是，你要在已經(jīng)正常工作的事物基礎(chǔ)上疊加其他東西。（布魯克斯的架構(gòu)理論提出，更高層級的行為需要包容較低層次的行為）。

就像昆蟲，即使你割掉它的頭，它也可以走路，因?yàn)樾凶叩墓δ芨嘤删植客瓿?。就像我們大腦有一個(gè)負(fù)責(zé)呼吸和其他自主功能的核心，我們是在這個(gè)基礎(chǔ)上添加了更多的復(fù)雜層次。今天，當(dāng)人們制造機(jī)器人和人工智能、并試圖使它們更復(fù)雜時(shí)，這個(gè)思想仍然有效。這實(shí)際上是我在《失控》中談?wù)摰奈ㄒ粌?nèi)容，而我認(rèn)為這個(gè)觀點(diǎn)仍然成立。

張鵬：我記得你之前有一個(gè)很有意思的視角，就是「假設(shè)科技是一種生命」，當(dāng)它涌現(xiàn)出接近人類的智能，那它接下來會(huì)想要什么？這會(huì)對商業(yè)領(lǐng)域和人類社會(huì)帶來什么影響？

凱文·凱利：技術(shù)是一種被我稱之為「第七生命王國」的東西。我們加速了生命的進(jìn)化，使它進(jìn)入一個(gè)「干燥」的領(lǐng)域，不再需要「濕潤」的環(huán)境，而是可以存在于硅中。我們可以利用我們的思維，制造出其他類似生命的技術(shù)。它們具有適應(yīng)性，可以學(xué)習(xí)、成長。

我的觀點(diǎn)是，基本上技術(shù)和生命一樣，會(huì)追求同樣的東西。例如，它們會(huì)在進(jìn)化中增加多樣性，也會(huì)變得更加專業(yè)化、更具體。我們身體有 52 種不同的細(xì)胞，包括心臟細(xì)胞、骨細(xì)胞和骨骼細(xì)胞等。我們也會(huì)制造出專門的AI，執(zhí)行語言翻譯、圖像生成和自動(dòng)駕駛等特定的任務(wù)。另外，技術(shù)還會(huì)跟生命一樣變得更復(fù)雜，這是顯而易見的。

最后，技術(shù)還將像生命一樣「互利共生」。生命在演化過程中如此復(fù)雜，以至于它只與其他生命接觸，從不接觸非生物材料。比如你腸道內(nèi)的細(xì)菌。它們只被其他活體細(xì)胞包圍。未來，也會(huì)有一些AI不是為人類設(shè)計(jì)的，而是專門為其他 AI 服務(wù)。例如，將會(huì)有專門用于維護(hù)其他 AI 的 AI、只與其他 AI 交流的 AI。

李志飛：我想從一個(gè)工程師的角度解釋一下 AI 跟生命的關(guān)系。幾年前，很多人老是問我，「Alphago（第一個(gè)打敗圍棋世界冠軍的計(jì)算機(jī)程序）到底是幾歲的智商？」當(dāng)時(shí)我特別不喜歡這種問題，因?yàn)闆]法回答。那時(shí)候，AI 雖然可以下圍棋、智商很高，但它并不能像 3 歲小孩一樣進(jìn)行自然語言對話。當(dāng)時(shí)它跟人的機(jī)理是本質(zhì)上不一樣的。

但是最近這一陣子，我特別喜歡把 AI 比作一個(gè)小孩。我覺得核心是因?yàn)椋裉斓?AI 已經(jīng)具備了小孩擁有的、真正的通用智能能力，比如知識(shí)、邏輯、推理、規(guī)劃等等。所以我想說，今天的 AI 更像一個(gè)生命體了。它在智商上像一個(gè) 5 歲小孩，在知識(shí)上可能既像一個(gè)大學(xué)教授、也像一個(gè)剛出生的嬰兒，這取決于它有沒有見過那些數(shù)據(jù)。

基于這個(gè)理解，我覺得關(guān)于 AI 到底想要什么，需要重新思考。對于一個(gè) 5 歲小孩來說，他接下來首先會(huì)自我凈化，其次是自我復(fù)制、進(jìn)行協(xié)作。關(guān)于這個(gè)問題，我自己也沒有很好的答案。

02 未來 5000 天，我們將度過一個(gè)狹小而緊迫的過渡期

張鵬：當(dāng)AI 的能力快速成長時(shí)，很多普通人感到焦慮，害怕自己失去競爭力。KK 在這個(gè)問題上有什么思考和建議嗎？

凱文·凱利：即使 AI 技術(shù)已經(jīng)發(fā)展了 20 年，但人們卻覺得它是一夜成功，對它的成長速度和能力感到焦慮。我們總是容易想象最糟糕的情況，而不是最好的情況。我認(rèn)為，應(yīng)對變革焦慮的一個(gè)方法是回顧過去。實(shí)際上，過去人類也曾有過這種焦慮，但我們想象的糟糕情形從來沒有發(fā)生過。這次很可能是一樣的。

我發(fā)現(xiàn)自己應(yīng)對焦慮的最好辦法是嘗試使用它們。我發(fā)現(xiàn)大多數(shù)焦慮來自于那些沒有使用過 AI 的人，他們對 AI 保持著一種距離感。其實(shí)他們一旦開始嘗試和使用，就會(huì)看到 AI 既有好處，也有局限性和危害。這將減少他們的焦慮。

李志飛：AGI 今天不發(fā)生，明天也會(huì)發(fā)生。既然它不可阻擋，你就應(yīng)該擁抱、理解它。目前對我來說，AGI 是一個(gè)思維的伙伴。我很多問題都會(huì)跟他聊，它的知識(shí)特別全面，能從很廣、很全的角度給我建議。我覺得這可能是人類擁抱 AI 的一種很好的形式。

與此同時(shí)，我們可以看到，今天的大模型離真正的 AGI，還差一些特別關(guān)鍵的能力。比如邏輯推理和復(fù)雜任務(wù)規(guī)劃的能力，如果你想要 AI 基于某一個(gè)目標(biāo)，拆解步驟、實(shí)現(xiàn)目標(biāo)，現(xiàn)在它還沒有那么擅長。

張鵬：KK 自己也是一名內(nèi)容創(chuàng)作者，你覺得在 AI 時(shí)代，創(chuàng)作者不可被 AI 替代的最終價(jià)值會(huì)是什么？

凱文·凱利：我在寫作時(shí)已經(jīng)使用過人工智能和其他工具。我認(rèn)為，沒有人會(huì)因?yàn)槿斯ぶ悄芏スぷ鳌?span style="font-weight: bold; color: #ffa53d;">因?yàn)槲覠o法找到一個(gè)例子，證明有一個(gè)藝術(shù)家因?yàn)槿斯ぶ悄芏チ斯ぷ?。這是一種想象中的恐懼，一種不存在的問題。就業(yè)可能是與人工智能相關(guān)的最不嚴(yán)重的問題。

我想說的是，消失的可能是你的工作描述，也就是你實(shí)際從事的工作內(nèi)容可能會(huì)變化。一些人觀察到，他們 50% 的工作都可以由人工智能來完成，而另外 50% 工作會(huì)被人工智能增強(qiáng)和放大。所以未來，可能有一半的工作不再需要人們?nèi)プ?，而人們又能把剩下?50% 工作將做得更好。這通常是我們會(huì)看到的模式。

當(dāng)然，確實(shí)有一些特定類型的工作會(huì)消失，比如作為收銀員去點(diǎn)餐和數(shù)錢。我們不希望人類去做這些工作，所以它們肯定會(huì)消失、它們也應(yīng)該消失。

張鵬：你如何評價(jià)在 AI 時(shí)代，年輕人和老年人的競爭力？

凱文·凱利：老年人有很多優(yōu)勢，他們見多識(shí)廣，經(jīng)驗(yàn)豐富。年輕人也有很多優(yōu)勢，因?yàn)樗麄儾恢朗裁词遣豢赡艿?。我不認(rèn)為誰的競爭力強(qiáng)于誰。

我想說的是，今天的年輕人常常談?wù)撟约菏菙?shù)字原住民，對技術(shù)更有優(yōu)勢。但由于人工智能和其他事物發(fā)展迅速，年輕人昨天可能是原住民，明天就像「老年人」了。不管是年輕人還是老年人，大家都是新時(shí)代的「新手」，都必須一輩子不斷地快速學(xué)習(xí)新事物。

張鵬：隨著對AI技術(shù)的掌握不同，這是否會(huì)帶來貧富差距的變化？也就是說，未來會(huì)使用 AI 的人是不是會(huì)獲得更高的生產(chǎn)力、更好地贏得競爭？

凱文·凱利：是的，財(cái)富差距會(huì)擴(kuò)大。我認(rèn)為隨著時(shí)間的推移，你與人工智能合作的能力，可能比你是否上大學(xué)還要重要。也許大學(xué)的目的將是教會(huì)你如何與人工智能合作。對于那些非常有野心的人來說，如果他們學(xué)習(xí)了如何使用人工智能，他們的薪水將會(huì)有很大的差別。

但是，隨著人工智能在世界各地普及，未來我們會(huì)實(shí)現(xiàn)全球?qū)θ斯ぶ悄艿钠降全@取，就像對教育的平等獲取一樣。我認(rèn)識(shí)一些在美國經(jīng)營大公司的朋友，他們雇用遠(yuǎn)程工作的員工，只要他們有能力，而背景并不重要。因此，很多在南美洲、非洲工作的人，會(huì)按照美國的薪酬標(biāo)準(zhǔn)得到報(bào)酬。他們會(huì)賺比原本更多的錢。

張鵬：技術(shù)的快速發(fā)展，可能會(huì)帶來社會(huì)領(lǐng)域的不公平、不正義，我們該怎么在發(fā)展和公平正義之間取得平衡？

凱文·凱利：我認(rèn)為我們可以在進(jìn)步與公平之間取得平衡。實(shí)際上，我認(rèn)為進(jìn)步的很大一部分就是傳播公平。

與幾百年前相比，那時(shí)的世界非常不公平。你根據(jù)出生被視為奴隸、農(nóng)奴或者農(nóng)民，沒有任何機(jī)會(huì)超越這個(gè)身份。但由于進(jìn)步，我們現(xiàn)在擁有來一個(gè)更加平等、公平的世界。我認(rèn)為，科技的發(fā)展可以增加公平性，雖然不一定會(huì)實(shí)現(xiàn)，但是它是可能的。

李志飛：從一個(gè)工程師的角度來說，如果說你從終點(diǎn)去看公平，希望大家財(cái)富一樣、能力水平一樣，那這肯定會(huì)導(dǎo)致越來越不公平。但如果你是從起點(diǎn)去看公平，比如說讓 AI 工具被所有人可用，這可能才會(huì)更好地實(shí)現(xiàn)公平。

張鵬：現(xiàn)在我們看到有些公司，比如文生圖公司 Midjourney，十幾個(gè)人就創(chuàng)造了上億美金的年收入。我們可否理解為，AI 從根本上變革了生產(chǎn)力？未來的公司會(huì)不會(huì)因此越來越小和精簡？

凱文·凱利：現(xiàn)在互聯(lián)網(wǎng)和人工智能擁有的令人驚訝的力量，可以同時(shí)賦予個(gè)人、中等公司以及大公司權(quán)力。它使個(gè)人更容易擁有一家公司，因此我們會(huì)看到很多新公司只有 AI 加上幾個(gè)人。但同時(shí)，我們也看到一些公司因?yàn)槿斯ぶ悄艿拇嬖诙兊酶?，甚至增加了百萬人的規(guī)模。

因此，我們不會(huì)突然進(jìn)入一個(gè)只有一兩個(gè)人的公司的世界，那是不會(huì)發(fā)生的。同時(shí)，我們也不會(huì)只會(huì)讓大公司受益。這就是AI的美妙之處，它可以讓所有人都受益和獲得權(quán)力。

李志飛：我覺得長尾效應(yīng)跟馬太效應(yīng)都會(huì)越來越明顯。

一方面，尾巴會(huì)越來越長，越來越多很小的公司會(huì)出現(xiàn)，它們會(huì)自己成為一個(gè)完整的體系。另一方面，當(dāng)大公司有了很強(qiáng)的 AI 能力，它的組織力會(huì)變得更強(qiáng)。以前它只能組織 1000 人，但現(xiàn)在可以組織 1 萬人、 10 萬人、 100 萬人。比如中國的外賣行業(yè)，正是依靠一整套的自動(dòng)化系統(tǒng)，才把龐大的騎手群體組織起來。

張鵬：目前 AI 也是硅谷最熱的話題，很多創(chuàng)業(yè)者都以大模型為核心去思考商業(yè)創(chuàng)新。KK 對此有什么觀察嗎？

凱文·凱利：這讓我想起了互聯(lián)網(wǎng)早期的情景?；ヂ?lián)網(wǎng)最開始出現(xiàn)時(shí)，突然之間每個(gè)企業(yè)都意識(shí)到必須將自己放在互聯(lián)網(wǎng)上。而現(xiàn)在，每個(gè)企業(yè)都在利用 AI 的對話界面，通過引入大語言模型和人工智能來開展業(yè)務(wù)。一個(gè)例子是 Wendy's（美國連鎖餐飲企業(yè)），這家時(shí)髦的快餐漢堡店現(xiàn)在正在使用對話界面，讓客人在車上點(diǎn)餐、和機(jī)器對話。

除此之外，還有一些全新的服務(wù)和想法尚未出現(xiàn)。我不知道具體數(shù)字，但我可以肯定的是，現(xiàn)在正有數(shù)千億美元的資金流入這個(gè)領(lǐng)域。通常情況下，其中大部分可能不會(huì)成功，但有足夠多的項(xiàng)目會(huì)成功。我們將在接下來的三年內(nèi)看到一些非常驚人的事情，以及一些可能會(huì)變得非常大的全新公司。

張鵬：在過去的 5000 天里，KK 做了非常多正確的預(yù)言，對很多大方向有了前瞻性的把握。最近，你又預(yù)言接下來 5000 天是人類歷史上一個(gè)最關(guān)鍵的時(shí)間段。這個(gè)節(jié)點(diǎn)關(guān)鍵在哪？人類會(huì)通向十字路口的什么方向？

凱文·凱利：除了人工智能之外，世界上還發(fā)生了許多其他事情。我們面臨氣候變化的挑戰(zhàn)，基因工程即將出現(xiàn)，很容易把人工智能想象成貶低人類的東西，很容易看到監(jiān)控變得無處不在、而我們失去了掌控權(quán)。我們面對很多全球范圍內(nèi)的挑戰(zhàn)和機(jī)遇。

這是一個(gè)狹小而緊迫的過渡期，我們必須度過這個(gè)難關(guān)。我認(rèn)為，我們可以通過電氣化、電動(dòng)汽車、替代能源、以及在新冠疫苗研發(fā)方面取得的成功等，獲得通過這個(gè)狹小門戶的機(jī)會(huì)。目前，地球上還存在許多政治緊張局勢和分歧，但我們需要集體行動(dòng)，需要在技術(shù)、環(huán)境等領(lǐng)域達(dá)成共識(shí)，共同合作解決問題。

這是地球上首次出現(xiàn)全球文化、全球經(jīng)濟(jì)以及全球的環(huán)境影響。這也是在接下來的 5000 天里，我們成為更加全球化文明的機(jī)會(huì)。

李志飛：KK 說，未來 5000 天，世界除了 AI 之外還有很多其他挑戰(zhàn)。我覺得，僅從 AI 角度來說，未來 365 天也非常重要。AI 經(jīng)歷過很多輪，每次都是人們對它期待值很高、但它不行了，接著人們又期待值很高、它又不行了。我覺得今天這一波 AGI，到底會(huì)是圈內(nèi)人認(rèn)為很牛的東西、還是會(huì)成為社會(huì)上很重要的事情，這很大程度取決于未來 365 天。

包括大模型到底要怎么發(fā)展，是越大越好、還是要加入多模態(tài)、還是要加入解決方案等等？包括看滲透率，目前全世界可能不到 5% 的人用過 ChatGPT，我們怎么把滲透率從 5% 提到 20%？包括監(jiān)管，人類應(yīng)該怎么應(yīng)對 AI 給社會(huì)帶來的影響？還包括 AI 除了應(yīng)用于互聯(lián)網(wǎng)等行業(yè)，它該如何在醫(yī)療、汽車、金融等傳統(tǒng)行業(yè)去落地？等等。

我覺得這可能需要至少一年的時(shí)間，通過人們做出各種各樣的嘗試，才能有一個(gè)更清晰的判斷。

03 平均人類并不高尚，我們希望 AI 比平均人類更好

張鵬：很多時(shí)候人類傾向于信任技術(shù)，比如有人會(huì)在自動(dòng)駕駛的車上睡覺而出事故。這種對先進(jìn)科技的潛移默化的信任，是否是人類的習(xí)慣？這會(huì)帶來什么后果？

凱文·凱利：自動(dòng)駕駛汽車不是完美的，但它們在駕駛方面仍然比人類更好。我們能信任人工智能嗎？在和聊天機(jī)器人的對話中，我們發(fā)現(xiàn)它們的答案不是準(zhǔn)確無誤的，所以我們無法完全信任。但我認(rèn)為，我們將很快開始解決這個(gè)問題。

現(xiàn)在，大多數(shù)人都信任他們的計(jì)算器。你給它數(shù)字，它給你答案，你完全信任它。所以我們知道機(jī)器是可信的，這是可以努力改進(jìn)的。而關(guān)于人工智能的偏見，因?yàn)樗鼈兏鶕?jù)平均人類來訓(xùn)練的，而平均人類是種族主義者、性別歧視者、惡意人士，并不高尚。我們實(shí)際上希望我們的人工智能比人類更好。

就像計(jì)算器比平均人類更好一樣，你更應(yīng)該依賴計(jì)算器給你的答案，而不是平均人類。信任是我們應(yīng)該關(guān)注和努力解決的問題，雖然面臨許多挑戰(zhàn)，但最終我認(rèn)為我們會(huì)高度依賴和信任人工智能和機(jī)器。

張鵬：美國最近有很多人認(rèn)為，AI 的發(fā)展速度太快，應(yīng)該慢一點(diǎn)、甚至停下來想一想。你贊同這樣的想法嗎？

凱文·凱利：不，我不支持。我認(rèn)為這是誤導(dǎo)、誤解和不必要的。我不認(rèn)為這是真正可能的，也不認(rèn)為這是可取的。

張鵬：在人類的大部分科幻電影或者科幻小說里，AI 都是一個(gè)比較灰暗的角色，這是因?yàn)槿祟惾狈ο胂罅?、還是我們有太多不正確的想象？

凱文·凱利：好萊塢總是把人工智能描繪成反烏托邦、恐怖和不受歡迎的形象，我認(rèn)為這是缺乏想象力的表現(xiàn)。因?yàn)橄胂笠粋€(gè)事物如何失敗，比想象它如何成功要容易得多，這是宇宙的法則。老實(shí)說，人們很難想象 100 年后人工智能無處不在、廉價(jià)且對人類有益的美好世界，盡管那是我們想要生活的世界。

此外，那些電影制片廠非常擅長講故事，而一個(gè)偉大的故事的要素是沖突、災(zāi)難以及一些強(qiáng)烈的元素。無論是戰(zhàn)爭、颶風(fēng)還是試圖毀滅世界的人工智能。因此，在好萊塢電影中我們不太可能看到人工智能的美好愿景，因?yàn)檫@并不為故事做貢獻(xiàn)，雖然這種可能性存在，但非常小。

因此，我們不能通過對好萊塢（電影）的印象來看待人工智能。不幸的是，許多人就是這么做的。一提到人工智能，他們就會(huì)想到「終結(jié)者」、「2001 太空漫游」、「HER」。

李志飛：我覺得所有的不信任都是因?yàn)椴焕斫?。?dāng)我們面對 AGI 這個(gè)新物種，我不理解它的能力是怎么出現(xiàn)的、它到底想要什么、它能干什么，這才是最核心的問題。

我覺得人類能做的，一方面是自己要多去理解 AGI，另一方面是學(xué)會(huì)讓 AGI 自己解釋清楚自己。比如當(dāng)它給你一個(gè)答案的時(shí)候，你讓它把內(nèi)部運(yùn)作過程、內(nèi)心的獨(dú)白講出來。這樣可能會(huì)產(chǎn)生更加強(qiáng)烈的信任。

張鵬：對 KK 來說，似乎老子的《道德經(jīng)》對你啟發(fā)很大。你提到「最高級的控制是失控、最低級的控制是什么都控制」。你怎么看最近政府和科技界正在加大對AI的監(jiān)管？

凱文·凱利：我認(rèn)為目前的監(jiān)管并不好。當(dāng)然，監(jiān)管是重要且必要的，它是確保事物順利進(jìn)行、保持公平競爭環(huán)境、確保安全的必要手段。但過早進(jìn)行監(jiān)管是可怕的。目前的問題是，我們試圖對我們不太了解的東西進(jìn)行監(jiān)管，這通常會(huì)導(dǎo)致災(zāi)難。

李志飛：為什么要監(jiān)管？從根本上說，是人們擔(dān)心 AGI 帶來的負(fù)面影響會(huì)大于正面影響，擔(dān)心它能力太強(qiáng)了、社會(huì)無法接受。但在當(dāng)下這個(gè)階段，這個(gè)判斷是錯(cuò)誤的。因?yàn)榻裉?，AGI 帶來的正面影響，肯定要應(yīng)該要大于它的負(fù)面影響。

其次，今天 AGI 的真正問題其實(shí)是，它的能力還不夠強(qiáng)。包括規(guī)劃能力、跟物理世界結(jié)合的能力、自我能進(jìn)化的能力等等。我們雖然看到了希望，但其實(shí)離真正實(shí)現(xiàn)仍然非常遙遠(yuǎn)。我們或許永遠(yuǎn)都不能到達(dá)。

所以我的觀點(diǎn)是，我們不能剛看到 AGI 趨勢，就大幅地加強(qiáng)監(jiān)管。這可能使得我們根本還沒實(shí)現(xiàn) AGI，就把它抹殺了。監(jiān)管肯定需要有，但不應(yīng)該過度監(jiān)管。

張鵬：人工智能已經(jīng)被談?wù)摵芏嗄炅耍F(xiàn)在看來它正在進(jìn)入一個(gè)全新的時(shí)代。如果 AI 未來真的有機(jī)會(huì)成為一個(gè)智慧高于人類的生命體，我們到底應(yīng)該在人類的文明里融入它們、還是把它們納入人類管控之中？哪種方式更能真正升級人類的文明？

凱文·凱利：我認(rèn)為可以用一個(gè)非常有用的框架來理解未來的人工智能（AI）——不是指今天的 AI，因?yàn)樗鼈兣c未來 30 年、50 年或 100 年的 AI 相比，還不夠復(fù)雜——那就是將其視為來自另一個(gè)星球的人工外星人。

大量的 AI 將是我們從未見過的一種物種，它們以不同于人類的方式思考。它們會(huì)像 Yoda（《星際大戰(zhàn)》中的虛擬角色）或 Spock（《星際迷航》中的虛擬角色）那樣聰明，甚至在某些方面超過人類。我們會(huì)制造許多不同類型的人工外星人，尊重它們，并利用它們不同的智能來幫助我們解決棘手的問題，比如弄清楚量子引力到底是什么。

但我們不會(huì)將控制權(quán)交給它們。如果我們不喜歡它們的行為，我們會(huì)送回、關(guān)閉它們。如果我們認(rèn)為它們獲得了太多的權(quán)力，就可以剝奪它們的權(quán)力。我們不希望讓 AI 決定我們的命運(yùn)。

李志飛：現(xiàn)在的 AGI 就像蝴蝶，從幼蟲里獲取了很多營養(yǎng)成分后，自己完成了升華。它相當(dāng)于利用了人類過去所有的互聯(lián)網(wǎng)知識(shí)，來完成自己的蛻變。未來，AI 肯定在很多方面都是超越人類的。我覺得人類能作為 AI 的祖先，也挺值得開心的。

KK 說，我們要把 AI 當(dāng)做一個(gè)外星人，這聽起來更多還是要控制。我覺得人類可能太高估了自己的能力或智商。你可以想象一下，比如再過 50 年，全世界最牛的、最有影響力的 100 個(gè)智能體里面，也許只有 20 個(gè)會(huì)是人類，剩下 80 個(gè)都是 AI。所以我覺得，最后人類和AI 一定是融合，而不是控制。