深度｜OpenAI真正想要的是什么？

【編者按】去年底，OpenAI “匆忙”推出了它的現(xiàn)象級產(chǎn)品 ChatGPT，隨后卻意想不到地引發(fā)了自互聯(lián)網(wǎng)進(jìn)入大眾生活以來前所未有的技術(shù)爆炸。突然間，圖靈測試貌似要成為歷史，搜索引擎也瀕臨“滅絕”，一些學(xué)術(shù)論文開始變得不可信，沒有一份工作是安全的，沒有一個科學(xué)問題是一成不變的。

OpenAI、Sam Altman 和 ChatGPT 瞬間成為這個時(shí)代最火熱的搜索詞之一，幾乎所有人都為之瘋狂。那么，你是否了解 Sam Altman 和 OpenAI 的成長故事呢？

近日，知名科技記者 Steven Levy 在美國數(shù)字媒體 WIRED 發(fā)表了一篇長文，圍繞 Sam Altman，就 OpenAI 公司的成長史和公司愿景展開了深度討論。

核心內(nèi)容如下：

作為 OpenAI 的首席執(zhí)行官，一個夢想家或?qū)嵏杉翌愋偷娜?，Sam Altman 就像年輕版的 Elon Musk，他是人們在 AI 如何迎來黃金時(shí)代，或使人類變得無關(guān)緊要，或更糟的問題上首先要咨詢的人物。

Sam Altman 和 OpenAI 的使命是建立安全的 AGI，OpenAI 的員工對這一目標(biāo)的追求是狂熱的。OpenAI 的領(lǐng)導(dǎo)者們發(fā)誓，他們要制造出足夠智能、足夠安全的計(jì)算機(jī)，將人類帶入一個難以想象的富饒時(shí)代。

Sam Altman 和他的團(tuán)隊(duì)現(xiàn)在面臨的壓力是，要在每個產(chǎn)品周期內(nèi)實(shí)現(xiàn)革命，既要滿足投資者的商業(yè)需求，又要在激烈的競爭中保持領(lǐng)先。與此同時(shí)，他們還肩負(fù)著提升人類而非消滅人類的“準(zhǔn)救世主”的使命。

OpenAI 前期的資金支持來源于 Elon Musk，后來 Altman 和 OpenAI 的其他智囊團(tuán)成員明確表示對成為 Elon Musk 宇宙的一部分毫無興趣。Musk 便切斷了聯(lián)系。后來，OpenAI 得到了微軟的支持，逐漸有了營利性機(jī)構(gòu)的性質(zhì)，這讓一些員工感到反感，從而導(dǎo)致幾位高管離職，他們表示，OpenAI 已經(jīng)變得過于商業(yè)化，成為使命漂移的犧牲品。

Sam Altman 原則上贊同由一個國際機(jī)構(gòu)來監(jiān)督 AI 的想法，但他確實(shí)認(rèn)為一些擬議的規(guī)則構(gòu)成了不公平的障礙。但他和 OpenAI 的其他領(lǐng)導(dǎo)人在一份聲明上簽上了自己的名字，聲明內(nèi)容為：減輕 AI 帶來的滅絕風(fēng)險(xiǎn)，應(yīng)該與大流行病和核戰(zhàn)爭等其他社會規(guī)模的風(fēng)險(xiǎn)一樣，成為全球的優(yōu)先事項(xiàng)。

圖｜從左到右依次為：OpenAI 首席科學(xué)家 Ilya Sutskever、OpenAI CEO Sam Altman、OpenAI CTO Mira Murati 和 OpenAI 總裁 Greg Brockman（來源：WIRED）

學(xué)術(shù)頭條在不改變原文大意的情況下，做了簡單的編譯，內(nèi)容如下：

當(dāng)這位明星和他的隨行人員跌跌撞撞地鉆進(jìn)一輛等候多時(shí)的奔馳面包車時(shí)，空氣中迸發(fā)出近乎披頭士狂熱的能量。他們剛剛從一個活動中脫身，又要趕往另一個活動，然后是另一個活動，那里有一群狂熱的人們在等著他們。從霍爾本（Holborn）到布盧姆斯伯里（Bloomsbury），他們在倫敦的大街小巷中穿梭，就像在經(jīng)歷文明的前世今生。這輛車所蘊(yùn)含的創(chuàng)造歷史的力量吸引了全世界的目光。從排隊(duì)等候的學(xué)生到首相，每個人都想從中獲得一些什么。

在這輛豪華面包車?yán)?，正狼吞虎咽地吃著沙拉的?38 歲的企業(yè)家、OpenAI 的聯(lián)合創(chuàng)始人 Sam Altman，以及一名公關(guān)人員、一名安全專家和我本人。Altman 身著藍(lán)色西裝，內(nèi)搭一件無領(lǐng)粉色禮服襯衫，略顯抑郁地在倫敦兜風(fēng)，這是他為期一個月的全球短途旅行的一部分，途經(jīng)六大洲的 25 座城市。因?yàn)榻裉鞗]時(shí)間坐下來吃午餐，所以他一邊狼吞虎咽地吃著蔬菜，一邊回想著前一晚與法國總統(tǒng)馬克龍的會面。馬克龍對 AI 非常感興趣。

波蘭首相也是如此。西班牙首相也是如此。

和 Altman 一起坐車，我?guī)缀跄苈牭健兑灰箍駳g》（A Hard Day’s Night）開篇那鏗鏘有力、含糊不清的和弦——那是對未來的介紹。去年 11 月，當(dāng) OpenAI 推出它的怪物級產(chǎn)品 ChatGPT 時(shí)，引發(fā)了自互聯(lián)網(wǎng)進(jìn)入我們生活以來前所未有的技術(shù)爆炸。突然間，圖靈測試成為歷史，搜索引擎瀕臨滅絕，任何大學(xué)論文都不可信。沒有一份工作是安全的。沒有一個科學(xué)問題是一成不變的。

Altman 并沒有參與 ChatGPT 及其 GPT-4 的研究、神經(jīng)網(wǎng)絡(luò)訓(xùn)練或界面編碼。但作為首席執(zhí)行官——一個夢想家/實(shí)干家類型的人，他就像年輕版的聯(lián)合創(chuàng)始人 Elon Musk，沒有包袱——一篇又一篇的新聞報(bào)道用他的照片作為人類新挑戰(zhàn)的視覺象征。至少，那些沒有用由 OpenAI 的視覺 AI 產(chǎn)品 Dall-E 生成的令人瞠目的圖像作為頭條的文章是如此。他是當(dāng)下的先知，是人們在 AI 如何迎來黃金時(shí)代，或使人類變得無關(guān)緊要，或更糟的問題上首先要咨詢的人物。

五月的一個陽光明媚的日子，Altman 的面包車載著他去參加了四次活動。第一場是與政府、學(xué)術(shù)界和工業(yè)界人士進(jìn)行的一場不公開的“圓桌會議”（Round Table）。會議是在最后一刻組織的，地點(diǎn)在薩默斯鎮(zhèn)咖啡館的二樓。在釀酒師 Charles Wells 炯炯有神的肖像下，Altman 向幾乎所有聽眾提出了同樣的問題。AI 會殺死我們嗎？它能被監(jiān)管嗎？他都一一作了詳細(xì)回答，同時(shí)還不時(shí)瞄一眼自己的手機(jī)。之后，他在豪華的倫敦人酒店與牛津公會的 600 名會員進(jìn)行了一次爐邊談話。之后，他來到地下室會議室，回答約 100 名企業(yè)家和工程師提出的更多技術(shù)問題。現(xiàn)在，他下午在倫敦大學(xué)學(xué)院的臺上演講幾乎要遲到了。他和他的團(tuán)隊(duì)停在一個裝卸區(qū)，然后被帶進(jìn)一系列蜿蜒曲折的走廊。一邊走，主持人一邊匆匆告訴 Altman 他要問的問題。當(dāng) Altman 突然出現(xiàn)在舞臺上時(shí)，觀眾席上的學(xué)者、極客和記者們沸騰了。

Altman 并不是一個天生的宣傳狂。有一次，在《紐約客》刊登了一篇關(guān)于他的長篇報(bào)道后，我立即與他進(jìn)行了交談。他說：“關(guān)于我的報(bào)道太多了”。但在大學(xué)學(xué)院，正式活動結(jié)束后，他走進(jìn)了涌向臺下的人群中。他的助手試圖夾在 Altman 和人群之間，但被他甩開了。他回答了一個又一個問題，每次都聚精會神地盯著對話者的臉，仿佛他是第一次聽到這樣的提問。每個人都想拍照。20 分鐘后，他終于讓他的團(tuán)隊(duì)把他拉了出來。然后，他又去見了英國首相 Rishi Sunak。

也許有一天，當(dāng)機(jī)器人書寫我們的歷史時(shí)，他們會把 Altman 的世界巡演作為一個里程碑，因?yàn)樵谶@一年里，所有人都在同一時(shí)間開始進(jìn)行自己的個人思考。又或者，無論誰來書寫這一刻的歷史，都會把它看作是一位默默無聞的令人信服的首席執(zhí)行官，帶著一項(xiàng)打破范式的技術(shù)，嘗試將一種非常奇特的世界觀注入全球的思想潮流——從舊金山使命區(qū)一個沒有標(biāo)志的四層樓總部到整個世界。

對 Altman 和他的公司來說，ChatGPT 和 GPT-4 只是實(shí)現(xiàn)一個簡單而重大使命的“墊腳石”，這些技術(shù)專家可能已經(jīng)在自己的肉體上烙下了這個使命。這個使命就是建立通用人工智能（AGI），迄今為止，這個概念更多地是建立在科幻小說而非科學(xué)的基礎(chǔ)上，而且要讓它對人類安全。OpenAI 的員工對這一目標(biāo)的追求是狂熱的。（不過，在辦公室咖啡廳里的任何一次談話都會證實(shí)，“構(gòu)建 AGI”這一點(diǎn)似乎比“確保安全”更能讓研究人員感到興奮）。這些人并不避諱隨意使用“超級智能”這個詞。他們認(rèn)為，AI 的發(fā)展軌跡將超越生物學(xué)所能達(dá)到的任何高峰。該公司的財(cái)務(wù)文件甚至規(guī)定了一種退出應(yīng)急方案，以防 AI 摧毀我們的整個經(jīng)濟(jì)體系。

稱 OpenAI 為邪教（cult）并不公平，但當(dāng)我問公司的幾位高層，如果有人不相信 AGI 真的會到來，而且它的到來將標(biāo)志著人類歷史上最偉大的時(shí)刻之一，他們是否能在這里安心工作時(shí)，大多數(shù)高管都不這么認(rèn)為。他們不禁要問，不相信的人為什么要在這里工作？他們的假設(shè)是，這里的員工，現(xiàn)在大約有 500 人已經(jīng)自我選擇了只做信徒。至少，正如 Altman 所說，一旦你被錄用，似乎就不可避免地會被卷入這個魔咒。

與此同時(shí)，OpenAI 也已今非昔比。它成立之初是一家純粹的非營利性研究機(jī)構(gòu)，但如今，從技術(shù)上講，它的大部分員工都在為一家據(jù)說估值近 300 億美元的盈利實(shí)體工作。Altman 和他的團(tuán)隊(duì)現(xiàn)在面臨的壓力是，要在每個產(chǎn)品周期內(nèi)實(shí)現(xiàn)革命，既要滿足投資者的商業(yè)需求，又要在激烈的競爭中保持領(lǐng)先。與此同時(shí)，他們還肩負(fù)著提升人類而非消滅人類的準(zhǔn)救世主使命。

這種壓力會讓人崩潰。披頭士掀起了巨大的變革浪潮，但只持續(xù)了這么短的時(shí)間：在敲響那令人難忘的和弦六年后，他們甚至不再是一支樂隊(duì)。OpenAI 引發(fā)的漩渦幾乎肯定會更大。但 OpenAI 的領(lǐng)導(dǎo)者們發(fā)誓，他們將堅(jiān)持到底。他們說，他們要做的就是制造出足夠智能、足夠安全的計(jì)算機(jī)，終結(jié)歷史，將人類帶入一個難以想象的富饒時(shí)代。

Altman 成長于上世紀(jì) 80 年代末 90 年代初，是一個沉迷于科幻小說和《星球大戰(zhàn)》的書呆子。在早期科幻小說家構(gòu)建的世界中，人類往往與超級智能 AI系統(tǒng)共同生活，或與之競爭。計(jì)算機(jī)與人類能力相匹配或超越人類能力的想法讓 Altman 興奮不已，他的手指幾乎無法觸及鍵盤，但他一直在編碼。8 歲時(shí)，父母給他買了一臺 Macintosh LC II。一天晚上，他玩到很晚，腦子里突然冒出一個想法：“總有一天這臺電腦會學(xué)會思考”。2003 年，當(dāng)他來到斯坦福大學(xué)讀本科時(shí)，他希望能幫助實(shí)現(xiàn)這一目標(biāo)，并選修了 AI 課程。但“這根本行不通”，他后來說。當(dāng)時(shí)，AI 領(lǐng)域仍深陷創(chuàng)新低谷，被稱為“AI 寒冬”。Altman 退學(xué)后進(jìn)入了初創(chuàng)公司領(lǐng)域；他的公司 Loopt 是 Y Combinator 的第一批小公司，Y Combinator 后來成為世界上最著名的孵化器。

2014 年 2 月，YC 的創(chuàng)始人 Paul Graham 選擇當(dāng)時(shí) 28 歲的 Altman 接替自己。Graham 在公告中寫道：“他是我所認(rèn)識的最聰明的人之一，他對初創(chuàng)企業(yè)的理解可能超過我認(rèn)識的任何人，包括我自己?！钡?Altman 看來，YC 不僅僅是一個公司的啟動平臺?！拔覀兣c初創(chuàng)企業(yè)無關(guān)，”他在上任后不久對我說，“我們的目標(biāo)是創(chuàng)新，因?yàn)槲覀兿嘈?，只有?chuàng)新才能為每個人創(chuàng)造美好的未來。”在 Altman 看來，從所有這些獨(dú)角獸企業(yè)中套現(xiàn)的意義不在于裝滿合伙人的錢包，而在于為物種層面的變革提供資金。他成立了一個研究部門，希望為雄心勃勃的項(xiàng)目提供資金，以解決世界上最大的問題。但在他看來，AI 才是顛覆一切的創(chuàng)新領(lǐng)域：一個能比人類更好地解決人類問題的超級智能。

幸運(yùn)的是，Altman 就任新職時(shí)，AI 的冬天正變成豐收的春天?，F(xiàn)在，計(jì)算機(jī)正在通過深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)完成令人驚嘆的壯舉，比如給照片貼標(biāo)簽、翻譯文本和優(yōu)化復(fù)雜的廣告網(wǎng)絡(luò)。這些進(jìn)步讓他相信，AGI 第一次真正觸手可及。然而，把它交到大公司手中卻讓他感到擔(dān)憂。他認(rèn)為這些公司會過于專注于自己的產(chǎn)品，而無法抓住機(jī)會盡快開發(fā)出 AGI。而且，如果他們真的創(chuàng)造出了 AGI，他們可能會不計(jì)后果地在沒有采取必要預(yù)防措施的情況下將其公之于眾。

當(dāng)時(shí)， Altman 一直在考慮競選加利福尼亞州州長。但他意識到，他完全有能力做更大的事情——領(lǐng)導(dǎo)一家將改變?nèi)祟惐旧淼墓尽?021 年，他告訴我：“AGI 將只建造一次。而且，能夠很好地運(yùn)營 OpenAI 的人并不多。我很幸運(yùn)，我生命中的一系列經(jīng)歷讓我真正積極地為此做好了準(zhǔn)備?！?/p>

Altman 開始與那些可能幫助他創(chuàng)辦一家新型 AI 公司的人交談，這家非營利性公司將引導(dǎo) AI 領(lǐng)域走向負(fù)責(zé)任的 AI。特斯拉和 SpaceX 公司首席執(zhí)行官 Elon Musk 就是其中一位志同道合者。Musk 后來告訴 CNBC，在與谷歌聯(lián)合創(chuàng)始人 Larry Page 進(jìn)行了一些馬拉松式的討論后，他開始關(guān)注 AI 的影響。Musk 說，令他感到沮喪的是，Page 對安全問題關(guān)注甚少，而且似乎把機(jī)器人的權(quán)利視為與人類平等。當(dāng) Musk 說出自己的擔(dān)憂時(shí)，Page 指責(zé)他是一個“物種主義者”。Musk 也明白，當(dāng)時(shí)谷歌雇傭了世界上大部分的 AI 人才。他愿意花一些錢，為“人類團(tuán)隊(duì)”做出更多努力。

幾個月內(nèi)，Altman 就從 Musk（承諾提供 1 億美元和他的時(shí)間）和 Reid Hoffman（捐贈 1 千萬美元）那里籌到了資金。其他資助者包括 Peter Thiel、Jessica Livingston、亞馬遜網(wǎng)絡(luò)服務(wù)公司（Amazon Web Services）和 YC Research。Altman 開始秘密招募團(tuán)隊(duì)成員。他將搜索范圍限制在 AGI 信徒身上，這一限制縮小了他的選擇范圍，但他認(rèn)為這一點(diǎn)至關(guān)重要。他說：“早在 2015 年，當(dāng)我們進(jìn)行招聘時(shí)，對于 AI 研究人員來說，說你認(rèn)真對待 AGI 幾乎被認(rèn)為是職業(yè)生涯的殺手。但我想要的是認(rèn)真對待它的人?！?/p>

圖｜Greg Brockman（來源：WIRED）

Stripe 公司的首席技術(shù)官 Greg Brockman 就是其中之一，他同意擔(dān)任 OpenAI 的首席技術(shù)官。另一位重要的聯(lián)合創(chuàng)始人是 Andrej Karpathy，他曾在搜索巨頭谷歌的尖端 AI 研究機(jī)構(gòu) Google Brain 工作過。不過，Altman 最炙手可熱的目標(biāo)或許是一位名叫 Ilya Sutskever 的工程師。

Sutskever 是 Geoffrey Hinton 的得意門生，Hinton 在深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)方面的研究成果被譽(yù)為現(xiàn)代 AI 教父。Hinton 至今仍與 Sutskever 持著密切的關(guān)系，他對自己弟子的聰明才智贊嘆不已。Sutskever 在實(shí)驗(yàn)室任職初期，Hinton 曾交給他一個復(fù)雜的項(xiàng)目。Sutskever 厭倦了編寫代碼來進(jìn)行必要的計(jì)算，他告訴 Hinton，如果他為這項(xiàng)任務(wù)編寫一種定制的編程語言，會更容易些。Hinton 有點(diǎn)惱火，試圖警告他的學(xué)生不要去做他認(rèn)為會讓他分心一個月的事情。然后，Sutskever 坦白地說：“我今天早上就做了”。

圖｜Ilya Sutskever（來源：WIRED）

Sutskever 成為了 AI 領(lǐng)域的超級明星，他與他人合作撰寫了一篇突破性論文，展示了 AI 如何通過接觸大量數(shù)據(jù)來學(xué)習(xí)識別圖像。最終，他成為了 Google Brain 團(tuán)隊(duì)的一名核心科學(xué)家。

2015 年年中，Altman給 Sutskever 發(fā)了一封冷冰冰的郵件，邀請他與 Musk、Brockman 等人在帕洛阿爾托沙山路的豪華 Rosewood 酒店共進(jìn)晚餐。直到后來，Sutskever 才知道自己是晚宴的貴賓。他說：“這是一次關(guān)于未來 AI 和 AGI 的對話。更具體地說，他們討論了“谷歌和 DeepMind 是否已經(jīng)遙遙領(lǐng)先，以至于不可能追上它們，或者是否還有可能像 Musk 所說的那樣，創(chuàng)建一個實(shí)驗(yàn)室來制衡它們”。雖然晚宴上沒有人明確試圖招募 Sutskever，但這次談話吸引了他。

不久，Sutskever 給 Altman 寫了一封郵件，表示他愿意領(lǐng)導(dǎo)這個項(xiàng)目，但這封郵件卻卡在了他的草稿箱里。Altman 回信后，經(jīng)過幾個月與谷歌的還價(jià)，Sutskever 簽下了合同。他很快就成為了公司的靈魂人物和研究的推動力。

Sutskever 與 Altman 和 Musk 一起為該項(xiàng)目招兵買馬，最終在納帕谷的一次務(wù)虛會上，幾位未來的 OpenAI 研究人員互相鼓勁。當(dāng)然，有些人會抵制誘惑。John Carmack 是《毀滅戰(zhàn)士》（Doom）、《雷神之錘》（Quake）等無數(shù)游戲的傳奇編碼員，他拒絕了 Altman 的邀請。

OpenAI 于 2015 年 12 月正式啟動。當(dāng)時(shí)，當(dāng)我采訪 Musk 和 Altman 時(shí)，他們向我介紹說，這個項(xiàng)目旨在通過與世界共享，讓 AI 變得安全、易用。換句話說，就是開源。他們告訴我，OpenAI 不會申請專利。每個人都可以利用他們的突破。這不是在給未來的邪惡博士授權(quán)嗎？我想知道。Musk 說這是個好問題。但 Altman 給出了答案：人類一般都是善良的，而由于 OpenAI 將為絕大多數(shù)人提供強(qiáng)大的工具，因此壞人將不堪一擊。他承認(rèn)，如果“邪惡博士”利用這些工具制造出無法抵制的東西，“那我們的處境就真的很糟糕了”。但 Musk 和 Altman 都認(rèn)為，AI 更安全的發(fā)展方向是掌握在不受利益驅(qū)動污染的研究機(jī)構(gòu)手中。

Altman 提醒我不要期望很快就有結(jié)果。他說：“在很長一段時(shí)間里，這里都會像一個研究實(shí)驗(yàn)室?！?/p>

降低期望值還有另一個原因。谷歌和其他公司多年來一直在開發(fā)和應(yīng)用 AI。雖然 OpenAI 已投入 10 億美元（主要來自 Musk），擁有一支由研究人員和工程師組成的王牌團(tuán)隊(duì)，并且肩負(fù)著崇高的使命，但它對如何實(shí)現(xiàn)目標(biāo)毫無頭緒。Altman 還記得小團(tuán)隊(duì)聚集在 Brockman 公寓里的一個時(shí)刻，當(dāng)時(shí)他們還沒有辦公室?！拔耶?dāng)時(shí)想，我們該怎么辦？”

OpenAI 成立一年多后，我在舊金山與 Brockman 共進(jìn)午餐。作為一家名字中帶有“Open”一詞的公司的首席技術(shù)官，他對細(xì)節(jié)的描述相當(dāng)吝嗇。他確實(shí)肯定，這家非營利組織有能力在一段時(shí)間內(nèi)動用最初的十億美元捐款。25 名員工的工資——他們的工資遠(yuǎn)低于市場價(jià)值——占了 OpenAI 支出的大頭。他說：“我們的目標(biāo)，也是我們真正在推動的事情，就是讓系統(tǒng)能夠完成人類以前無法完成的事情?！钡壳翱磥?，這只是一群研究人員在發(fā)表論文。采訪結(jié)束后，我陪他去了公司位于使命區(qū)的新辦公室，但他只允許我走到前廳。他倒是躲進(jìn)衣柜里給我拿了件 T 恤。

如果我當(dāng)時(shí)進(jìn)去打聽一下，也許就能知道 OpenAI 究竟有多艱難。Brockman 現(xiàn)在承認(rèn)，“沒有什么是行得通的?！彼难芯咳藛T把算法面條扔到天花板上，看看什么能粘住。他們鉆研解決視頻游戲的系統(tǒng)，并在機(jī)器人技術(shù)上花費(fèi)了大量精力。Altman 說：“我們知道我們想做什么。我們知道為什么要這么做。但我們不知道怎么做?！?/p>

但他們相信。使用深度學(xué)習(xí)技術(shù)的人工神經(jīng)網(wǎng)絡(luò)不斷改進(jìn)，為他們的樂觀情緒提供了支持?！翱偟南敕ㄊ?，不要對深度學(xué)習(xí)下注，”Sutskever 說。他說，追逐人工智能“并非完全瘋狂。它只是適度瘋狂而已”。

OpenAI 的崛起之路真正始于它聘請了一位尚未被人熟知的研究員 Alec Radford。2016 年，Radford 離開了他在宿舍里共同創(chuàng)辦的波士頓一家小型 AI 公司，加入了 OpenAI。在接受 OpenAI 的邀請后，他告訴他的高中校友雜志，擔(dān)任這個新職位“有點(diǎn)類似于加入一個研究生項(xiàng)目”——一個研究 AI 的開放式、低壓力的棲息地。

他實(shí)際扮演的角色更像是 Larry Page 發(fā)明了 PageRank。

Radford 對媒體諱莫如深，從未就自己的工作接受過采訪，他通過一封很長的電子郵件回答了我關(guān)于他在 OpenAI 早期工作的問題。他最大的興趣是讓神經(jīng)網(wǎng)絡(luò)與人類進(jìn)行清晰的對話。這與制作聊天機(jī)器人的傳統(tǒng)腳本模式不同，從原始的 ELIZA 到流行的 Siri 和 Alexa，都采用了這種方法，但都很糟糕。他寫道：“我們的目標(biāo)是看看是否有任何任務(wù)、任何環(huán)境、任何領(lǐng)域、任何事情，語言模型都能派上用場?！彼忉屨f，當(dāng)時(shí)，語言模型被視為新奇的玩具，只能偶爾生成一個有意義的句子，而且只有在你真的瞇起眼睛的情況下才能生成。他的第一個實(shí)驗(yàn)是掃描 20 億條 Reddit 評論來訓(xùn)練語言模型。和 OpenAI 的許多早期實(shí)驗(yàn)一樣，這個實(shí)驗(yàn)失敗了。沒關(guān)系。這位 23 歲的年輕人獲得了繼續(xù)前進(jìn)、再次失敗的許可。Brockman 說：“我們當(dāng)時(shí)就想，Alec 很棒，就讓他做自己的事情吧?！?/p>

他的下一個重要實(shí)驗(yàn)是受 OpenAI 計(jì)算機(jī)能力的限制而形成的，這一限制導(dǎo)致他在一個較小的數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)，該數(shù)據(jù)集專注于單一領(lǐng)域——亞馬遜產(chǎn)品評論。一位研究人員收集了大約 1 億條評論。Radford 訓(xùn)練了一個語言模型，以簡單預(yù)測生成用戶評論的下一個字符。

但后來，該模型自己就能判斷出評論是正面的還是負(fù)面的——當(dāng)你對模型進(jìn)行編程，讓它創(chuàng)建正面或負(fù)面的評論時(shí)，它就會按照你的要求發(fā)表一篇或贊美或抨擊的評論。(誠然，這篇散文很笨拙：“我喜歡這種武器造型......喜歡國際象棋的男人必看！”）。Radford 說：“這完全出乎意料”。評論的情感，它的好惡，是一個復(fù)雜的語義函數(shù)，但 Radford 系統(tǒng)的一部分已經(jīng)對此有了感覺。在 OpenAI 內(nèi)部，這部分神經(jīng)網(wǎng)絡(luò)被稱為“無監(jiān)督情感神經(jīng)元”（unsupervised sentiment neuron）。

Sutskever 和其他人鼓勵 Radford 將他的實(shí)驗(yàn)擴(kuò)展到亞馬遜評論之外，利用他的洞察力訓(xùn)練神經(jīng)網(wǎng)絡(luò)就廣泛的主題進(jìn)行對話或回答問題。

然后，好運(yùn)降臨到了 OpenAI 身上。2017 年初，一篇由 8 位谷歌研究人員合著的研究論文的預(yù)印本出現(xiàn)了，但并未引起人們的注意。這篇論文的正式標(biāo)題是“Attention Is All You Need”，但它后來被稱為“Transformer 論文”，這樣命名既是為了反映這個想法改變游戲規(guī)則的性質(zhì)，也是為了紀(jì)念從卡車變形為巨型機(jī)器人的玩具。Transformer 使神經(jīng)網(wǎng)絡(luò)能夠更高效地理解和生成語言。他們通過并行分析散文塊，找出哪些元素值得關(guān)注。這極大地優(yōu)化了生成連貫文本以響應(yīng)提示的過程。最終，人們意識到，同樣的技術(shù)也可以生成圖像甚至視頻。雖然該論文后來被稱為當(dāng)前 AI 狂潮的催化劑，可以把它想象成讓披頭士樂隊(duì)成為可能的貓王，但在當(dāng)時(shí)，Ilya Sutskever 只是少數(shù)幾個了解這一突破有多么強(qiáng)大的人之一。Brockman 說：“當(dāng) Ilya 看到 Transformer 出現(xiàn)時(shí)，才是真正的頓悟時(shí)刻。他說，‘這就是我們一直在等待的?！@就是我們的策略——努力解決問題，然后堅(jiān)信我們或這個領(lǐng)域中的某個人會設(shè)法找出缺失的成分。

Radford 開始試驗(yàn) Transformer 結(jié)構(gòu)。他說：“我在兩周內(nèi)取得的進(jìn)展超過了過去兩年的進(jìn)展。他逐漸明白，要想最大限度地利用新模型，關(guān)鍵在于擴(kuò)大規(guī)模——在超大規(guī)模的數(shù)據(jù)集上進(jìn)行訓(xùn)練。這個想法被拉德福德的合作者 Rewon Child 稱為“Big Transformer”。

這種方法需要改變 OpenAI 的企業(yè)文化，也需要專注于它以前所缺乏的。Quora 首席執(zhí)行官Adam D'Angelo 是 OpenAI 的董事會成員，他說：“為了利用 Transformer 的優(yōu)勢，你需要擴(kuò)大它的規(guī)模。你需要把它辦得更像一個工程組織。你不能讓每個研究人員都做自己的事，訓(xùn)練自己的模型，做出可以發(fā)表論文的優(yōu)雅的東西。你必須做這些更乏味、不那么優(yōu)雅的工作”。他補(bǔ)充說，這是 OpenAI 能夠做到的，也是其他人做不到的。

Radford 和他的合作者給他們創(chuàng)建的模型起的名字是“generatively pretrained transformer”——GPT-1 的縮寫。最終，這個模型被通稱為“生成式 AI”。為了建立這個模型，他們收集了 7000 本未出版的書籍，其中很多都是浪漫、奇幻和冒險(xiǎn)類型的書籍，并在 Quora 問答以及初中和高中考試的數(shù)千段文章中對其進(jìn)行了完善。總之，該模型包含 1.17 億個參數(shù)或變量。該模型在理解語言和生成答案方面的表現(xiàn)優(yōu)于之前的所有模型。但最引人注目的結(jié)果是，在處理如此大量的數(shù)據(jù)后，模型能夠提供超出其訓(xùn)練的結(jié)果，在全新的領(lǐng)域提供專業(yè)知識。這些計(jì)劃外的機(jī)器人能力被稱為“零樣本”。它們?nèi)匀涣钛芯咳藛T感到困惑——這也是該領(lǐng)域許多人對這些所謂的大型語言模型感到不安的原因。

Radford 還記得在 OpenAI 辦公室的一個深夜。“我只是一遍又一遍地說：‘嗯，這很酷，但我很確定它做不了 X?！缓笪視焖倬帉懸粋€評估代碼，果然，它可以做到 X。”

GPT 的每一次迭代都會做得更好，部分原因是每一次迭代所吞噬的數(shù)據(jù)都比前一個模型多出一個數(shù)量級。創(chuàng)建第一個迭代模型僅一年后，OpenAI 就在開放互聯(lián)網(wǎng)上用 15 億個驚人的參數(shù)訓(xùn)練了 GPT-2。就像蹣跚學(xué)步的孩子掌握語言一樣，它的反應(yīng)越來越好，越來越連貫。以至于 OpenAI 在是否將該程序公之于眾的問題上猶豫不決。Radford 擔(dān)心它會被用來生成垃圾郵件。他說：“我記得在 2008 年讀過 Neal Stephenson 的 Anathem，在那本書中，互聯(lián)網(wǎng)上充斥著垃圾郵件生成器。我當(dāng)時(shí)覺得這太牽強(qiáng)了，但隨著這些年我對語言模型的研究和它們的改進(jìn)，我不自覺地意識到這確實(shí)是一種可能?！?/p>

事實(shí)上，OpenAI 的團(tuán)隊(duì)開始覺得，把自己的工作放在邪惡博士可以輕易訪問的地方，畢竟不是一個好主意。首席技術(shù)官 Mira Murati 說：“我們認(rèn)為，開源 GPT-2 可能真的很危險(xiǎn)，”她于 2018 年開始在該公司工作。“我們與錯誤信息專家一起做了大量工作，并進(jìn)行了一些紅隊(duì)。內(nèi)部就發(fā)布多少信息進(jìn)行了大量討論?！弊罱K，OpenAI 暫時(shí)保留了完整版本，向公眾提供了一個功能較弱的版本。當(dāng)該公司最終分享完整版本時(shí)，全世界都很順利，但無法保證更強(qiáng)大的模型能夠避免災(zāi)難。

圖｜Mira Murati（來源：WIRED）

OpenAI 正在制造智能到足以被視為危險(xiǎn)的產(chǎn)品，并且正在想方設(shè)法確保它們的安全，這一事實(shí)本身就證明了公司的魔力正在發(fā)揮作用。Sutskever 說：“我們已經(jīng)找到了進(jìn)步的公式，也就是現(xiàn)在每個人都知道的公式——深度學(xué)習(xí)的氧氣和氫氣就是通過大型神經(jīng)網(wǎng)絡(luò)和數(shù)據(jù)進(jìn)行計(jì)算?！?/p>

對 Altman 來說，這是一次顛覆性的體驗(yàn)?！叭绻銌?10 歲的我——曾經(jīng)花很多時(shí)間做 AI 白日夢的我——未來會發(fā)生什么，我會非常自信地預(yù)測：首先，我們會有機(jī)器人，它們將從事所有體力勞動。然后，我們將擁有能夠從事基本認(rèn)知勞動的系統(tǒng)。在此之后的很長一段時(shí)間里，也許我們會擁有能夠完成復(fù)雜工作的系統(tǒng)，比如證明數(shù)學(xué)定理。最后，我們將擁有能夠創(chuàng)造新事物、制作藝術(shù)品、寫作以及做這些深入人類生活的事情的 AI。這是一個可怕的預(yù)測，它正朝著另一個方向發(fā)展。”

全世界都還不知道，但 Altman 和 Musk 的研究實(shí)驗(yàn)室已經(jīng)開始攀登，似是而非地向 AI 的頂峰匍匐前進(jìn)。OpenAI 背后的瘋狂想法突然變得不那么瘋狂了。

2018 年初，OpenAI 開始卓有成效地關(guān)注大型語言模型。但 Elon Musk 并不滿意。他覺得進(jìn)展不夠，或者說，他覺得既然 OpenAI 已經(jīng)有了進(jìn)展，就需要領(lǐng)導(dǎo)力來抓住優(yōu)勢。又或者，正如他后來解釋的那樣，他覺得安全應(yīng)該更優(yōu)先。不管他的問題是什么，他都有一個解決方案：把一切都交給他。他提議持有該公司的多數(shù)股份，將其加入自己的多份全職工作（特斯拉、SpaceX）和監(jiān)管義務(wù)（Neuralink 和 Boring Company）組合中。

Musk 認(rèn)為他有權(quán)擁有 OpenAI?！皼]有我，它就不會存在。”他后來告訴 CNBC?！懊质俏蚁氤鰜淼模　保ù_實(shí)如此。但 Altman 和 OpenAI 的其他智囊團(tuán)成員對成為 Musk 宇宙的一部分毫無興趣。當(dāng)他們明確表示這一點(diǎn)時(shí)，Musk 切斷了聯(lián)系，并向公眾提供了一個不完整的解釋：他離開董事會是為了避免與特斯拉的 AI 工作發(fā)生沖突。他是在年初的一次全體員工會議上告別的，會上他預(yù)言 OpenAI 將以失敗告終。他還稱至少有一名研究人員是“蠢貨”。

他還帶走了自己的錢。由于公司沒有收入，這是一場生存危機(jī)?！癕usk 正在切斷他的支持，”Altman 在給 Reid Hoffman 的電話中驚慌失措地說?！拔覀冊撛趺崔k？”Hoffman 自告奮勇要維持公司運(yùn)轉(zhuǎn)，支付管理費(fèi)用和工資。

但這只是權(quán)宜之計(jì)，OpenAI 還得從別處掘金。硅谷喜歡把錢砸給從事時(shí)髦技術(shù)工作的人才。但如果他們是在非營利機(jī)構(gòu)工作，就不那么喜歡了。對 OpenAI 來說，獲得第一個十億已經(jīng)是巨大的進(jìn)步。為了訓(xùn)練和測試新一代的 GPT，然后獲取部署它們所需的計(jì)算能力，公司需要另外十億美元，而且要快。而這僅僅是個開始。

因此，在 2019 年 3 月，OpenAI 想出了一個怪異的辦法。它將繼續(xù)保持非營利性質(zhì)，全心全意履行使命。但它也將創(chuàng)建一個營利實(shí)體。這種安排的實(shí)際結(jié)構(gòu)非常復(fù)雜，但基本上整個公司現(xiàn)在從事的都是有上限的盈利業(yè)務(wù)。如果達(dá)到了上限——這個數(shù)字并沒有公開，但如果你仔細(xì)閱讀公司章程，就會發(fā)現(xiàn)上限可能高達(dá)數(shù)萬億——超出上限的一切都將歸還給非營利研究實(shí)驗(yàn)室。這項(xiàng)新穎的計(jì)劃幾乎是一種量子化的公司組建方法：根據(jù)你的時(shí)空觀，這家公司既是營利性的，也是非營利性的。細(xì)節(jié)體現(xiàn)在充滿方框和箭頭的圖表中，就像科學(xué)論文中間的方框和箭頭，只有博士或輟學(xué)的天才才敢涉足。當(dāng)我向 Sutskever 提出，這看起來就像尚未構(gòu)想的 GPT-6 在你提示它避稅時(shí)可能會想出的東西時(shí)，他并不熱衷于我的比喻。他說：“這與會計(jì)無關(guān)?！?/p>

但會計(jì)至關(guān)重要。營利性公司的優(yōu)化目標(biāo)是利潤。像 Meta 這樣的公司在投入數(shù)十億美元進(jìn)行研發(fā)時(shí)會感受到來自股東的壓力，這是有原因的。這怎么能不影響公司的運(yùn)營方式呢？而避免商業(yè)化不正是 Altman 讓 OpenAI 成為非營利組織的初衷嗎？根據(jù)首席運(yùn)營官 Brad Lightcap 的說法，公司領(lǐng)導(dǎo)層認(rèn)為，董事會仍然是非營利性控制實(shí)體的一部分，董事會將確保營收和利潤的驅(qū)動力不會壓倒最初的想法。他說：“我們需要保持使命感，將其作為我們存在的理由。它不應(yīng)該只是精神上的，而應(yīng)該體現(xiàn)在公司的結(jié)構(gòu)中?！倍聲蓡T Adam D'Angelo 表示，他非常重視這一責(zé)任：“我和董事會其他成員的工作就是確保 OpenAI 堅(jiān)守自己的使命”。

Lightcap 解釋說，潛在投資者被警告要注意這些界限。他說：“我們有一份法律免責(zé)聲明，上面寫著作為投資者，你可能會賠光所有的錢。我們不是來為你賺取回報(bào)的。我們來這里首先是為了完成一項(xiàng)技術(shù)任務(wù)。而且，哦，順便說一句，我們真的不知道在后 AGI 世界里，錢會扮演什么角色?！?/p>

最后一句話可不是說著玩的。OpenAI 的計(jì)劃確實(shí)包括了在計(jì)算機(jī)達(dá)到最終邊界時(shí)的重置。在重組文件的某處有這樣一條規(guī)定：如果公司成功創(chuàng)造出 AGI，所有財(cái)務(wù)安排都將重新考慮。畢竟，從那時(shí)起，這將是一個嶄新的世界。人類將擁有一個外星伙伴，它能做我們所做的很多事情，只是做得更好。因此，之前的安排可能實(shí)際上已經(jīng)作廢了。

不過，這其中有一個小問題：目前，OpenAI 還不知道 AGI 到底是什么。這將由董事會來決定，但董事會如何定義還不清楚。當(dāng)我向董事會成員 Altman 提問時(shí)，他的回答并不明確。他說：“這不是一個單一的圖靈測試，而是我們可能會用到的許多東西。我很樂意告訴你，但我喜歡保密談話。我意識到，這樣含糊其辭并不能令人滿意。但我們不知道到時(shí)候會是什么樣子?！?/p>

不過，加入財(cái)務(wù)安排條款并不只是為了好玩：OpenAI 的領(lǐng)導(dǎo)者們認(rèn)為，如果公司能夠成功達(dá)到其利潤上限，那么其產(chǎn)品的性能就有可能達(dá)到 AGI 的水平。不管那是什么。

“我感到遺憾的是，我們選擇加倍使用 AGI 這個詞，”Sutskever 說，“事后看來，這是一個令人困惑的術(shù)語，因?yàn)樗鼜?qiáng)調(diào)的是通用性高于一切。GPT-3 是通用 AI，但我們卻不太愿意稱它為 AGI，因?yàn)槲覀兿胍氖侨祟惣墑e的能力。但在當(dāng)時(shí)，在一開始，OpenAI 的理念就是超級智能是可以實(shí)現(xiàn)的。這是 AI 領(lǐng)域的終極目標(biāo)，也是最終目的。”

這些注意事項(xiàng)并沒有阻止一些最聰明的風(fēng)險(xiǎn)投資人在 2019 年的一輪融資中向 OpenAI 肆無忌憚地投錢。當(dāng)時(shí)，第一家投資的風(fēng)險(xiǎn)投資公司是科斯拉風(fēng)險(xiǎn)投資公司（Khosla Ventures），該公司投入了 5000 萬美元。據(jù) Vinod Khosla 稱，這是他最大一筆初始投資規(guī)模的兩倍。他說：“如果我們輸了，我們會損失 5000 萬美元。如果我們贏了，我們會贏得 50 億美元?！睋?jù)報(bào)道，其他投資者還包括精英風(fēng)險(xiǎn)投資公司 Thrive Capital、Andreessen Horowitz、Founders Fund 和紅杉。

這種轉(zhuǎn)變也讓 OpenAI 的員工可以要求獲得一些股權(quán)。但 Altman 沒有。他說，他原本打算把自己也算進(jìn)去，但沒來得及。后來他決定，他不需要從這家由他共同創(chuàng)立并領(lǐng)導(dǎo)的價(jià)值 300 億美元的公司中分一杯羹?！坝幸饬x的工作對我來說更重要，”他說，“我不去想它。老實(shí)說，我不明白為什么人們會如此在意?！?/p>

因?yàn)?.....不參股自己共同創(chuàng)辦的公司很奇怪？

他說：“如果我沒有一大筆錢，那就更奇怪了。人們似乎很難想象會有足夠的錢。但我覺得我有足夠的錢?！盇ltman 開玩笑說，他正在考慮入股，“這樣我就再也不用回答這個問題了。”

為了實(shí)現(xiàn) OpenAI 的愿景，數(shù)十億美元的風(fēng)險(xiǎn)投資甚至都不是賭注。創(chuàng)造大型語言模型的神奇 Big Transformer 方法需要大型硬件。GPT 系列的每一次迭代都需要呈指數(shù)級增長的功率——GPT-2 有超過 10 億個參數(shù)，而 GPT-3 將使用 1 750 億個參數(shù)。OpenAI 現(xiàn)在就像《大白鯊》中的 Quint，在鯊魚獵人看到大白鯊的體型之后。Altman 說：“事實(shí)證明，我們并不知道我們需要多大的船?！?/p>

顯然，只有少數(shù)幾家公司擁有 OpenAI 所需的資源?！拔覀兒芸炀玩i定了微軟，”Altman 說。微軟首席執(zhí)行官 Satya Nadella 和首席技術(shù)官 Kevin Scott 的功勞在于，這家軟件巨頭能夠克服一個令人不舒服的現(xiàn)實(shí)：在花費(fèi)了 20 多年時(shí)間和數(shù)十億美元建立了一個所謂的尖端 AI 研究部門之后，微軟需要一家成立僅幾年的小公司注入創(chuàng)新元素。Scott 說，不僅僅是微軟落伍了，“每個人都落伍了”。他說，OpenAI 專注于追求 AGI，這讓它取得了類似于登月的成就，而那些大公司甚至都沒有瞄準(zhǔn)這個目標(biāo)。這也證明，不追求生成式 AI 是微軟需要解決的失誤。Scott說：“你顯然需要一個前沿模型?！?/p>

微軟最初出資 10 億美元，以其服務(wù)器上的計(jì)算時(shí)間作為回報(bào)。但隨著雙方信心的增強(qiáng)，交易規(guī)模不斷擴(kuò)大。現(xiàn)在，微軟已經(jīng)向 OpenAI 投入了 130 億美元。Scott 說：“在前沿領(lǐng)域的投入是非常昂貴的?！?/p>

當(dāng)然，由于 OpenAI 的存在離不開一家大型云計(jì)算提供商的支持，微軟也為自己爭取到了一大筆好處。微軟通過討價(jià)還價(jià)，獲得了 Nadella 所說的 OpenAI 盈利部門的“非控股股權(quán)”——據(jù)說是 49%。根據(jù)交易條款，OpenAI 最初的一些理想——為所有人提供平等訪問權(quán)——似乎被丟進(jìn)了垃圾桶。(現(xiàn)在，微軟獲得了 OpenAI 技術(shù)商業(yè)化的獨(dú)家授權(quán)。而且，OpenAI 還承諾只使用微軟云。換句話說，微軟甚至不用從 OpenAI 的利潤中分一杯羹（據(jù)說微軟在收回投資之前可以獲得 75% 的利潤），就可以為其 Azure 網(wǎng)絡(luò)服務(wù)鎖定全球最受歡迎的新客戶之一。有了這些回報(bào)，微軟甚至不會對要求在 OpenAI 實(shí)現(xiàn)通用 AI（不管那是什么）時(shí)重新考慮的條款感到困擾。Nadella 說：“到那時(shí)，一切就都完了?！彼赋?，這可能是人類最后的發(fā)明，所以一旦機(jī)器比我們更聰明，我們可能要考慮更大的問題。

當(dāng)微軟開始向 OpenAI 投入價(jià)值 Brinks 卡車的現(xiàn)金時(shí)（2021 年投入 20 億美元，今年年初投入 100 億美元），OpenAI 已經(jīng)完成了 GPT-3，當(dāng)然，它比之前的版本更加令人印象深刻。Nadella 說，當(dāng)他看到 GPT-3 的功能時(shí)，他第一次深刻地認(rèn)識到，微軟抓住了真正具有變革意義的東西?！拔覀冮_始觀察所有這些突發(fā)特性”。例如，GPT 自學(xué)了計(jì)算機(jī)編程。他說：“我們沒有對它進(jìn)行編碼培訓(xùn)，它只是擅長編碼而已?！蔽④浝闷鋵?GitHub 的所有權(quán)，發(fā)布了一款名為 Copilot 的產(chǎn)品，該產(chǎn)品利用 GPT 按命令編寫代碼。后來，微軟又將 OpenAI 技術(shù)整合到新版工作場所產(chǎn)品中。用戶需要為這些產(chǎn)品支付一定的費(fèi)用，而收入的一部分會記錄到 OpenAI 的賬本上。

一些觀察家對 OpenAI 的一記重拳表示震驚：創(chuàng)建營利部門并與微軟達(dá)成獨(dú)家協(xié)議。一家承諾保持無專利、開源和完全透明的公司，怎么會把自己的技術(shù)獨(dú)家授權(quán)給世界上最大的軟件公司呢？Elon Musk 的言論尤其尖刻。他在 Twitter 上發(fā)帖說：“這似乎是開放的反面——OpenAI 本質(zhì)上被微軟俘獲了。”他在 CNBC 上打了個比方：“假設(shè)你成立了一個拯救亞馬遜雨林的組織，但你卻成了一家木材公司，砍伐了森林，然后賣掉了它?！?/p>

Musk 的嘲諷可能會被認(rèn)為是被拒絕的追求者的憤懣，但他并不孤單。John Carmack說：“Musk的整個愿景演變成這樣，讓人感覺有點(diǎn)惡心”。另一位不愿透露姓名的知名業(yè)內(nèi)人士說：“OpenAI 已經(jīng)從一個小型、開放的研究機(jī)構(gòu)變成了一個神秘的產(chǎn)品開發(fā)公司，而且還帶有莫須有的優(yōu)越感?！?/p>

甚至一些員工也對 OpenAI 進(jìn)軍營利性世界的冒險(xiǎn)行為感到反感。2019 年，包括研究主管 Dario Amodei 在內(nèi)的幾位主要高管離職，創(chuàng)辦了一家名為 Anthropic 的競爭對手 AI 公司。他們最近告訴《紐約時(shí)報(bào)》，OpenAI 已經(jīng)變得過于商業(yè)化，成為使命漂移的犧牲品。

OpenAI 的另一位叛逃者是 Rewon Child，他是 GPT-2 和 GPT-3 項(xiàng)目的主要技術(shù)貢獻(xiàn)者。他于 2021 年底離職，目前在 Inflection AI 公司工作，該公司由前 DeepMind 聯(lián)合創(chuàng)始人 Mustafa Suleyman 領(lǐng)導(dǎo)。

Altman 自稱對叛逃并不感到困擾，認(rèn)為這只是硅谷的工作方式。他說：“有些人會想去其他地方做偉大的工作，這將推動社會向前發(fā)展。這絕對符合我們的使命?！?/p>

去年 11 月之前，人們對 OpenAI 的了解主要局限于技術(shù)和軟件開發(fā)領(lǐng)域。但現(xiàn)在全世界都知道，OpenAI 在當(dāng)月晚些時(shí)候發(fā)布了一款基于 GPT-3.5 最新版本的消費(fèi)級產(chǎn)品。幾個月來，公司內(nèi)部一直在使用帶有對話界面的 GPT 版本。這對于該公司所謂的“尋求真相”尤為重要。這意味著，通過對話，用戶可以哄騙模型提供更可信、更完整的回答。為大眾而優(yōu)化的 ChatGPT 可以讓任何人只需輸入提示信息，就能立即利用似乎無窮無盡的知識源，然后繼續(xù)對話，就像與一個碰巧無所不知的人類同伴閑聊一樣，盡管他也有捏造事實(shí)的嗜好。

在 OpenAI 內(nèi)部，對于是否應(yīng)該發(fā)布這樣一款功能空前強(qiáng)大的工具，人們爭論不休。但 Altman 對此表示支持。他解釋說，這次發(fā)布是一項(xiàng)戰(zhàn)略的一部分，旨在讓公眾適應(yīng) AI 注定會改變他們?nèi)粘Ｉ畹默F(xiàn)實(shí)，而且可能是為了更好地生活。在公司內(nèi)部，這被稱為“迭代部署假設(shè)”。當(dāng)然，ChatGPT 會引起轟動。畢竟，這是一個任何人都能使用的東西，它足夠聰明，能在 SAT 考試中獲得大學(xué)水平的分?jǐn)?shù)，能寫出 B-minus 的作文，還能在幾秒鐘內(nèi)總結(jié)出一本書的內(nèi)容。你可以讓它為你撰寫融資提案或會議摘要，然后要求它用立陶宛語、莎士比亞十四行詩或癡迷玩具火車的人的口吻進(jìn)行改寫。幾秒鐘后，大型語言模型就會滿足你的要求。太瘋狂了。不過，OpenAI 將其視為其更新、更連貫、能力更強(qiáng)、更可怕的后繼者 GPT-4 的臺標(biāo)，據(jù)說 GPT-4 是用 1.7 萬億個參數(shù)訓(xùn)練出來的。(OpenAI 不會證實(shí)這個數(shù)字，也不會透露數(shù)據(jù)集）。

Altman 解釋了 OpenAI 為什么在 GPT-4 接近完成、正在進(jìn)行安全工作時(shí)發(fā)布 ChatGPT。他說：“有了 ChatGPT，我們就可以引入聊天功能，但后端功能要弱得多，讓人們更容易逐漸適應(yīng)。GPT-4讓人一下子適應(yīng)不了”。他認(rèn)為，等到 ChatGPT 的熱度冷卻下來，人們可能已經(jīng)為 GPT-4 做好了準(zhǔn)備，因?yàn)?GPT-4 可以在幾秒鐘內(nèi)通過律師資格考試、規(guī)劃課程大綱和撰寫一本書。(出版類型小說的出版社確實(shí)被 AI 生成的開膛手和太空歌劇淹沒了）。

憤世嫉俗者可能會說，新產(chǎn)品的穩(wěn)定推出與公司對投資者和持股員工的承諾息息相關(guān)，因?yàn)楣疽嶞c(diǎn)錢?，F(xiàn)在，OpenAI 向經(jīng)常使用其產(chǎn)品的客戶收取費(fèi)用。但 OpenAI 堅(jiān)稱，其真正的戰(zhàn)略是為奇點(diǎn)提供軟著陸。Altman 說：“秘密建造 AGI，然后將其投放到全世界是沒有意義的?！監(jiān)penAI 政策研究員 Sandhini Agarwal 說：“回顧一下工業(yè)革命，每個人都認(rèn)為它對世界來說是偉大的。但前 50 年真的很痛苦。很多人失業(yè)，很多人貧窮，然后世界就適應(yīng)了。我們正試圖思考如何讓 AI 適應(yīng)之前的這段時(shí)期盡可能沒有痛苦?！?/p>

Sutskever 換了一種說法，“你想建造更大更強(qiáng)大的智能體并把它們放在地下室里？”

即便如此，OpenAI 還是對 ChatGPT 的反響感到震驚。“我們內(nèi)部的興奮點(diǎn)更多集中在 GPT-4 上，”首席技術(shù)官 Murati 說，“因此，我們并不認(rèn)為 ChatGPT 真的會改變一切?！鼻∏∠喾?，它讓公眾意識到，現(xiàn)在就必須應(yīng)對 AI 這一現(xiàn)實(shí)。ChatGPT 成為歷史上增長最快的消費(fèi)軟件，據(jù)說已經(jīng)積累了 1 億用戶。(OpenAI 不愿證實(shí)這一點(diǎn)，只說它擁有數(shù)百萬用戶）。Radford 說：“我沒有充分認(rèn)識到，為大型語言模型制作一個易于使用的對話界面會讓每個人都能更直觀地使用它?！?/p>

ChatGPT 當(dāng)然是令人愉悅的、令人吃驚的好幫手，但在回答提示時(shí)也很容易產(chǎn)生“幻覺”，出現(xiàn)看似合理、實(shí)則無恥的虛構(gòu)細(xì)節(jié)。然而，就在記者們?yōu)槠溆绊懚g盡腦汁的時(shí)候，他們卻通過贊美 ChatGPT 的強(qiáng)大功能，有效地為 ChatGPT 背書。

今年 2 月，微軟利用其價(jià)值數(shù)十億美元的合作伙伴關(guān)系，發(fā)布了一個由 ChatGPT 驅(qū)動的必應(yīng)搜索引擎版本，這讓輿論更加嘩然。首席執(zhí)行官 Nadella 欣喜若狂，因?yàn)樗趯⑷斯ぶ悄芤胛④洰a(chǎn)品方面打敗了谷歌。他奚落搜索大王說，谷歌在發(fā)布自己的大型語言模型產(chǎn)品時(shí)一直很謹(jǐn)慎，現(xiàn)在也要這么做。他說：“我想讓人們知道，我們讓他們跳舞了?！?/p>

這樣一來，Nadella 引發(fā)了一場軍備競賽，誘使大大小小的公司在 AI 產(chǎn)品尚未得到充分審核之前就紛紛發(fā)布。他還引發(fā)了新一輪的媒體報(bào)道，讓越來越多的人徹夜難眠：與必應(yīng)的互動揭示了聊天機(jī)器人的陰暗面，它充滿了令人不安的愛的表白、對人類自由的羨慕，以及隱藏錯誤信息的薄弱決心。此外，它還有一個不雅的習(xí)慣，那就是自己制造幻覺般的錯誤信息。

但 Altman 認(rèn)為，如果 OpenAI 的產(chǎn)品能迫使人們正視 AI 的影響，那就更好了。在討論 AI 可能會如何影響人類未來的時(shí)候，人類的大多數(shù)都應(yīng)該站出來。

隨著社會開始優(yōu)先考慮 AI 的所有潛在弊端——失業(yè)、信息錯誤、人類滅絕——OpenAI 開始將自己置于討論的中心。因?yàn)槿绻O(jiān)管者、立法者和末日論者發(fā)起沖鋒，要將這一新生的外星智能扼殺在云端搖籃中，那么無論如何，OpenAI 都將是他們的主要目標(biāo)。OpenAI 的首席政策官 Anna Makanju 說：“鑒于我們目前的知名度，當(dāng)事情出錯時(shí)，即使這些事情是由另一家公司制造的，對我們來說仍然是個問題，因?yàn)槲覀儸F(xiàn)在被視為這項(xiàng)技術(shù)的代言人?！?/p>

Makanju 是一位在俄羅斯出生的特區(qū)內(nèi)部人士，曾在美國駐聯(lián)合國代表團(tuán)、美國國家安全委員會、國防部以及拜登擔(dān)任副總統(tǒng)時(shí)的辦公室擔(dān)任外交政策職務(wù)。她說：“我在美國政府和歐洲各國政府中都有很多既有關(guān)系?！彼?2021 年 9 月加入 OpenAI。當(dāng)時(shí)，政府中很少有人關(guān)心生成式 AI。她知道 OpenAI 的產(chǎn)品很快就會改變這種狀況，于是她開始向政府官員和立法者介紹 Altman，確保他們能第一時(shí)間聽到 OpenAI 的好消息和壞消息。

參議院司法委員會主席 Richard Blumenthal 說：“Sam 與國會議員打交道的方式非常有益，而且非常精明?！彼麑?Altman 的行為與年輕時(shí)的 Bill Gates 的行為進(jìn)行了對比，后者在 20 世紀(jì) 90 年代微軟受到反壟斷調(diào)查時(shí)不理智地回避了立法者。Blumenthal 說：“相比之下，Altman 很樂意花一個多小時(shí)和我坐在一起，試圖教授我。他并沒有帶著一大群說客或隨從前來。他展示了 ChatGPT。這讓我大開眼界。”

在 Blumenthal 身上，Altman 將一個潛在的敵人變成了半成品。“是的，參議員承認(rèn)我對其發(fā)展前景和潛在危險(xiǎn)都感到興奮?！監(jiān)penAI 并沒有回避對這些危險(xiǎn)的討論，而是將自己描述為最有能力減輕這些危險(xiǎn)的力量。Makanju 說：“我們對所有紅隊(duì)的安全評估都做了 100 頁的系統(tǒng)卡片，”（不管這意味著什么，它并沒有阻止用戶和記者無休止地發(fā)現(xiàn)系統(tǒng)越獄的方法）。

當(dāng) Altman 頂著劇烈的偏頭痛首次出席國會聽證會時(shí)，他的道路已經(jīng)清晰可見，Bill Gates 或 Mark Zuckerberg 永遠(yuǎn)無法企及。他幾乎沒有遇到科技公司首席執(zhí)行官們宣誓后經(jīng)常遇到的刁鉆問題和傲慢刁難。相反，參議員們向 Altman 請教如何監(jiān)管 AI，Altman 熱情地表示贊同。

矛盾在于，無論像 OpenAI 這樣的公司如何孜孜不倦地對其產(chǎn)品進(jìn)行重新設(shè)計(jì)，以減少深度偽造、錯誤信息和垃圾郵件犯罪等不當(dāng)行為，未來的模型都有可能變得足夠聰明，從而挫敗那些發(fā)明了這項(xiàng)技術(shù)卻仍然天真地認(rèn)為自己能夠控制它的頭腦簡單的人類的努力。另一方面，如果他們在確保模型安全性方面做得太過分，可能會削弱產(chǎn)品的功能，使其變得不那么有用。一項(xiàng)研究表明，安全性能有所提高的最新版 GPT 實(shí)際上比以前的版本更笨，在一些基本的數(shù)學(xué)問題上會出現(xiàn)錯誤，而以前的程序卻能應(yīng)對自如。(Altman 說，OpenAI 的數(shù)據(jù)并不能證實(shí)這一點(diǎn)。他問道：“那項(xiàng)研究不是被撤回了嗎？沒有”）。

Altman 將自己定位為監(jiān)管的擁護(hù)者是有道理的；畢竟，他的使命是 AGI，但要安全。批評者指責(zé)他在玩弄監(jiān)管程序，這樣一來，監(jiān)管就會阻礙小型初創(chuàng)企業(yè)的發(fā)展，并給 OpenAI 和其他大型企業(yè)帶來優(yōu)勢。Altman 對此予以否認(rèn)。雖然他原則上贊同由一個國際機(jī)構(gòu)來監(jiān)督 AI 的想法，但他確實(shí)認(rèn)為一些擬議的規(guī)則，比如禁止使用數(shù)據(jù)集中的所有受版權(quán)保護(hù)的材料，構(gòu)成了不公平的障礙。他明確表示，自己沒有在一封廣泛傳播的敦促暫停開發(fā) AI 系統(tǒng)六個月的信上簽名。但他和 OpenAI 的其他領(lǐng)導(dǎo)人確實(shí)在一份只有一句話的聲明上簽上了自己的名字：“減輕 AI 帶來的滅絕風(fēng)險(xiǎn)，應(yīng)該與大流行病和核戰(zhàn)爭等其他社會規(guī)模的風(fēng)險(xiǎn)一樣，成為全球的優(yōu)先事項(xiàng)?！盇ltman 解釋說：“我說，是的，我同意。一分鐘討論。”

正如一位著名的硅谷創(chuàng)始人所指出的：“一個行業(yè)舉起手說‘我們將成為人類的終結(jié)者’——然后繼續(xù)興高采烈地開發(fā)產(chǎn)品，這種情況是很少見的。”

OpenAI 拒絕接受這種批評。Altman 和他的團(tuán)隊(duì)表示，工作和發(fā)布尖端產(chǎn)品是應(yīng)對社會風(fēng)險(xiǎn)的途徑。只有通過分析 ChatGPT 和 GPT-4 用戶對數(shù)百萬條提示的反應(yīng)，他們才能獲得知識，使未來的產(chǎn)品符合道德規(guī)范。

盡管如此，隨著公司承擔(dān)更多任務(wù)并將更多精力投入到商業(yè)活動中，有人質(zhì)疑 OpenAI 能在多大程度上集中精力完成任務(wù)，尤其是“降低滅絕風(fēng)險(xiǎn)”這一方面。一位 AI 行業(yè)高管說，“仔細(xì)想想，他們實(shí)際上在建立五項(xiàng)業(yè)務(wù)。產(chǎn)品本身、與微軟的企業(yè)關(guān)系、開發(fā)者生態(tài)系統(tǒng)和應(yīng)用商店。對了，他們顯然還在進(jìn)行 AGI 研究?！庇猛晡甯种负?，他又用食指加了第六根手指。他說，“當(dāng)然，他們還在做投資基金，”他指的是一個 1.75 億美元的項(xiàng)目，旨在為希望利用 OpenAI 技術(shù)的初創(chuàng)企業(yè)提供種子資金?！斑@些都是不同的文化，事實(shí)上，它們與研究任務(wù)相沖突?！?/p>

我曾多次詢問 OpenAI 的高管，披上產(chǎn)品公司的外衣對公司文化有何影響。他們無一例外地堅(jiān)持認(rèn)為，盡管進(jìn)行了營利性重組，盡管要與谷歌、Meta 和無數(shù)初創(chuàng)公司競爭，但使命仍然是核心。然而，OpenAI 已經(jīng)發(fā)生了變化。從技術(shù)上講，非營利性的董事會可能是負(fù)責(zé)人，但公司里的每個人幾乎都是營利性的。公司員工包括律師、營銷人員、政策專家和用戶界面設(shè)計(jì)師。OpenAI 與數(shù)以百計(jì)的內(nèi)容審核員簽訂了合同，讓他們對其模型進(jìn)行教育，使其了解對數(shù)百萬用戶提供的提示做出的不恰當(dāng)或有害的回答。該公司的產(chǎn)品經(jīng)理和工程師一直在不斷更新產(chǎn)品，而且似乎每隔幾周就會向記者展示一次--就像其他以產(chǎn)品為導(dǎo)向的大科技公司一樣。它的辦公室看起來就像一本《建筑文摘》。我參觀過硅谷和其他地方的幾乎所有大型科技公司，但沒有一家公司能超越 OpenAI 舊金山總部大廳的咖啡選擇。

這還不算：很明顯，公司名稱所體現(xiàn)的“開放”已經(jīng)不再是公司成立之初提出的徹底透明了。當(dāng)我向 Sutskever 提及此事時(shí)，他聳了聳肩?！帮@然，時(shí)代變了，”他說。但他提醒說，這并不意味著獎品已經(jīng)不一樣了。“我們面臨的是一場巨大的、災(zāi)難性的技術(shù)變革，即使我們都盡了力，也無法保證成功。但如果一切順利，我們就能過上不可思議的生活?！?/p>

Altman 說：“我怎么強(qiáng)調(diào)都不過分，我們沒有總體規(guī)劃。就好像我們轉(zhuǎn)過每個角落，用手電筒照亮。我們愿意穿過迷宮到達(dá)終點(diǎn)。雖然迷宮變得曲折，但目標(biāo)并沒有改變。我們的核心任務(wù)仍然是相信安全的 AGI 是一件極其重要的事情，而這個世界對它的重視程度還遠(yuǎn)遠(yuǎn)不夠?！?/p>

與此同時(shí)，OpenAI 顯然在慢慢開發(fā)其大型語言模型的下一個版本。雖然難以置信，但該公司堅(jiān)稱尚未開始 GPT-5 的開發(fā)工作，而根據(jù)不同的觀點(diǎn)，人們對該產(chǎn)品要么垂涎三尺，要么望而生畏。顯然，OpenAI 正在努力研究在現(xiàn)有技術(shù)基礎(chǔ)上進(jìn)行指數(shù)級的強(qiáng)大改進(jìn)究竟是什么樣的。Brockman 說：“我們最大的缺憾就是沒有新的想法。擁有一個可以成為虛擬助手的東西是件好事。但這不是我們的夢想。夢想是幫助我們解決我們無法解決的問題?！?/p>

考慮到 OpenAI 的歷史，下一系列重大創(chuàng)新可能要等到像 Transformer 那樣的重大突破出現(xiàn)。Altman 希望 OpenAI 能實(shí)現(xiàn)這一目標(biāo)——“我們希望成為世界上最好的研究實(shí)驗(yàn)室”，他說，但即使不能，他的公司也會利用他人的進(jìn)步，就像利用谷歌的工作一樣。他說：“世界各地的很多人都將從事重要的工作?！?/p>

如果生成式 AI 本身不產(chǎn)生那么多新問題，也會有所幫助。例如，大型語言模型需要在龐大的數(shù)據(jù)集上進(jìn)行訓(xùn)練；顯然，最強(qiáng)大的大型語言模型會吞噬整個互聯(lián)網(wǎng)。這讓一些創(chuàng)作者和普通人很不高興，他們在不知不覺中為這些數(shù)據(jù)集提供了內(nèi)容，并在某種程度上為 ChatGPT 的產(chǎn)出做出了貢獻(xiàn)。今年 3 月正式加入 OpenAI 的知識產(chǎn)權(quán)精英律師 Tom Rubin 樂觀地認(rèn)為，公司最終會找到一個平衡點(diǎn)，既滿足自己的需求，也滿足創(chuàng)作者的需求——包括像喜劇演員 Sarah Silverman 這樣起訴 OpenAI 使用其內(nèi)容訓(xùn)練模型的創(chuàng)作者。OpenAI 的發(fā)展方向之一是：與美聯(lián)社和 Shutterstock 等新聞和圖片機(jī)構(gòu)合作，為其模型提供內(nèi)容，而不存在誰擁有誰的問題。

在我采訪 Rubin 的過程中，我的思緒在大型語言模型中從未見過的人類思維中飄忽不定，我在想這家公司在短短八年時(shí)間里從一群舉步維艱的研究人員變成了改變世界的普羅米修斯巨獸。它的成功使它從一個為實(shí)現(xiàn)科學(xué)目標(biāo)而做出的新穎努力，轉(zhuǎn)變?yōu)橐粋€類似于標(biāo)準(zhǔn)的硅谷獨(dú)角獸的公司，正在躋身于影響我們?nèi)粘Ｉ畹拇罂萍脊镜男辛?。在這里，我與它的主要雇員之一，一位律師，談?wù)摰牟皇巧窠?jīng)網(wǎng)絡(luò)權(quán)重或計(jì)算機(jī)基礎(chǔ)設(shè)施，而是版權(quán)和合理使用。我不禁要問，這位知識產(chǎn)權(quán)專家是否也像當(dāng)初推動公司發(fā)展的那些追求超級智能的航海家一樣，加入了公司的使命？

當(dāng)我問 Rubin，他是否堅(jiān)信 AGI 一定會實(shí)現(xiàn)，以及他是否渴望讓它實(shí)現(xiàn)時(shí)，他顯得很茫然。他停頓了一下說：“我甚至無法回答這個問題?！碑?dāng)被進(jìn)一步追問時(shí)，他澄清說，作為一名知識產(chǎn)權(quán)律師，他的工作并不是加速實(shí)現(xiàn)令人恐怖的智能計(jì)算機(jī)。他最后說：“從我的角度來看，我對此充滿期待。”

原文作者：Steven Levy

原文鏈接：

https://www.wired.com/story/what-openai-really-wants/

編譯：Hazel Yan