想要改變一切的OpenAI 正在被改變

發表於 2023-10-06 11:00 作者： 36氪

就在放假前，《華爾街日報》援引知情人士報道稱，OpenAI 在和投資人討論出售股票的可能性，這可能會將該公司的估值提升至 800-900 億美元。    

如果這成爲現實，OpenAI 將成爲世上其中一家價值最高的非上市公司。

早已經成爲新一輪 AI 浪潮代名詞的「GPT」，預計很快將能爲公司帶來超過 10 億美元的營收。

但這離 OpenAI 想要的還差很遠。

他們說，自己唯一想做的，是去建造足夠聰明和安全的計算機來終結歷史，把人類帶入一個我們難以想象的慷慨時代。

著名科技記者 Steven Levy 寫道。他從 OpenAI 成立之初就开始關注這家公司，前段時間更是跟着 Sam Altman 到各國進行演說。

Levy 在最近的特稿中，向我們展示了 OpenAI 的發展歷程和衆多重要決策的內部景象，也提出了一個疑問：立志要以 AGI（通用人工智能）改變一切的 OpenAI，現在還是最初的它嗎？

「信徒」集結  

AGI 像是一種「信仰」。

沒有人知道它具體是怎樣的，在相信它能被制造的人心中，它能比人類更好地解決人類的問題。

當它出現後，人類社會將被永久地改變。Sam Altman 相信：

AGI 只會被成功地建造出來一次。

擁有着看似「標准技術天才」的人生，Altman 在 28 歲時就走完了學習技術、創業、投資的道路，成爲了著名孵化器 Y Combinator 的總裁。

在他看來，投資創業公司不是爲了獲得高額回報，而是在投資和推動有潛力顛覆一切的創新。

正是在 Altman 开始掌管 Y Combinator 那年，AI 迎來了衆多突破 —— 深度學習和神經網絡讓計算機能「看懂」圖片，更好地翻譯文本；DeepMind 被 Google 收購，並在兩年後以 AlphaGo 顛覆人們對 AI 的想象。

是時候了。

Altman 想創立一種新型的機構，搶先大公司追尋 AGI，並確保這個技術能被負責任、安全地使用。

他從馬斯克、LinkedIn 聯合創始人 Reid Hoffman、PayPal 聯合創始人 Peter Thiel、Y Combinator 創始合夥人 Jessica Livingston 募得首批啓動資金，开始爲 OpenAI 物色人才。

Altman 只要真正相信 AGI 的人：

在 2015 年，我們招人的時候，AI 研究員如果說自己真會認真看待 AGI，這基本上會毀了你的職業生涯。但我就是想要那些認真看待 AGI 的人。

當時在支付公司 Stripe 擔任 CTO 的 Greg Brockman 就是那樣的人。另外，Google Brain 的 Andrej Karpathy 也成爲了 OpenAI 的聯合創始人。

但要說到 Altman 其中一個最想要的，還是工程師 Ilya Sutskever。在未來，他也將是那個最早看到 AI 新曙光的人。

Sutskever 是「人工智能教父」Geoffrey Hinton 的得意門生，2015 年時是 Google Brain 的其中一位核心科學家。

Altman 的招人方式很特別。

他先是寫了封郵件，邀請 Sutskever 一起喫飯，同行的還有馬斯克、Brockman 和其他人。在飯桌上，沒人明確邀請 Sutskever 加入 OpenAI，只是在討論「AI 和未來的 AGI」。

Sutskever「上鉤」了。

他回家給 Altman 寫了封郵件，表示了自己加入的意愿。然而，郵件卻一不小心卡在了草稿箱裏。直到 Altman 开始主動伸出橄欖枝，Sutskever 才最終加入了 OpenAI。

2015 年 12 月，OpenAI 正式成立。

它相信 AGI 終會來臨，它要以开源的方式，讓所有人都能安全地使用 AI。

直到現在，OpenAI 的團隊規模已經從最开始的幾人變成了 500 多人，「相信 AGI 終會到來」仍然是團隊成員的共識 —— 至少在公司高管眼中是這樣看的:

一個不相信的人，爲什么會想在這裏工作？

象牙塔

理想化的起源讓 OpenAI 像象牙塔一般。

沒什么能比和志同道合、充滿才華的同事一起朝着同一個目標努力更快樂的了，不是嗎？

我說，我們應該怎樣做？

Altman 早期在 CTO Brockman 家和一小隊人碰面時表示，坦露了自己的困惑。

現實是，OpenAI 在挺長一段時間裏也如此迷惘。

OpenAI 成立一年多後，Brockman 曾和 Levy 會面，前者對公司的進展守口如瓶，只是說「我們的目標，是創造能做到人類從前無法做到的事情的系統。」

而從外界看來，OpenAI 就更像一個實驗室，發表各種研究論文。

Brockman 現在承認，當時其實「什么都行不通」。研究員們在嘗試研究各種算法，一邊看看能解遊戲的技術，另一邊也投入不少精力研究機器人。Altman 說：

我們知道我們想做什么。我們知道爲什么我們想做這件事。但我們就是完全不知道該怎樣去做。

Sutskever 則有自己的思路：

大概主旨就是，不要和深度學習作對。

就在這個相對純粹的環境下，研究員們各自進行着各自的嘗試和實驗。

2016 年加入 OpenAI 的研究員 Alec Radford 曾對外形容，在 OpenAI 裏工作「就像是加入了一個研究生項目」 —— 一個开放的，壓力較低的研究 AI 的空間。

OpenAI 的辦公室也有這種感覺。

在舊金山總部裏，Altman 設置了大學風格的食堂、自助吧台，還有一個圖書館。

這個圖書館融合了 Altman 在巴黎最喜歡的書店和斯坦福自習室 Bender Room 的模樣。

當時還名不經傳的 Radford 喜歡研究神經網絡與人類對話的項目。最开始，他嘗試用 20 億 Reddit 評論去訓練一個語言模型，結果並不理想。

但當時 Radford 才 23 歲，而且在 OpenAI 裏，人們有失敗並繼續嘗試的資本。Brockman 回憶：

我們當時的態度基本是，Alce 很棒，讓他去做自己的事就好了。

因 OpenAI 算力支持有限，Radford 下一個項目嘗試用更集中和更小的數據集 —— 約 1 億條亞馬遜產品評論。

Radford 給語言模型的任務很直接，就是在生成評論時預測下一個單詞。接下來，模型居然能夠根據要求去寫出正面和負面的評論：

「這完全就是意外」，Radford 說，他完全沒想到系統能明白正面/負面的感覺，這可是語義中的一個復雜功能。

Sutskever 鼓勵 Radford 去繼續探索這個試驗，看看它能否在不同領域適用。

2017 年，那篇將改變一切的論文出現了—— 「Attention Is All You Need」。

那個真正的「頓悟時刻（aha moment）」是 Ilya 看到了 transformer 論文發布。他說，「我們在等的就是這個。」

Brockman 回憶道。在他看來，這個過程也反映了 OpenAI 的工作理念：

這一直都是我們的策略 —— 去盡力解決問題，然後相信我們或者領域裏的其他人終會想到我們缺失的那一塊。

Radford 开始將 Transformer 架構融入試驗中：「我在兩周裏的獲得的進展比過去兩年的還要多。」他意識到新模型的關鍵就在於量，要給模型大量數據。

Radford 和合作者給自己的新模型命名爲「generatively pretrained transformer（生成式預訓練轉換器）」，也就是「GPT-1」。

GPT 登場，OpenAI 也开始走向改變。

分道揚鑣 

關於做到安全 AGI 的最好方式，他們有和我們不同的意見。

對於研究主管 Dario Amodei 於 2019 年離开團隊並創立 Anthropic，Altman 曾如此對《華爾街報道》評論道。

2021 年，GPT-2 和 GPT-3 項目的主要技術負責人 Rewon Child 也離开 OpenAI，現爲 DeepMind 聯合創始人 Mustafa Suleyman 創立的 Inflection AI。

當然，OpenAI 最著名的「前夥伴」，還數馬斯克。

回到 2018 年，當時 OpenAI 已經开始主攻大語言模型，把資源從過往自由零散的研究中收回。

然而，馬斯克還是覺得一切太低效了，或者是 OpenAI 需要更好的領導能力，後來他又在採訪裏說認爲安全性應該被放在更重要的位置。

無論情況如何，當時他提出的解決方案很直接 —— 讓他來接管 OpenAI。

結果大家都知道，馬斯克也離开了 OpenAI，並且把資金也撤了。

作爲過渡，同樣是在早期就贊助了 OpenAI 的 Reid Hoffman 同意暫時出錢支持公司支出。

Altman 雖被稱爲硅谷千禧一代裏擁有關系最多的人，但要爲一個需要用大量資金購买設備支持 AI 訓練的非營利組織籌資可不容易。

2019 年 3 月，OpenAI 宣布了一套新的公司結構。

OpenAI 將維持其非營利的性質，但同時會創立一家「利潤封頂（caped-profit）」的營利公司 OpenAI LP。

當 OpenAI 爲投資者帶來的利潤達到封頂值（具體數字不公开），所有額外利潤都將投入到非營利公司的研究中。

這個復雜的結構引來不少質疑，OpenAI 董事會成員 Adam D’Angelo 表示，他和董事會的任務是要保證 OpenAI 仍然保持其原有目標路徑：

我們有一個法律免責聲明來澄清，作爲一個投資者，你有可能會失去你投入所有的錢。我們的存在不是爲了給你賺錢。我們是爲了實現一個技術目標，這是最重要的。順便說句，我們不知道金錢在「後 AGI」時代會變成怎樣。

D’Angelo 最後說的，聽起來有點像調侃，但卻是一條實際存在的條款 —— 如果公司成功創造了 AGI，所有金融協議將需要重新討論和考慮。

是的， OpenAI 的確有在考慮 AGI 誕生後的世界。

2019 年，OpenAI 先是完成了三輪融資，獲得了超過 10 億美元的資金，但這在訓練大模型的消耗面前顯得杯水車薪。

每一代 GPT 的迭代都對算力提出更高的要求。Altman 表示：

看來，我們當時並不知道我們需要多么大的船。

接下來的大家都知道了。

微軟和 OpenAI 達成了獨家合作。

微軟先是投入 10 億美元，主要以提供 Azure 雲計算服務的方式完成；隨後再進一步加深合作，如今已經投入了 130 億美元。

身處前沿可是一個非常昂貴的事情。

微軟 CTO Kevin Scott 說道。

這投入顯然很值得。

有了 OpenAI 的微軟，市值從 2022 年的 1.79 萬億漲至 2023 年 8 月的 2.48 萬億，股價一度創下歷史新高。

有了 GPT 加持的 Bing 更是讓微軟揚眉吐氣，微軟 CEO Satya Nadella 看着 Google 追趕的樣子，在採訪中直言：

我想讓人們知道，我們讓（Google）他們着急起來了。（I want people to know we made them dance.）

OpenAI 還是 OpenAI 嗎？  

GPT-5，無論 OpenAI 如何強調自己還沒开始做，傳聞和爆料似乎總在盯着它。

也許這意味着我們都在期待如 GPT-4 橫空出世時的驚豔再臨，期待看到技術能如何躍進。

現實是，好像不需要 GPT-5，OpenAI 也已經可以不斷激起興奮。

GPT-4 接入 Windows，ChatGPT 重新「聯網」，ChatGPT 能看圖了，ChatGPT 能聽聲音和說話了......

每一次更新，都是轟動。

這些活動，也引起人們對 OpenAI「初心」的質疑。一位 AI 領域高管評論說：

如果你認真想，（OpenAI）他們其實在做五個業務。首先是產品本身、和微軟的企業合作、开發者生態、還有個 app store。噢，對了，很明顯還有個 AGI 研究任務。當然，他們還在做一個投資基金。

他最後所指的，是一個 1.75 億的項目，旨在支持利用 OpenAI 技術創業的公司。

這些都有着不同的文化，事實上，它們和研究任務是存在衝突的。

Levy 在採訪的過程中，多次向高管提問，成爲一家「產品公司」後對 OpenAI 的文化會有多深遠的改變。

這些高管無一不肯定地堅持說，就算公司結構改了，就算要持續應對 Google、Meta 等對手的競爭，AGI 永遠都是公司的核心。

然而，Levy 也察覺到 OpenAI 發生了改變的地方。

還記得我們开頭聊起，OpenAI 裏的員工都是明確的「AGI 信徒」嗎？

但當 OpenAI 發展到現在的階段，公司中除了技術人員外，還增加了大量的支持團隊，如律師、市場營銷、政策專家、UI 設計師、產品經理等等，更不說無數沒有面孔的內容審核員。

Levy 曾就 OpenAI 所面臨的侵權案件採訪 Tom Rubin，一位於今年 3 月加入 OpenAI 的版權律師。

Rubin 對於 OpenAI 在法律上遇到的挑战很樂觀，但當 Rubin 被問到是否相信 AGI 終會被研發出來時， 他變得有些猶豫。

停頓片刻後，他說：

我沒法回答這個問題。

後來，他澄清，作爲一位知識產權律師，促進人工智能發展並不是他的工作，但他也「期待它的到來」。

對於正在經歷的曲折，Altman 表示：

我想強調的是 —— 我們沒有一個明確的計劃。我們就像是每當走到拐角處，然後就拿電筒照照一樣。我們愿意穿過這重重迷宮，最終到達終點。

標題：想要改變一切的OpenAI 正在被改變

地址：https://www.coinsdeep.com/article/51628.html

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。