用生命阻止AI毀滅人類！AI教父離開Goo...

首頁
資訊
用生命阻止AI毀滅人類！AI教父離開Google：後悔研究人工智慧

用生命阻止AI毀滅人類！AI教父離開Google：後悔研究人工智慧

發表於 2023-05-03 17:00 作者：區塊鏈情報速遞pro

有「AI 教父」美稱的 Geoffrey Hinton 近日從 Google 離職，震驚業界。他提到過去 50 年來對神經網路與深度學習研究始終抱持著熱情，不過在一個月前，這份熱愛陡然間轉變成了恐懼。本文已獲得作者 Founder Park 授權。（前情提要：比爾蓋茲：AI 將成每個學生「專屬家教」！但短期很多新創會失敗）（背景補充：外媒：OpenAI再完成3億美元融資！估值翻倍至290億鎂，紅衫、a16z等參投）

本文目錄

五月一日，《紐約時報》報導了 Geoffrey Hinton 從 Google 離職的消息，消息震驚業界。文章稱，Hinton 對畢生工作感到後悔和恐懼。

正是他的畢生工作，才有了今天 AI 的突破性進展。

Hinton 是享譽全球的認知心理學和電腦科學家，近 50 年來致力於神經網路的研究。在 2018 年，他因為深度學習的研究獲得圖靈獎，被稱為「AI 教父」。他的研究最終助力了 LLM 的誕生，OpenAI 的首席科學家伊利亞·蘇茨克維也是 Hinton 的得意門生之一。

Hinton 在 2013 年加入 Google，負責 Google 大腦的部分工作，並擔任 Google 副總裁。

恐懼的未來即將到來

據《紐約時報》，身在多倫多的 Hinton 在 4 月向 Google 提出了辭職，已於上周四與 Sundar Pichai 電話溝通結束，溝通細節並未披露。
Hinton 離職的原因，是為了能夠「自由地談論人工智能的風險」，他對自己畢生的工作感到後悔。

「我用一個正常的理由安慰自己：如果我沒做，也會有別人這麼做的」，他說，「（我）很難想象如何才能阻止作惡者用AI做壞事。」

值得一提的是，GPT-4 剛發布時，Hinton 對它讚譽有加：

「毛蟲吸取了足夠的養分，就能化繭成蝶，GPT-4就是人類的蝴蝶。」

僅僅一個多月後，他的態度發生了 180 度轉彎。在採訪中，Hinton 表達了幾點擔憂。

網際網路將被虛假照片、影片和文本淹沒，普通人將「無法再知道什麼是真實的」。
AI 會顛覆就業市場，當下 ChatGPT 等產品能夠幫助人類勞工的工作，但他們可能會取代執行固定任務的助理、個人助手和翻譯等角色，「它消除了單調乏味的工作，」Hinton 說，「這可能只是個開始」。
未來，AI 會對人類的存在構成威脅，因為它們通過分析大量數據學習令人意外的行為。現在個人和公司不僅允許 AI 系統生成程式碼，並且會實際運行這些程式碼。他擔心真正的自動化武器會成為現實（就像科幻片裡的殺人機器人，Hinton 當初離開美國就是因為不想接受國防部的投資）。
對於看似科幻的悲觀未來，Hinton 說：「它可能比人類更聰明，少部分人相信這點。但大多數人認為這樣的未來距離很遙遠，我曾經也認為很遠，可能需要 30 到 50 年甚至更久的時間。但顯然，現在我不這麼認為了。」
還有一個核心觀點，Hinton 認為，以上這些對未來悲觀的預期，目前仍是假設，但可能會導致它們成為現實的情況已經出現：微軟和Google的劇烈競爭，美國和中國的全球競賽。

狼性的發展和競爭會導致惡果，到那時一切都無法被阻止。人們在強調 AI 危險性的時候，往往會將它比喻成電腦領域的「核武器」。

20 世紀，無論是寫信給羅斯福的愛因斯坦，還是奧本海默，都在二戰之後明確表達了為參與核武器研發和建議感到後悔，更為核武器成為冷戰籌碼和政治威脅的工具感到強烈不滿。

開啟歷史也將見證終結

Hinton 畢業於英國劍橋大學，在愛丁堡大學獲得人工智能博士學位，主攻神經網路方向。

在神經網路備受質疑的時期，他沒有動搖對這一技術方向的信念，接連提出了反向傳播算法、波爾茨曼機，在數十年後，深度學習取得爆發性進展，他的研究才被更多 AI 同行認可。

博士畢業後，Hinton 前往美國卡內基梅隆大學任教，幾年後，他對美國 AI 研究由國防部贊助感到不滿，離開美國前往加拿大，在多倫多大學電腦科學學院任教至今。

研究神經網路 40 年後，Hinton 與學生 Alex Krizhevsky 和 Ilya Sutskever 提出卷積神經網路（CNN）架構 AlexNet，震撼業界，重塑電腦視覺領域，開啟了深度學習的黃金時代。

2012 年 NIPS 大會期間，來自全球的科技巨頭向 Hinton 拋出橄欖枝。Hinton 與兩位學生成立公司 DNN-research，隨後以 4400 萬美元天價賣給 Google。他本人也加入 Google，負責 Google Brain 的部分研究工作，title 是 Google 副總裁和 Engineering Fellow。

他的兩位愛徒之一，Ilya Sutskever 在加入 Google 兩年後離職，加入新創辦的研究機構 OpenAI。

因為深度學習的研究，Hinton 與 Yann LeCun 和 Yoshua Bengio 一起獲得 2018 年圖靈獎，英文世界將他們稱為「AI 教父」（Godfathers of AI），中文世界習慣將他們稱為「深度學習三巨頭」。

上文提到，Hinton 在 GPT-4 發布之初還對其讚譽有加。事實上，Hinton 也一直在思考 AI 可能會帶來的危險。

在 3 月初接受 CBS 採訪時，Hinton 表示：

他對「AI 威脅人類」有些擔憂，對於「AI 是否會毀滅人類」，他「認為這並非不可能」，「但是，令我擔憂的是政治局勢，確保每一個人都明智行事，是一個巨大的政治挑戰」。

「很多個體會追求正確的道路，但企業不一樣，利潤動機可能不會讓它們像為它們工作的個體那樣謹慎。」他說，「我只真正了解 Google，這是我唯一工作過的企業，他們一直是最謹慎的企業之一。」

然而，Hinton 並不是 Google 的決策層，經歷了過去一個多月 AI 日新月異的發展後，Hinton 的想法發生了轉變。
也許他已經看清，就連 Google 內部也不知道誰在決定 Google AI 的發展方向。

颶風中淩亂，下一個離開Google的是誰？

在《紐約時報》發文之後，Hinton 很快在推特上回應，稱報導似乎意指他離開 Google「是為了批評 Google」，但實際上，他是為了能夠警醒人們 AI 危險性的同時不傷害到 Google（考慮他副總裁的身份），「Google 的表現很有責任心」。
但一直作為人工智能領先代表的 Google ，很明顯也在這一局的 AI 競爭中落入了下風，Bard 公開演示的一場失誤，讓 Google 市值少了將近千億美元，而到現在，Google 還沒有正式推出能與ChatGPT相抗衡的產品。

我們之前文章闡釋了為什麼 Google Brain 沒能在 AI 競賽中摘得最終的桂冠。

近日，科技媒體 The Information 最近的一篇特稿梳理了 Google 目前的一些問題，以及 Alphabet CEO 桑德爾·皮查伊（Sundar Pichai）所陷入的困境，我們快速整理了文章的一些要點。

自從 2019 年出任 Alphabet CEO 以來，Pichai 一直面臨著諸多困難：內部權力鬥爭、來自監管機構的嚴格監管、員工向管理層的施壓、以及來自前任拉裡·佩奇的潛在壓力等，Pichai 甚至在內部表示會在幾年後辭去職位。

與微軟 CEO 納德拉相比，Pichai 權力較小，更注重控制成本，這有利於他在佩奇時代獲升遷, 但也使 Alphabet 在人工智能等新技術方面投入不足。而且 Pichai 的權力和影響力較小，難以調遣高管們採取行動，難以有效調和 DeepMind 和 Google Brain 的業務發展沖突，這會影響 Alphabet 的發展方向和速度。

Pichai 的管理風格不一定適合 Alphabet 當前面臨的挑戰，他是否適合繼續擔任 CEO 仍受質疑。Pichai 更偏向技術，但現在必須應對 Alphabet 整體的困境，這可能超出他的能力範圍了。根據 Alphabet 現任和前任員工的說法，公司上下普遍認為，他可能不適合這個時候繼續擔任執行長。

Pichai 的低調風格並不總是有助於他處理任期內出現的各種小爭議。舉例來說，在新冠肺炎疫情之前，Pichai 經常因為員工抗議 Google 包庇曾性騷擾同事的「安卓之父」安迪·魯賓而遭到批評。出現的其他有爭議的問題還包括 Google 與美國軍方的合作等等。

Alphabet 的官僚主義文化和高管的風險規避阻礙了新產品的推出，從而導致 Alphabet 在人工智能等領域落後於競爭對手。Lamda 聊天機器人（Bard 前身）開發人員在 2021 年集體離職，是因為他們的技術不被允許應用到 Google Assistant；Google 早就開發了文本生成圖片的技術 Imagen，但出於風險考慮，一直沒有發布，結果被 Dall-E 2 搶先。

Alphabet 新項目難以落地實施，TikTok 帶來的威脅促使Google採取行動，數百名員工被分配到一個被稱為「重要的搜索轉移」（Great Search Shift）的項目中工作。該項目原計劃全面升級搜索引擎，但 Pichai 最終選擇只對搜索引擎的外觀和感覺做最小的改動。曾擔任佩奇顧問的卡爾·巴斯（Carl Bass）表示：「Alphabet 一直故步自封……在這種情況下，很難推動員工前進。」

Alphabet 近來加快推出人工智能產品以追趕競爭對手, 但在技術、人才和資金上面臨各種障礙。在 2022 年 11 月推出 ChatGPT 之前的幾個月裡，OpenAI 從Google挖走了不少研究人員和工程師，這些前 Google 員工在 ChatGPT 的推出中發揮了重要作用。

成本的限制，不少員工表示，將聊天機器人整合到 Google 中可能會增加成本，因為用聊天機器人進行查詢比提供常規搜索結果更昂貴。Google 雖然在 3 月份發布了 Bard，但限制了它可以做的事情，並且只針對相對較小的用戶群體，這在一定程度上是一種節省成本的措施。

即使如此，Google 的前員工和不少在職員工表示，Google 仍然比競爭對手有優勢，這要歸功於豐富的人才庫和訓練複雜的機器學習模型所需的硬體優勢。一些人認為，Pichai 曾擔任產品經理的背景正是該公司將人工智能研究轉化為產品所需的。Pichai 監管 Chrome 等成功產品的履歷表明，他可能會成功應對Google的最新挑戰，畢竟，能成為 Alphabet 的 CEO，並不能只靠運氣。