AI教父Hinton差点成为中国打工人...
本文轉載自:品玩? ? 作者|Decode
郵箱|oudi@pingwest.com
2013 年 3 月,Google 花費 4400 萬美元收購了多倫多大學的一家初創公司 DNNResearch。
這家公司在當時不僅沒有任何產品,也壓根沒有生產產品的計劃。它只有三位員工:當時已經六十余歲的多倫多大學計算機系教授 Geoffrey Hinton,和他的兩個學生 Alex Krizhevsky 和 IIya Sutskever。有人調侃,Google 花費數千萬美元,只是買到了幾篇論文。
但之后科技行業的發展證明了 Google 的眼光。深度學習從邊緣學科一躍成為顯學,而這一學派的開山祖師正是 Geoffrey Hinton。因為在深度學習上的突出貢獻,他在 2018 年獲得了圖靈獎。Hinton成了AI領域舉足輕重的人物,中國互聯網也習慣于為他“封神”,稱呼他為“AI教父”、“深度學習之父”等。而Google因為有了Hinton,成為AI技術最出色的公司之一。
但這場收購的細節鮮少被外界了解。事實上,Google 并不是最初“發現”Hinton的公司,最早意識到Hinton和他在深度學習上的研究價值的,其實是一家中國公司——百度。
在3月16日發布的一本新書《Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World》(天才制造者:那些將 AI 帶到 Google、Facebook 和全世界的特立獨行者,下稱《天才制造者》)中,《連線》雜志資深撰稿人 Cade Metz 揭開了這一段鮮為人知的“秘史”。這本書記錄了Google、Facebook和百度等公司在AI上的你爭我奪,并試圖解釋為何AI注定會變成一個中美之間的新軍備競賽。而全書的開篇,就從這場被形容為“今天所有AI領域故事的開端”的競拍開始。
百度與Hinton曾接近達成協議
Cade Metz通過大量采訪,還原了2012 年Hinton主導的一場拍賣。當年12 月,在美國內華達州邊界的太浩湖旁,舉辦了每年一屆的 NIPS。NIPS 全稱 Neural Information Processing Systems(神經信息處理系統),是 AI 領域的頂級會議。
2012 年那一屆 NIPS,對多倫多大學教授 Hinton 和他兩個學生來說,意義尤為不同。他們在會議酒店的房間里,舉辦了一次線上拍賣會。美國科技巨頭 Google 和微軟,中國科技巨頭百度以及英國的 AI 初創公司 DeepMind,用競拍的方式爭奪 Hinton 剛剛成立的、沒有任何產品的小公司 DNNResearch。
(Geoffrey Hinton 和他的學生 Alex Krizhevsky 及 IIya Sutskever)
這些公司中,百度其實是最早接觸 Hinton 的公司。
2012 年秋天,Hinton 和學生們發表了一篇長達 9 頁的論文《ImageNet Classification with Deep Convolutional Neural Networks》。這篇論文提到的 Alexnet 引入了全新的深層結構和 dropout 方法,在 ImageNet 圖像識別大賽中,將錯誤率從 25% 以上提升到了 15%,獲得了第一名。
那一年的 ImageNet 比賽,Google 也在數據集上做了內部測試,也用了深度學習方法,但識別精度比 Hinton 團隊差了很多。Google 擁有大多數團隊無法企及的硬件和數據資源,但卻輸給了一個學界的團隊。這讓工業界感到吃驚,大大促進了深度學習的傳播。
這個事情在今天來看,也是一個AI技術發展的歷史性轉折時刻。但當時還只有很少人意識到它的意義。而就在論文發出沒幾天,Hinton 收到了一封來自一名中國AI研究者的電子郵件。
這封郵件的署名為余凱。余凱2015年離開百度創辦了AI芯片公司地平線,現為地平線CEO。
余凱比 Hinton 小 30 歲,兩人最早在加拿大一個學術研討會上認識。2012 年 4 月,余凱離開美國 NEC 研究院,回到中國加入百度,領導新成立的百度多媒體部。這一年,百度開始大規模采購和建立 GPU 運算集群,開發了世界上第一個支持 GPU&CPU 的并行深度學習平臺。
同年 9 月,百度當時的首席科學家威廉·張離職,這家搜索巨頭開始尋找更能面向未來研究的首席科學家。10 月,余凱向李彥宏介紹深度學習方面的進展,并且推薦了 Hinton。
(余凱)
當時 Hinton 遠沒有今天知名,但百度決策很快,李彥宏安排當時負責百度戰略投資的副總裁湯和松與 Hinton 取得聯系,并直接提出邀約。百度提出的方案是,出價 1200 萬美元聘請 Hinton 及其學生,合約期三年。雙方進展很快。
但在眼看要達成協議前,Hinton 的那兩名學生“攔住”了 Hinton,在他們的建議下,Hinton意識到,與招聘“三個新員工”相比,百度和其他公司顯然更可能為收購一家公司付出更可觀的資金。
Hinton 問百度,自己可否評估一下其他邀約。而原本已經接近談成的百度,同意了。
“當百度同意后,Hinton徹底顛覆了局面。”《天才制造者》的書中寫到。Hinton 立刻創建了只有他和那兩名學生的初創公司——DNNresearch。
據《天才制造者》的記錄,Hinton 當時特意詢問了一位多倫多的律師,如何能讓一家只有三名員工、沒有產品、幾乎沒有歷史的初創公司的價值最大化。律師給了他兩個選擇:聘請專業談判代表,但會有激怒買家的風險。或者,進行一次拍賣。
Hinton 選擇了后者,于是,共有四家公司加入了競拍:最先找到Hinton且本已接近拿下的百度,以及在百度之后也開始給Hinton家頻繁打電話的Google和微軟,以及一家當時剛剛成立兩年的倫敦初創公司—— DeepMind。這家公司后來被 Google 所收購,研發出大名鼎鼎的 AlphaGo。
作為最早接觸Hinton,以及百度在那次投標中的代表人,余凱看到事情變成百度和多家美國公司的競爭后,已經預感到了最終結局。
出價最高的百度沒有贏得競拍
Hinton 和學生們在酒店房間里“舉辦”了拍賣會——它通過 Gmail 進行,四家公司的高管遠程出價,從加利福尼到倫敦再到北京。Hinton將每個競拍者的身份隱藏了起來,他們相互不知道對方是誰。
微軟首先對這種競拍方式提出疑問,他們不喜歡用 Gmail 來競拍,認為 Google 可能會偷偷讀取郵件。Hinton 和學生們商量過后,依然采用這種方式,他們“相當確信 Google 不會讀取 Gmail”。
Hinton 對Google的好感已經很明顯。
Google 對深度學習的興趣,很大程度也受到Hinton的影響。2006 年Hinton 發表了論文《A fast learning algorithm for deep belief nets》(深度信念網絡的一種快速學習算法)。這篇論文發表之前,沒有人知道怎么訓練深度神經網絡,因此這個領域鮮有人問津。該論文提出了一種訓練深度網絡的方法,對每一層網絡先進行預訓練,然后再微調,網絡的學習速度大幅提高。
這篇論文成為開啟深度學習熱潮的一個因素,Google等公司開始注意到深度學習。另一個重要的因素是算力。2009 年,計算機的算力發展到足以挖掘龐大的數據庫,神經網絡在語言和圖像識別方面,開始勝過基于邏輯的傳統計算機。
Google也在那時開始投資AI。2010 年,當時還是斯坦福大學教授的吳恩達與 Google 里頗具聲望的高級研究員 Jeff Dean 一起,建立一個名為 Project Marvin(以著名的 AI 先驅馬文?明斯基命名)的項目,以研究神經網絡。后來,一些 Google 工程師開始用 Google Brain 稱呼 Project Marvin。
這個項目成果之一,是大型深度學習軟件平臺 DistBelief。包括 Google 搜索、Google 地圖 和 YouTube 在內的 50 多個團隊,利用 DistBelief 來改進產品。
2012 年,Google X 宣布建立了一個包含 16000 個計算機處理器的神經網絡,并在 YouTube 上部署。這個神經網絡通過學習 YouTube 上大量包含貓的、未標記的視頻,識別出了“貓”這種生物。
這在當時是一個重要突破。“在訓練中我們從來沒有告訴過神經網絡, 這是一只貓。”Jeff Dean 說,“它基本上發明了貓的概念。”
Google在這次拍賣中也勢在必得。Hinton設計的拍賣規則很簡單。每次競價后,四家公司有一個小時將購買價格提高至少100萬美元。這一個小時從最新競價的郵件上的時間戳開始。一個小時結束后,如果沒有人提出新的競價,拍賣就結束了。
Hinton 每天會為下一輪競價設定一個時間,到了指定的時間,他和學生聚集在他的房間里,看著筆記本電腦上出現的競價。數字開始飛快攀升。
DeepMind用公司股票而非現金競拍,因此很快就退出了。這似乎也預示了它在之后被Google收購的結局。而在價格飆到2000萬美元時,微軟也退出了。但它隨后又回來了一次,然后再次退出。
事實上,微軟在此之前已經邀請Hinton擔任過顧問。
微軟對深度學習的研究,依托雷德蒙德研究院展開。2009 年 11 月至 12 月期間,當時在研究院里關注深度學習的華裔科學家鄧力,邀請 Hinton 為雷德蒙德研究院進行咨詢,研究如何將深度學習方法應用于語音特征編碼和語音識別問題。
(鄧力)
此前的語音識別模型一直處于非常令人沮喪的“局部最優”狀態,準確率很難大幅提升。在讀過 Hinton 2006 年發表的兩篇開創性的論文后,鄧力產生了將深度學習引入語音識別的想法。
在 Hinton 為微軟咨詢期間,他和鄧力一同開發了深層信念網絡的方法 “食譜” 及在語音特征提取上的應用。這種方法使得大規模語音識別系統的錯誤率大幅減少,2011 年微軟公布這一成果時,業界大為驚嘆。
而鄧力就是代表微軟在那次拍賣中出價的那個人。
也就是說,在這個決定后來AI領域很多事情走向的歷史性時刻,三個主要的直接競價操作者中有兩人是華人。
看著飛升的金額,Hinton和他的學生們不停爭論他們更愿意加入哪家公司。
《天才制造者》中甚至記錄了一段“迷信”的對話。一天午后,當他們望向窗外時,兩架飛機從相反方向飛過,在天空中留下的煙道,就像一個巨大的X,正好在一組山峰之上。他們思索著這可能意味著什么,然后才想起 Google 的總部就在一個叫山景城的地方。“這是不是意味著我們應該加入 Google?”Hinton問道,“還是說我們不應該?”
在2200萬美元左右時,Hinton暫時中止了拍賣,與其中一個競拍者進行討論,半小時后,微軟又退出了。
最后剩下百度和Google。
隨著時間推移,兩家公司依然在抬高價格。余凱處理了百度最初的競拍,但當價格達到2400萬美元時,百度的一位高管從北京接手,并且愿意給出更高的價格:2500萬美元、3000萬美元、3500萬美元。
Hinton將競價窗口從一個小時縮短到30分鐘。競價迅速攀升到4000萬美元、4100萬美元、4200萬美元、4300萬美元。“這感覺就像我們在拍電影一樣。”他說。一天晚上,接近午夜時分,當價格達到4400萬美元時,他又暫停了競價。《天才制造者》中這樣記載。
第二天,在競標恢復前約30分鐘,Hinton發了一封郵件,說開始時間會推遲。大約一個小時后,他又發了一封:
拍賣結束了。
事實上,在前一天晚上的某個時刻,Hinton已經決定將他的公司賣給Google。他給百度的郵件中說,公司發送的任何其他信息都會轉發給他的新雇主,不過他沒有說那是誰。
《天才制造者》中寫到,Hinton 后來承認,這是他一直想要的。因為對他來說,為他的研究找到合適的歸宿,比獲得最高競標價格更重要。
《天才制造者》也寫到,余凱猜到 Hinton 最終會在 Google,或者至少是另一家美國公司工作。畢竟他的背部不好,無法前往中國。他在十幾歲時受了背傷,到五十多歲時,已經無法坐下,否則會有椎間盤滑落風險。他不得不一直站著辦公,出遠門也不坐飛機,因為飛機起飛降落時不允許站起來。
盡管如此,余凱還是很滿意百度在競標者中占據了一席之地。書中寫道,他相信,這段經歷幫助他的上級看到了他眼中的世界。通過把美國競爭對手逼到極限,百度高層已經意識到深度學習在未來幾年的重要性。
Hinton 的拍賣和 NIPS 會議結束后,余凱登上了前往北京的飛機。在那里,他遇到了鄧力。
他們在飛機上挑選了相鄰的座位。由于競拍者一直保持匿名,兩人都不太清楚誰參與了拍賣。因為受到雇主的約束,所以都不能透露自己參與拍賣的情況。他們試圖在不泄露自己秘密的情況下,了解對方所知道的事情。
“拍賣就像一把起跑槍”。《天才制造者》的書中這樣寫到,它把這次拍賣定義為“一場全球新的軍備競賽的開始”。在那次競拍結束后的返程飛機上,余凱和鄧力兩人都知道,新的競爭已經開始了,他們的公司將不得不回應 Google 的大動作。
《天才制造者》的書中還記錄了大量Google,Facebook和百度之間在AI技術研發上的你爭我趕,這本書的電子版目前在亞馬遜kindle以及蘋果的圖書商店可以購買。
CVPR 2021論文合集和代碼下載
后臺回復:CVPR2021,即可下載CVPR 2021論文和開源代碼合集
重磅!CVer-Transformer交流群成立
掃碼添加CVer助手,可申請加入CVer-Transformer方向?微信交流群,也可申請加入CVer大群,細分方向已涵蓋:目標檢測、圖像分割、目標跟蹤、人臉檢測&識別、OCR、姿態估計、超分辨率、SLAM、醫療影像、Re-ID、GAN、NAS、深度估計、自動駕駛、強化學習、車道線檢測、模型剪枝&壓縮、去噪、去霧、去雨、風格遷移、遙感圖像、行為識別、視頻理解、圖像融合、圖像檢索、論文投稿&交流、Transformer、PyTorch和TensorFlow等群。
一定要備注:研究方向+地點+學校/公司+昵稱(如Transformer+上海+上交+卡卡),根據格式備注,才能通過且邀請進群
▲長按加微信群
▲點擊上方卡片,關注CVer公眾號
整理不易,請給CVer點贊和在看!
總結
以上是生活随笔為你收集整理的AI教父Hinton差点成为中国打工人...的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 什么是license
- 下一篇: 基于php校园失物招领,基于全景图的校园