隐秘？混乱？商业化？记者深入总部，探寻OpenAI“拯救世界”背后的真相
大數(shù)據(jù)文摘出品
作者：趙吉克、lin、楚陽、Olivia、錢天培
?
用“出道即巔峰”來形容OpenAI一點也不為過。
?
2015年10月，硅谷“鋼鐵俠”Elon Mush和傳奇投資人Sam Altman攬入10億巨資，揮手成立了這個AI夢工廠。
?
除了眾星云集的投資人團隊，OpenAI還吸引來了一批技術界的大牛。硅谷知名fintech創(chuàng)業(yè)公司Strip的前首席技術官Greg Brockman，師從人工智能教父Geoffrey Hinton的Ilya Sutskever，來自多個頂尖大學的研究員等等，都成為了OpenAI的第一批造夢師。
?
“成為第一個實現(xiàn)‘通用人工智能’，并確保這一科技能造福全世界。”O(jiān)penAI來勢洶洶。
?
獨立、超前、透明、忠于全人類——這是這家非盈利機構(gòu)的最初定位。
?
2017年8月，OpenAI開發(fā)的Dota人工智能首次在1v1對戰(zhàn)中打敗頂級人類玩家。
?
2019年4月，OpenAI以2:0擊敗了Dota2世界冠軍OG。
?
這還只是OpenAI成就的一小部分。從成立到現(xiàn)在，OpenAI成果頗豐，似乎正在穩(wěn)健地向?qū)崿F(xiàn)“通用人工智能”這一目標前行。
?
而在另一邊，2019年2月，Elon Musk宣布，由于在公司發(fā)展方向上存在分歧，他將與公司分道揚鑣。
?
2019年3月，Sam Altman辭去了創(chuàng)業(yè)加速器YC總裁一職，成為OpenAI的首席執(zhí)行官。同月，OpenAI通過設立“封頂利潤”部門，擺脫了非營利組織的地位。
?
2019年7月，OpenAI宣布將接受微軟的10億注資，正適成立合作關系。
?
OpenAI似乎正在一步步向商業(yè)化邊緣。
?
我們不經(jīng)要問，在這短短4年多時間，OpenAI究竟經(jīng)歷了什么？
?
?
而更重要的是，在一個個另外界驚嘆的研究成果背后，OpenAI又到底離“通用人工智能”還有多遠呢？
?
深挖OpenAI的發(fā)展歷史和現(xiàn)狀，問題的答案神秘而有趣。
?
盡他們所能，做最好的事情
?
OpenAI位于舊金山第18街和福爾松街的交叉口，平平武無奇的建筑很難讓人聯(lián)想到背后的龐大野心。
?
很少有人進入過OpenAI的辦公樓。MIT科技評論記者Karen Hao是得以一度廬山真面的幸運兒之一。
?
Karen Hao在今年年初來到OpenAI，對這些科技狂人men進行了一次專訪。
?
“在室內(nèi)，空間光線充足，通風良好。一樓有幾個公共空間和兩個會議室，其中一個用于大型會議，叫做‘太空漫游’；另一個，更像是一個裝修好的電話亭，叫做‘無盡的玩笑’。這是我訪問期間被限制的地方。“Karen如此描述這一次特殊的采訪。
?
在首席技術官Greg Brockman和Karen的訪談中，這位科技狂人如此回憶他當時決定加入OpenAI的原因。
?
“馬斯克當時和我說，‘我想清楚了。通用人工智能可能很遙遠，但如果事實不是這樣呢？如果通用人工智能可能在未來五到十年內(nèi)實現(xiàn)呢？即使這種幾率只有1%或0.1%，我們不應該仔細考慮一下嗎？’他的這席話引起了我的共鳴。”
?
?
起初，OpenAI研究院們的探索可謂天馬行空，公司的扁平化結(jié)構(gòu)更是進一步促成了這樣的局面。
?
然而，這樣的隨性探究也導致了大方向的模糊。
?
2016年5月，在一位Google研究員訪問完OpenAI后表示，沒人知道他們在做什么。其實OpenAI團隊自己也不太清楚。他們的目標是，“盡他們所能，做最好的事情”。實在有些模糊。
?
”到2017年3月，也就是15個月后，領導層意識到是時候更加集中目標了。因此，Brockman和其他一些核心成員開始起草內(nèi)部文件，為通向通用通用人工智能鋪平道路。
?
“但是，該過程很快暴露出致命的缺陷。當團隊研究該領域的趨勢時，他們意識到維持非營利性在財務上是站不住腳的。
?
”該領域其他團隊用于獲得突破性結(jié)果的計算資源每3.4個月翻一番。Brockman認為，為了保持競爭力，他們將需要足夠的資金來達到或超過這一指數(shù)級增長。這就需要一種可以迅速積累資金的新組織模型，同時又要使其能夠忠于使命。
?
”考慮到這一點，OpenAI于2018年4月發(fā)布了章程，這個章程是不對公眾和大多數(shù)員工公布的。該文件重新闡明了實驗室的核心價值，但巧妙地改變了措辭以反映新的現(xiàn)狀。除了承諾‘避免使用損害人類利益或過度集權(quán)的AI’，它還強調(diào)了對資源的需求。
?
“它說：‘我們預計需要調(diào)撥大量資源來完成我們的使命，但將始終努力以最大程度地緩解廣泛的員工和股東之間的利益沖突。’”
?
Karen講述了OpenAI使命的微妙變化。
?
時間快進到2019年3月。正如文章開頭所提到的那樣，OpenAI設立“封頂利潤”部門，實際擺脫了非營利組織的地位。投資人可以通過注資OpenAI獲利，只不過收益上限為100倍。
?
這樣的舉動引來了一波職責——畢竟Google的早起投資者也只獲得了大約20倍的資本回報率。
?
”這樣的變化也使許多員工感到不安，他們也表達了類似的擔憂。為了緩解內(nèi)部動蕩，領導層撰寫了答疑指南，作為一系列受高度保護的過渡文檔的一部分。比如，問：‘我可以信任OpenAI嗎？’ 回答是‘是’，然后是一段解釋。“
?
去年夏天，OpenAI正式接受微軟的10億注資。領導層向員工保證，這些更新不會在功能上改變OpenAI的研究方法。微軟完全符合實驗室的價值觀，商業(yè)化會很遙遠。
?
?
”一段時間以來，這些保證似乎都是成立的，項目依舊保持原樣。許多員工也不知道他們究竟對微軟承諾了什么。“
?
不過，在和員工的訪談中，Karen感覺到，“近幾個月，商品化的壓力加大了，做賺錢研究的需求也不再只發(fā)生在遙遠的將來了。”
?
“不為賺錢而研究，但要為研究而賺錢。”
?
GPT-2的爭議
?
讓我們再回到OpenAI的研究進程。伴隨組織結(jié)構(gòu)的一次次劇變，OpenAI的科研是否有從眾受益呢？
?
提到這個問題，我們不得不講述OpenAI的智能寫作模型GPT-2——這是Dota AI之外，OpenAI的另一個重磅研究成果。2019年4月，OpenAI宣布了GPT-2的存在。
?
?
GPT-2是OpenAI在自然語言處理領域的一大成果：只要按下一個按鈕，模型就能根據(jù)輸入的一段臺詞寫出風格類似的下一段。
?
然而，OpenAI并沒有遵從創(chuàng)立之初“透明、忠于全人類”的原則，選擇不發(fā)布這個“神奇”的模型。理由是，“如此強大的AI模型如果被不法分子利用，就會成為制造各種虛假言論的武器。”
?
這立刻引起了科學家的反對，認為OpenAI是自導自演了一場公關大戲。
?
受到爭議影響，5月，OpenAI一改口徑，決定了“階段性發(fā)布”的計劃，并宣稱這一切其實都是他們的一場實驗——為了應對研究出更大風險的AI模型的一次小演戲。
?
事實上，GPT-2并不是OpenAI第一次選擇對其項目保密。另一個更加秘密的項目正在悄然實施。
?
在一系列訪談和研究后，Karen發(fā)現(xiàn)了OpenAI實現(xiàn)通用人工智能的”隱秘“計劃。
?
“樂觀派”O(jiān)penAI
?
對于通用人工智能，目前有兩種流行的技術理論。“樂觀派”認為，我們已經(jīng)完成了對通用人工智能的基礎研究，只需一些工程類進步，如算力提升，并假以時日，就可以達成。“悲觀派”認為，僅靠深度學習等現(xiàn)有技術，我們還無法實現(xiàn)通用人工智能 。
?
OpenAI在這場爭論中選擇了“樂觀派”的立場。
?
”在OpenAI內(nèi)部，一支名為‘先知’的團隊做了一些實驗，他們按照數(shù)據(jù)量和計算能力遞增的順序訓練已有的算法，以測試他們能把AI的能力向前推進多少。這些實驗的結(jié)果證實了他們的直覺，即計算驅(qū)動策略是最好的實現(xiàn)通用人工智能的方法。
?
“這些結(jié)果在未來的大約六個月都沒有被公開，因為OpenAI視其為主要競爭優(yōu)勢。員工和實習生被明確指示不要透露它們，而那些離開的人則都簽署了保密協(xié)議。直到1月，OpenAI才無比低調(diào)地在一個用于AI研究的主要開源數(shù)據(jù)庫中發(fā)布了一篇論文。”
?
“OpenAI的秘密之一就是他們的下一步行動：使用大量計算資源對大量的文本、圖像數(shù)據(jù)進行訓練的AI系統(tǒng)。”
?
在這期間，OpenAI的各個團隊會盡全力探索不同的AI方向：計算機視覺、自然語言處理、機器人，等等。每一個方向都是一個“賭注”。
?
最終，一些賭注會脫穎而出，吸收其他方向的研究成果，指出唯一的走向通用人工智能的方向。
?
?
“它仍然擁有最重要的元素，也仍有時間去做出改變”
?
深思這一戰(zhàn)略，我們似乎不難明白OpenAI的結(jié)構(gòu)劇變了。
?
面對“第一個實現(xiàn)通用人工智能”的目標，OpenAI在前期迷茫的探索后終于找到了一條可行的路線。
?
這樣的戰(zhàn)略選擇無疑需要大量的資金支撐，組織的結(jié)構(gòu)變化也就隨之而來。
?
“這種壓力迫使它做出一些似乎離初衷越來越遠的決定。它急于進行炒作以吸引資金和人才，捍衛(wèi)其研究以期保持優(yōu)勢，并追逐計算繁瑣的策略——不是因為這是通向通用智能的唯一途徑，而是因為這似乎是最快的。”Karen這樣評論道。
?
那么，OpenAI的未來是否又足夠明朗了呢？
?
可以相信，在未來的很長一段時間，我們會持續(xù)看到他們更為炫目的研究成果。
?
更重要的是，OpenAI無疑有著寶貴的財富。Karen認為，這里“充滿了為人類的利益而真誠地努力工作的人們。換句話說，它仍然擁有最重要的元素，也仍有時間去做出改變”。
?
讓我們用Karen和一位OpenAI前研究員的訪談記錄作為結(jié)尾。對于前東家的前景，這位研究員說道，
?
“我認為，問題是有的。一些問題來自于他們所面臨的環(huán)境，而另一些問題來自于他們所吸引的目標人群。但是我覺得他們在做一些正確的事情，因為我能感受到他們正帶著真誠而堅定的信念嘗試著什么。”
?
相關報道：
https://www.technologyreview.com/s/615181/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/
總結(jié)
以上是生活随笔為你收集整理的隐秘？混乱？商业化？记者深入总部，探寻OpenAI“拯救世界”背后的真相的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： PostgreSql 常用 ALTER
- 下一篇： screen 断开 screen -r