“不正经”NIPS大会指北：嘻哈歌手、感人长队，以及最佳论文
這幾天，AI圈人士紛紛前往洛杉磯附近風(fēng)景宜人的長(zhǎng)灘。
他們?cè)谶@里排長(zhǎng)隊(duì)、曬太陽(yáng)、看大海、聽(tīng)嘻哈、談穿著，以及……順便參加NIPS 2017。
我們不一樣
神經(jīng)信息處理系統(tǒng)大會(huì)，簡(jiǎn)稱NIPS，是機(jī)器學(xué)習(xí)領(lǐng)域的頂級(jí)會(huì)議。
斯坦福不久前發(fā)布的AI Index報(bào)告說(shuō)，NIPS目前已經(jīng)是人工智能領(lǐng)域關(guān)注度最高的學(xué)術(shù)會(huì)議，增長(zhǎng)速度僅次于新秀ICLR。
今年的NIPS大會(huì)在長(zhǎng)灘會(huì)議中心（Convention Center）舉行，參會(huì)門票早早地就被搶光，注冊(cè)人數(shù)超過(guò)8000人。
據(jù)說(shuō)照這個(gè)趨勢(shì)發(fā)展下去，參會(huì)人數(shù)將超過(guò)全人類的總數(shù)。（感覺(jué)哪里怪怪的）
場(chǎng)面火爆到什么程度呢？第一天就讓人熱淚盈眶。
那注冊(cè)的長(zhǎng)隊(duì)，長(zhǎng)到讓人懷疑人生，長(zhǎng)到讓友邦人士驚呼crazy，長(zhǎng)到得用全景圖才能拍下來(lái)，比方下面這張：
在室外艱辛的排完隊(duì)，到門口一看：嚯~室內(nèi)還得繼續(xù)排！感人~
注冊(cè)報(bào)到完畢，然后就是暢游在NIPS大會(huì)的海洋里了。你以為都是各類正經(jīng)的不行的高大上分享和討論？
如果只想聽(tīng)tutorials和talks，看在線直播可能比現(xiàn)場(chǎng)更好：
https://www.facebook.com/nipsfoundation/
然而不不不，并不是這樣。
還有派對(duì)！比方Intel AI組織的這場(chǎng)《Let the Gradient Flo》。這個(gè)大爬梯請(qǐng)來(lái)了美國(guó)著名嘻哈歌手Flo Rida。喲~
（不過(guò)這個(gè)活動(dòng)也被@hardmaru 在推特上吐槽，說(shuō)是AI泡沫的表現(xiàn)。他真的很嚴(yán)格）
現(xiàn)場(chǎng)還有展覽區(qū)。據(jù)說(shuō)各大企業(yè)在現(xiàn)場(chǎng)都支了攤兒，展示自家的科研成果，順便強(qiáng)勢(shì)宣講一波以便招人。其中，IBM這個(gè)展區(qū)推薦看一下。
這是什么？這是IBM的量子計(jì)算機(jī)呀~
Dress Code
這么一個(gè)大會(huì)，怎么穿才不像第一次去的萌新？
上周有個(gè)小哥就在reddit上提出這個(gè)問(wèn)題，在線等，挺急的……“熱心”網(wǎng)友們，紛紛站出來(lái)出謀劃策。量子位摘錄如下：
穿西裝、打領(lǐng)帶有點(diǎn)不合適，只要不是穿得特別正式都應(yīng)該可以。期待看到很多人穿牛仔褲和T恤，以及短袖襯衫、卡其褲。
溫馨提示，別穿印著“My NIPS are NP-Hard”字樣的T恤去參會(huì)。
上面講的這個(gè)T恤，講真是2015年的老黃歷了。今年的T恤上印的字是：“Yes，We GAN”。
（Goodfellow笑而不語(yǔ)）
當(dāng)然上面這個(gè)回答算是很正經(jīng)了，隨后的討論歪樓到了奇怪的方向~
只要?jiǎng)e露著NIPS，怎么穿都行
這個(gè)梗在于，nips通常被美國(guó)人民口語(yǔ)里指代咪咪（不是貓那個(gè)）。
男士通常以漏點(diǎn)（NIP-slips）的方式穿著比基尼，女士穿和服和瑜伽褲。大家都不穿鞋。如果你是大實(shí)驗(yàn)室的研究院，可以在披風(fēng)上寫上過(guò)去一年用了多少GPU小時(shí)。
所謂NIP-slips，Google一下大概是這樣：
還有人給出一個(gè)可行性很高的建議：
穿一套白色西裝，定叫人過(guò)目難忘。
大會(huì)論文
最后，談點(diǎn)正經(jīng)的。
量子位在9月的報(bào)道中已經(jīng)提到，NIPS 2017共收到3240篇論文投稿，毫不意外這個(gè)數(shù)字又創(chuàng)了新高。有678篇論文被選中作為大會(huì)論文，比例20.9%。
其中有40篇被選中進(jìn)行口頭報(bào)告（oral），112篇選為spotlight進(jìn)行展示。
論文的領(lǐng)域分布，如下所示。
全部論文在這里：
https://papers.nips.cc/book/advances-in-neural-information-processing-systems-30-2017
今天，NIPS還公布了兩個(gè)獎(jiǎng)項(xiàng)，一是最佳論文獎(jiǎng)（Best paper awards），另一個(gè)是時(shí)間檢驗(yàn)獎(jiǎng)（Test of time award）。
最佳論文獎(jiǎng)（共3篇）：
Safe and Nested Subgame Solving for Imperfect-Information Games
作者：
Noam Brown，卡耐基梅隆大學(xué)計(jì)算機(jī)科學(xué)博士生
Tuomas Sandholm，卡耐基梅隆大學(xué)計(jì)算機(jī)科學(xué)教授，Brown的導(dǎo)師
摘要：
在不完美信息博弈中，子博弈的最優(yōu)策略可能取決于其他未知子博弈的策略。因此，在為子博弈求解時(shí)必須將整個(gè)博弈視為整體來(lái)考慮策略，而不能像完美信息博弈一樣孤立地求解。不過(guò)，可以先逼近整個(gè)博弈的解，然后通過(guò)解出單個(gè)子博弈來(lái)優(yōu)化它。這叫做子博弈求解（subgame solving）。我們提出了在理論上和實(shí)踐上都超越前人的子博弈求解技術(shù)，并展示了如何調(diào)整它們和過(guò)去的子博弈求解技術(shù)，在對(duì)手做出超出原始行為抽象的行為時(shí)，進(jìn)行應(yīng)對(duì)，這顯著優(yōu)于之前最先進(jìn)的行為翻譯（action translation）方法。最后我們表明子博弈求解在博弈沿博弈樹(shù)進(jìn)行的過(guò)程中可以重復(fù)，降低了可利用性。在第一個(gè)玩一對(duì)一無(wú)限注德州撲克擊敗人類對(duì)手的AI冷撲大師（Libratus）中，這些技術(shù)是關(guān)鍵的組成部分。
地址：
https://papers.nips.cc/paper/6671-safe-and-nested-subgame-solving-for-imperfect-information-games
Variance-based Regularization with Convex Objectives
作者：
Hongseok Namkoong，斯坦福大學(xué)運(yùn)籌學(xué)博士
John C. Duchi，斯坦福大學(xué)統(tǒng)計(jì)學(xué)和電子工程助理教授
摘要：
我們開(kāi)發(fā)了一種風(fēng)險(xiǎn)最小化和隨機(jī)優(yōu)化的方法，該方法提供了方差的凸代替項(xiàng)，讓近似和估計(jì)誤差之間能夠進(jìn)行近似最佳且計(jì)算上高效的交換。我們的方法建立在分布式健壯優(yōu)化和歐文經(jīng)驗(yàn)似然的基礎(chǔ)上，還提供了一些有限樣本和漸近結(jié)果來(lái)表示估計(jì)的理論性能。我們特別表明，我們的方法帶有最右證明，與通過(guò)自動(dòng)平衡偏差和方差來(lái)實(shí)現(xiàn)經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化相比，（在某些情況下）能實(shí)現(xiàn)更快的收斂速度。有確鑿的經(jīng)驗(yàn)證據(jù)表明，我們的估計(jì)器在實(shí)踐中確實(shí)會(huì)在訓(xùn)練樣本的方差和絕對(duì)性能之間權(quán)衡，對(duì)很多分類問(wèn)題，與標(biāo)準(zhǔn)的經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化方法相比，提高了樣本外（測(cè)試）性能。
地址：
https://papers.nips.cc/paper/6890-variance-based-regularization-with-convex-objectives
A Linear-Time Kernel Goodness-of-Fit Test
作者：
Wittawat Jitkrittum，倫敦大學(xué)學(xué)院蓋茨比計(jì)算神經(jīng)科學(xué)實(shí)驗(yàn)室博士生
Wenkai Xu，倫敦大學(xué)學(xué)院蓋茨比計(jì)算神經(jīng)科學(xué)實(shí)驗(yàn)室博士生
Zoltan Szabo，法國(guó)école Polytechnique應(yīng)用數(shù)學(xué)中心副教授
Kenji Fukumizu，日本統(tǒng)計(jì)數(shù)理研究所教授
Arthur Gretton，倫敦大學(xué)學(xué)院蓋茨比計(jì)算神經(jīng)科學(xué)實(shí)驗(yàn)室教授
摘要：
我們提出了一種測(cè)試擬合優(yōu)度的新方法，計(jì)算成本與樣本數(shù)量線性相關(guān)。我們通過(guò)最小化假陰性率來(lái)學(xué)習(xí)最能顯示觀察樣本與參考模型之間差異的測(cè)試特征。這些特征通過(guò)Stein方法構(gòu)建，這意味著沒(méi)有必要計(jì)算模型的標(biāo)準(zhǔn)化常數(shù)。我們分析了新測(cè)試的Bahadur漸近效率，證明了在均值漂移的情況下，無(wú)論怎樣選擇測(cè)試參數(shù)，我們測(cè)試的相對(duì)效率都比之前的線性時(shí)間內(nèi)核測(cè)試更高。在實(shí)驗(yàn)中，我們方法的性能超過(guò)了之前的線性時(shí)間測(cè)試，不次于二次時(shí)間內(nèi)核測(cè)試。在高維且模型結(jié)構(gòu)可能被利用的情況下，從模型中抽取樣本，我們的擬合優(yōu)度測(cè)試明顯優(yōu)于基于最大平均偏差的二次二樣本測(cè)試。
地址：
https://papers.nips.cc/paper/6630-a-linear-time-kernel-goodness-of-fit-test
Python代碼：
https://github.com/wittawatj/kernel-gof
時(shí)間檢驗(yàn)獎(jiǎng)：
今年的時(shí)間檢驗(yàn)獎(jiǎng)?lì)C給了2007年的Random Features for Large-Scale Kernel Machines，作者是英特爾研究院的Ali Rahimi和加州理工的Benjamin Recht。
OMT
Google以及DeepMind等機(jī)構(gòu)，還把各自被NIPS 2017收錄的論文進(jìn)行了整理。量子位這里直接給傳送門了~
Google at NIPS 2017
https://research.googleblog.com/2017/12/google-at-nips-2017.html
DeepMind papers at NIPS 2017
https://deepmind.com/blog/deepmind-papers-nips-2017/
— 完 —
本文作者：夏乙 問(wèn)耕 假裝 原文發(fā)布時(shí)間：2017-12-05總結(jié)
以上是生活随笔為你收集整理的“不正经”NIPS大会指北：嘻哈歌手、感人长队，以及最佳论文的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇： Spring 学习笔记（二）Spring
- 下一篇： 轻量级ORM框架Dapper应用四：使用