澎湃新聞?dòng)浾?張唯

清華大學(xué)人工智能研究院院長(zhǎng)張鈸

“常常有比喻說(shuō)，鑰匙并不丟在這個(gè)地方，大家為什么都在這個(gè)地方找鑰匙呢？因?yàn)檫@個(gè)地方燈亮看得見。真正的鑰匙丟在黑暗的角落里，那里不好找，一時(shí)半會(huì)寫不了文章，所以好多人不愿意去找。”

近日，中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院院長(zhǎng)張鈸在一次學(xué)術(shù)活動(dòng)中闡述深度學(xué)習(xí)方法易受欺騙、易受攻擊的根本原因。他提出，根本解決辦法并不在“燈亮看得見”的深度學(xué)習(xí)模型的修修補(bǔ)補(bǔ)上，而應(yīng)該向人類學(xué)習(xí)。學(xué)習(xí)的內(nèi)容包括，一、改變深度學(xué)習(xí)網(wǎng)絡(luò)的模型與結(jié)構(gòu)；二、在數(shù)據(jù)驅(qū)動(dòng)的基礎(chǔ)上引進(jìn)知識(shí)。

張鈸，清華大學(xué)計(jì)算機(jī)系教授，中國(guó)科學(xué)院院士，1958年畢業(yè)于清華大學(xué)自動(dòng)控制系。他參與人工智能、人工神經(jīng)網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)等理論研究，以及這些理論應(yīng)用于模式識(shí)別、知識(shí)工程與機(jī)器人等技術(shù)研究。

從“讓數(shù)據(jù)說(shuō)話”到引入知識(shí)

數(shù)據(jù)、算法、算力通常被認(rèn)為是深度學(xué)習(xí)時(shí)代驅(qū)動(dòng)人工智能崛起的三大因素。

但張鈸認(rèn)為，知識(shí)與這三者同樣重要，共同組成人工智能的四大基礎(chǔ)。“回顧人工智能的歷史，可以看到這四個(gè)因素不斷地發(fā)揮作用。”

1月11日，張鈸在清華-中國(guó)工程院知識(shí)智能聯(lián)合研究中心年會(huì)暨認(rèn)知智能高峰論壇上提出上述觀點(diǎn)。

張鈸介紹，第一代人工智能即符號(hào)主義主導(dǎo)的人工智能時(shí)代強(qiáng)調(diào)知識(shí)對(duì)智能的作用，由于當(dāng)時(shí)受算法和算力的限制，知識(shí)表示依賴人工編程，因而以知識(shí)為基礎(chǔ)的推理模型沒有得到大量推廣。

深度學(xué)習(xí)興起之后，學(xué)界將目標(biāo)轉(zhuǎn)移至數(shù)據(jù)，提出“讓數(shù)據(jù)說(shuō)話”。張鈸認(rèn)為，這種強(qiáng)調(diào)對(duì)深度學(xué)習(xí)的發(fā)展起到積極的作用，但也有“很大的不足”：過(guò)分強(qiáng)調(diào)數(shù)量的重要性，片面認(rèn)為“質(zhì)量差沒關(guān)系，數(shù)據(jù)多就可以解決問(wèn)題”。

“這導(dǎo)致按照大數(shù)據(jù)建起來(lái)的人工智能系統(tǒng)面臨不可信、不可靠、不安全、不易推廣的挑戰(zhàn)”。

在他看來(lái)，解決這個(gè)挑戰(zhàn)的辦法之一是引入知識(shí)。

“這也是我們?nèi)斯ぶ悄苎芯吭核岢牡谌斯ぶ悄艿牡缆贰ㄟ^(guò)數(shù)據(jù)驅(qū)動(dòng)和知識(shí)驅(qū)動(dòng)的結(jié)合克服第一代和第二代人工智能的不足。

“鑰匙丟在黑暗的角落里”

深度學(xué)習(xí)應(yīng)用于模式識(shí)別雖然可以在大數(shù)據(jù)的訓(xùn)練中學(xué)到正確的分類，卻很容易受到惡意干擾、欺騙和攻擊。將獅子識(shí)別為圖書館、把雪山認(rèn)作一只狗、停止標(biāo)志識(shí)別被當(dāng)成限速標(biāo)志……此類深度學(xué)習(xí)系統(tǒng)被“忽悠”的案例層出不窮，如果發(fā)生在自動(dòng)駕駛場(chǎng)景，就可能產(chǎn)生嚴(yán)重后果。

面對(duì)深度學(xué)習(xí)的脆弱性，單純從深度學(xué)習(xí)網(wǎng)絡(luò)上修修補(bǔ)補(bǔ)只能治標(biāo)，不能治本。

總結(jié)

以上是生活随笔為你收集整理的深度学习总被忽悠，清华AI院长张钹:修修补补治不好的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。