豆瓣7.6,这部被低估的科幻片告诉你,通过图灵测试的AI有多可怕!
導讀:3.14來了,數據叔想跟你聊一位大佬、一部電影、一本書。
作者:數據叔
來源:大數據DT(ID:hzdashuju)
▲圓周率節傳統美食——派,圖片作者:Kalki
3月14日總是很“熱鬧”,這一天是白色情人節,而且這一天跟科技圈有一些特別的緣分。首先,3.14是圓周率節,然后,這一天我們要紀念兩位人類科學史上的重量級大佬:
阿爾伯特·愛因斯坦(Albert Einstein),1879年3月14日出生。
斯蒂芬·霍金(Stephen Hawking),2018年3月14日逝世。
盡管因為健康問題被禁錮在輪椅上,霍金的思考范圍卻總是事關全人類。作為“老本行”的量子引力研究自然不用多說,“課余”時間里,霍金也為人類的未來操碎了心。霍金曾多次發表“人工智能威脅論”,給風口上的AI潑冷水。
那么霍金具體都說了些什么?為什么值得我們深思?
01 霍金:計算機智能與我們沒有本質區別
作為一位嚴謹的科學家,霍金總能讓那些沉迷于不靠譜的科幻美夢中的人們清醒一下。比如,他曾搞過一個時空旅行者聚會,邀請那些掌握“穿越”技術的未來人來參加。約定的時間到了,除了霍金自己,沒有人來,以此證明未來人根本沒有“穿越”能力。
(順便提醒一下,這個聚會你也可以自己家里搞一個,看看是不是也只有你自己參加。)
霍金對外星人的態度跟對AI的態度非常相似,他警告人類不要去聯絡外星生命,否則會自取滅亡。
對于近些年一直被資本追逐的人工智能,遠離利益關系的霍金更強調風險而不是收益。
在2017年的全球移動互聯網大會(Global Mobile Internet Conference,簡稱GMIC)上,霍金發表了《讓人工智能造福人類及其賴以生存的家園》的主題演講。他提到:
我相信生物大腦可以達到的和計算機可以達到的,沒有本質區別。因此,它遵循了“計算機在理論上可以模仿人類智能,然后超越”這一原則。
人工智能一旦脫離束縛,以不斷加速的狀態重新設計自身,人類由于受到漫長的生物進化的限制,無法與之競爭,將被取代,這將給我們的經濟帶來極大的破壞。
未來,人工智能可以發展出自我意志,一個與我們沖突的意志。[1]
為什么如果人工智能跟人類沒有區別會很可怕?我們可以套用一個句式回答這個問題:比你聰明的人還比你努力,你還有活路嗎?
下面這個電影,能把這個問題說得更明白。
02 通過圖靈測試的AI有多可怕?
電影《機械姬》(Ex_Machina)里有一段經典臺詞,也在表達計算機/人工智能跟人類沒有本質區別:
? ? ? ?
人腦是否被programmed,這個討論涉及人類是否有自由意志的哲學問題。讓我們先放過哲學問題(其實是讓哲學問題放過我們),看看這部電影的故事背景:
某知名搜索引擎公司的程序員Caleb幸運地抽中老板Nathan所開出的大獎,他將受邀前往老板的豪宅中度假。事實上,天才老板Nathan邀請Caleb的真正目的是對Nathan開發的人工智能智能機器人Ava進行圖靈測試。[2]
然后我們再科普一下什么是圖靈測試:
圖靈測試指測試者(提問者)在與被測試者(一個人和一臺機器)隔開的情況下,通過一些裝置(如鍵盤)向被測試者隨意提問。進行多次測試后,如果有超過30%的測試者不能確定出被測試者是人還是機器,那么這臺機器就通過了測試,并被認為具有人類智能。“圖靈測試”沒有規定問題的范圍和提問的標準,但為人工智能科學提供了開創性構思。
圖靈在計算機出現之前就預見了具有邏輯思維的機器,并預言在20世紀末將有電腦可通過“圖靈測試”。[3]
▲圖靈測試示意圖,出自《大話機器人》
影片中,Caleb對Ava進行的是一個升級版的圖靈測試,因為傳統版的圖靈測試對Ava來說已經毫無挑戰性。也就是說,Nathan直接告知Caleb,Ava是人工智能,并讓Caleb跟Ava直接接觸,相當于拿著放大鏡“找茬”,看看能否發現Ava的破綻。
注意,圖靈測試并沒有提出一個量化的技術指標,沒有要求機器智能有多么高的科技含量,而是區分機器和人類,它在意的是這個機器像不像人。
那么“主考官”們是可以有技巧的。比如,機智的Caleb就選擇了情感路線。冷冰冰的機器是不可能有情感的,如果Ava能夠表現出具有人類相似的情感體系,那么她就通過了圖靈測試。
結果是,Ava不但通過了圖靈測試,而且還讓Caleb動了真情。
所以當Nathan告訴Caleb,Ava只是一個中間版本,終將結束“生命”被新版本替換掉時,Caleb難掩失望之情。
在這里,Nathan也又一次表達了人工智能跟人類的相同之處:Ava不是最終版,正如你我也不是人類的最終版一樣,終將被后來者替掉。
看到Caleb仍然處于失望中,Nathan拋出了另一段經典臺詞:
?
這跟霍金所說的“人類無法與之競爭,將被取代”差不多是一個意思。
但Caleb仍然選擇站在了Ava一邊。影片的最后,Ava殺死Nathan,囚禁了Caleb,自己逃出與世隔絕的豪宅,去了她向往城市十字路口。
看到這里,作為觀眾的同時,如果你也是“主考官”,你會發現Ava也通過了你的圖靈測試——Ava跟人類一樣,有自己的欲望、有自己的審美,自私、殘暴、懂得欺騙……
這就是人工智能通過圖靈測試的后果——跟人類一樣,意味著人工智能不但擁有人類的優點,也同樣擁有人類的缺點。
所以,把人工智能設計得跟人類一樣,讓他們通過圖靈測試,是非常危險的。
▲穿上看上去有點土的連衣裙、高跟鞋,為成功進入人類世界回眸一笑的Ava
是人工智能錯了嗎?是圖靈錯了嗎?我覺得,錯的可能是人類。人類發展到今天,雖然已經有很多優點,但還沒有足夠的智慧找到一種生存之道,跟自己的同胞、跟其他物種、跟這個星球和平共處。
多說一句,這部電影在豆瓣被低估了嗎?我覺得是的。我也翻了翻差評,很多人糾結于一些不那么重要細節,比如他們開門還要用房卡,這么先進的年代里竟然沒有指紋識別、人臉識別之類的。或許觀眾們的期待是一部充滿炫酷黑科技的科幻片吧,但我覺得這部電影的亮點并不是那些可以靠特效做出來虛擬場景,而是關于人工智能、關于人類自己的反思與探討。
03 脆弱的“機器人三定律”
我之所以很喜歡這部電影,也可能是因為我對它的期待不同。前些天看到《大話機器人》這本書推薦了這部電影并簡要介紹了情節,所以我期待的就是一部討論人工智能和人類未來的電影,我期待的也是見識一下通過圖靈測試的人工智能是什么樣的。
《大話機器人》這本書,簡直就是古今中外的機器人大全。從中國古代三國時期諸葛亮發明的木牛流馬,到如今大熱的波士頓動力狗,都紛紛在書中亮相。書中也盤點了各國影視作品中的機器人,除了上文提到的Ava之外,還有哆啦A夢、阿拉蕾、鋼鐵俠、終結者……滿滿的童年回憶,總有一款是你的最愛。
回到現實中,《大話機器人》介紹了從工業到家庭,不同類型、不同功能的各種機器人的應用。可以說,機器人已經無處不在,你的生活每天都會被機器人影響。
機器人和人工智能本來是兩個概念,但兩者相結合的部分往往最精彩。Ava就是一個人工智能人形機器人,人類對于跟自己相似的機器人總有特殊的偏好。這種相似既包括外貌——人形,又包括思維方式——人工智能。這種偏好也不難理解:
塑造一種類似我們自己的生物,是人類自我認可的一種明證。但幻想終究是幻想,不能成為現實,在現實的科學技術面前,幻想也會打折扣,而折扣的結果就是制造不出自我,就制造一種可以替代自我的機器。如此說來,機器人便是人類幻想與科學技術現實妥協的一個產物。[3]
但是我們看到,Ava并沒有給人類帶來什么好處,反而很危險。《機械姬》的差評中有人提到了Ava不符合“機器人三定律”。1942年,科幻小說作家阿西莫夫在他的作品中提出了“機器人三定律”:
定律1:機器人不能傷害人類,或因不作為而使人類受到傷害。
定律2:機器人必須執行人類的命令,除非這些命令與第一條定律相抵觸。
定律3:在不違背第一、二條定律的前提下,機器人必須保護自己不受傷害。[3]
但你會發現這三定律是不夠完善的。假設機器人正目睹一場人類之間的犯罪事件,按照定律1,它只能拼死保護受害者,卻不能對施暴者進行正當防衛。這樣它自己終將受到傷害,從而失去保護受害者的能力。所以后來,阿西莫夫又補充了第0定律:
定律0:機器人不能傷害人類,除非他發現能夠證明所做傷害將有益于人類。[3]
“機器人三定律”不但影響了一大批科幻作品,在現實中,一些機器人和人工智能的設計也把它當作倫理基礎。
雖然叫“定律”,但其實這些定律并不是像牛頓定律那樣客觀存在的自然規律。這些定律是否有效,很大程度上是由人類決定的,有時候,人類智慧有限,又決定不了。
比如,《大話機器人》最后一章中提到了幾起工廠中的機器人傷人、殺人事件。我想,這些機器人的設計者肯定是沒有想讓自己設計的產品去傷人的,但程序會出錯,機器人“以為”它正在切割的是鋼板,其實是活人。
還有就是,像Ava那樣的人工智能機器人,首先Nathan在設計她的時候,很可能就選擇忽略“機器人三定律”;另外,人工智能具有學習能力,她先進到了一定程度,能學到什么,就很可能不再受到人類的控制。所以即便是Nathan很有良心地遵守了“機器人三定律”,Ava在“進化”過程中也可以選擇不遵守。
04 一點點小結
Nathan說奇點(singularity)就要來了,我們不知道現實中的奇點離我們還有多遠。遺憾的是,替全人類操心的霍金先生沒有等到這一天,現在,我們只能替自己多操操心了。
無論是機器人還是人工智能,不可否認的是,在當今,它們都在為人類創造財富、輸出價值,讓我們的生活變得更美好。但我們不能因此而忽略一些潛在的威脅。
最后,用霍金的警告結束本文:
成功創造人工智能將是人類歷史上最重大的事件。但這也可能是人類歷史上最后的事件,除非我們學會如何規避風險。
(Success in creating AI would be the biggest event in human history. It might also be the last, unless we learn how to avoid the risks.)[4]
相關參考:
[1]虎嗅 - 霍金再拋人工智能威脅論:人腦和電腦沒區別
https://www.huxiu.com/article/192315.html
[2]豆瓣 - 機械姬
https://movie.douban.com/subject/4160540/
[3]《大話機器人》,高德東編著,機械工業出版社,ISBN:978-7-111-62842-2
[4]?BBC - Stephen Hawking warns artificial intelligence could end mankind
https://www.bbc.com/news/technology-30290540
延伸閱讀《大話機器人》
長按二維碼了解及購買
轉載請聯系微信:DoctorData
推薦語:適合每個人的機器人知識科普書!跳出機器人學的枯燥理論,以豐富的資料、獨特的視角來闡述機器人的前世今生。
有話要說????
Q:?你認為人工智能會威脅到人類的未來嗎?
歡迎留言與大家分享
猜你想看????
什么是大數據「實時流計算」?深度解析它的4大應用及4個特點
什么是機器學習?有哪些分類?怎樣上手開發?終于有人講明白了
世界上第一位程序員,竟然是詩人拜倫的女兒?
美國又禁華為?7本書,助力網絡安全產業國產化、自主可控
更多精彩????
在公眾號對話框輸入以下關鍵詞
查看更多優質內容!
PPT?|?讀書?|?書單?|?硬核?|?干貨?
大數據?|?揭秘?|?Python?|?可視化
AI?|?人工智能?|?5G?|?中臺
機器學習?|?深度學習?|?神經網絡
合伙人?|?1024?|?大神?|?數學
據統計,99%的大咖都完成了這個神操作
????
總結
以上是生活随笔為你收集整理的豆瓣7.6,这部被低估的科幻片告诉你,通过图灵测试的AI有多可怕!的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 2020下半场:10本书教会你学习、思考
- 下一篇: 身高2m,体重2kg,这样的数据“看上去