12306验证码为什么那么变态?都是这项深度学习应用给逼的
導(dǎo)讀:12306為什么要設(shè)置那么復(fù)雜的驗證碼機制呢?就是因為OCR。
今天聊OCR。
OCR是人工智能、機器學習特別是深度學習,在圖像識別方向最為重要的應(yīng)用之一。OCR全稱Optical Chararcter Recogition,中文翻譯為光學字符識別,通常簡寫為OCR。
作者:莫凡
來源:大數(shù)據(jù)DT(ID:hzdashuju)
如果之前沒有接觸過OCR,光看名字上又光學又識別的,容易產(chǎn)生“聽起好像很高端很復(fù)雜”的距離感,但實際上,計算機科學的每一項技術(shù)都是為了機器具備多一項技能,而OCR要機器具備的,是一項對于我們?nèi)藖碚f屬于最最基本的技能——“看圖識字”。
我們可能對這個能力習以為常了,以至于不會覺得這算是一項能力,但仔細想一想就知道,看圖識字雖然最最基本,不過同樣也最最基礎(chǔ),很多工作都需要首先具備看圖識字這項技能才能開展。同樣的道理,OCR現(xiàn)在也已經(jīng)是我們?nèi)粘I钪袘?yīng)用最為廣泛的智能技術(shù)之一。
如果一時沒想起來,不妨從咱們中國人都很熟悉的春運說起。12306大家應(yīng)該都知道,是訂火車票的官方網(wǎng)站,2015年12306出了一個轟動全國的“大新聞”,12306改變“驗證碼機制”了。買火車票之前,用戶先得要做幾道頗為棘手的智力題,譬如要求在幾張圖片中找出某位名人,據(jù)說有些用戶因為知識面比較窄最后選擇放棄了購買火車票。
這事大家都知道,不過有沒有想過一個最基本的問題:12306為什么要改變驗證碼機制呢?
就是因為OCR。
▲網(wǎng)友惡搞的12306驗證碼
驗證碼之所以叫驗證“碼”,是因為最開始驗證碼大都是一串保存在圖片里的四位數(shù)字。驗證碼的作用自然是區(qū)別真人和機器,聽起來很厲害,其實原理異常簡單:機器擅長處理結(jié)構(gòu)化數(shù)據(jù),而對于圖像、文本和音頻這些生活中很常見但屬于非結(jié)構(gòu)化的數(shù)據(jù),對機器來說,用傳統(tǒng)的算法處理難度非常大。
為什么呢?不妨想象一個最最傳統(tǒng)的驗證碼,白底黑字,上面一共四個阿拉伯數(shù)字,我們?nèi)俗匀豢匆谎劬椭朗悄乃膫€數(shù)字。但是在機器看起來,這張圖片是由一個挨一個的像素數(shù)值構(gòu)成的數(shù)據(jù)矩陣,這就產(chǎn)生一個問題,我們?nèi)丝雌饋硎恰翱瞻住钡牡胤?#xff0c;在機器看起來同樣也存在著數(shù)字,并沒有什么不同,自然無法區(qū)分到底上面寫了什么。
OCR的研究人員當然也沒有偷懶,努力嘗試了很多辦法,有一種思路是提取圖片特征,也研究出兩種傳統(tǒng)的提取方法,分別是基于結(jié)構(gòu)形態(tài)的特征提取,和基于幾何分布的特征提取,也取得一些成果。
但總的來說,要求機器準確識別圖片中的數(shù)字仍然很困難,只要圖片中存在一點點雜質(zhì)干擾,識別的正確率就大幅度下降,這就是為什么后來驗證碼都會選擇采用一些隨機線條,對于OCR來說,這都是低成本高收益的防破解手段。但對人來說卻輕而易舉,只需要看一眼就能識別。
正是因為人和機器在處理非結(jié)構(gòu)化數(shù)據(jù)存在能力鴻溝,在驗證碼這里,就是人和機器在識別圖片中字符上的能力存在顯著差異,因此,只要簡單使用驗證碼,就能相當準確地辨別正在輸入的究竟是人還是機器。
那為什么12306在2015年就非得換了很好用的驗證碼機制呢?是因為就在2012年,發(fā)生了一件轟動整個研究界的事件,這個事件影響深遠,推動OCR技術(shù)發(fā)生飛躍,從此機器也能很輕易就準確識別圖片上的數(shù)字了。
OCR并不是新出現(xiàn)的概念,起步非常早。根據(jù)《深度實踐OCR:基于深度學習的文字識別》一書介紹,早在1929年,德國科學家就已經(jīng)提出了OCR的想法,后續(xù)又有一些科學家加入進行這方面研究,不過,直接計算機出現(xiàn)以后,想法才慢慢落地。
相比之下,中國對OCR的研究起步稍晚,起步于70年代,算起來也有近50年的歷史了。
但是,雖然早就開始了對OCR的研究,科學家們也從各個方面貢獻了很有頗有益處的奇思妙想,為后續(xù)研究奠定了堅實基礎(chǔ),但總的來說,OCR技術(shù)的應(yīng)用發(fā)展遲緩,直到前些年仍然處于學術(shù)研究的領(lǐng)域。不過,每一項科研領(lǐng)域的僵局都最終會被一項劃時代的技術(shù)打破,打破OCR領(lǐng)域僵局的就是鼎鼎大名的深度學習技術(shù)。
2012年發(fā)生了什么事呢?發(fā)生了這么一件事,基于深度學習的卷積網(wǎng)絡(luò)模型AlexNet,在ImageNet圖像分類比賽中拔得頭籌。拔得頭籌這事本身不算什么,畢竟只要有比賽就一定會有人拔得頭籌,問題是在以往的比賽,不同模型之間的差距很小,第一名都是“險勝”,第二名都是“惜敗”。
而到了2012年,AlexNet不但贏了第一名,而且在識別準確率方面超過第二名10%,相當于百米短跑我第一名沖線,而且我不但沖線了,我還在終點吃了頓飯,然后第二名才剛剛跑完全程。這種碾壓式的勝利讓業(yè)界對這場賽事的評論紛紛變成了B站的彈幕,概括來說就一句話:大人,時代變了。
當然了,前面這段講得很戲劇化,也有很多人喜歡用“石破天驚”之類的詞來形容,但應(yīng)該說,深度學習并不是什么憑空出現(xiàn)的新技術(shù),它是由機器學習下面的神經(jīng)網(wǎng)絡(luò)模型發(fā)展而來的。
人工智能、機器學習和深度學習三者之間千絲萬縷的關(guān)系,我們在前面的文章已經(jīng)進行了細致的介紹,不再贅述,但深度學習的崛起,確實給OCR的應(yīng)用注入了全新的活力。
深度學習很快火遍全球,有意思的是,很多面向初學者的深度學習教程不約而同選擇了將使用深度學習模型識別MNIST手寫數(shù)據(jù)集作為深度學習領(lǐng)域的“Hello World”,從前極為困難的驗證碼識別,在深度學習時代居然變成了初學者的第一堂功課,這是深度學習與OCR結(jié)合最為成功的案例。從此,OCR展翅飛出象牙塔,飛入尋常百姓家。
不過,我還是想特別說明一下,OCR是一項通用性非常強的技術(shù),OCR與深度學習的結(jié)合逼得12306改驗證碼機制,這只是OCR技術(shù)的能力展示,OCR活躍的天地遠比驗證碼廣闊得多,我們的機器距離我們的生活差的最后一公里,可能就有賴OCR來打通。
你可能會問,機器和生活還差最后一公里,我怎么沒感覺到,這是什么意思?
回想一下,我們現(xiàn)在的生活其實是有兩套并行記錄體系,就拿最常見的去銀行辦理業(yè)務(wù)來說吧,我們先得用筆手工填寫一份紙質(zhì)的表格,上面包含了各項信息,這是一套記錄體系。然后我們給銀行柜臺的工作人員提交表格,工作人員會讓我們先等一會,等什么呢,就是等工作人員通過電腦終端把信息轉(zhuǎn)錄到另一套記錄體系。
現(xiàn)代銀行基本都依靠各類信息系統(tǒng)進行管理,但這些信息系統(tǒng)是不能直接讀取紙質(zhì)表格的信息,那怎么辦呢,只好通過人來轉(zhuǎn)錄,這個轉(zhuǎn)錄的過程免不了需要消耗人的時間和精力,增加了辦理業(yè)務(wù)的成本,甚至成為限制提升業(yè)務(wù)辦理效率的瓶頸之一。
兩套并行記錄體系對我們的影響當然遠不止于銀行,從更為宏觀的視角來看,消耗了人類社會大量的人力物力,以及對于人來說更為寶貴的時間。
你可能又要說了,這些都是窗口業(yè)務(wù),和日常生活關(guān)系并不緊密。其實不然,舉一個我們很熟悉例子,二維碼。
就拿春晚的觀眾互動來說吧,過去主持人是說想要和春晚互動的觀眾朋友,可以把信息發(fā)到屏幕下方公布的號碼。那么,觀眾如果真要互動,就必須得把再屏幕上看到的這串長長的數(shù)字逐個逐個敲進手機,光是想就覺得麻煩,再加上有時候看錯或者敲錯,感覺就更費勁了。
現(xiàn)在有了二維碼,主持人說想要和春晚互動的觀眾朋友,掃描屏幕下方的二維碼就可以了,操作起來就簡單太多了。所以,現(xiàn)在滿大街都是二維碼,就是因為二維碼更為便捷。
不過,二維碼只能解決兩套記錄體系并行問題的很小一部分,其它手段譬如內(nèi)置芯片也只能治標不治本,畢竟我們?nèi)祟惿鐣浊陙矶家约堊鳛樾畔⒌挠涗浗橘|(zhì),已經(jīng)產(chǎn)生了太多不可能符合機器讀取要求的信息,要從根本上解決兩套記錄體系并行的問題,還是需要機器具備和人一樣的“看圖識字”的能力,也就是最終還得依靠OCR。
那么,現(xiàn)在的OCR技術(shù)發(fā)展到什么水平,又解決了什么實際問題了呢?
我認為,一項應(yīng)用技術(shù)最重要的不是聽起來有多前沿多高端,而是能解決什么實實在在的問題。我們說OCR突飛猛進,是因為OCR和深度學習結(jié)合以后,只需要簡單拍照,就可以直接從圖片中提取相應(yīng)的文字,在很多應(yīng)用場景已經(jīng)有點“掃碼即可”的意思了。
很多紙質(zhì)的表格,譬如前面說的銀行各類業(yè)務(wù)的表格,現(xiàn)在只需要簡單地拍照就可以一下完成信息錄入。以前我們拿到紙質(zhì)名片,還需要手工敲字記錄,現(xiàn)在很多APP都提供一項功能,只要對名片進行拍照,就能自動提取上面的文字。
同時,OCR帶來的不僅僅是簡化錄入,很多傳統(tǒng)的軟件功能,也因為OCR技術(shù)的發(fā)展,而帶來了全新的使用體驗。就說我印象最深的翻譯軟件,翻譯軟件當然不是什么新產(chǎn)品,大家應(yīng)該都用過。
但一直以來使用翻譯軟件都有一個限制,那就是不管軟件本身的翻譯能力有多強,你得先錄入原文然后才能看到譯文,這有一個什么問題呢?有一些外語的原文我不知道怎么通過英文鍵盤輸入,譬如日文、德文、法文,相信不是專門學這些語言的朋友都有和我同樣的困擾。
現(xiàn)在有了OCR就方便多了,只需要直接拍照就能提取文字,不但解決了輸入問題,效率還要高得多,有些翻譯軟件干脆就在原圖上P上譯文,更加直接明了,讓我對翻軟件有一種耳目一新的感覺。
除了翻譯軟件,OCR給我們熟悉的產(chǎn)品帶來的改變還有很多,畢竟只要可以從圖片中準確提取文字,就有太多的地方等待著我們發(fā)揮廣闊的想象力。譬如說,通過OCR技術(shù),即使是掃描生成的PDF也支持文本搜索了。
如果覺得這個例子太小,那就說搜素引擎,現(xiàn)在的搜索引擎還笨得很,輸入文字只能搜到文字,輸入圖片只能搜到圖片,文字和圖片是涇渭分明,如果你想用文字搜帶有這段文字的圖片呢?對不起不行。
不過使用了OCR,以后也可以以文搜圖了。譬如你翻老照片時找到一張你光著屁股坐在一塊寫著一段文字的石頭上,你想知道這張照片在哪拍的。可是現(xiàn)在你去搜這段文字,很可能要么就什么都找不到,要么就找到一大堆無關(guān)的內(nèi)容。
未來如果搜索引擎支持搜索圖中文字的功能,你就能馬上找到帶有這段文字的其它照片,沒準其中就有你想要找的內(nèi)容。
OCR就介紹到這里,相信大家對于OCR是什么,能做什么,未來會有怎樣的發(fā)展已經(jīng)有了初步的了解。可是,OCR技術(shù)的原理是什么,傳統(tǒng)的做法是什么,現(xiàn)在和深度學習又是怎樣結(jié)合在一起?
我推薦大家閱讀前面提過的這本專門介紹這些問題的書,《深度實踐OCR:基于深度學習的文字識別》。這本書對OCR的介紹很全面,先從OCR的發(fā)展歷程和經(jīng)典的技術(shù)原理說起,然后介紹了深度學習的主要技術(shù),最后再仔細介紹OCR和深度學術(shù)如何結(jié)合,而且還對如何通過代碼實現(xiàn)進行了詳細說明。看完這本書,對OCR的全貌、原理和應(yīng)用,應(yīng)該就能有比較清晰的了解。
作者簡介:莫凡,網(wǎng)名木羊同學。娛樂向機器學習解說選手,《機器學習算法的數(shù)學解析與Python實現(xiàn)》作者,前沿技術(shù)發(fā)展觀潮者,擅長高冷技術(shù)的“白菜化”解說,微信公眾號“睡前機器學習”,個人知乎號“木羊”。
延伸閱讀《深度實踐OCR》
點擊上圖了解及購買
轉(zhuǎn)載請聯(lián)系微信:DoctorData
推薦語:阿里巴巴本地生活研究院算法團隊聯(lián)合知名場景文本算法作者撰寫,產(chǎn)業(yè)應(yīng)用和學術(shù)前沿的一次思想碰撞!從組件、算法、實現(xiàn)、工程應(yīng)用等維度系統(tǒng)講解基于深度學習的OCR技術(shù)的原理和落地,提供大量案例。
劃重點????
干貨直達????
什么是數(shù)字孿生?已有哪些應(yīng)用?終于有人講明白了
從Hadoop到ClickHouse,現(xiàn)代BI系統(tǒng)有哪些問題?如何解決?
父親節(jié),來認識一下這幾位“爸爸”
手把手教你用直方圖、餅圖和條形圖做數(shù)據(jù)分析(Python代碼)
更多精彩????
在公眾號對話框輸入以下關(guān)鍵詞
查看更多優(yōu)質(zhì)內(nèi)容!
PPT?|?讀書?|?書單?|?硬核?|?干貨?|?講明白
大數(shù)據(jù)?|?云計算?|?數(shù)據(jù)庫?|?Python?|?可視化?|?神操作
AI?|?人工智能?|?機器學習?|?深度學習?|?神經(jīng)網(wǎng)絡(luò)
5G?|?中臺?|?用戶畫像?|?1024?|?大神?|?數(shù)學?|?揭秘
據(jù)統(tǒng)計,99%的大咖都完成了這個神操作
????
總結(jié)
以上是生活随笔為你收集整理的12306验证码为什么那么变态?都是这项深度学习应用给逼的的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 存储系统又慢又杂太难用?我们推荐这几本书
- 下一篇: 什么是数字孪生?有哪些关键技术?现在怎么