语音识别发展必牺牲隐私?最大问题或因不符用户预期,需增透明性
今年以來,科技巨頭蘋果、谷歌、亞馬遜、臉書和微軟的語音助手或軟件無一例外被爆出“監聽門”。有專家表示,在目前的弱人工智能階段,人工監聽和分析是必須的。
那么,語音識別技術發展和隱私保護之間的沖突要如何解決?9月17日,在國家網絡安全宣傳周的個人信息保護高峰論壇上,小米集團法務總監朱玲鳳試圖結合行業已有的實踐操作作出回答。
“語音助手是人工智能領域非常重要的應用領域”,她指出,從2010年開始,互聯網巨頭通過自主研發或者并購/參股的方式開始探索智能語音行業,包括蘋果的Siri,谷歌的Google Assistant和亞馬遜的Alexa等。
國內阿里巴巴、百度和小米等企業也紛紛投入智能音箱市場。據調研公司Canalys預計,到今年年底,中國智能音箱保有量將超過5990萬臺,與截至2018年底的2250萬臺相比增長166%,使得智能音箱的普及率達到13%——語音助手已經成為大家生活中非常習慣的一個場景。
然而,智能語音助手市場的瘋狂增長離不開海量用戶數據的“喂養”,隱私問題也隨之滋生。
今年7月26日,蘋果被爆出雇傭外包商監聽用戶和Siri的對話,其中包含位置信息、聯系方式等個人敏感信息。此前亞馬遜Alexa、Google Assistant、微軟的Skype和語音助手都被曝出類似事件。
朱玲鳳表示,現在的語音識別技術還處于監管之下的機器學習,而不能靠自主學習提升識別能力。“簡單的操作過程就是把粗略的語音資料輸入進去,由人工進行分析,再分類標注,然后把它灌輸到整個模型當中,最后用大量的用戶數據去驗證這個模型是不是正確。”
所以,在目前的階段,“人類的轉入和標注是語音識別技術提升必然要經過的一個過程”,她說。她還總結道,這就是用戶使用語音助手產品和預期明顯沖突的地方——用戶不希望和語音助手之間的私人交談被第三方轉入,但是第三方語音轉入確實是技術發展所必需的東西。
朱玲鳳認為,不能因為不符合用戶預期,就因噎廢食不繼續發展語音識別技術,因為這項技術確實給老人、小孩以及殘障人士帶來了福音。
但是,這是否意味著需要犧牲用戶的隱私?
朱玲鳳認為,企業應該拿出更加尊重用戶隱私的態度來,并介紹了一些行業內已有的實踐操作。
小米集團法務總監朱玲鳳介紹行業已有的實踐操作。
首先是企業要遵守透明性原則,讓用戶知道可能存在人工分析語音指令的情況,以及為什么保存這樣的數據、保存多久。同時,要給用戶提供一個控制機制,讓用戶可以選擇退出。
例如,蘋果在隱私事件爆發后就進行了調整,允許默認情況下不收集用戶的錄音,只有當用戶選擇加入語音改善計劃之后,才會把用戶的語音上傳到服務器進行人工分析。
其次,還要添加別的安全措施。比如蘋果Siri使用隨機標識符來保存用戶語音助手相關信息,這些標識符不會與用戶的Apple賬號和手機號進行關聯。六個月后,設備的數據會與標識符取消關聯。
朱玲鳳還建議,企業可以同時使用一些非語音喚醒的模式,比如通過長按Home鍵就可以調動語音助手,這樣可以避免誤喚醒問題。
采寫:南都見習記者 李慧琪
總結
以上是生活随笔為你收集整理的语音识别发展必牺牲隐私?最大问题或因不符用户预期,需增透明性的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 八篇 NeurIPS 2019 最新图神
- 下一篇: 滥用网络爬虫技术,多家公司被查!互金行业