基于融合计算?蚂蚁金服的在线机器学习是如何做的
金融領(lǐng)域越來越多的活動場景,如雙十一、雙十二、財富日、新春大促,具有活動持續(xù)時間短強度高的特點,解決場景中的計算冷啟動問題,優(yōu)化系統(tǒng)效率和用戶體驗的需求越來越多。在生產(chǎn)環(huán)境的應(yīng)用中,還需要滿足高吞吐和端到端強數(shù)據(jù)一致性的需求,解決高維稀疏特征的大模型的訓(xùn)練、更新和服務(wù)問題。
在線機器學(xué)習(xí),能夠根據(jù)線上反饋數(shù)據(jù),實時快速地進行模型調(diào)整,使得模型及時反映線上的變化,提高線上預(yù)測的準確率,能夠有效的解決上述的一些問題,在金融場景也得到越來越多的應(yīng)用。
基于融合計算的在線學(xué)習(xí),通過打通流計算和機器學(xué)習(xí)兩種計算模式,將不同系統(tǒng)間的數(shù)據(jù)傳輸轉(zhuǎn)化為同一系統(tǒng)內(nèi)部數(shù)據(jù)和計算之間、計算和計算之間,從而將不同的數(shù)據(jù)和計算的組織方式銜接在一起。在性能方面,通過內(nèi)存間的數(shù)據(jù)共享減少數(shù)據(jù)的序列化和反序列化,大幅減少網(wǎng)絡(luò)和計算開銷,減少了60%的機器資源使用,將端到端的延遲降低到原來的十分之一。同時,基于融合計算的在線學(xué)習(xí)通過流計算和Tensorflow的自然銜接,實現(xiàn)了端到端的數(shù)據(jù)一致性保障,并采用一體化編程、自助云化、智能運維大大簡化了系統(tǒng)的開發(fā)、部署、運維成本。
融合計算由螞蟻金服自主研發(fā),它基于螞蟻金服聯(lián)合 UC Berkeley 大學(xué)推進的新一代計算引擎Ray,通過動態(tài)數(shù)據(jù)流來實現(xiàn)流、批、離線數(shù)據(jù)的共享,在同一計算框架內(nèi)兼容分布式服務(wù)、流處理、機器學(xué)習(xí)、圖等計算模式,減少數(shù)據(jù)交換和落盤來優(yōu)化計算和網(wǎng)絡(luò)開銷,是一個解決金融場景中需要銜接多個不同計算模式的開放計算框架。
通過流處理和機器學(xué)習(xí)兩種計算模式的有機組合,基于融合計算的在線機器學(xué)習(xí)兼顧了各自的功能,并實現(xiàn)資源的優(yōu)化和共享。在金融領(lǐng)域的其他場景也有其他類似的組合,如流式圖計算。螞蟻金服通過在線機器學(xué)習(xí)和流式圖計算的探索,初步驗證了融合計算框架。9月27日,融合計算的理念與具體的案例將在云棲大會數(shù)字金融技術(shù)專場上進行分享,敬請期待。
原文鏈接
本文為云棲社區(qū)原創(chuàng)內(nèi)容,未經(jīng)允許不得轉(zhuǎn)載。
總結(jié)
以上是生活随笔為你收集整理的基于融合计算?蚂蚁金服的在线机器学习是如何做的的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Go语言出现后,Java还是最佳选择吗?
- 下一篇: 解读NoSQL最新现状和趋势:云NoSQ