在前面所有的模型訓練和預測中，我們訓練好的模型都是直接通過控制臺或者 Jupyter Notebook 來進行預測和交互的，在一個系統或者項目中使用這種方式顯然不可能，那在 Web 應用中如何使用我們訓練好的模型呢？本文將通過以下四個方面對該問題進行講解：

微服務架構簡介；

模型的持久化與加載方式；

Flask 和 Bottle 微服務框架；

Tensorflow Serving 模型部署和服務。

微服務架構簡介

微服務是指開發一個單個小型的但有業務功能的服務，每個服務都有自己的處理和輕量通訊機制，可以部署在單個或多個服務器上。微服務也指一種松耦合的、有一定的有界上下文的面向服務架構。也就是說，如果每個服務都要同時修改，那么它們就不是微服務，因為它們緊耦合在一起；如果你需要掌握一個服務太多的上下文場景使用條件，那么它就是一個有上下文邊界的服務，這個定義來自 DDD 領域驅動設計。

相對于單體架構和 SOA，它的主要特點是組件化、松耦合、自治、去中心化，體現在以下幾個方面：

一組小的服務：服務粒度要小，而每個服務是針對一個單一職責的業務能力的封裝，專注做好一件事情；

獨立部署運行和擴展：每個服務能夠獨立被部署并運行在一個進程內。這種運行和部署方式能夠賦予系統靈活的代碼組織方式和發布節奏，使得快速交付和應對變化成為可能。

獨立開發和演化：技術選型靈活，不受遺留系統技術約束。合適的業務問題選擇合適的技術可以獨立演化。服務與服務之間采取與語言無關的 API 進行集成。相對單體架構，微服務架構是更面向業務創新的一種架構模式。

獨立團

總結

以上是生活随笔為你收集整理的第18课：模型部署上线的几种服务发布方式的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。