Pytorch与tensorflow模型转换
使用pytorch_pretrained_bert將tensorflow模型轉化為pytorch模型:https://blog.csdn.net/sunyueqinghit/article/details/103458365/
bert_config.json
bert_model.ckpt.data-00000-of-00001
bert_model.ckpt.index
bert_model.ckpt.meta
vocab.txt
比如:
tensorflow 模型文件
checkpoint
model.ckpt-200.data-00000-of-00001
model.ckpt-200.index
model.ckpt-200.meta
1、checkpoint文件
checkpoint是一個文本文件,記錄了訓練過程中在所有中間節點上保存的模型的名稱,首行記錄的是最后(最近)一次保存的模型名稱。
checkpoint是檢查點文件,文件保存了一個目錄下所有的模型文件列表;
2、data文件
model.ckpt-200.data-00000-of-00001:數據文件,保存的是網絡的權值,偏置,操作等等。
3、index文件
model.ckpt-200.index是一個不可變得字符串表,每一個鍵都是張量的名稱,它的值是一個序列化的BundleEntryProto。 每個BundleEntryProto描述張量的元數據:“數據”文件中的哪個文件包含張量的內容,該文件的偏移量,校驗和,一些輔助數據等等
4、meta文件
model.ckpt-200.meta文件保存的是圖結構,通俗地講就是神經網絡的網絡結構。一般而言網絡結構是不會發生改變,所以可以只保存一個就行了
bert模型文件相關解釋:
$ tree chinese_L-12_H-768_A-12/ chinese_L-12_H-768_A-12/ ├── bert_config.json <- 模型配置文件 ├── bert_model.ckpt.data-00000-of-00001 <- 保存斷點文件列表,可以用來迅速查找最近一次的斷點文件 ├── bert_model.ckpt.index <- 為數據文件提供索引,存儲的核心內容是以tensor name為鍵以BundleEntry為值的表格entries,BundleEntry主要內容是權值的類型、形狀、偏移、校驗和等信息。 ├── bert_model.ckpt.meta <- 是MetaGraphDef序列化的二進制文件,保存了網絡結構相關的數據,包括graph_def和saver_def等 └── vocab.txt <- 模型詞匯表文件0 directories, 5 files總結
以上是生活随笔為你收集整理的Pytorch与tensorflow模型转换的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 论文浅尝 | 基于Freebase的问答
- 下一篇: 会议 | 2018年全国知识图谱与语义计