1.onnx在windows下使用

時間節(jié)點：2021年7月

　　基于Anaconda ，打開并激活pytorch環(huán)境，然后按順序安裝。

conda install -c conda-forge numpy protobuf==3.16.0 libprotobuf=3.16.0
conda install -c conda-forge onnx

　　之后安裝onnxruntime或者onnxruntime-gpu

pip install onnxruntime
或者
pip install onnxruntime-gpu

　　倆者差別是運(yùn)行環(huán)境不同。根據(jù)自己運(yùn)行onnx模式環(huán)境，適合就好。

2.onnx 不支持roll 操作符。

問題時間節(jié)點：2021年7月

　嘗試將swin Transformer模型從pytorch導(dǎo)給tensorflow。 運(yùn)行遇到操作符不支持問題。

警告信息

Exporting the operator roll to ONNX opset version 9 is not supported. Please open a bug to request ONNX export support for the missing operator.

　剛接觸onnx，不懂。問朋友之后，可能是onnx支持的操作集問題

torch.onnx.export(……
                  opset_version=13)

　　

還是報錯。此處截取onnx的操作集適配機(jī)制，方便后來者理解該參數(shù)

_default_onnx_opset_version = 9
_onnx_main_opset = 13
_onnx_stable_opsets = [7, 8, 9, 10, 11, 12]
_export_onnx_opset_version = _default_onnx_opset_version


def _set_opset_version(opset_version):
    global _export_onnx_opset_version
    if opset_version == _default_onnx_opset_version:
        _export_onnx_opset_version = opset_version
        return
    if opset_version in _onnx_stable_opsets + [_onnx_main_opset]:
        _export_onnx_opset_version = opset_version
        return
    raise ValueError("Unsupported ONNX opset version: " + str(opset_version))

感興趣的可以搜索pytorch源碼。 默認(rèn)=“9” 。 10，11，12 可以理解為基于9的代碼拓展。

經(jīng)朋友提醒，在pytorch的開源代碼搜索到onnx

https://github.com/pytorch/pytorch/blob/master/test/onnx/test_pytorch_onnx_onnxruntime.py

  def test_roll(self):
        class M(torch.nn.Module):
            def __init__(self, shifts, dims):
                super(M, self).__init__()
                self.shifts = shifts
                self.dims = dims

            def forward(self, x):
                return torch.roll(x, self.shifts, self.dims)

　　

　　onnxruntime已經(jīng)包含roll的測試。理論上應(yīng)該支持該操作。嘗試在pytorch的官網(wǎng)搜索 roll關(guān)鍵詞

官方roll源碼

import torch.onnx.symbolic_helper as sym_help
from torch.onnx.symbolic_helper import parse_args, _parse_arg, _unimplemented

@parse_args('v', 'is', 'is')
def roll(g, self, shifts, dims):
    assert len(shifts) == len(dims)

    result = self
    for i in range(len(shifts)):
        shapes = []
        shape = sym_help._slice_helper(g,
                                       result,
                                       axes=[dims[i]],
                                       starts=[-shifts[i]],
                                       ends=[maxsize])
        shapes.append(shape)
        shape = sym_help._slice_helper(g,
                                       result,
                                       axes=[dims[i]],
                                       starts=[0],
                                       ends=[-shifts[i]])
        shapes.append(shape)
        result = g.op("Concat", *shapes, axis_i=dims[i])

    return result

顯示torch.onnx的操作集9 已經(jīng)包含roll操作。
搜索最新發(fā)布版本pytorch。
1）到pytorch官網(wǎng)搜索最近12天發(fā)布的pyotorch版本。頁面顯示只到pytorch1.9.0。

2）嘗試到pypi搜索已經(jīng)發(fā)布打包好的pytorch 。 發(fā)現(xiàn)pytorch似乎沒有類似tensorflow的tf_nightly預(yù)覽版本 。

最后，剩下直接修改調(diào)用roll的代碼，更改為支持onnx的算子。或者編譯最新版本pytorch源碼。

-------------------------------------------------------------------------------------------------------

后面進(jìn)一步搜索發(fā)現(xiàn)如下信息

4月20號提出roll轉(zhuǎn)換問題開發(fā)者說到已經(jīng)記錄會加入支持 。

roll的onnx代碼提交顯示5月17號議題經(jīng)提交支持onnx導(dǎo)出“roll”。pytorch1.9是6月份發(fā)布。 所以，感覺基于1.9 還會顯示不支持，有點滯后。

后面再試試

torch.onnx.export的其余參數(shù)。

總結(jié)

以上是生活随笔為你收集整理的onnx问题汇总的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。