PyTorch模型导出ONNX后如何正确进行推理？

本文阐述如何正确地使用torch.onnx.export导出的ONNX模型进行推理。 torch.onnx.export函数可将PyTorch模型转换为ONNX格式，方便跨框架部署。然而，直接使用PyTorch张量作为ONNX模型输入会导致错误。

导出后的ONNX模型（.onnx.pb文件）包含模型结构和权重。 推理需要借助ONNX Runtime。 原始代码使用PyTorch的torch.ones(2,2)创建张量作为输入，导致RuntimeError: input must be a list of dictionaries or a single numpy array for input ‘x’错误。这是因为ONNX Runtime期望的是NumPy数组，而非PyTorch张量。

正确方法：使用NumPy数组作为输入

以下两种方法均可实现正确推理：

方法一：

import onnxruntimeimport numpy as npimport torchresnet_onnx = onnxruntime.InferenceSession('onnx.pb')# 使用NumPy数组作为输入x = np.ones((2, 2), dtype=np.float32)inputs = {resnet_onnx.get_inputs()[0].name: x}print(resnet_onnx.run(None, inputs))

登录后复制