test_paddle2onnx.md 2.3 KB
Paddle2onnx预测功能测试
PaddleServing预测功能测试的主程序为test_paddle2onnx.sh，可以测试Paddle2ONNX的模型转化功能，并验证正确性。
1. 测试结论汇总
基于训练是否使用量化，进行本测试的模型可以分为正常模型和量化模型，这两类模型对应的Paddle2ONNX预测功能汇总如下：
| 模型类型 | device |
|---|---|
| 正常模型 | GPU |
| 正常模型 | CPU |
| 量化模型 | GPU |
| 量化模型 | CPU |
2. 测试流程
2.1 功能测试
先运行prepare.sh准备数据和模型，然后运行test_paddle2onnx.sh进行测试，最终在test_tipc/output目录下生成paddle2onnx_infer_*.log后缀的日志文件。
bash test_tipc/prepare.sh ./test_tipc/configs/yolov3/yolov3_darknet53_270e_coco_model_linux_gpu_normal_normal_paddle2onnx_python_linux_cpu.txt "paddle2onnx_infer"
# 用法:
bash test_tipc/test_paddle2onnx.sh ./test_tipc/configs/yolov3/yolov3_darknet53_270e_coco_model_linux_gpu_normal_normal_paddle2onnx_python_linux_cpu.txt
运行结果
各测试的运行情况会打印在 test_tipc/output/results_paddle2onnx.log 中：
运行成功时会输出：
Run successfully with command - yolov3_darknet53_270e_coco - paddle2onnx --model_dir=./output_inference/yolov3_darknet53_270e_coco --model_filename=model.pdmodel --params_filename=model.pdiparams --save_file=./output_inference/yolov3_darknet53_270e_coco/model.onnx --opset_version=11 --enable_onnx_checker=True !
Run successfully with command - yolov3_darknet53_270e_coco - python3.7 ./deploy/third_engine/onnx/infer.py --infer_cfg=./output_inference/yolov3_darknet53_270e_coco/infer_cfg.yml --onnx_file=./output_inference/yolov3_darknet53_270e_coco/model.onnx --image_file=./demo/000000014439.jpg > ./test_tipc/output/paddle2onnx_infer_cpu.log 2>&1 !
运行失败时会输出：
Run failed with command - yolov3_darknet53_270e_coco - paddle2onnx --model_dir=./output_inference/yolov3_darknet53_270e_coco --model_filename=model.pdmodel --params_filename=model.pdiparams --save_file=./output_inference/yolov3_darknet53_270e_coco/model.onnx --opset_version=11 --enable_onnx_checker=True !
...
3. 更多教程
本文档为功能测试用，更详细的Paddle2onnx预测使用教程请参考：Paddle2ONNX