[English](README.md) | 简体中文 # PaddleOCR CPU-GPU C#部署示例 本目录下提供`infer.cs`来调用C# API快速完成PPOCRv3模型在CPU/GPU上部署的示例。 ## 1. 说明 PaddleOCR支持利用FastDeploy在NVIDIA GPU、X86 CPU、飞腾CPU、ARM CPU、Intel GPU(独立显卡/集成显卡)硬件上快速部署OCR模型. ## 2. 部署环境准备 在部署前,需确认软硬件环境,同时下载预编译部署库,参考[FastDeploy安装文档](https://github.com/PaddlePaddle/FastDeploy/blob/develop/docs/cn/build_and_install#FastDeploy预编译库安装)安装FastDeploy预编译库. 在本目录执行如下命令即可在Windows完成编译测试,支持此模型需保证FastDeploy版本1.0.4以上(x.x.x>=1.0.4) ## 3. 部署模型准备 在部署前, 请准备好您所需要运行的推理模型, 您可以在[FastDeploy支持的PaddleOCR模型列表](../README.md)中下载所需模型. ## 4. 部署示例 ### 4.1 下载C#包管理程序nuget客户端 > https://dist.nuget.org/win-x86-commandline/v6.4.0/nuget.exe 下载完成后将该程序添加到环境变量**PATH**中 ### 4.2. 下载模型文件和测试图片 > https://paddleocr.bj.bcebos.com/PP-OCRv3/chinese/ch_PP-OCRv3_det_infer.tar # (下载后解压缩) > https://paddleocr.bj.bcebos.com/dygraph_v2.0/ch/ch_ppocr_mobile_v2.0_cls_infer.tar > https://paddleocr.bj.bcebos.com/PP-OCRv3/chinese/ch_PP-OCRv3_rec_infer.tar > https://gitee.com/paddlepaddle/PaddleOCR/raw/release/2.6/doc/imgs/12.jpg > https://gitee.com/paddlepaddle/PaddleOCR/raw/release/2.6/ppocr/utils/ppocr_keys_v1.txt ### 4.3 编译示例代码 本文档编译的示例代码的编译工具依赖VS 2019,**Windows打开x64 Native Tools Command Prompt for VS 2019命令工具**,通过如下命令开始编译 ```shell ## 下载FastDeploy预编译库,用户可在上文提到的`FastDeploy预编译库`中自行选择合适的版本使用 https://bj.bcebos.com/fastdeploy/release/cpp/fastdeploy-linux-x64-x.x.x.tgz # 下载部署示例代码 git clone https://github.com/PaddlePaddle/PaddleOCR.git cd D:\PaddleOCR\deploy\fastdeploy\cpu-gpu\csharp mkdir build && cd build cmake .. -G "Visual Studio 16 2019" -A x64 -DFASTDEPLOY_INSTALL_DIR=D:\fastdeploy-win-x64-gpu-x.x.x -DCUDA_DIRECTORY="C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v11.2" nuget restore msbuild infer_demo.sln /m:4 /p:Configuration=Release /p:Platform=x64 ``` 关于使用Visual Studio 2019创建sln工程,或者CMake工程等方式编译的更详细信息,可参考如下文档 - [在 Windows 使用 FastDeploy C++ SDK](https://github.com/PaddlePaddle/FastDeploy/tree/develop/docs/cn/faq/use_sdk_on_windows.md) - [FastDeploy C++库在Windows上的多种使用方式](https://github.com/PaddlePaddle/FastDeploy/tree/develop/docs/cn/faq/use_sdk_on_windows_build.md) ### 4.4 运行可执行程序 注意Windows上运行时,需要将FastDeploy依赖的库拷贝至可执行程序所在目录, 或者配置环境变量。FastDeploy提供了工具帮助我们快速将所有依赖库拷贝至可执行程序所在目录,通过如下命令将所有依赖的dll文件拷贝至可执行程序所在的目录(可能生成的可执行文件在Release下还有一层目录,这里假设生成的可执行文件在Release处) ```shell cd D:\fastdeploy-win-x64-gpu-x.x.x fastdeploy_init.bat install %cd% D:\PaddleOCR\deploy\fastdeploy\cpu-gpu\csharp\build\Release ``` 将dll拷贝到当前路径后,准备好模型和图片,使用如下命令运行可执行程序即可 ```shell cd Release # CPU推理 infer_demo ./ch_PP-OCRv3_det_infer ./ch_ppocr_mobile_v3.0_cls_infer ./ch_PP-OCRv3_rec_infer ./ppocr_keys_v1.txt ./12.jpg 0 # GPU推理 infer_demo ./ch_PP-OCRv3_det_infer ./ch_ppocr_mobile_v3.0_cls_infer ./ch_PP-OCRv3_rec_infer ./ppocr_keys_v1.txt ./12.jpg 1 ``` ## 5. PP-OCRv3 C# API接口简介 下面提供了PP-OCRv3的C# API简介 - 如果用户想要更换部署后端或进行其他定制化操作, 请查看[C# Runtime API](https://github.com/PaddlePaddle/FastDeploy/blob/develop/csharp/fastdeploy/runtime_option.cs). - 更多 PP-OCR C# API 请查看 [C# PP-OCR API](https://github.com/PaddlePaddle/FastDeploy/blob/develop/csharp/fastdeploy/vision/ocr/model.cs) ### 模型 ```c# fastdeploy.vision.ocr.DBDetector( string model_file, string params_file, fastdeploy.RuntimeOption runtime_option = null, fastdeploy.ModelFormat model_format = ModelFormat.PADDLE) ``` > DBDetector模型加载和初始化。 > **参数** >> * **model_file**(str): 模型文件路径 >> * **params_file**(str): 参数文件路径 >> * **runtime_option**(RuntimeOption): 后端推理配置,默认为null,即采用默认配置 >> * **model_format**(ModelFormat): 模型格式,默认为PADDLE格式 ```c# fastdeploy.vision.ocr.Classifier( string model_file, string params_file, fastdeploy.RuntimeOption runtime_option = null, fastdeploy.ModelFormat model_format = ModelFormat.PADDLE) ``` > Classifier模型加载和初始化。 > **参数** >> * **model_file**(str): 模型文件路径 >> * **params_file**(str): 参数文件路径 >> * **runtime_option**(RuntimeOption): 后端推理配置,默认为null,即采用默认配置 >> * **model_format**(ModelFormat): 模型格式,默认为PADDLE格式 ```c# fastdeploy.vision.ocr.Recognizer( string model_file, string params_file, string label_path, fastdeploy.RuntimeOption runtime_option = null, fastdeploy.ModelFormat model_format = ModelFormat.PADDLE) ``` > Recognizer模型加载和初始化。 > **参数** >> * **model_file**(str): 模型文件路径 >> * **params_file**(str): 参数文件路径 >> * **label_path**(str): 标签文件路径 >> * **runtime_option**(RuntimeOption): 后端推理配置,默认为null,即采用默认配置 >> * **model_format**(ModelFormat): 模型格式,默认为PADDLE格式 ```c# fastdeploy.pipeline.PPOCRv3Model( DBDetector dbdetector, Classifier classifier, Recognizer recognizer) ``` > PP-OCRv3Model模型加载和初始化。 > **参数** >> * **det_model**(FD_C_DBDetectorWrapper*): DBDetector模型 >> * **cls_model**(FD_C_ClassifierWrapper*): Classifier模型 >> * **rec_model**(FD_C_RecognizerWrapper*): Recognizer模型文件 #### Predict函数 ```c# fastdeploy.OCRResult Predict(OpenCvSharp.Mat im) ``` > 模型预测接口,输入图像直接输出结果。 > > **参数** > >> * **im**(Mat): 输入图像,注意需为HWC,BGR格式 >> > **返回值** > >> * **result**: OCR预测结果,包括由检测模型输出的检测框位置,分类模型输出的方向分类,以及识别模型输出的识别结果, OCRResult说明参考[视觉模型预测结果](../../../../../docs/api/vision_results/) ## 6. 其它文档 - [FastDeploy部署PaddleOCR模型概览](../../) - [PP-OCRv3 Python部署](../python) - [PP-OCRv3 C++ 部署](../cpp) - [PP-OCRv3 C 部署](../c)