C
项目简介
1、训练模型 python训练 (略过)
2、模型推理部署
python推理 纯pytorch,onnx,openvino,tensorrt(pytorch-tensorrt)
C++推理 libtorch,c++ onnx,c++ openvino,c++ tensorrt
模型压缩,蒸馏,剪枝,量化等 (nncf,nni,Distilling,)
部署 小服务flask,QT(Pyside6),gradio;NCNN,Mediapipe,MNN,TVM,QNNPACK