wjc852456 / ONNX-TensorRT-LibTorch
deploy onnx models with TensorRT and LibTorch
☆17Updated 3 years ago
Related projects ⓘ
Alternatives and complementary repositories for ONNX-TensorRT-LibTorch
- 使用ONNXRuntime部署PP-YOLOE目标检测,支持PP-YOLOE-s、PP-YOLOE-m、PP-YOLOE-l、PP-YOLOE-x四种结构,包含C++和Python两个版本的程序☆18Updated 2 years ago
- 使用ONNXRuntime部署PicoDet目标检测,包含C++和Python两个版本的程序☆27Updated 2 years ago
- 天池 NVIDIA TensorRT Hackathon 2023 —— 生成式AI模型优化赛 初赛第三名方案☆47Updated last year
- 手摸手 美团 YOLOv6模型训练和TensorRT端到端部署方案教程☆30Updated 2 years ago
- NVIDIA TensorRT Hackathon 2023复赛选题:通义千问Qwen-7B用TensorRT-LLM模型搭建及优化☆40Updated last year
- 使用ONNXRuntime部署anchor-free系列的YOLOR,包含C++和Python两种版本的程序☆40Updated 3 years ago
- miemienet is a C++ AI deep learning inference framework.Supports PPYOLOE、PICODET.☆11Updated 2 years ago
- 使用DBNet检测条形码,包含C++和Python两种版本的程序☆35Updated 3 years ago
- autoTVM神经网络推理代码优化搜索演示,基于tvm编译开源模型centerface,并使用autoTVM搜索最优推理代码, 最终部署编译为c++代码,演示平台是cuda,可以是其他平台,例如树莓派,安卓手机,苹果手机.Thi is a demonstration of …☆27Updated 3 years ago
- 分别使用OpenCV、ONNXRuntime部署CenterNet目标检测,包含C++和Python两个版本的程序☆9Updated 2 years ago
- ☆16Updated 2 years ago
- 将Yolov3模型转成可以进行动态Batch的TensorRT推理以及Triton Inference Serving上部署的TensorRT模型☆27Updated 3 years ago
- Bert TensorRT模型加速部署☆9Updated 2 years ago