ONNX

LIBRARY

ONNX Runtime 简介

有大量的不同深度学习模型可用——对象检ONNX Runtime 是一个强大的推理引擎，它解决了这个问题；您只需要将模型导出到ONNX格式（.onnx），就可以运行数千种不同的模型用于任何深度学习任务。

APPLICATION

C++运行YOLO进行目标检测

使用像Ultralytics这样的用户友好库，用Python运行目标检测模型已经变得非常简单，但是如何用C++运行YOLO模型呢？

MODEL-ZOO

Whisper本地推理的4种方法

本文总结l了4种在本地CPU上进行推理的方法：HuggingFace管道、ONN运行时、OpenVino运行时和PyTorch。

TOOL

ONNX初学者指南

想要简化跨平台部署 AI 的过程？了解 ONNX 如何一步步改变你的游戏规则！

TOOL

Triton推理服务器YOLO部署教程

Triton Inference Server 由 NVIDIA 开发，是一个开源平台，旨在简化生产中 AI 和深度学习模型的部署、扩展和优化。