ONNX-RUNTIME-GENAI

LIBRARY

ONNX：生成式AI运行时

ONNX Runtime GenAI 使你能够在想要的地方运行模型：如果有 GPU 就用 GPU，没有就用 CPU。所有这些都不需要更改一行代码.