ONNX Runtime是什么

小樊
128
2024-03-26 21:11:17

ONNX Runtime是一個(gè)高性能的開源推理引擎,用于在不同硬件平臺(tái)上運(yùn)行深度學(xué)習(xí)模型。它支持在CPU、GPU和其他加速器上部署深度學(xué)習(xí)模型,并提供了高效的模型推理功能。ONNX Runtime支持多種深度學(xué)習(xí)框架的模型,并提供了跨平臺(tái)、高性能的推理解決方案。

0