跳转到主要内容
Link - ONNX 运行时
Menu - ONNX 运行时
Expand - ONNX 运行时
(external link) - ONNX 运行时
Document - ONNX 运行时
Search - ONNX 运行时
Copy - ONNX 运行时
Copied - ONNX 运行时
ONNX Runtime
安装 ONNX Runtime
入门指南
Python
C++
C
C#
Java
JavaScript
Web
Node.js 绑定
React Native
Objective-C
Julia、Ruby 和 Rust API
Windows
移动端
端侧训练
大模型训练
教程
API 基础
加速 PyTorch
PyTorch 推理
多目标推理
加速 PyTorch 训练
加速 TensorFlow
加速 Hugging Face
部署到 AzureML
部署到移动端
使用 YOLOv8 进行目标检测和姿态估计
Android 移动端图像识别
提升移动端图像分辨率
iOS 移动端目标检测
ORT 移动端模型导出助手
Web
使用 ONNX Runtime 构建 Web 应用
'env' 标志和会话选项
使用 WebGPU
使用 WebNN
处理大模型
性能诊断
部署 ONNX Runtime Web
故障排除
使用 ONNX Runtime 和 Next.js 进行图像分类
JavaScript 中用于 BERT 任务的自定义 Excel 函数
部署到物联网和边缘设备
树莓派 (Raspberry Pi) IoT 部署
部署传统机器学习模型
使用 C# 推理
C# 基础教程
使用 C# 推理 BERT NLP 模型
使用 C# 配置 CUDA GPU
在 C# 中使用 ResNet50v2 进行图像识别
使用 C# 运行 Stable Diffusion
在 C# 中使用 OpenVINO 进行目标检测
在 C# 中使用 Faster RCNN 进行目标检测
端侧训练
构建 Android 应用程序
构建 iOS 应用程序
API 文档
构建 ONNX Runtime
为推理而构建
为训练而构建
使用不同的执行提供程序 (EP) 构建
为 Web 构建
为 Android 构建
为 iOS 构建
自定义构建
执行提供程序 (Execution Providers)
NVIDIA - CUDA
NVIDIA - TensorRT
NVIDIA - TensorRT RTX
Intel - OpenVINO™
Intel - oneDNN
Windows - DirectML
Qualcomm - QNN
Android - NNAPI
Apple - CoreML
XNNPACK
AMD - ROCm
AMD - MIGraphX
AMD - Vitis AI
云端 - Azure
WebGPU
社区维护
Arm - ACL
Arm - Arm NN
Apache - TVM
瑞芯微 (Rockchip) - RKNPU
华为 (Huawei) - CANN
添加新的提供程序
EP 上下文设计
插件执行提供程序库
用法
开发
测试
打包
生成 API (预览版)
教程
Phi-3.5 视觉教程
Phi-3 教程
Phi-2 教程
使用 LoRA 适配器运行
DeepSeek-R1-Distill 教程
在骁龙 (Snapdragon) 设备上运行
API 文档
Python API
C# API
C API
C++ API
Java API
如何操作
安装
从源代码构建
构建模型
为骁龙构建模型
故障排查
迁移
过去/现在共享缓冲区
参考
配置参考
适配器文件规范
扩展
添加算子
构建
性能
性能调优
性能分析工具
日志与追踪
内存消耗
线程管理
I/O 绑定
故障排除
模型优化
量化 ONNX 模型
Float16 和混合精度模型
图优化
ORT 模型格式
ORT 模型格式运行时优化
Transformers 优化器
使用 Olive 进行端到端优化
设备张量 (Device tensors)
生态系统
Azure PyTorch 容器 (ACPT)
参考
版本发布
兼容性
算子
算子内核
贡献算子
自定义算子
精简算子配置文件
架构
引用 ONNX Runtime
ONNX Runtime 中的依赖管理
GitHub 上的 ONNX Runtime 文档
搜索 onnxruntime
ONNX Runtime
安装
入门指南
教程
API 文档
YouTube
GitHub
入门指南
目录
Python
C++
C
C#
Java
JavaScript
Objective-C
Julia、Ruby 和 Rust API
Windows
移动端
端侧训练
大模型训练