Adobe
通过 ONNX Runtime，Adobe Target 将灵活性和标准化集于一身：客户可以灵活选择自己喜欢的框架来训练机器学习模型，同时又能实现标准化，以便大规模稳健地部署这些模型来进行快速推理，从而提供真正的实时个性化体验。
- Georgiana Copil，Adobe 高级计算机科学家
我们的客户
听听使用 ONNX Runtime 的部分产品和公司怎么说
AMD
ONNX Runtime 与 AMD ROCm 开放软件生态系统的集成，帮助我们的客户借助 AMD Instinct GPU 的强大功能，在多个框架间保持灵活性，从而加速并扩展其大型机器学习模型。
- Andrew Dieckmann，AMD 数据中心 GPU 与加速处理企业副总裁兼总经理
蚂蚁集团
通过使用 ONNX Runtime，我们提升了由多个深度学习框架训练的许多计算机视觉（CV）和自然语言处理（NLP）模型的推理性能。这些模型是支付宝生产系统的一部分。我们计划在点击率预测和跨模态预测等广泛应用中，将 ONNX Runtime 用作更多深度学习模型的高性能推理后端。
- 张晓明，蚂蚁集团推理团队负责人
Algoriddim
在 Algoriddim，我们在 Windows 设备上使用 ONNX Runtime 来驱动我们的 Neural Mix™ 功能（允许用户实时分离任何歌曲的人声和乐器）以及 Automix 功能（实现无缝的自动 DJ 混音）。ONNX Runtime 在抽象性和灵活性之间取得了完美的平衡，而使用 QNN 执行提供程序则使我们能够充分利用 Copilot+ PC 上的 NPU 来实现无与伦比的推理性能，同时释放 CPU 以处理其他任务。
- Frederik Seiffert，Algoriddim 首席技术官
ATLAS 实验
在欧洲核子研究组织（CERN）的 ATLAS 实验中，我们将 ONNX Runtime 的 C++ API 集成到了我们的软件框架 Athena 中。目前，我们正使用 ONNX 模型进行推理，特别是在电子和缪子重建方面。我们受益于其 C++ 兼容性、平台*-到-ONNX 转换器（* Keras、TensorFlow、PyTorch 等）以及线程安全性。
- ATLAS 实验团队，CERN（欧洲核子研究组织）
欧特克 (Autodesk)
Autodesk Flame 对 ONNX Runtime 的使用在跨平台兼容性和性能方面带来了巨大优势，为艺术家提供了他们所期望的灵活性和交互性。这使他们能够直接在 Flame 的创作工具集中使用机器学习模型，从而提升作品质量并增强软件的可扩展性。微软的 ONNX Runtime 团队在整个开发过程中提供了专业的指导和支持，使我们能够将人工智能驱动的创作工具交到寻求高质量视觉特效 (VFX) 和后期制作解决方案的艺术家手中。
- Louis Martin，Autodesk Flame 软件开发高级经理
Bazaarvoice
在大规模构建并将 AI 解决方案部署到云端时，过程往往非常复杂。面对庞大的数据集和性能考量，找到和谐的平衡至关重要。ONNX Runtime 为我们提供了极大的灵活性：打包用 Python 构建的 scikit-learn 模型，以无服务器方式将其部署到 Node.js 环境中，并在云端以惊人的性能运行它。
- Matthew Leyburn，Bazaarvoice 软件工程师
Camo
ONNX Runtime 使 Camo Studio 能够快速、准确地提供背景分割和特征检测等功能。它与我们的现有模型无缝集成，并允许我们面向任何处理器（包括最新的 NPU），从而节省了宝贵的开发时间，并将创新功能带给所有用户。我们向任何希望简化模型部署并释放应用程序全部潜力的开发人员推荐 ONNX Runtime。
- Aidan Fitzpatrick，Reincubate 创始人兼首席执行官
Cephable
ONNX Runtime 让我们能够同时针对支持 CPU、GPU 和 NPU 的设备。使用 ONNX Runtime 和 AI Hub 将模型转换为 NPU，使我们的工程工作量从 30 天减少到 7 天。鉴于当前的技术水平，现在可能只需要 3 天。这使我们能够为用户提供尖端的性能，在运行其他应用程序时最大限度地减少 AI/ML 工作负载的影响，从而留出更多时间专注于功能开发。
- Jon Campbell，Cephable 工程总监
ClearBlade
ClearBlade 将 ONNX Runtime 与我们的企业物联网和边缘平台进行集成，使客户和合作伙伴能够使用他们想使用的任何行业 AI 工具来构建 AI 模型。使用此解决方案，我们的客户可以使用 ONNX Runtime Go 语言 API 无缝部署任何模型，以便在远程位置或工厂车间的设备上运行！
- Aaron Allsbrook，ClearBlade 首席技术官兼创始人
Deezer
在 Deezer，我们在流媒体服务的音乐推荐功能中使用了机器学习驱动的 ONNX Runtime。ONNX Runtime 的 C API 易于与我们的软件栈集成，使我们能够针对实时用例以出色的性能运行和部署 Transformer 模型。
- Mathieu Morlon，Deezer 软件工程师
Goodnotes
借助 ONNX Runtime Web，Goodnotes 无缝实现了 Scribble to Erase 功能。这是 Goodnotes 针对 Android、Windows 和 Web 推出的首个 AI 功能，具有闪电般的运行速度和令人难以置信的流畅用户体验。这彻底改变了游戏规则！
- Pedro Gómez，Goodnotes 高级软件工程师
Graiphic
通过 SOTA，我们开发了第一个完全基于 ONNX 和 ONNX Runtime 的完整生态系统。SOTA 不仅仅支持 AI 工作负载，其核心更是对基于图的计算进行编排，从而在 AI 和非 AI 领域实现模块化、可扩展且透明的执行。我们相信 ONNX 不仅仅是一种格式，它是未来图原生计算的基础。
- Youssef Menjour，Graiphic 首席技术官兼联合创始人
Hugging Face
我们使用 ONNX Runtime 在 Hugging Face 模型库中轻松部署数千个开源顶尖模型，并为 CPU 和 GPU 上的加速推理 API 客户加速私有模型。
- Morgan Funtowicz，Hugging Face 机器学习工程师
Hypefactors
ONNX Runtime 驱动着我们的许多自然语言处理（NLP）和计算机视觉（CV）模型，这些模型实时处理全球媒体信息。它是我们扩展生产工作负载的首选框架，提供了从内置量化工具到简单的 GPU 和 VNNI 加速等重要功能。
- Viet Yen Nguyen，Hypefactors 首席技术官
InFarm
InFarm 提供由机器学习驱动的智能农业解决方案，在各种硬件上运行计算机视觉模型，包括本地 GPU 集群、NVIDIA Jetson 等边缘计算设备以及基于云的 CPU 和 GPU 集群。ONNX Runtime 使 InFarm 能够标准化由多个团队生成的模型格式和输出，从而简化部署，同时在所有硬件目标上提供最佳性能。
- Ashley Walker，InFarm 首席信息兼技术官
英特尔 (Intel)
我们很高兴在 Intel® Distribution of OpenVINO™ 上支持 ONNX Runtime。这加速了整个英特尔硬件上的机器学习推理，并使开发人员能够灵活选择最符合其需求的英特尔硬件组合，从 CPU 到 VPU 或 FPGA。
- Jonathan Ballon，英特尔物联网事业部副总裁兼总经理
Intelligenza Etica
我们使用多种技术栈和框架将 AI 模型集成到各个市场和受监管的行业中，将研发与伦理融合。借助 ONNX Runtime，我们从云端到嵌入式系统，为客户提供极致的性能和使用其首选技术的灵活性。
- Mauro Bennici，Intelligenza Etica 架构师兼 AI 伦理学家
Navitaire
随着全球客户的增多，我们发现通过 ONNX Runtime 部署更有效的模型来驱动定价解决方案的需求日益增长。ONNX Runtime 的性能让我们有信心将此解决方案推广给具有极端交易量需求的客户。
- Jason Coverston，Navitaire 产品总监
英伟达 (NVIDIA)
无论采用何种子框架进行训练，ONNX Runtime 都能让我们的客户轻松将 NVIDIA TensorRT 强大的优化应用于机器学习模型，并跨 NVIDIA GPU 和边缘设备进行部署。
- Kari Ann Briski，英伟达加速计算软件和 AI 产品高级总监
Apache OpenNLP
将 ONNX Runtime 集成到 Apache OpenNLP 2.0 中，使得在 Java 生态系统中轻松使用顶尖的自然语言处理（NLP）模型成为可能。对于已经在使用 OpenNLP 的库和应用程序（如 Apache Lucene 和 Apache Solr），通过 OpenNLP 使用 ONNX Runtime 将带来令人兴奋的全新可能。
- Jeff Zemerick，OpenSource Connections 搜索相关性工程师兼 Apache OpenNLP 项目主席
甲骨文 (Oracle)
面向 Java 的 ONNX Runtime API 使 Java 开发人员和 Oracle 客户能够无缝调用和执行 ONNX 机器学习模型，同时充分利用 Java 的表达能力、高性能和可扩展性。
- Stephen Green，Oracle 机器学习研究小组总监
Peakspeed
使用公共模型和代码库，ONNX Runtime 允许 Peakspeed 在不同平台之间轻松切换，从而帮助我们的客户根据其基础设施和需求选择最具成本效益的解决方案。
- Oscar Kramer，Peakspeed 首席地理空间科学家
Pieces.app
ONNX Runtime 为我们提供了一个专注于性能的轻量级运行时，同时允许我们的机器学习工程师为当前任务选择最佳的框架和模型。
- Brian Lambert，Pieces.app 机器学习工程师
PTW 剂量测定 (PTW Dosimetry)
PTW 的使命是确保放射治疗的安全。然而，将 AI 模型从研究阶段引入临床可能是一项挑战，因为它们的软件和硬件环境截然不同。ONNX Runtime 弥合了这一差距，使我们能够为研究选择最佳工具，并确保部署到任何环境中都能顺利运行。
- Jan Weidner，PTW Dosimetry 研究软件工程师
Redis
ONNX Runtime 支撑了 RedisAI 的独特功能，即在 Redis 内部无缝运行机器学习和深度学习模型推理。这种集成使数据科学家能够在其首选的机器学习框架（PyTorch、TensorFlow 等）中训练模型，并通过 Redis 提供这些模型以实现低延迟推理。
- Sam Partee，Redis 应用 AI 首席工程师
瑞芯微 (Rockchip)
通过支持 ONNX Runtime，我们的客户和开发人员可以突破模型训练框架的界限，在搭载瑞芯微 NPU 的设备中轻松部署机器学习模型。
- 陈峰，瑞芯微高级副总裁
Samtec
我们需要一个运行时引擎来处理从数据科学领域向高性能生产运行时系统的过渡。ONNX Runtime (ORT) 简直“开箱即用”。在没有 ORT 相关经验的情况下，我能够轻松转换模型，并在短短几个小时内用多种语言运行推理原型。在可预见的未来，ORT 将成为我的首选运行时引擎。
- Bill McCrary，Samtec 应用程序架构师
SAS
ONNX Runtime 与 SAS Event Stream Processing 的独特结合通过支持灵活的管道，使开发人员和系统集成商能够在不更改捆绑和打包的情况下针对同一 AI 模型面向多个硬件平台，从而改变了游戏规则。考虑到持续节省的额外构建和测试工作量，这一点至关重要。
- Saurabh Mishra，SAS 物联网产品管理高级经理
Teradata
Teradata 提供了一个高度可扩展的框架，支持导入和推理先前训练的机器学习 (ML) 和深度学习 (DL) 模型。ONNX Runtime 使我们能够扩展 Vantage 自带模型 (BYOM) 的功能，并为数据科学家在 Teradata Vantage 生态系统中集成、推理和生产部署 ML 和 DL 模型提供更多选择。
- Michael Riordan，Teradata Vantage 数据科学与分析产品总监
Topaz Labs
ONNX Runtime 具有 DirectML 提供程序的简单 C API 使 Topaz Labs 能够在短短几天内添加对 AMD GPU 和 NVIDIA Tensor Core 的支持。此外，我们的模型在 GPU 上的加载速度比任何其他框架快数倍。即使是拥有约 1 亿个参数的大型模型也能在几秒钟内加载完毕。
- Suraj Raghuraman，Topaz Labs AI 引擎负责人
虚幻引擎 (Unreal Engine)
MetaHuman Animator 是针对数字角色性能驱动型面部动画的顶尖解决方案。它利用 ONNX Runtime 的强大功能来执行经过训练的模型，这些模型可以将演员的声音转化为 MetaHuman 角色上高保真的嘴部和舌头动画，使创作者能够轻松制作出高保真、丰富的故事讲述体验。
- MetaHuman Animator 团队，Epic Games
美国农业部农业研究局
在美国农业部 (USDA)，我们在 GuideMaker 中使用了 ONNX Runtime。这是一个我们开发的程序，用于设计 CRISPR-Cas 大规模基因编辑实验所需的向导 RNA 池。ONNX 使我们能够使现有模型更具互操作性，而 ONNX Runtime 则加速了向导 RNA 结合的预测。
- Adam Rivers，美国农业部农业研究局计算生物学家
Vespa.ai
ONNX Runtime 大幅提升了 Vespa.ai 评估大型模型的能力，无论是在性能还是在我们支持的模型类型方面。
- Lester Solbakken，Vespa.ai 首席工程师
Writer
ONNX Runtime 对我们在 Writer 中优化用于生产的模型非常有帮助。它让我们能够部署更强大的模型，同时仍能以客户期望的延迟向他们交付结果。
- Dave Buchanan，Writer AI 与 NLP 总监
赛灵思 (Xilinx)
对于微软宣布为 ONNX Runtime 提供 Vitis™ AI 互操作性和运行时支持，赛灵思 (Xilinx) 感到非常兴奋。这使开发人员能够将机器学习模型部署到 FPGA IaaS（如 Azure NP 系列虚拟机和 Xilinx 边缘设备）中进行推理。
- Sudip Nag，赛灵思软件与 AI 产品企业副总裁