接口 InferenceSession

表示 ONNX 模型的运行时实例。

interface InferenceSession {
    inputMetadata: readonly ValueMetadata[];
    inputNames: readonly string[];
    outputMetadata: readonly ValueMetadata[];
    outputNames: readonly string[];
    endProfiling(): void;
    release(): Promise<void>;
    run(feeds, options?): Promise<OnnxValueMapType>;
    run(feeds, fetches, options?): Promise<OnnxValueMapType>;
    startProfiling(): void;
}

索引

属性

inputMetadata inputNames outputMetadata outputNames

方法

endProfiling release run startProfiling

属性

`只读` inputMetadata

inputMetadata: readonly ValueMetadata[]

获取已加载模型的输入元数据。

`只读` inputNames

inputNames: readonly string[]

获取已加载模型的输入名称。

`只读` outputMetadata

outputMetadata: readonly ValueMetadata[]

获取已加载模型的输出元数据。

`只读` outputNames

outputNames: readonly string[]

获取已加载模型的输出名称。

方法

结束性能分析

endProfiling(): void
结束性能分析。

返回 void
- 定义于 inference-session.ts:541

释放

release(): Promise<void>
释放推理会话及其底层资源。

返回 Promise<void>
- 定义于 inference-session.ts:527

运行

run(feeds, options?): Promise<OnnxValueMapType>
使用给定的“feeds”和“options”异步执行模型。
参数
- feeds: OnnxValueMapType
  模型输入的表示。详见 InferenceSession.InputType 的类型说明。
- 可选 options: RunOptions
  可选。一组控制模型推理行为的选项。
返回 Promise<OnnxValueMapType>
一个解析为映射的 Promise，该映射使用输出名称作为键，OnnxValue 作为对应值。
- 定义于 inference-session.ts:503
run(feeds, fetches, options?): Promise<OnnxValueMapType>
使用给定的“feeds”、“fetches”和“options”异步执行模型。
参数
- feeds: OnnxValueMapType
  模型输入的表示。详见 InferenceSession.InputType 的类型说明。
- fetches: FetchesType
  模型输出的表示。详见 InferenceSession.OutputType 的类型说明。
- 可选 options: RunOptions
  可选。一组控制模型推理行为的选项。
返回 Promise<OnnxValueMapType>
一个解析为映射的 Promise，该映射使用输出名称作为键，OnnxValue 作为对应值。
- 定义于 inference-session.ts:514

开始性能分析

startProfiling(): void
开始性能分析。

返回 void
- 定义于 inference-session.ts:536

使用 TypeDoc 生成