包 ai.onnxruntime

类 OrtEnvironment.ThreadingOptions

  • 所有已实现的接口
    java.lang.AutoCloseable
    封闭类
    OrtEnvironment
    public static final class OrtEnvironment.ThreadingOptions
extends java.lang.Object
implements java.lang.AutoCloseable
    控制环境中的全局线程池。仅当使用设置了 OrtSession.SessionOptions.disablePerSessionThreads() 的选项构造会话时使用。

    • 构造函数摘要

      构造函数 
      构造函数 描述
      ThreadingOptions()
      创建一个空的线程选项。

    • 方法摘要

      所有方法 实例方法 具体方法 
      修饰符和类型 方法 描述
      void close()
      关闭线程选项。
      void setGlobalDenormalAsZero()
      设置此选项时，会使操作内和操作间线程池将非规范化值刷新为零。
      void setGlobalInterOpNumThreads​(int numThreads)
      设置可用于操作间并行性（即）的线程数。
      void setGlobalIntraOpNumThreads​(int numThreads)
      设置可用于操作内并行性（即）的线程数。
      void setGlobalSpinControl​(boolean allowSpinning)
      允许线程池在其队列为空时保持活跃（spinning）。

      • 从类 java.lang.Object 继承的方法

        clone, equals, finalize, getClass, hashCode, notify, notifyAll, toString, wait, wait, wait

    • 构造函数详细信息

      • ThreadingOptions

        public ThreadingOptions()
        创建一个空的线程选项。

    • 方法详细信息

      • close

        public void close()
        关闭线程选项。
        指定者
        接口 java.lang.AutoCloseable 中的 close

      • setGlobalInterOpNumThreads

        public void setGlobalInterOpNumThreads​(int numThreads)
                                throws OrtException
        设置可用于操作间并行性（即并行运行多个操作）的线程数。

        将其设置为 0 将允许 ORT 选择线程数，将其设置为 1 将导致使用主线程（即不使用线程池）。

        参数
        numThreads - 线程数。
        抛出
        OrtException - 如果本机代码中发生错误。

      • setGlobalIntraOpNumThreads

        public void setGlobalIntraOpNumThreads​(int numThreads)
                                throws OrtException
        设置可用于操作内并行性（即在单个操作内）的线程数。

        将其设置为 0 将允许 ORT 选择线程数，将其设置为 1 将导致使用主线程（即不使用线程池）。

        参数
        numThreads - 线程数。
        抛出
        OrtException - 如果本机代码中发生错误。

      • setGlobalSpinControl

        public void setGlobalSpinControl​(boolean allowSpinning)
                          throws OrtException
        允许线程池在其队列为空时保持活跃。此调用会为操作间和操作内线程池设置此值。

        如果 CPU 使用率很高，请勿启用此选项。

        参数
        allowSpinning - 如果为 true，允许线程池保持活跃。
        抛出
        OrtException - 如果本机代码中发生错误。

      • setGlobalDenormalAsZero

        public void setGlobalDenormalAsZero()
                             throws OrtException
        设置此选项时，会使操作内和操作间线程池将非规范化值刷新为零。
        抛出
        OrtException - 如果本机代码中发生错误。