图像分割服务器端SDK集成文档-Linux-Python - EasyDL零门槛AI开发平台 | 百度智能云文档
Q: 我想使用多线程预测，怎么做？ 如果需要多线程预测，可以每个线程启动一个Progam实例，进行预测。 demo.py文件中有相关示例代码。 注意： 对于CPU预测，SDK内部是可以使用多线程，最大化硬件利用率。参考init的thread_num参数。
物体检测服务器端SDK集成文档-Linux-Python - EasyDL零门槛AI开发平台 | 百度智能云文档
Q: 我想使用多线程预测，怎么做？ 如果需要多线程预测，可以每个线程启动一个Progam实例，进行预测。 demo.py文件中有相关示例代码。 注意： 对于CPU预测，SDK内部是可以使用多线程，最大化硬件利用率。参考init的thread_num参数。
图像分割服务器端SDK集成文档-Linux-C++ - EasyDL零门槛AI开发平台 | 百度智能云文档
多线程预测 GPU 加速版 SDK 的多线程分为单卡多线程和多卡多线程两种。 单卡多线程：创建一个 predictor，并通过 PREDICTOR_KEY_GTURBO_MAX_CONCURRENCY 控制单卡所支持的最大并发量，只需要 init 一次，多线程调用 infer 接口。
物体检测服务器端SDK集成文档-Linux-C++ - EasyDL零门槛AI开发平台 | 百度智能云文档
多线程预测 GPU 加速版 SDK 的多线程分为单卡多线程和多卡多线程两种。 单卡多线程：创建一个 predictor，并通过 PREDICTOR_KEY_GTURBO_MAX_CONCURRENCY 控制单卡所支持的最大并发量，只需要 init 一次，多线程调用 infer 接口。
图像分类服务器端SDK集成文档-Linux-C++ - EasyDL零门槛AI开发平台 | 百度智能云文档
多线程预测 GPU 加速版 SDK 的多线程分为单卡多线程和多卡多线程两种。 单卡多线程：创建一个 predictor，并通过 PREDICTOR_KEY_GTURBO_MAX_CONCURRENCY 控制单卡所支持的最大并发量，只需要 init 一次，多线程调用 infer 接口。
经典版声音分类服务器端SDK集成文档-Linux-Python - EasyDL零门槛AI开发平台 | 百度智能云文档
Q: 我想使用多线程预测，怎么做？ 如果需要多线程预测，可以每个线程启动一个Progam实例，进行预测。 demo.py文件中有相关示例代码。 注意： 对于CPU预测，SDK内部是可以使用多线程，最大化硬件利用率。参考init的thread_num参数。
ERNIE-4.0-8K-Latest - ModelBuilder
响应参数 名称 类型 描述 id string 本轮对话的id object string 回包类型 chat.completion：多轮对话返回 created int 时间戳 sentence_id int 表示当前子句的序号。只有在流式接口模式下会返回该字段 is_end bool 表示当前子句是否是最后一句。
ERNIE-4.0-Turbo-128K - ModelBuilder
响应参数 名称 类型 描述 id string 本轮对话的id object string 回包类型 chat.completion：多轮对话返回 created int 时间戳 sentence_id int 表示当前子句的序号。只有在流式接口模式下会返回该字段 is_end bool 表示当前子句是否是最后一句。
ERNIE-4.0-8K（抢占式） - ModelBuilder
吃上去香脆酥松、油多而不腻。\n4. 小笼包：上海人爱吃小笼包，热乎乎的，蒸的是上海的风味。上海人有时候把小笼包叫做小笼馒头。\n5. 白斩鸡：正宗的白斩鸡是使用三黄鸡制成的，因为在烹制过程中不加任何调味料只使用白水煮制，所以叫做白斩鸡。刚出锅的白斩鸡鸡皮金黄诱人，鸡肉白嫩紧致。稍稍变凉后蘸点酱油香醋吃，鸡皮爽脆、肥而不腻；鸡肉鲜嫩可口，咸甜适中，非常美味。\n6.
图像分类服务器端SDK集成文档-Linux-Python - EasyDL零门槛AI开发平台 | 百度智能云文档
Q: 我想使用多线程预测，怎么做？ 如果需要多线程预测，可以每个线程启动一个Progam实例，进行预测。 demo.py文件中有相关示例代码。 注意： 对于CPU预测，SDK内部是可以使用多线程，最大化硬件利用率。参考init的thread_num参数。
