公共请求与响应头 公共请求头 公共头部 说明 是否必须 Authorization 请求认证签名信息,详细内容参见 API认证机制 是 公共响应头 公共头部 说明 x-bce-request-id 请求唯一标识
参考以下YAML代码示例,在CCE中部署DeepSeek-R1-Distill-Qwen-7B蒸馏模型推理服务。
部署SGLang PD分离推理服务 本文介绍如何在容器引擎CCE中部署SGLang PD分离推理引擎,实现Qwen3-32B大模型的高性能推理服务。通过使用RDMA高速网络的GPU机型,充分发挥PD分离架构的性能优势。 背景知识 SGLang推理引擎 SGLang是一个高性能的大型语言模型与多模态模型服务推理引擎,通过前后端协同设计,提升模型交互速度与控制能力。
修改自定义镜像名称 该接口用于修改自定义镜像名称。 API Explorer 去调试 您可以在 API Explorer 中直接运行该接口,免去您计算签名的困扰。运行成功后,API Explorer 可以自动生成 SDK 代码示例。 请求结构 Plain Text 复制 1 PUT /v{version}/image/
取消共享自定义镜像 该接口用于用户取消共享指定的自定义镜像。 imageId 所指定的镜像不存在,提示404错误。 镜像取消共享后,被取消共享的用户不能再使用此镜像创建、重置实例。 请求参数中的account和accountId均为可选参数,但不能全部为空,当两个参数同时出现时,服务端会自动去重。 API Explor
查询实例自定义数据 获取实例用户数据信息 API Explorer 去调试 您可以在 API Explorer 中直接运行该接口,免去您计算签名的困扰。运行成功后,API Explorer 可以自动生成 SDK 代码示例。 请求结构 Plain Text 复制 1 POST /v{version}/instance/a
注意:以上方法超过两个就会出现中断) 步骤二 部署远程桌面会话服务 超过两个或者两个以上连接,可以部署Windows 远程桌面会话主机配置,具体如下: 1.打开左下角的服务器管理器添加角色。 2.勾选远程桌面服务,之后下一步安装即可。 3.依次找到远程桌面会话主机配置。 4.取消限制每个用户只能进行一个会话(如果想重复通过administrator登入的话,请取消)。 5.验证。
部署 TensorFlow Serving 推理服务 本文介绍如何部署 TensorFlow Serving 推理服务,并指定队列、GPU资源。 前提条件 您已成功安装 CCE GPU Manager 和 CCE AI Job Scheduler 组件,否则云原生 AI 功能将无法使用。
6.服务器选择界面无需操作,直接 下一步 。 7.进入 添加角色和功能向导,选择 “ Web服务器(IIS) ”。 8.功能界面单击 下一步 。 9.安装 角色服务 ,选择对应的安全性选项,如图。 10.选择“ FTP服务器 ”,以及开设主机必须要用的“ 管理工具 ”。 11.点击安装即可,时间较长,请耐心等待。 上述步骤完成后,IIS与FTP即搭建完毕。
本文以百度智能云公共镜像Windows server 2012为例,演示如何修改修改服务器默认远程端口(其他版本方式基本一致)。 步骤一 登录服务器 可以通过Windows自带的远程连接工具连接服务器,如果无法远程连接,使用VNC登录。