快速部署opencompass评测大语言模型 - 百舸异构计算平台AIHC | 百度智能云文档
评测完成后，opencompass会给出评测结果，详细的评测记录保存在目录outputs/default/{TIMESTAMP}下，如下所示： 部署后评测 仍然以Qwen2-1.5B-Instruct为例， 推理服务实例A 使用如下命令部署vllm推理引擎： export VLLM_USE_MODELSCOPE = True # 用于控制内存分配的参数，可以帮助减少内存碎片化问题 export PYTORCH_CUDA_ALLOC_CONF
购买专属服务器 - 专属服务器主机_DCC_专属服务器主机
购买专属服务器 购买专属服务器的操作参考如下所示： 进入专属服务器列表，点击“购买专属服务器”，进入购买专属服务器实例页面。 选择“地域”、“可用区”、“服务器类型”、“配置”、“购买信息”及“台数”，点击“下一步”进入确认订单页面。 关于相关配置信息的解释，请参看下表： 项目 描述 地域 不同地域间的云产品内网不互通；选择最靠近您业务的地域，可降低访问延时；创建成功后不支持更换地域。
专属服务器创建 - 专属服务器主机_DCC_专属服务器主机
专属服务器创建 专属服务器创建 本接口用于创建一个或多个同配置的专属服务器。 请求结构 POST /v{version}/dedicatedHost?
专属服务器续费 - 专属服务器主机_DCC_专属服务器主机
专属服务器续费 专属服务器续费 描述 针对于指定专属服务器的续费操作，延长过期时长 异步接口 请求结构 PUT /v{version}/dedicatedHost/{hostId}?
查询专属服务器详情 - 专属服务器主机_DCC_专属服务器主机
查询专属服务器详情 查询专属服务器详情 查询单个专属服务器详细信息。 请求结构 GET /v{version}/dedicatedHost/{hostId} HTTP/1.1 Host: dcc.bj.baidubce.com Authorization: authorization string 请求头域 除公共头域外，无其它特殊头域。
专属服务器绑定标签 - 专属服务器主机_DCC_专属服务器主机
专属服务器绑定标签 专属服务器绑定标签 描述 为专属服务器绑定标签, 其所有子实例也会绑定相同标签。 请求结构 PUT /v{version}/dedicatedHost/{dccId}/tag?
专属服务器解绑标签 - 专属服务器主机_DCC_专属服务器主机
专属服务器解绑标签 专属服务器解绑标签 描述 为专属服务器解绑标签, 其下的所有子实例也会解绑指定标签。 请求结构 PUT /v{version}/dedicatedHost/{dccId}/tag?
使用百舸智能助手进行失败任务的故障排查 - 百舸异构计算平台AIHC | 百度智能云文档
使用百舸智能助手进行失败任务的故障排查 百舸智能助手是百舸异构计算团队提供的基于大模型的全新助手功能。当前百舸智能助手为您提供训练任务失败场景的智能诊断能力，旨在帮助客户分析训练任务失败的可能原因，并给出指导建议。 更多能力正在加速集成中...
其他服务器上云 - 边缘服务器ECS | 百度智能云文档
其他服务器上云 对于非ECS服务器（其他厂商的服务器，未预装ECS固件），可以使用 其他服务器上云 功能，完成服务器的上云管理。 通过 其他服务器上云 功能，用户可以免费使用百度智能云边缘服务器管理平台，对任意品牌、任意厂商的边缘服务器进行纳管。 本功能可以帮助用户进行服务器存量管理、利旧升级等。
ECS服务器上云 - 边缘服务器ECS | 百度智能云文档
ECS服务器上云 对于ECS服务器（百度智能云边缘服务器，已预装ECS固件），可以使用 ECS服务器上云 功能，完成服务器的上云管理。 准备工作 将待上云的ECS服务器拆封取出，并完成安装； 插入电源线，确认电源线已正确安装，且电源灯常亮； 将服务器联网，确认服务器一端的网线已插入LAN1网口，并且网口灯闪烁； 准备工作完成，开始进行上云操作。
