安装SDWebUI 在轻量服务 模版市场 中选择SD WebUI模版,点击 创建服务 按钮,使用轻量资源快速部署SD WebUI; 选择为部署服务所需的实例规格和卡数; 完成配置后点击 部署 ,当 服务状态 从 创建中 变为 运行中 ,表明服务已部署成功。 访问SDWebUI 服务部署成功后,您可以查看服务详情,单击 登录 查看WebUI的访问地址和用户名、密码。 进行模型推理验证。
准备部署自定义服务所需的信息: 服务镜像地址,例如: registry-vpc.cn-shanghai.aliyuncs.com/xxx/yyy:zzz 。 镜像的启动运行命令,例如: /data/eas/ENV/bin/python /data/eas/app.py 。 镜像中进程监听的网络端口号,例如: 8000 。
安装系统:目前只支持CentOS 7系列及8.0、Ubuntu 14/16/18、RedHat 7.2、SUSE12,系统的安装流程请按照官方介绍进行安装。 部署指南 部署方案支持以下两种模式,可根据不同业务场景选择适合自身环境的部署方式。 单机一键部署: 将鉴权服务、应用服务部署在一台物理机上的场景。即执行一条命令将鉴权服务、应用服务安装完成。
获取AI中台模型部署包进行应用部署 前提 用户在模型中心的部署包管理创建边缘部署包。如果是sdk类型的,需要创建完毕后执行导出操作。如果是镜像类型的,会自动打包模型文件生成新版本镜像。 操作 创建新的应用。选择“基于模型部署包创建”,选择对应项目,选择适合的部署包。如果是进程模式还需要选择部署包道出的版本 进入服务配置界面。
自定义部署服务相关接口 创建服务 描述 使用自定义镜像创建推理服务,配置启动命令、端口、流量接入、健康检查、滚动更新等策略。
多机分离部署 鉴权服务部署 硬件要求(物理机) CPU架构:AMD 64/x86_64 内存:>=32G(推荐,不强制) 硬盘:>=512G (推荐) 网络环境:机器需要在局域网内,且能获取到ip地址 操作系统要求 基于安全的角度,暂时不支持虚拟机部署,包括但不限于Virtual Box、VMware等 支持的Linux发行版列表 Ubuntu: 14、16、18 CentOS:7.0及以上 RedHat
快速部署GPT-SoVITS语音合成 资源准备 进入 资源池>轻量资源,点击 添加节点 按钮,将已开通的云服务器添加到百舸平台中用于快速部署GPT-SoVITS。若轻量资源中已添加云服务器节点,可跳过此步骤。 安装GPT-SoVITS 在 轻量服务>模版市场 中选择GPT-SoVITS模版,点击 创建服务 按钮,使用轻量资源快速部署GPT-SoVITS。
鉴权服务部署 硬件要求(物理机) CPU架构:AMD 64/x86_64 内存:>=32G(推荐,不强制) 硬盘:>=512G (推荐) 网络环境:机器需要在局域网内,且能获取到ip地址 操作系统要求 基于安全的角度,暂时不支持虚拟机部署,包括但不限于Virtual Box、VMware等 支持的Linux发行版列表 Ubuntu: 14、16、18 CentOS:7.0及以上 RedHat:7.2
开始部署 完成上述选项配置后,点击【部署模型】,执行部署任务; 在部署过程中,可以打开【运行时】,点击【展示部署状态】,就能看到部署情况和访问统计等信息。 LLM导出 Swift支持原始模型或权重推送到modelscope。
安装CosyVoice 在轻量服务 模版市场 中选择CosyVoice模版,点击 创建服务 按钮,使用轻量资源快速部署CosyVoice; 选择为部署服务所需的实例规格和卡数; 完成配置后点击部署,当服务状态从创建中变为运行中,表明服务已部署成功。