安装系统:目前只支持CentOS 7系列及8.0、Ubuntu 14/16/18、RedHat 7.2、SUSE12,系统的安装流程请按照官方介绍进行安装。 部署指南 部署方案支持以下两种模式,可根据不同业务场景选择适合自身环境的部署方式。 单机一键部署: 将鉴权服务、应用服务部署在一台物理机上的场景。即执行一条命令将鉴权服务、应用服务安装完成。
获取AI中台模型部署包进行应用部署 前提 用户在模型中心的部署包管理创建边缘部署包。如果是sdk类型的,需要创建完毕后执行导出操作。如果是镜像类型的,会自动打包模型文件生成新版本镜像。 操作 创建新的应用。选择“基于模型部署包创建”,选择对应项目,选择适合的部署包。如果是进程模式还需要选择部署包道出的版本 进入服务配置界面。
多机分离部署 鉴权服务部署 硬件要求(物理机) CPU架构:AMD 64/x86_64 内存:>=32G(推荐,不强制) 硬盘:>=512G (推荐) 网络环境:机器需要在局域网内,且能获取到ip地址 操作系统要求 基于安全的角度,暂时不支持虚拟机部署,包括但不限于Virtual Box、VMware等 支持的Linux发行版列表 Ubuntu: 14、16、18 CentOS:7.0及以上 RedHat
自定义部署服务相关接口 创建服务 描述 使用自定义镜像创建推理服务,配置启动命令、端口、流量接入、健康检查、滚动更新等策略。
快速部署GPT-SoVITS语音合成 资源准备 进入 资源池>轻量资源,点击 添加节点 按钮,将已开通的云服务器添加到百舸平台中用于快速部署GPT-SoVITS。若轻量资源中已添加云服务器节点,可跳过此步骤。 安装GPT-SoVITS 在 轻量服务>模版市场 中选择GPT-SoVITS模版,点击 创建服务 按钮,使用轻量资源快速部署GPT-SoVITS。
鉴权服务部署 硬件要求(物理机) CPU架构:AMD 64/x86_64 内存:>=32G(推荐,不强制) 硬盘:>=512G (推荐) 网络环境:机器需要在局域网内,且能获取到ip地址 操作系统要求 基于安全的角度,暂时不支持虚拟机部署,包括但不限于Virtual Box、VMware等 支持的Linux发行版列表 Ubuntu: 14、16、18 CentOS:7.0及以上 RedHat:7.2
后者可以下载历史的私有部署任务(系统会显示最近的私有部署任务供下载,随着任务数量增多后时间久远的将不再显示) 我们还编写了一篇如何使用私有部署的 典型实践文档 ,其中列出了更加详细的步骤,也包括创建后如何通过 PlayerAPI 更新数据的完整流程,您可以前往参考。
安装CosyVoice 在轻量服务 模版市场 中选择CosyVoice模版,点击 创建服务 按钮,使用轻量资源快速部署CosyVoice; 选择为部署服务所需的实例规格和卡数; 完成配置后点击部署,当服务状态从创建中变为运行中,表明服务已部署成功。
开始部署 完成上述选项配置后,点击【部署模型】,执行部署任务; 在部署过程中,可以打开【运行时】,点击【展示部署状态】,就能看到部署情况和访问统计等信息。 LLM导出 Swift支持原始模型或权重推送到modelscope。
安装Kohya_ss 在轻量服务>模版市场中选择 Kohya_ss 模版,点击 创建服务 按钮,快速部署Kohya_ss服务。 根据需要部署的模型参数量,选择使用卡数量,至少需要选择1张卡,点击 确定 启动服务,等待服务启动。 访问WebUI 服务部署成功后,您可以在服务详情中找到对应实例,单击 登录 查看WebUI的访问地址和用户名、密码。