配置域名动态加速规则 Method Path 说明 PUT /v2/domain/{domain}/config?
aiak-inference-llm AIAK-LLM 是百舸异构计算平台的核心组件之一,专为大模型推理加速打造的一站式高性能推理引擎。它深度集成百度自研软硬件技术栈,旨在解决大模型在高并发、低延迟、高吞吐场景下的部署效率与成本难题。 是百度自研深度定制版,支持NVIDIA、昆仑芯等多种算力。支持 Hugging Face 生态模型格式,可零代码或少量配置完成模型迁移与加速。
2024-05 新增AI加速套件,整合AIAK训练、推理加速镜像及训推加速过程中所需的一系列工具,轻松一键获取。 推理服务支持实例反亲和部署,避免单节点故障导致服务不可用。 推理服务实例弹性伸缩,在业务负载出现波峰或波谷时,可以根据业务流量自动调整实例数量,实现动态管理线上服务的计算资源,从而保障业务平稳运行并提高资源利用率。 推理服务支持设置防抢占策略,开启后实例不会被训练任务抢占。
操作部署 如果您还没有开通CFC服务,请参考 函数计算概览 开通;如果您已开通,则可以跳过该步骤。
创建即时转码任务 基本介绍 MCP提供了业界全新的视频即时转码接口,支持通过设置url参数的方法实时转换视频的码率,实现h264,h265两种码率的互转。 操作方法 注意事项 使用前需开通 百度智能云音视频处理服务(MCP) ; 建议的转码视频分辨率:不超过1080P; 建议的转码视频大小:小于1GB。 规则和限制 目前仅支持北京、苏州、广州使用。
查看实例信息 在任务详情下方的实例信息栏,您可以查看角色、实例名称、状态、重启次数、实例IP、Host IP和创建时间。
这里假设您已经创建了一个名为 kafkatrigger 的函数,以下内容以此为前提,将引导您在 CFC 控制台在函数管理页面中为函数配置百度消息服务触发器。接下来,我们将通过以下步骤来完成一个触发器的设置。 编写处理函数 登录管理控制台,选择“产品服务>云函数计算 CFC”,进入“函数列表”页面 在“函数列表”页面。点击名称为 kafkatrigger 的函数,进入函数详情页面。
删除加速域名 接口 本接口用于删除指定的域名。
管理开发机 开发机生命周期 开发机的的生命周期指从创建开始到删除结束,开发机实例所经历的状态。在不同状态,开发机的登录、操作有所不同。 以下介绍开发机状态说明及状态转换说明。
数据权限可选:公开可读、仅所有者可读写、指定范围可用 公开可读:所有子用户可以以只读方式使用此数据集,仅所有者可读写方式使用 仅所有者可读写:仅数据集的所有者可以读写 指定范围可用:指定用户/用户组可以使用过,且根据拥有的权限读写 以上所述 可读、读写 指在使用数据集时用户创建的负载可以以哪种方式使用