earser.js  内容精选
  • 使用vLLM加速大模型推理 - 百舸异构计算平台AIHC | 百度智能云文档

    使用vLLM加速大模型推理 vLLM(Vectorized Large Language Model)是一个高性能的大型语言模型推理库,支持多种模型格式和后端加速,适用于大规模语言模型的推理服务部署。 准备环境和资源 可根据资源规模、稳定性、灵活性等要求按需准备轻量计算实例或通用计算资源池,用于快速部署vLLM。

    查看更多>>

  • BEC裸金属服务等级协议SLA - 边缘计算节点BEC | 百度智能云文档

    BEC裸金属服务等级协议SLA 1.定义 服务周期: 一个服务周期为一个自然月,如客户使用BEC 裸金属 服务不满一个月,不计为一个服务周期。 服务周期总时间: 按照每月每周七(7)天每天二十四(24)小时计算的总分钟数 ∗ 该节点BEC裸金属实例数,如客户使用某BEC裸金属实例不满一个月则该实例不计在服务周期总时间内。

    查看更多>>

earser.js  更多内容
  • 用户裸金属节点粒度带宽监控 - 边缘计算节点BEC | 百度智能云文档

    用户裸金属节点粒度带宽监控 接口描述 本接口用于获取用户名下的裸金属节点粒度的带宽监控。 请求结构 GET GET /v1/monitor/overview/bm/{metricsType}?

    查看更多>>

  • AIAK大模型训推加速简介 - 百舸异构计算平台AIHC | 百度智能云文档

    AIAK大模型训推加速简介 什么是AIAK大模型训推加速套件? AIAK大模型训推加速套件(后文使用简称 AIAK)是百舸基于百舸平台推出的大模型AI加速能力,用来加速Megatron、Megatron-Core等训练框架的大语言模型,能极大提升大模型分布式训练和推理的性能。下图为AIAK的整体解决方案架构图。

    查看更多>>

  • 介绍 - 多模态媒资检索MMS | 百度智能云文档

    介绍 百度智能云多模态媒资 (Multimodal Media Search,简称MMS)基于视频指纹特征与视频内容理解,实现多模态的搜索能力,主要包含以视频搜视频、以图搜视频、以图搜图等功能,赋予用户多模态的高效、精准、智能的搜索能力。 企业用户可以利用特征的查重检索减少因媒资冗余而引起的不必要的存储成本,或避免因重复资讯而造成的信息流内容质量低下的问题,或实现站内的媒资内容版权保护等。

    查看更多>>

  • 介绍 - ModelBuilder

    介绍 模型服务介绍 千帆ModelBuilder支持模型服务相关功能,包括应用接入、在线服务、调用统计、移动端测试等。更多产品介绍请查看 模型服务 。 API能力 API名称 介绍 创建定制服务 用于创建定制服务。 更新定制服务 用于更新服务基础模型版本。 获取定制服务列表 用于获取服务列表。 获取定制服务详情 用于获取服务详情,如服务ID、模型ID、模型版本ID、服务名称、类型等。

    查看更多>>

  • 介绍 - ModelBuilder

    介绍 数据管理介绍 平台支持统一纳管自训模型的数据集,并对数据样本集可自主进行版本迭代、继续导入和删除等操作。更多使用介绍请参考 数据集管理 。 API能力 数据集管理 API名称 介绍 创建数据集 用于创建新的数据集。 获取数据集列表 用于获取符合特定查询条件的数据集列表。 删除数据集 用于删除数据集。 新增数据集版本 用于为数据集新增版本。

    查看更多>>

  • 产品介绍 - 存储数据湖加速工具RapidFS

    产品介绍 产品介绍 数据湖存储加速工具(Data Lake Accelerator,RapidFS)是一款高可靠、高可用、弹性的数据湖存储加速工具。依靠 对象存储 BOS 作为数据湖存储底座,为数据湖生态中的计算应用提供统一数据湖入口,加速大数据、人工智能、机器学习等业务访问存储的性能。

    查看更多>>

  • 金属服务器Windows自定义镜像最佳实践 - 边缘计算节点BEC | 百度智能云文档

    金属服务器Windows自定义镜像最佳实践 概览 本文介绍金属服务器制作Windows自定义镜像的前置准备步骤 需求场景 需要基于Windows镜像的裸金属服务器创建自定义镜像 配置步骤 打开powershell 在 Windows 操作系统中,你可以通过以下几种方式打开 PowerShell: 使用开始菜单: 点击 Windows 开始按钮(通常是左下角的 Windows 图标)。

    查看更多>>

  • 介绍 - 弹性裸金属服务器 | 百度智能云文档

    介绍 百度太行·弹性裸金属服务器 (Baidu Baremetal Compute,BBC)是用户可以在云环境中独享的高性能服务器,用户拥有完全的物理设备管理权限,同时可以结合弹性公网IP EIP、负载均衡BLB等服务进行灵活组网,实现与云服务器BCC内网互通,并使用百度智能云领先的监控、运维服务实现对实例的全方位管理。

    查看更多>>