access 数据库引擎  内容精选
  • 部署SGLang PD分离推理服务 - 容器引擎CCE | 百度智能云文档

    部署SGLang PD分离推理服务 本文介绍如何在容器引擎CCE中部署SGLang PD分离推理引擎,实现Qwen3-32B大模型的高性能推理服务。通过使用RDMA高速网络的GPU机型,充分发挥PD分离架构的性能优势。 背景知识 SGLang推理引擎 SGLang是一个高性能的大型语言模型与多模态模型服务推理引擎,通过前后端协同设计,提升模型交互速度与控制能力。

    查看更多>>

  • 配置IAM预置权限策略 - 容器引擎CCE | 百度智能云文档

    像仓库镜像 查看镜像仓库命名空间 关联云产品/服务操作: 查看计算资源BCC、BBC,存储资源CDS、BOS,网络资源VPC、子网、安全组、BLB、EIP、ENI、ACL等,以及查看监控服务BCM、容器镜像服务CCR、ElasticSearch服务 CCEFullControlAccessPolicy

    查看更多>>

access 数据库引擎  更多内容