模型加速整体说明 - EasyDL零门槛AI开发平台 | 百度智能云文档
模型加速整体说明 功能简介 当您发布时纯离线服务时，平台已结合最新的量化、剪枝、蒸馏技术，推出丰富的模型压缩加速方案，以提高您的SDK部署效率。 覆盖范围：服务器、通用小型设备、专项适配硬件均支持该功能。 具体原理：针对目标芯片，对模型做深度优化压缩加速，加速后模型在推理速度、内存占用、体积大小等指标上表现更优。发布加速模型可能需要一段时间，同时会有微小的精度损失。
AI推理加速原理解析与工程实践分享 | 百度智能云
新闻资讯 关注百度智能云最新动态，了解产业智能化最新成果 智能云动态 AI推理加速原理解析与工程实践分享 AI推理加速原理解析与工程实践分享 2022-12-27 17:06:18 1. AI 推理的痛点 AI 推理是将用户输入的数据，通过训练好的模型产生有价值信息的过程。具体的是将训练好的 AI 模型部署到提供算力的硬件上，并通过 HTTP/RPC 等接口对外提供服务。
千帆AI加速器_线上加速营_免费大模型案例课程_故乡的云 · 大模型平台迁移课程
百度智能云千帆AI加速器-第4期线上加速营免费大模型案例课程 故乡的云 · 大模型平台 迁移课程 * 人已报名 2024.07.23 开营 免费报名 学习指南 免费代金券领取 课程介绍 针对OpenAI API“停服”事件的影响，本课程将为大家介绍如何选择替代方案，并通过实操案例和代码讲解，分享千帆大模型平台API、千帆AppBuilder Assistants API、以及OpenAI迁移工具的使用方法
AI加速卡通用资源调度方法 - 智能边缘BIE | 百度智能云文档
操作指南 节点创建 针对这几种 AI加速卡，需要在创建节点时选择对应的加速卡，如下图所示： 调度组件安装 以Jetson为例，在创建节点时选择了NVIDIA Jetson加速卡，在节点的详情页，查看 【AI加速卡】 子菜单。 点击【配置】弹出弹出对话框，复制应用安装命令，在边缘节点上执行，用于安装AI加速卡调度插件。 执行过程中会列出当前集群节点，需要输入节点确认。
千帆AI加速器_线上加速营_免费大模型案例课程_企业级RAG案例场景实战
加速卡。
千帆AI加速器_线上加速营_免费大模型案例课程_大模型精调最佳实践与经验分享
百度智能云千帆AI加速器-第3期线上加速营免费大模型案例课程 大模型精调 最佳实践与经验分享 * 人已报名 2024.07.16 开营 免费报名 学习指南 免费代金券领取 课程介绍 对大模型进行精调是优化大模型输出效果的关键步骤，可以有效利用基座大模型的性能，减少训练时间，降低训练难度。
千帆AI加速器_线上加速营_免费大模型案例课程_逻辑编排类场景应用开发实战
百度智能云千帆AI加速器-线上加速营免费大模型案例课程 逻辑编排类场景 应用开发实战 * 人已报名 2024.06.12 开营 免费报名 学习指南 免费代金券领取 课程介绍 通过工具调用实现逻辑编排是Agent的重要特征，也是AppBuilder平台的特色优势。基于AppBuilder平台可以调用多种工具组件，也可以自定义各种组件从而实现复杂逻辑的编排，创建出各种各样具有实用价值的复杂应用。
千帆AI加速器_线上加速营_免费大模型案例课程_大模型智能客服最佳实践分享
百度智能云千帆AI加速器-第11期线上加速营免费大模型案例课程 大模型智能客服 最佳实践分享 * 人已报名 2025.1.10 开营 免费报名 学习指南 企业用户激励 课程介绍 本课程基于百度智能云客悦智能客服平台开发，旨在帮助学习者掌握智能客服在不同应用场景中的具体实现方法。
千帆AI加速器_线上加速营_免费大模型案例课程_文件撰写类场景应用开发实战
百度智能云千帆AI加速器-第2期线上加速营免费大模型案例课程 文件撰写类场景 应用开发实战 * 人已报名 2024.06.27 开营 免费报名 学习指南 免费代金券领取 课程介绍 文件撰写是每个行业都会遇到的工作，利用大模型可以快速创建多种文件撰写类应用，如营销文案创作类应用、活动方案策划类应用、金融研报自动生成类应用、新闻报道自动生成类应用等。
千帆AI加速器_线上加速营_免费大模型案例课程_基于向量数据库构建企业级知识库
百度智能云千帆AI加速器-第5期线上加速营免费大模型案例课程 基于向量数据库构建 企业级知识库 * 人已报名 2024.08.13 开营 免费报名 学习指南 企业用户激励 课程介绍 在人工智能和大数据分析领域，向量数据库能够支持复杂数据类型及高效相似度搜索，有效存储和快速检索向量数据。
