大模型训练——PEFT与LORA介绍 千帆社区
登录/注册 个人中心 消息中心 退出登录 大模型训练——PEFT与LORA介绍 大模型开发 / 技术交流 LLM 大模型训练 2024.03.19 6810 看过 0. 简介 朋友们好，我是练习NLP两年半的算法工程师常鸿宇，今天介绍一下大规模模型的轻量级训练技术LORA，以及相关模块PEFT。
「实践案例」集成千帆大模型应用，实现企业微信被动消息聊天服务 千帆社区
登录/注册 个人中心 消息中心 退出登录 6 1 「实践案例」集成千帆大模型应用，实现企业微信被动消息聊天服务 大模型开发 / 实践案例 文心大模型 2023.11.09 10488 看过 一、IDEA构建springboot应用脚手架 引入springboot-coloud-star等基础依赖 基础技能相信学java都会。
百度智能云的技术架构 - 白皮书 | 百度智能云文档
机器学习 如果把海量的数据比作大数据时代的燃料，那机器学习就是这个时代的发动机。传统的数据分析方法，能够在某些具体维度或指标上解决难题，帮助数据拥有者做出决策。而机器学习能够使我们不必了解每一行数据，通过目标制订和模型训练，直接完成智能应用的搭建，让数据来帮助我们做决策。这种能力随着数据量的逐渐增大，显的更加珍贵。 百度自搜索起家，就是一个大数据公司。
基于大模型的应用开发方式介绍 千帆社区
基于API应用开发模式 通过该种方式，开发者可以快速调用大模型的API，获取大模型能力，用户基于 百度智能云千帆大模型平台 可快速调用包括文心大模型在内的各种大模型API，针对第三方大模型，平台还针对性地进行了中文增强、性能增强、上下文增强等优化。
基于大模型的应用开发方式介绍 千帆社区
基于API应用开发模式 通过该种方式，开发者可以快速调用大模型的API，获取大模型能力，用户基于 百度智能云千帆大模型平台 可快速调用包括文心大模型在内的各种大模型API，针对第三方大模型，平台还针对性地进行了中文增强、性能增强、上下文增强等优化。
AI 应用的全流程存储加速方案技术解析和实践分享
一方面，数据量大了之后，企业成本敏感，大量的数据需要大容量低成本的存储。另一方面，对于训练的时候需要的那部分数据，还是希望存储的性能能够满足训练的要求，这一部分仍然是一个高性能存储的需求。这个阶段企业的规模已经相对比较大了，有足够的动力去自研或基于开源方案二次开发整个存储体系。
百度云原生数据库GaiaDB的HTAP与多地多活技术实践 | 百度智能云
在大数据量承载方面，多个线上百TB以上业务实践证明，GaiaDB在这种规模下依然具备良好的吞吐与弹性能力。 下面我来介绍一下GaiaDB的整体架构。 首先是接入层 ，接入层主要用来提供自动读写分离/流量控制/SQL防火墙/鉴权与 负载均衡 等功能，业务无需维护复杂的读写分离/连接池逻辑，直接使用proxy即可享受丰富的接入管理功能。
文心千帆大模型实战操作指南 千帆社区
在数据量较少的情况下，模型调优可以通过利用已有的模型参数和结构，快速训练出一个适应新数据集的模型，更好地适应新的任务，并提高模型的效率和准确率。 在数据量足够的情况下，模型调优也可以利用已经训练好的模型，避免从头开始训练模型，节省时间和计算资源的同时提高模型的预测准确率和稳定性。 3）模型发布 文心千帆平台支持将模型发布为在线服务，同时在服务发布后对服务进行详情查看和版本更新等操作。
文心千帆大模型实战操作指南 千帆社区
在数据量较少的情况下，模型调优可以通过利用已有的模型参数和结构，快速训练出一个适应新数据集的模型，更好地适应新的任务，并提高模型的效率和准确率。 在数据量足够的情况下，模型调优也可以利用已经训练好的模型，避免从头开始训练模型，节省时间和计算资源的同时提高模型的预测准确率和稳定性。 3）模型发布 文心千帆平台支持将模型发布为在线服务，同时在服务发布后对服务进行详情查看和版本更新等操作。
Redis 容量型(原 PegaDB)产品介绍 - 云数据库 SCS_云缓存
基于SSD构建，支持水平扩展，满足大容量、高并发业务需要。 内核层面支持数据自动冷热分离，无需业务侧自己维护。 提供可配置半同步或异步同步的能力，在数据一致性和性能之间做出调整，可以按照业务需求提交 工单 开通 应用场景 大数据量场景，存储成本高 在业务发展后期，沉淀的数据量越来越多，而访问量越来越低，此时性能存在过剩的情况。使用Redis存储海量KV数据，成本直线上升。
