百度百舸面向百度天池超节点的大模型推理引擎优化，持续降低昆仑芯 XPU 的 token 成本 | 百度智能云
Prefill 长序列优化 面向 128K 的长序列输入时，Prefill 的计算压力异常大。为此，我们充分利用了超节点更大 Scale up 域的优势，针对长序列 Prefill 使用了更大的 TP 范围（如 TP16 + SP16、TP32 + SP32）。
如何从评估指标判断大模型训练效果 - 百度千帆·大模型服务及Agent开发平台
如何从评估指标判断大模型训练效果 模型精调提供训练后和训练过程的评估指标。训练完成后，可以在训练详情中查看BLEU、ROUGE、Embedding距离、编辑距离等评估指标，也可以查看训练过程的Loss曲线。BLEU和ROUGE指标是将生成的内容拆分成片段，进而评估生成内容的效果。这两种指标通常用于翻译和文本总结类型的任务中。
[AI行业案例]-文字识别技术实现传图下单，提升寄件效率
如果能将图片上的寄、收件信息快速提取出文字，并填到APP中，对用户来说就非常方便快捷了。 解决方案 快递100 APP通过接入百度通用文字识别（含位置信息版）后，用户可以通过“传图下单”的方式，将图片上的内容识别出对应的寄、 收件人信息文字，快速填到对应寄件单的表单中。
【千帆杯】K12教育常规赛 北京场线下交流会心得 千帆社区
作文批改 初高中英语作文练习中，往往写完之后，需要等待很长时间的老师批改，才能得到作文的修改意见。而大模型可以立即给出作文修改意见，并生成相应范文，提升英语作文的学习效率。 针对性出题 （队友给的创意） 在初高中英语语法学习中，往往需要大量针对题目训练，才能有所提升，但是不一定随时随刻能够找到合适的题目进行练习。我希望这个功能，能够针对性的出题，用户可以高效的练习提升语法知识。
【千帆杯】K12教育常规赛 北京场线下交流会心得 千帆社区
作文批改 初高中英语作文练习中，往往写完之后，需要等待很长时间的老师批改，才能得到作文的修改意见。而大模型可以立即给出作文修改意见，并生成相应范文，提升英语作文的学习效率。 针对性出题 （队友给的创意） 在初高中英语语法学习中，往往需要大量针对题目训练，才能有所提升，但是不一定随时随刻能够找到合适的题目进行练习。我希望这个功能，能够针对性的出题，用户可以高效的练习提升语法知识。
基于文心的提示词攻略：扮演多轮编程问答助手 千帆社区
登录/注册 个人中心 消息中心 退出登录 7 基于文心的提示词攻略：扮演多轮编程问答助手 大模型开发 / 技术交流 Prompt 2023.08.22 3699 看过 其他基于文心的提示词攻略请查阅： 基于文心的提示词攻略：给定规则批量生成结构化数据 基于文心的提示词攻略：扮演单轮编程问答助手 基于文心的提示词攻略：扮演API参数提取助手 在 文心一言Prompt构造建议规范 文章中整理了文心一言
基于文心的提示词攻略：扮演多轮编程问答助手 千帆社区
登录/注册 个人中心 消息中心 退出登录 7 基于文心的提示词攻略：扮演多轮编程问答助手 大模型开发 / 技术交流 Prompt 2023.08.22 3698 看过 其他基于文心的提示词攻略请查阅： 基于文心的提示词攻略：给定规则批量生成结构化数据 基于文心的提示词攻略：扮演单轮编程问答助手 基于文心的提示词攻略：扮演API参数提取助手 在 文心一言Prompt构造建议规范 文章中整理了文心一言
千帆大模型平台从沉浸式开箱体验到实际场景应用 千帆社区
而且千帆大模型平台还提供了贴切的快速云部署服务，可以 将训练完成的模型部署在百度云服务器，通过云服务接口调用模型。同时支持公有化和私有化部署两种方案。不管是简单还是复杂应用场景，千帆大模型平台都可以很好应对。不得不感叹，人工智能时代，科学技术升级迭代之快，简直是瞬息万变。关于大模型的训练，请听下回分解！
千帆大模型平台从沉浸式开箱体验到实际场景应用 千帆社区
而且千帆大模型平台还提供了贴切的快速云部署服务，可以 将训练完成的模型部署在百度云服务器，通过云服务接口调用模型。同时支持公有化和私有化部署两种方案。不管是简单还是复杂应用场景，千帆大模型平台都可以很好应对。不得不感叹，人工智能时代，科学技术升级迭代之快，简直是瞬息万变。关于大模型的训练，请听下回分解！
千帆大模型应用开发挑战赛二等奖——城市漫步指南【城语APP】 千帆社区
其中城市漫步指南团队基于上海市建筑数据，利用大模型能力开发出智能化Citywalk路线规划的《城语APP》荣获二等奖。
