【千帆AppBuilder】教育生态行业赛《小5同学》AI原生应用大模型选择经验分享（1）
AI原生应用开发/技术交流
- LLM
- 文心大模型
- Prompt
6天前353看过
我在百度智能云千帆AppBuilder开发了一款AI原生应用，快来使用吧！「成语讲解助手」：https://appbuilder.baidu.com/s/71yOy
背景
由于前期比较千帆杯常规赛等事件，
真正开始教育行业赛的时间比较短，
五天完成了《小5同学》作品的上线和提交。
当时没太多时间思考大模型选择问题，导致出来的效果有点不太理想。
本篇文章就针对大模型的选择对AI原生应用业务功能影响的经验小小分享下。
成语讲解助手
成语讲解助手这一AI原生应用，主要以文本输出为主，无需太多思考逻辑，
因此可以考虑直接使用思考大模型速度快的，对业务复杂度要求不高的。
默认配置
刚开始使用了默认的大模型配置
思考模型：ERNIE Speed-AppBuilder（用于任务规划和选择组件）
问答模型：ERNIE-3.5-8K（用于总结生成回复结果）
当输入一个成语后，思考速度相对还行，基本瞬间就开始输出内容。
所以对业务逻辑要求不高的，默认配置即可满足要求。
使用4.0大模型
思考和问答模型都使用【ERNIE-4.0-8K】
从下图就可以看到，AI应用需要思考几秒才开始输出内容。
并且输出的内容是一段一段来的，有点像是边输出边继续思考。
这样的话，输出的效果就有点小题大做，简单的任务复杂化了。
4.0输出效果
使用Speed模型
思考和问答模型都使用【ERNIE Speed-AppBuilder】
从下图可以明显感受到，输出速度非常快和顺畅。
并且最终输出的效果和4.0相差不大，设置Speed效果还要好。
Speed输出效果
大模型
百度千帆平台提供了很多不错的负责不同功能的大模型，
可以解决很多实际上业务问题，深入了解下还是有不错的。
-
文档地址 - ERNIE-3.5-8K
-
文档地址 - ERNIE Speed-AppBuilder
-
大模型广场地址：
：
总结
通过上面一个简单例子，可以明显看到不同大模型对AI原生应用在速度和效果上的区别。
速度和质量，这两个业务参考变量需要在实际业务上综合考虑，合理选择大模型才能更好输出业务效果。
后续还会继续分享关于大模型对AI应用输出效果影响的经验分享。
小5同学
也欢迎各位小伙伴体验博主参加的教育行业赛作品《小5同学》
由于时间短，功能相对比较简单，但是对于小学生家长还是挺实用的，
也欢迎各位小伙伴体验和反馈遇到的问题，谢谢。
评论
