简介：扣子在上海分享捏Bot的实战心得，包括参赛背景、Agent设计流程及分工、能力实现及优化，并提及千帆大模型开发与服务平台在过程中的助力，展现了从创意到实现的完整历程。
自从去年开始关注Gen AI领域，我便被这个充满无限可能的新世界深深吸引。作为一名热爱探索的技术爱好者，我决定通过创建一个技术分享账号，倒逼自己持续输出在这个领域的所见所闻。而LLM（大型语言模型）成为了我这半年来的精力重心，从Function Calling、模型能力表现、Prompt优化，到RAG和Agent设计，每一步都让我深刻感受到技术的魅力和自身的不足。于是，我和两位同样对技术充满热情的伙伴，组成了一个非专业却默契十足的团队，决定在捏Bot的赛场上一试身手。
我们的创意灵感来源于去年生图最火爆的时候，那时我就在想，如果能用AI为宠物爱好者们生成专属的宠物肖像照，那该多有趣。这个想法得到了两位伙伴的热烈响应，于是我们决定以此为出发点，设计一款面向宠物饲养者的Bot。
在设计Agent流程时，我们充分考虑了用户的需求和体验。首先，我们设置了开场Greeting，让用户感受到温暖和欢迎。接着，我们提供了生图服务，包括宠物肖像照生成和艺术照生成。为了满足用户对图片质量的需求，我们还加入了图片无损放大和抠图服务。最后，我们提供了定制服务，包括官方定制和三方定制，让用户可以根据自己的需求选择合适的产品。
在能力设计方面，我们主要围绕生图服务和定制服务展开。为了实现宠物肖像照生成，我们使用了千帆大模型开发与服务平台提供的官方插件，并创建了三个自定义插件来满足用户的个性化需求。这些插件包括基础生图插件、进阶生图插件（针对宠物换装的微调小模型）和自定义指令生成图片插件。通过这些插件的组合使用，我们可以为用户提供多样化的宠物肖像照生成服务。
在实现过程中，我们遇到了不少技术难题。例如，在LLM提参时，由于模型理解能力的限制，有时无法正确输出预期的值。为了解决这个问题，我们引入了思维链推理，辅助模型理解执行步骤，step by step直到输出正确答案。此外，在涉及到两个插件的混合使用时，我们使用了条件分支将不同模型入参进行分流，从而可以准确执行后续指令。
在参赛前，我们进行了充分的准备工作。我们不仅对Bot进行了多次测试和优化，还积极参加了千帆大模型开发与服务平台提供的培训课程和用户访谈，不断学习和吸收新的知识和经验。这些准备工作为我们在比赛中取得好成绩打下了坚实的基础。
在比赛结束后，我们进行了深入的反思和总结。我们认为，这次比赛不仅让我们锻炼了自己的技术能力和团队协作能力，更重要的是让我们深刻认识到了用户的需求和体验的重要性。在未来的发展中，我们将继续以用户为中心，不断优化和提升Bot的服务质量和用户体验。
在这次捏Bot的实战过程中，千帆大模型开发与服务平台给予了我们巨大的帮助和支持。从提供丰富的插件和工具到提供专业的培训课程和用户访谈机会，千帆大模型开发与服务平台都为我们提供了全方位的支持和服务。正是有了这些支持和帮助，我们才能够在短时间内取得如此显著的进步和成绩。
通过这次捏Bot的实战经历，我深刻体会到了技术的魅力和无限可能。同时，我也更加坚定了自己在技术道路上继续前行的决心和信心。我相信，在未来的日子里，我会和我的团队一起不断学习和探索新的技术和知识，为用户提供更加优质和便捷的服务。而千帆大模型开发与服务平台也将成为我们不断前行的重要伙伴和支持力量。