货拉拉多场景大模型AI助理应用实践

作者:起个名字好难2024.11.21 11:22浏览量:39

简介:货拉拉基于LLM探索AI助理落地应用,自研悟空平台应对多业务场景挑战,实现AI驱动业务赋能,通过专业助手、AI问答助手、周报生成助手等多阶段实践,提升业务效率和用户体验。

随着人工智能技术的飞速发展,特别是大型语言模型(LLM)的涌现,AI的应用范围日益广泛。货拉拉,作为国内知名的互联网物流公司,也紧跟时代步伐,积极探索AI技术的落地应用。本文将详细介绍货拉拉在多场景大模型AI助理方面的实践探索。

一、AI助理与大模型

AI助理,作为人工智能技术的重要应用之一,其功能和优势日益凸显。目前,大多数AI助理的功能主要集中在智能对话、智能问答、智能查询以及AIGC(人工智能生成内容)等方面。这些功能的实现,离不开大模型、RAG(Retrieval-Augmented Generation)以及Agent等技术的支持。

货拉拉在探索AI助理的落地应用过程中,也深刻体会到了大模型的强大能力。大模型不仅能够深刻理解用户需求,提供专业高效的服务,还能实现24小时不间断服务,帮助用户解决各种业务问题。这些能力使得大模型在许多应用场景中比人类更加高效和可靠。

二、多场景助理的落地方案

在货拉拉面临多业务场景高效落地的挑战时,AI助理的搭建过程中也遇到了一些痛点,主要包括落地场景众多、业务诉求多样以及落地效率低等问题。为了应对这些挑战,货拉拉自研了大模型应用平台——悟空平台。

悟空平台的核心优势在于可以灵活应用大模型,支持直接或间接调用大模型进行开发。无论是直接调用大模型,还是构建Chain或Agent,悟空平台都能胜任。此外,该平台在数据安全方面表现优异,确保没有数据外传的风险,并且可以根据需求进行定制化开发,同时支持高效的业务落地。

在自研LLM应用平台悟空的加持下,货拉拉在多个场景中实现了AI助理的高效落地。例如,在教育引擎、教育培训、HR、PMO等14个以上的场景中,货拉拉可以快速搭建并实现AI助理的应用。同时,平台也在不断迭代,从最初的文本处理逐步发展到多模态处理,持续探索和改进。

三、AI驱动,业务赋能

随着AI应用的发展速度惊人,覆盖范围也越来越广泛,货拉拉涉及的业务需求也越来越多样,业务诉求也逐渐进阶。具体可分为以下五个阶段:

  1. 专业助手:货拉拉利用大模型解决专业问题,如自动排查容器问题、识别漏洞攻击以及SIEM系统中的准实时异常行为检测等。通过prompt和大模型的结合,货拉拉成功解决了这些专业问题。
  2. AI问答助手:基于LLM的AI问答助手能够基于文档或已有知识库进行问答。货拉拉通过搭建“业务知识库+RAG+LLM=AI问答助手”的范式,实现了精准问答,业务精确率达到了90%以上。
  3. 周报生成助手:货拉拉通过搭建周报Agent,实现了数据的获取、分析以及图表的生成,并最终生成周报。这不仅需要AI具备数据获取和分析的能力,还需要生成图表和报告的能力。
  4. 多模态的AI助手:用户希望AI不仅能理解文本,还能处理图片和语音。因此,货拉拉也在探索多模态的AI助手,以满足用户更复杂的需求。
  5. Muti-agent助手:随着业务需求的发展,用户希望多个场景的问题能够融合,提供一个综合的解决方案。因此,货拉拉也在探索将多个场景下的AI助手进行整合,提供一个综合的解决方案。

四、实例分享

  1. 专业助手实例:在实践过程中,货拉拉发现大模型能够解决许多专业问题。例如,通过prompt和大模型的结合,大模型能够分析告警信息判断是否误报,进行IDS入侵研判等。
  2. AI问答助手实例:货拉拉将AI问答助手分为无标准答案(综合问答)和有标准答案(精准问答)两类。通过个性化RAG和prompt的优化,实现了精准问答业务精确率的提升。
  3. 周报生成助手实例:货拉拉通过搭建周报Agent,实现了数据的自动获取、分析和图表的生成。周报生成的核心要素为“3有”:有数(真实数据情况)、有图(多形式观测验证)、有结论(能理解、可分析、会总结)。

五、未来展望

展望未来,货拉拉将继续深耕AI技术,探索更多应用场景。同时,也将不断优化悟空平台,提升AI助理的落地效率和效果。通过AI技术的不断创新和应用,货拉拉将为用户提供更加智能、高效的服务,助力企业实现数字化转型和可持续发展。

在这个过程中,千帆大模型开发与服务平台作为重要的技术支持之一,也将发挥更大的作用。千帆大模型开发与服务平台提供了丰富的AI模型资源和开发工具,能够帮助货拉拉更加高效地开发和部署AI助理。同时,千帆大模型开发与服务平台也提供了完善的安全保障和运维支持,确保AI助理的稳定运行和数据安全。

总之,货拉拉在多场景大模型AI助理方面的实践探索取得了显著的成效。未来,随着AI技术的不断发展和应用场景的不断拓展,货拉拉将继续引领物流行业的智能化转型和发展。