简介：Shulex利用Zilliz Cloud处理100M 768维向量数据，实现VOC评论分析洞察报告生成速度提升30%，智能客服召回率达98%，系统稳定且运维成本大幅降低。
在当今这个数据驱动的时代，企业对于数据处理和分析的需求日益增长，尤其是对于像Shulex这样的国际化VOC（Voice of Customer，客户之声）SaaS公司而言，更是如此。Shulex专注品牌出海，面向海外客户和中国出海客户，提供基于大模型的VOC SaaS服务，帮助企业通过数智化来引领产品创新、驱动客户品牌增长。随着业务的不断发展，Shulex在VOC评论分析业务上积累了大量的数据，并面临着如何高效处理这些数据的挑战。
近几年，国内电商市场竞争日益激烈，跨境电商异军突起，这也无形中增高了中小商家入局的门槛。为了在激烈的市场竞争中脱颖而出，Shulex决定利用先进的技术手段来提升业务效率。然而，随着业务的高速发展，仅在VOC评论分析业务上，Shulex就训练了10000条以上电商类目的评论标签，产生了上亿规模的向量数据。如何高效地存储、检索和分析这些数据，成为了Shulex亟待解决的问题。
以往，Shulex基于开源向量数据库Milvus自建方案，但这一方案存在诸多不足。首先，自建方案费时费力，稳定性无法保障；其次，运维成本非常高昂，当出现故障时往往需要几个小时甚至一天才能恢复；最后，由于系统不稳定导致的客户吐槽和投诉不断，客户满意度也持续走低。因此，Shulex急需寻找一种更加高效、稳定且成本更低的解决方案。
在寻找解决方案的过程中，Shulex注意到了Zilliz公司推出的全托管向量数据库云服务——Zilliz Cloud。Zilliz作为向量数据库技术的开创者，其推出的开源向量数据库Milvus已经受到了全球5000家以上企业用户的支持与青睐。而Zilliz Cloud则是基于Milvus构建，针对性能进行了优化，并提供了全托管的服务模式。
经过深入了解和测试，Shulex决定将核心业务的向量数据库部分搬迁至Zilliz Cloud上。这一决策为Shulex带来了显著的业务收益：
报表生成速度提升30%：Zilliz Cloud提供了更高性能的向量搜索能力，其搜索引擎性能比开源Milvus提升超过5倍，稳定支持了1000QPS的商品评论的高频次搜索。同时，相比于Milvus，搜索时延降低了50%，这使得生成结构化的统计报表速度提升了30%。
数据分析成本降低50%：由于无需将所有的商品评论信息通过大模型进行分析来获取评论标签，仅需要基于评论原文与向量数据库，实时召回评论标签即可生成高质量标签，去除了对大模型的依赖，极大地降低了评论数据分析的成本。
分钟级响应大促等突发流量：对于突发的客户访问量剧增，如大促周期，以往需要客户请求排队半个小时甚至1个小时。而Zilliz Cloud支持弹性扩缩容，集群增减分钟级即可完成，客户排队的状况也顺利解决。
智能客服召回率98%：Shulex的VOC智能客服业务采用大模型+向量数据库的标准范式构建了RAG应用。Zilliz Cloud使得大模型能够快速有效地检索和处理大量的向量数据，实时召回知识，稳定支撑Shulex VOC智能客服业务每秒90次的客户询问，稳定召回率在98%以上。
基于Zilliz Cloud的VOC评论分析流程包含建库、选品、分析样本、全量打标、报表生成5个步骤：
建库：建立用来判断评论的标签库，在向量数据里面存储的表结构包括评论文本、评论的embedding、评论的正负情感标签等。
选品：在上万个类目的商品中选择感兴趣的品类作为后续进行评论分析的对象。
分析样本：选择上一步中品类的数万条评论（包含正负评论、意思相近的评论）输入给大模型，让GPT-4对每个评论进行标签，将这些标签而后进行聚类后生成标签的样本库。
全量打标：将生成的标签样本输出给向量数据库里进行该类目商品的全部评论embedding数据的检索，结合向量数据库来进行分类，判断这些评论的正负情感。
报表生成：基于向量数据库的分类情况，进行用户对该商品属性的情感、正负向的分析，然后生成报表。
通过引入Zilliz Cloud，Shulex成功解决了在VOC评论分析业务中面临的数据处理和分析挑战，实现了业务的高效升级。未来，随着业务的不断发展，Shulex将继续深化与Zilliz的合作，探索更多基于向量数据库技术的创新应用，为企业客户提供更加优质、高效的数智化服务。同时，Zilliz也将持续优化Zilliz Cloud的性能和功能，为全球用户提供更加便捷、高效的向量数据库云服务。
在这一过程中，客悦智能客服作为与Shulex业务紧密相关的产品，也可以从Zilliz Cloud的成功应用中汲取经验。通过借鉴Shulex的实践经验，客悦智能客服可以进一步提升自身的数据处理和分析能力，为企业客户提供更加智能、高效的客服解决方案。同时，Zilliz Cloud的成功案例也为千帆大模型开发与服务平台和曦灵数字人等产品提供了有益的参考和启示。