简介：本文探讨了携程客服机器人ASR引擎的负载均衡实践，详细介绍了携程面临的ASR高可用性挑战，分析了常规负载均衡方案的不足，并提出了结合FreeSWITCH的distributor模块和OpenSIPs的创新解决方案，实现了对MRCP Server的有效负载分配，提升了客服机器人业务稳定性。
随着人工智能技术的飞速发展，智能客服机器人已成为众多企业提升客户服务质量的关键工具。携程作为国内领先的在线旅游服务平台，其呼叫中心每天需处理超百万通的电话业务量，覆盖机票、酒店、火车票等多个业务线。在呼叫中心业务中，传统的IVR（交互式语音应答）按键导航模式已逐步被IVR智能客服机器人所取代，客户通过与IVR机器人进行语音对话来办理业务。
携程呼叫中心系统下的IVR业务也在不断地向电话智能语音机器人转变，目前携程酒店、机票、火车票的国内IVR呼入业务，以及IBU国际英语机票的IVR呼入业务，已经全部由电话智能语音机器人来为客户提供自助服务。这一转变不仅提高了服务效率，还显著提升了用户体验。然而，随着业务量的不断增长，携程也面临着ASR（语音识别服务）引擎的高可用性挑战。
携程呼叫中心的整个平台依赖了众多组件，底层包括CC-Gateway（语音网关）、SBC（会话边际控制服务）、REG（分机注册服务）、SM（会话管理服务）、RS（呼叫路由服务）、CM（呼叫管理服务，基于FreeSWITCH）、ASR（语音识别服务）等系列服务。其中，ASR服务的使用对于实现智能客服机器人的交互效果至关重要。然而，在实际使用过程中，携程发现无论是采购第三方ASR系统进行私有化部署，还是使用自研的ASR产品，厂商都没有提供ASR的负载均衡解决方案，需要客户自行解决。
为了实现ASR引擎的负载均衡，携程采用了多集群、多IDC（互联网数据中心）、多供应商的ASR产品来提供服务。然而，如何设计出一个调度策略和负载均衡方案来合理有效地利用ASR资源，成为了一个亟待解决的问题。调用MRCP Server包含SIP（UDP/TCP）、MRCP（TCP）、RTP（UDP）三部分，只要完成对SIP的负载均衡就能解决另外两个。因此，给MRCP Server做负载均衡就变成了给SIP（UDP/TCP）做负载均衡。
携程的基建服务中，有AX、Netscaler、TDLB相关负载均衡服务，但基于这几种基建服务的验证性测试效果都不尽人意。以FreeSWITCH作为MRCP Client，AX作为负载均衡设备为例，所有的请求都被分配到了同一台MRCP-Server机器上，没能均匀地分配给集群下的各成员。这一结果显然不符合负载均衡的预期。
经过深入研究和各种尝试，携程最终提出了结合FreeSWITCH的distributor模块和OpenSIPs的负载均衡方案。FreeSWITCH的distributor模块可以实现对OpenSIPs的负载均衡，而OpenSIPs则再对MRCP-Server进行负载均衡。这一方案不仅实现了IDC优先就近访问，还能够在相同IDC下的下游服务全部不可用时，自动将流量分配到其他IDC下。此外，负载均衡服务还可以自动检测下游集群各成员的状态，当某成员服务不可用时自动拉出，服务状态恢复后再自动拉入。
在具体实现上，携程采用了CentOS 7.6、FreeSWITCH 1.6.20、OpenSIPs 2.4.2的运行环境。通过这一方案，携程成功实现了ASR引擎的负载均衡，提高了ASR服务的可用性和稳定性。这一实践不仅为携程的智能客服机器人提供了更加可靠的技术支撑，也为其他企业在面临类似挑战时提供了有益的参考和借鉴。
值得一提的是，在这一过程中，携程还充分考虑了用户体验和业务需求。例如，在智能客服机器人的交互设计中，携程注重了自然语言和语音识别的准确性，以及对话流程的流畅性和用户满意度。同时，通过智能推荐与预订、实时反馈和监控等功能，携程还为用户提供了更加个性化、便捷的服务体验。
在未来，随着人工智能技术的不断发展和应用场景的不断拓展，携程将继续深化智能客服机器人的技术应用和实践探索。通过不断优化技术架构和算法模型、拓展应用场景和服务范围、加强数据安全和隐私保护等措施，携程将为用户提供更加智能、高效、安全的客户服务解决方案。而ASR引擎的负载均衡实践也将成为携程智能客服机器人发展历程中的重要里程碑之一。