c) 支持整文件切分,结合128k模型使用,可支持多个大文件/大切片总结;自定义切分,支持正则表达式,拓展自定义切分策略配置灵活性。 d) 支持三元组抽取、问答对抽取、概要总结多种知识增强策略,改善检索召回命中率。 4、数据问答 :新增直连企业数据库方式(线上已支持上传本地Excel、csv表格文件),基于nl2sql实现直连数据库的问数能力,包括问表、查表、图表生成。
CxOjWGukn9adoGGzNNzx9y6t4kZcBwcL8dLK4z9pTMpBlGZ5IPAaBKWmabBgFkrveLE2IU2ZybWF/FaTbKqaLex37hYLJNOetNtm7rqJ4nO0AuDoUHLTi5AaNBY+KmmpRGHx/yRupOiprOz4DWy0qSEx0jb72WRihcxrr6A8eS8+c7dcawKyUvf2QAOY+dv3rLdIXEhrr257lW1kmZ2UNIFri/wAfJAhzicx
fp8,fp8_e5m2,fp8_e4m3 –quantization-param-path 包含KV缓存缩放因子的JSON文件路径,通常在KV缓存dtype为FP8时提供,否则KV缓存缩放因子默认为1.0,可能会导致准确性问题 str 否 否 –max-model-len 模型的上下文长度 int 否 否 –guided-decoding-backend 用于引导解码的引擎(JSONschema/正则表达式等
hyMRvLZDLDGP29MXWN3JjNqdYX9Pv8d6TqyuzhmH2LXCC0cc3d9FD8WsTT+rUAgSCuBRPj0kx/dbH9kTkeft4BZHrasxXZJVmOoXIqeNa/AKI1vv+qSqzhGDCDZnlIldLMVXU1MYe/bU4w+4OJjvGwbhGBV/zhmEpyXx7U62zHHz8W+DJptfx8O3H2Y7ynZuOV1YIfcmYHSgss6Zg2mzoGO0f/wAfvmT0