功能简介

Baidu Milvus Embedding 服务是面向 Milvus 引擎实例提供的一站式文本向量化能力。开启后，用户无需单独部署 Embedding 推理服务，也无需在应用侧提前将文本转成向量；在 Milvus Collection 中配置 Function 后，即可在写入、更新和检索时直接传入原始文本，由 Milvus 调用百度智能云千帆 Embedding 模型完成向量生成，并将向量写入指定字段用于语义检索。

该能力用于降低 RAG、知识库问答、文档搜索、FAQ 检索、推荐召回等场景的接入复杂度，帮助用户把“文本切分 - 向量化 - 写入 Milvus - 查询向量化 - 相似度检索”的链路收敛到 Milvus 实例内完成。

核心能力

适用场景

文搜文语义检索

用户将文档片段、FAQ、商品描述、工单内容等原始文本写入 Milvus。写入时，Milvus 自动调用 Embedding 模型生成向量并存储到向量字段。查询时，用户直接输入自然语言问题，Milvus 自动生成查询向量并返回语义最相关的结果。

适用于：

• 企业知识库问答
• FAQ 和客服工单检索
• 文档搜索和资料检索
• RAG 召回链路
• 商品、内容、文章的语义召回

应用侧向量化链路简化

传统接入方式需要应用侧自行维护 Embedding 服务调用、批量重试、字段映射、异常处理和计费统计。开启 Baidu Milvus Embedding 服务后，应用侧只需要维护原始文本字段和 Milvus Collection Schema，向量化由 Milvus 内置 Function 统一完成。

模型效果快速切换验证

Baidu Milvus Embedding 服务支持多种文本 Embedding 模型。用户可根据上下文长度、向量维度、语言类型、召回效果和成本要求选择模型，降低模型选型和验证成本。

使用流程

1. 开启 Embedding 服务

用户可通过以下方式开启 Embedding：

开启后，系统会为实例创建并绑定模型服务资源，完成配置下发。配置采用热加载方式生效，无需用户重建实例。

2. 创建 Collection 并绑定 Function

在 Collection Schema 中定义原始文本字段和向量字段，并通过 Milvus Function 将文本字段绑定到向量字段。

示例：

1from pymilvus import MilvusClient, DataType, Function, FunctionType
2
3client = MilvusClient(
4    uri="http://<milvus-endpoint>:19530",
5    token="root:<password>",
6)
7
8collection_name = "doc_search_demo"
9schema = client.create_schema()
10
11schema.add_field("id", DataType.INT64, is_primary=True, auto_id=False)
12schema.add_field("document", DataType.VARCHAR, max_length=8192)
13schema.add_field("dense", DataType.FLOAT_VECTOR, dim=1024)
14
15text_embedding_function = Function(
16    name="qianfan_text_embedding",
17    function_type=FunctionType.TEXTEMBEDDING,
18    input_field_names=["document"],
19    output_field_names=["dense"],
20    params={
21        "provider": "qianfan",
22        "model_name": "bge-large-zh"
23    }
24)
25
26schema.add_function(text_embedding_function)
27
28index_params = client.prepare_index_params()
29index_params.add_index(
30    field_name="dense",
31    index_type="AUTOINDEX",
32    metric_type="COSINE"
33)
34
35client.create_collection(
36    collection_name=collection_name,
37    schema=schema,
38    index_params=index_params
39)

说明：示例中的 dim 需要与所选模型的输出向量维度一致。

3. 写入原始文本

写入数据时，用户只需要传入原始文本字段。Milvus 会根据 Function 配置自动生成向量并写入 dense 字段。

1client.insert(
2    collection_name,
3    [
4        {
5            "id": 1,
6            "document": "向量数据库通过将文本转换为高维向量来实现语义检索。"
7        },
8        {
9            "id": 2,
10            "document": "检索增强生成可以通过召回相关文档提升大模型回答可靠性。"
11        }
12    ]
13)

4. 使用自然语言检索

查询时，用户直接传入自然语言文本。Milvus 自动完成查询向量化，并基于向量字段执行相似度检索。

1results = client.search(
2    collection_name=collection_name,
3    data=["什么是语义检索？"],
4    anns_field="dense",
5    limit=3,
6    output_fields=["document"],
7)

支持模型与规格

模型选择建议

计费说明

Baidu Milvus Embedding 服务采用按量后付费模式，按千帆 Embedding 模型调用消耗的 token 进行线性计费。

用户可在实例维度查看 token 用量、调用量、成功率、QPS 和响应延迟等指标，用于成本分析、容量评估和告警配置。

监控指标

开启 Embedding 后，支持以下监控项：

使用限制与注意事项

• Embedding 服务仅适用于已支持该能力的 Milvus 引擎实例。
• Collection 的向量字段维度必须与所选模型的输出维度一致。
• 写入和检索会触发模型调用，调用延迟会影响端到端写入或查询耗时。
• 每个模型存在 RPM、TPM 等服务速率限制，请根据业务峰值选择合适模型。
• 关闭 Embedding 后，实例不再自动调用模型服务；已写入的向量数据不受影响。
• 删除实例时，平台会清理随实例创建的模型服务资源。
• 默认使用平台托管的 API Key 与 AppID；如需使用用户自有 API Key，需要联系运维或产品支持确认接入方式。

FAQ

Q1：开启 Embedding 后，用户是否还需要自己调用 Embedding API？

不需要。用户在 Milvus 中配置 Function 后，写入和检索时直接传入原始文本即可，由 Milvus 自动调用模型服务生成向量。

Q2：关闭 Embedding 会删除已经写入的向量吗？

不会。关闭 Embedding 只是不再自动调用模型服务，已写入 Collection 的向量字段数据不受影响。

Q3：一个实例可以绑定多个模型吗？

同一个实例可在不同 Collection 或不同 Function 中选择不同模型，具体以 Milvus Function 支持能力和控制台配置为准。

Q4：为什么向量字段维度必须和模型一致？

Milvus 向量字段在建表时需要固定维度。如果模型输出 1024 维，向量字段也必须定义为 1024 维，否则写入或检索会失败。

Q5：是否支持多模态输入？

首期产品说明以文本 Embedding 为主。阿里云对标能力已包含多模态检索，Baidu 如需同步上线多模态能力，需要补充多模态模型、媒体 URL 输入、对象存储访问和检索示例等产品与技术方案。