百度千帆平台现已支持“自定义接入点”功能。开发者可根据业务需求，为不同的应用场景或模型版本创建专属的调用入口，通过自定义接入点实现灵活的服务调度与管理。

操作场景

企业与开发者在AI应用的构建及运维期间，常面临推理服务调度混乱、流量难以管控等挑战。由于多条业务线共享同一套推理资源，容易引发资源挤占及性能抖动，且因缺乏必要的访问约束，各模块的具体消耗往往难以追溯。

自定义接入点通过构建独立的调用入口，支持共享服务配额，同时允许设置独立的流控规则（TPM/RPM），帮助用户实现对推理资源的隔离调度与精细化管理。

使用说明

创建自定义接入点

1. 登录千帆控制台，左侧导航栏目找到【自定义接入点】。
2. 点击右侧创建自定义接入点。
3. 在“创建自定义接入点”面板，配置相关参数：

4. 单击创建。创建成功后，列表页将显示该接入点信息，状态为正常，即可进行调用。

编辑自定义接入点

您可以按需修改自定义接入点信息，例如描述、限流等。自定义接入点的模型服务不支持修改。

1. 登录千帆控制台，左侧导航栏选择模型服务。
2. 在二级导航栏，选择“在线推理”。
3. 在目标接入点的“操作”列，单击编辑。
4. 在“编辑自定义接入点”面板，按需修改相关参数，单击“保存”。

停用/启用自定义接入点

当自定义接入点“状态”为“正常”，可以停用自定义接入点。停用接入点后，该接入点的推理能力将停用，支持重新启用。

在“自定义接入点”页签按需选择以下操作。

• 停用自定义接入点
  1. 在目标接入点的“操作”列，单击停用。
  2. 在“停用自定义接入点”弹窗，点击停用即可。
• 启用自定义接入点
  1. 在目标接入点的“操作”列，单击启用。
  2. 在“启用”弹窗，单击“确定”。启用后，该接入点的状态会显示为“正常”。

删除自定义接入点

当接入点不再使用时，可执行删除操作。删除后，该接入点的推理能力将停用，全部信息将被删除且无法恢复，请谨慎操作。

1. 登录千帆控制台，左侧导航栏选择模型服务。
2. 在二级导航栏，选择“在线推理”。
3. 单击“自定义接入点”页签，在目标接入点的“操作”列，单击删除。
4. 在“删除自定义接入点”弹窗，查看删除提示信息，确认无误后单击“确定”。删除后，“自定义接入点”页签将不再显示该接入点。

调用自定义接入点

调用方式与标准 API 一致，需将请求参数中的 model 字段替换为配置的接入点 ID。

1curl --location 'http://qianfan.bj.baidubce.com/v2/chat/completions' \
2--header 'Content-Type: application/json' \
3--header 'appid: app-xxxxxx' \  ## 自定义接入点同样支持appid调用
4--header 'Authorization: your-key' \
5--data '{
6    "model": "ep_ieikfls3o_xxxxxx", ##创建接入点时的接入点ID
7    "messages": [
8        {
9            "role": "user",
10            "content": "say hello"
11        }
12    ]
13}'

监控与统计

您可以查看自定义接入点在指定时间段内的调用数据和监控指标详情，包括调用次数、调用失败次数、调用总Tokens数等信息，了解服务的使用情况和性能变化，从而更有效地进行模型评估、问题定位、故障排除和性能优化。

说明：自定义接入点的监控数据与其绑定的服务是相互独立的。

目前提供两种查看自定义接入点监控的入口：

1. 通过模型监控模块查看自定义接入点监控：进入模型监控模块，选择自定义接入点，点击查看监控即可观察到接入点的监控。

2. 点击接入点监控，即可通过在接入点绑定服务的详情页中查看接入点监控。