datahub数据交换平台  内容精选
  • 【千帆SDK】如何使用千帆Python SDK搭配预置大模型服务进行批量推理 千帆社区

    场景3:使用自定义人设进行批量推理 请将qianfan sdk版本更新至0.2.6 pip install -U qianfan>=0.2.6 可以通过system_prompt参数来传递大模型需要遵循的人设,demo如下: 测试数据集: qa_classification.csv 你是文心千帆大模型平台的一个客服问题分类员 需要针对用户问题进行分类 主要问题分类包含数据问题、微调问题、评估问题

    查看更多>>

  • 获取批量预测任务列表 - ModelBuilder

    totalDataCount int 总数据条数 taskSource string 任务来源,说明: · batchInference:批量推理 · modelEval:模型评估 · inferenceDataset:推理数据dataFormat string 数据格式,说明: · default · src_tgt · role creator string 任务创建人 createTime

    查看更多>>

datahub数据交换平台  更多内容