使用千帆大模型平台的初体验

最近，百度智能云已面向企业和个人客户开放千帆大模型平台公有版测试服务。作为一名AI开发者，我怀着好奇心和期待，申请并体验了文心千帆。有感兴趣的朋友可以在下面的地址申请体验：

官方申请地址：https://cloud.baidu.com/survey/qianfan.html

在本文中，我将分享我的使用千帆大模型-一站式企业级大模型平台，提供先进的生成式AI生产及应用全流程开发工具链的感受，并探索了一些有趣的应用场景。

访问官方应用地址并进行申请。申请过程简单明了，经过几个简单的步骤，我成功地获得了千帆的测试审核。

当我开始体验千帆，我首先对它的模型进行了基础测试。

我们先要理解千帆大模型平台的定位和基本介绍，根据其官网介绍，千帆大模型平台是面向企业开发者的一站式大模型开发及服务运行平台。千帆不仅提供了包括文心一言 底层模型（ERNIE-Bot）和第三方开源大模型，还提供了各种AI开发工具和整套开发环境，方便客户轻松使用和开发大模型应用。

1.在完成体验申请通过后，我们进入千帆大模型平台首页，开始深度体验。

2.体验在线测试

向AI提出问题：我现在要完成一个项目，方向是PyTorch实现前馈神经网络，要作为医疗平台使用，请为我提出建议。

AI回答如下：

可以看出来，AI的回答是极具逻辑性和可靠性的。该段文字清晰地列出了构建神经网络模型的关键步骤，并提供了一些实用的建议。涵盖了构建、训练、评估和部署神经网络模型的关键步骤。它给出了一些常见的选择和建议，有助于初开发者在实践中中更好地理解和应用这些概念。

为了深度的测试千帆大模型，我再次提出一些我对于医疗领域开发的重要问题来检验的可靠性。

第二个问题：在开发医疗应用程序或平台时，如何确保患者的数据隐私和安全性？

千帆大模型平台回答如下：

我作为一个有3年医疗开发领域的开发者来看千帆大模型的回答，我点评如下：

它强调了遵守法律法规的重要性，提到了设计和实施数据保护措施，强调了对敏感数据的保护还提到了数据访问控制的重要性，强调了建立安全文化的重要性，最后，提到了实施安全审计和监控的重要性。不得不说它的表现是十分优异的，完整且高质量的提出了项目解决方案。

Prompt模板可以帮助用户更好地引导和调整AI的输出，在人工智能应用中起到重要的作用，可以帮助用户更好地引导和调整AI的输出。可以包含对AI性能的要求，例如避免重复计算或使用缓存等，这可以帮助用户优化AI的性能，使其更加高效地完成用户的需求。

1.在Prompt模板里点击创建Prompt模板。

2.创建一个模板如下：
如何使用人工智能和机器学习来改善医疗诊断和预测？用{number}次回答该问题，并且保证每种回答的不同。

3.在测试平台里点击Prompt模板，选择我们需要的模板，然后进行应用。

4.可以看到，帮助用户更好地引导和调整AI的输出。

5.测试如下：
用{number}种不同的方式改写以下段落，以避免重复，同时保持其含义:{text}。

输入为：

用10种不同的方式改写以下段落，以避免重复，同时保持其含义:如何有效地收集和整合各种类型的医疗数据，包括患者病历、影像学报告、实验室结果等，以便用于训练和测试机器学习模型？。

回答如下：

可以看到这10种改写的结果都比较出色。这个功能可以帮助用户优化AI的性能，使其更加高效地完成用户的需求。

从其管理后台可以看出，千帆大模型平台支持统一纳管自训模型的数据集，并对数据样本集可自主进行版本迭代、继续导入和删除等操作。

1.进入数据集管理。我们创建一个数据集。

2.因为我最近很长时间都在开发和医疗服务有关的工作，在本次测试中我选择医疗方向的内容进行调优和训练。

我们选择标注类型为：文本对话。标注模板为含排序。

3.我的数据集如下：

[{"prompt": "医疗领域中常见的医学影像技术有哪些?"}]

[{"prompt": "什么是CT扫描?"}]

[{"prompt": "什么是MRI?"}]

[{"prompt": "什么是超声波检查?"}]

[{"prompt": "什么是X射线?"}]

[{"prompt": "什么是内窥镜检查?"}]

[{"prompt": "什么是心电图?"}]

[{"prompt": "什么是血液检查?"}]

[{"prompt": "什么是基因测序?"}]

[{"prompt": "什么是遗传咨询?"}]

[{"prompt": "什么是微创手术?"}]

[{"prompt": "什么是放射治疗?"}]

[{"prompt": "什么是化疗?"}]

[{"prompt": "什么是药物治疗?"}]

[{"prompt": "什么是免疫疗法?"}]

[{"prompt": "什么是肿瘤标志物?"}]

[{"prompt": "什么是病理检查?"}]

[{"prompt": "什么是麻醉?"}]

[{"prompt": "什么是抗生素?"}]

[{"prompt": "什么是疫苗?"}]

[{"prompt": "什么是传染病?"}]

[{"prompt": "什么是慢性病?"}]

[{"prompt": "什么是急性病?"}]

[{"prompt": "什么是手术室?"}]

[{"prompt": "什么是急诊科?"}]

[{"prompt": "什么是护理?"}]

[{"prompt": "什么是康复治疗?"}]

[{"prompt": "什么是中药?"}]

[{"prompt": "什么是西药?"}]

[{"prompt": "什么是医学研究?"}]

[{"prompt": "什么是临床试验?"}]

[{"prompt": "什么是医学伦理?"}]

[{"prompt": "什么是疾病预防?"}]

[{"prompt": "什么是健康教育?"}]

[{"prompt": "什么是健康管理?"}]

4.导入数据并且进行手动标注。

5.我们对这35条数据进行手动标注。

可以手动输入或者自动生成

RLHF（Reinforcement Learningfrom Human Feedback，基于人类反馈的强化学习），一种机器学习方法，它使智能系统能够从环境中学习并最大化特定目标。RLHF已成功应用于千帆大模型平台, 能够生成类似人类的文本并执行各种语言任务。RLHF使模型能够在大量文本数据语料库上进行训练，并在复杂的语言任务(如语言理解和生成)上取得令人印象深刻的结果。

操作过程如下：

1.在RLHF训练中点击奖励模型训练，然后创建训练任务。

2.创建医疗demo训练任务

3.选中刚刚我们创建的数据集，对其继续训练。

4.对其进行训练：

大模型调优实际上是Fine-Tuning的训练模式，开发者可以选择适合自己任务场景的训练模式并加以调参训练，从而实现理想的模型效果。

1.我们按照上面的方法，重新创建一个非排序的数据集如下：并且发布。

2.我们进入大模型调优，创建调优任务。

3.对其进行配置开通

4.开始大模型调优，可以看到整整训练了半个小时。

评估信息：

1.在该页面创建RLHF训练-强化学习训练

2.在配置过程中，选择上面步骤创建的模型。继续强化学习训练

3.等待医疗训练：

4.评估信息

模型每次迭代在训练集上预测的奖励平均分值。

5.我们可以将模型发布。

6.到模型仓库查看，我们有需要的话可以把自己的大模型部署到服务器上，这里消耗资源较大，花费较高就不演示的，有需要的朋友可以直接一键部署使用即可。

千帆大模型平台的初体验到此结束，之后会分享更多的实践案例。