简介：在冻结的大模型上优化Prompt，并不是只有“改写句子”这一种方式。本文从连续空间梯度下降、离散空间贪心搜索到让大模型自身参与优化，系统对比三条Prompt优化路线的技术原理、关键差异、适用场景与使用边界，帮助开发者判断何时该用Soft Prompt，何时该做离散搜索，以及“让模型自己写Prompt”在什么条件下才真正可行。
在冻结参数的大模型上，Prompt是唯一可以直接控制的输入变量。很多开发者会自然产生一个想法：既然模型训练可以用梯度下降找到最优参数，那能不能用同样的方法，找到“最优Prompt表达”？
这个想法的数学直觉是对的，但实现路径远比想象中复杂。原因在于，Prompt本质上是离散的文本序列，而梯度下降天然适用于连续可微空间。于是，围绕“如何把Prompt优化放进可优化框架”，学术界和工程界分化出了三条差异极大的路线：
三条路线共享同一个目标：在冻结模型参数的前提下，最小化某个任务上的损失函数。但它们在优化对象、搜索空间、可解释性、计算成本、工程落地难度上存在根本差异。
Soft Prompt的核心思想是：不在自然语言层面搜索，而是直接在嵌入空间插入一段可学习的连续向量前缀。
形式化地，给定一个冻结的预训练模型，其参数记为θ，我们在输入前面拼接一段向量：
Pϕ ∈ R^(l×d)
其中，l是Prompt长度，d是模型隐藏维度。训练目标为：
minϕ L(θ, Pϕ; D)
这里模型参数θ完全冻结，只对ϕ做反向传播。梯度信息可以精确计算，优化过程与常规神经网络训练无异。
这种方法规避了离散文本不可微的问题，将Prompt优化转化为标准的连续优化问题。代价是：优化出来的Prompt不再是人能看懂的自然语言，而是一串浮点数向量。
Hard Prompt路线坚持Prompt必须是自然语言文本。它的基本流程是：
这条路线的难度在于，Token是离散符号，梯度信号只能提供“方向感”，不能直接给出“替换后损失会变成多少”的精确值。因此，本质上是把梯度当作启发式信号，用搜索算法在离散空间里逼近最优解。
这条路线的思路更直接：既然大模型能理解和生成自然语言，为什么不让它自己根据反馈优化Prompt？
流程通常如下：
这种方式把“优化器”的角色从梯度下降算法替换成了大模型本身。其优势是优化结果始终是自然语言，可读性强；劣势是优化过程不稳定，搜索方向受模型自身能力限制。
| 维度 | Soft Prompt | Hard Prompt梯度搜索 | LLM自优化 |
|---|---|---|---|
| 优化空间 | 连续向量空间 | 离散Token空间 | 离散自然语言空间 |
| 可微性 | 完全可微 | 不可微，需近似梯度 | 不可微，靠模型生成 |
| 梯度信号 | 精确反向传播 | 近似梯度或代理信号 | 反馈文本信号 |
| 搜索方式 | 梯度下降 | 贪心替换、束搜索等 | 模型自生成候选 |
这是三条路线最根本的分歧点。Soft Prompt通过改变Prompt的表示形式，绕开了离散优化的困难；Hard Prompt在保留自然语言形式的前提下，不得不用近似方法处理不可微问题；LLM自优化则完全跳出了梯度框架，把优化问题转化为生成问题。
Soft Prompt优化出的向量无法被人类阅读，只能在特定模型和特定任务上使用。同一组向量换到参数结构不同的模型上通常无法直接迁移，甚至在同一模型的不同版本之间也需要重新训练或对齐。
Hard Prompt产出的是自然语言，天然具备可解释性。开发者可以阅读、修改、审核这些Prompt，也更容易在不同模型之间迁移试用。但需要注意，即便是自然语言Prompt，在不同模型上的效果也可能差异显著，迁移时仍需重新验证。
LLM自优化路线在可解释性上最有优势，因为它产出的不仅是自然语言，还通常带有模型自己的“推理痕迹”——模型会解释为什么这样改写、考虑了哪些因素。
Soft Prompt的训练成本相对可控。 由于只优化极小部分参数，反向传播的显存和算力需求远低于全参微调。但实现它需要修改模型的前向输入流程，对工程封装有一定要求。
Hard Prompt梯度搜索的计算成本主要来自反复前向传播。 每次替换候选词都需要重新计算损失，当候选词表较大时，计算量会快速增长。实际应用中通常需要限制候选集大小，或采用批处理方式加速评估。
LLM自优化的成本结构不同。 每次迭代都需要调用大模型生成新Prompt，生成成本与迭代次数线性相关。如果验证集较大，评估成本也会叠加。这种方式的总消耗往往被低估，尤其在需要多次迭代才能收敛时。
Soft Prompt在连续空间做梯度下降，收敛行为相对可预测，但仍可能陷入局部最优。Prompt向量的初始化方式、学习率设置都会影响最终效果。
Hard Prompt梯度搜索的稳定性较差。由于梯度信号只是近似，贪心替换容易陷入局部最优，且对初始Prompt质量高度敏感。替换顺序、候选词采样策略都会导致截然不同的结果。
LLM自优化路线的不确定性最强。模型的改写行为受温度参数、上下文构造方式、反馈信息呈现形式等多重因素影响。同一组输入可能产生差异很大的候选，需要配合人工筛选或多次采样取优。
尽管三条路线在实现机制上差异巨大，但它们共享几个基本前提：
第一，模型参数冻结。 三条路线都不修改大模型本身，而是在输入端做文章。这是它们与微调类方法的本质区别，也决定了它们的共同优势：不需要重新训练模型，部署相对轻量。
第二，目标函数一致。 无论优化对象是向量还是文本，最终目的都是在给定任务数据集上最小化某个损失指标。评估用的损失函数、验证集构造方式在不同路线之间可以通用。
第三，都面临“过拟合到验证集”的风险。 当Prompt被针对特定验证集反复优化时，性能指标可能虚高，但泛化到新样本后效果下降。Soft Prompt尤其容易过拟合到训练分布，而LLM自优化路线则可能在改写过程中过度适配评估集的表面模式。
第四，都需要配套的评估系统。 没有可靠评估，Prompt优化就是盲搜。三条路线都依赖一个能够稳定区分Prompt好坏的评估机制，这比优化算法本身更决定最终效果的上限。
选型不应取决于“哪条路线更新颖”，而应回到三个基本问题：
第一，Prompt的可读性是否构成硬约束？ 如果是，Soft Prompt直接排除，在Hard Prompt搜索和LLM自优化之间选择。如果不是，Soft Prompt通常在性能和稳定性上更可控。
第二，团队具备怎样的工程能力？ Soft Prompt需要修改输入表示层，Hard Prompt需要实现离散搜索逻辑，LLM自优化需要设计稳定的评估反馈闭环。选择与团队能力匹配的路线，比选择论文里指标最好的路线更重要。
第三，评估系统的成熟度如何？ 如果评估指标本身不可靠，任何优化路线都会放大噪声。建议在投入优化工作之前，先把评估集、评估指标和基线Prompt跑通。
一个常见的误判是：认为“让LLM自己优化Prompt”成本最低，因为它不需要改模型也不需要写训练代码。但实际落地中，迭代不稳定带来的调试成本、评估集构造成本、以及反复调用模型的时间成本，往往高于预期。它更适合作为快速验证想法的工具，而非对稳定性要求高的生产方案。
如果已经使用其中某条路线，考虑切换到另一条路线时，以下几点需要提前评估：
评估体系的可比性。 不同路线对Prompt的评估方式可能不同，不能直接将一种路线下的分数与另一种路线对比。切换前应统一验证集和评估指标。
Prompt的资产化管理。 自然语言Prompt可以进入版本管理和审核流程，Soft Prompt则更像模型权重文件，二者的存储、回滚、审计方式完全不同。
模型升级的兼容性。 当底座模型版本升级时，Soft Prompt通常需要重新训练或至少重新验证；自然语言Prompt虽然可以在新模型上直接测试，但效果不保证一致。
推理延迟的差异。 Soft Prompt增加了输入前缀长度，会小幅增加推理计算量；Hard Prompt如果搜出了更长的Prompt，同样会影响延迟；LLM自优化产出的Prompt长度不可控，需要额外约束。
安全与合规。 如果Prompt会进入日志、审计或对外展示，使用不可读的Soft Prompt需要额外的元数据管理，否则出了问题时难以定位责任。自然语言Prompt在这方面的可追溯性明显更强。
“用梯度下降找最优Prompt”这个直觉本身没有问题，但落地时必须在连续可微与离散可解释之间做出选择。Soft Prompt把问题转化为连续优化，性能可控但牺牲可读性；Hard Prompt梯度搜索坚持自然语言形式，却在不可微空间里挣扎，适合对可解释性有要求的场景；LLM自优化看似最智能，但其稳定性和成本结构决定了它更适合探索性任务，而非所有生产场景的默认选择。
三条路线并不是互斥的。实际工作中更常见的做法是：用LLM自优化快速生成一个不错的自然语言Prompt作为起点，用Hard Prompt搜索做局部精细化，如果任务场景允许牺牲可读性，再考虑是否用Soft Prompt进一步压榨性能。真正决定Prompt优化效果上限的，不是选择哪条路线，而是评估系统是否足够可靠，以及团队对优化目标和代价是否有清晰的判断。