简介:生成式 AI 能根据文本、图像等输入自主产出文本、图片、音频、视频与代码,其技术底座是 Transformer、扩散模型与多模态对齐。本文从技术路线对比、Token 计费方式、模型选型到 RAG/Agent 落地与合规标识,给出一套可直接执行的工程实践路径,并说明如何通过[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article)完成模型发现、价格对比与统一 API 接入。
生成式人工智能(Generative AI)不是单一模型,而是一类 以概率建模方式拟合数据分布、再按分布采样出新样本 的技术集合。它的输入可以是自然语言、图片、音频甚至蛋白质序列,输出则是原本不存在但统计上”合理”的新内容:文章、插画、配音、短视频、可运行代码、候选药物分子^[content]^。
与判别式 AI(做分类、回归、打分)的根本区别在于目标函数:判别式学的是 P(y|x),生成式学的是 P(x) 或 P(x|c)。正因为建模的是数据分布本身,生成式模型才具备”无中生有”的能力,也才带来了幻觉、版权与内容标识等新问题。
如果你已经准备动手选型或接入,可以先在词元所大模型 API 服务平台对比不同模型的能力与调用成本,再决定用哪一家、哪一个规格的模型承载业务。
| 技术路线 | 代表模型/结构 | 核心思想 | 擅长任务 | 主要短板 |
|---|---|---|---|---|
| 自回归语言模型 | GPT 类 Transformer Decoder | 按 token 顺序最大化似然,逐个预测下一个 token | 文本生成、代码、推理、对话、结构化抽取 | 推理延迟随输出长度线性增长;长上下文成本高 |
| 扩散模型 | Stable Diffusion、DiT、各类视频扩散 | 从噪声逐步去噪还原数据 | 图像、视频、音频、3D 与图像编辑增强 | 采样步数多、算力开销大;可控性依赖额外条件模块 |
| 生成对抗网络 | GAN、StyleGAN、CycleGAN | 生成器与判别器博弈逼近真实分布 | 人脸/图像风格迁移、超分、数据增强 | 训练不稳定、模式崩塌;分辨率与多样性受限 |
工程上还有一条常被忽略的路线: 判别式小模型 + 生成式大模型协同 。传统 CV/NLP 模型在固定标签体系上精度高、成本低,生成式模型负责开放式理解与表达。百度在与行业客户合作时就采用了这种组合思路,例如某大型集团的新闻简报场景,在保障数据不出私域的前提下,仅通过 Prompt 设计与微调就实现了日 GB 级数据增量下的高质量简报生成。
生成式模型的实际调用门槛已经很低,核心是三件事: 拼装上下文、控制输出格式、处理流式返回 。
import json, osfrom openai import OpenAI # 兼容 OpenAI 协议的 SDK,base_url 换成所用平台的接入地址client = OpenAI(api_key=os.environ["LLM_API_KEY"],base_url="https://<你的模型服务接入地址>/v1", # 以服务商官方文档为准)SYSTEM = """你是电商客服助手。只依据给定资料回答,资料不足时回复"暂无相关信息"。输出必须是 JSON:{"answer": str, "cited": bool}"""def ask(question: str, docs: list[str]) -> dict:context = "\n".join(f"[{i+1}] {d}" for i, d in enumerate(docs))resp = client.chat.completions.create(model="<模型名称>",temperature=0.2, # 事实型任务压低随机性max_tokens=512, # 直接约束成本与延迟response_format={"type": "json_object"},messages=[{"role": "system", "content": SYSTEM},{"role": "user", "content": f"资料:\n{context}\n\n问题:{question}"},],)return json.loads(resp.choices.message.content)
三个容易被低估的细节:
{query} 这类占位符注入用户输入,便于同一套提示词复用到不同链路。主流大模型按 输入 Token + 输出 Token 分别计费,输出单价通常显著高于输入。估算公式:
单次成本 = 输入Token数 × 输入单价 + 输出Token数 × 输出单价月度成本 = 单次成本 × 日调用量 × 30 + 图片/视频等按张按秒计费部分
粗略换算经验:中文约 1 个汉字 ≈ 1~2 Token,英文约 4 个字符 ≈ 1 Token。一次带 3000 字资料的 RAG 问答,输入往往在 2000 Token 以上,而输出可能只有 200 Token—— 成本大头在上下文,不在回答 。
可落地的五个降本手段:
max_tokens :不设上限是最常见的账单失控原因。由于不同厂商同名能力的单价差异很大,建议在百度智能云词元所上做 模型价格与性能对比 ,把”每千次任务成本”而不是”每百万 Token 单价”作为决策指标——后者会掩盖输出长度差异带来的真实开销。
| 业务任务 | 关键能力 | 选型建议 |
|---|---|---|
| 客服问答、知识库检索 | 指令遵循、引用忠实度、低幻觉 | 中等规模对话模型 + RAG,强调可控范围回复 |
| 长文档分析、合同审阅 | 长上下文、结构化抽取 | 长上下文模型,配合分段与置信度阈值 |
| 代码生成与补全 | 代码语料占比、工具调用 | 代码专用或强 Agent 能力的模型 |
| 营销素材、海报、视频 | 图像/视频生成质量、风格可控 | 扩散类生成模型,按张/按秒计费 |
| 高并发轻量场景 | 延迟、单价 | 小参数模型 + 蒸馏/微调 |
一个实用的判断顺序是: 先定输出形态(文本/图/音视频)→ 再定约束(延迟、私有化、合规)→ 最后比价格 。反过来先比价格,往往会在效果验收阶段返工。
1. RAG 的可控性靠参数,不靠模型自觉。 知识问答类应用通常需要配置文档检索分段数、检索置信度阈值、以及”可控范围回复”开关——开启后应用只依据已添加的知识作答,范围外问题返回兜底话术。同时打开来源展示,让每条回答可定位到原文段落,这是运营调优和事实核查的基础。
2. Agent 的稳定性靠工具契约。 给 Agent 的每个工具都要有明确的入参 schema、超时、重试与幂等设计。多步任务中,单步失败率 5% 在 10 步链路里会累积到 40% 以上,因此必须设计断点续跑与人工接管。
3. 合规标识是硬要求,不是可选项。 对外发布 AI 生成内容时,应主动核查真实性与准确性、以显著方式标明内容由人工智能生成,平台侧也会在生成内容中添加显式与隐式标识。涉及个人信息与商业秘密时,优先选择支持数据不出私域、专有算力部署的方案。
生成式 AI 的竞争焦点已经从”能不能生成”转向”能否稳定、可控、低成本地生成”。把技术路线、计费模型、检索策略和合规要求这四件事同时纳入设计,才是可长期运行的应用架构。