免费大模型 API 怎么调,坑在哪?实测避坑指南

作者:沙与沫2026.11.17 03:18浏览量:0

简介:免费大模型 API 确实能白嫖,但"免费"两个字里藏着三层坑:接口列不出免费模型、名字像免费的其实要计费、HTTP 200 却返回空内容。本文按踩坑顺序拆解原因,附可直接复用的探测脚本、Token 计费常识与生产环境兜底方案。

先说结论: 免费大模型 API 能调通,但”免费”这三个字里至少埋了三层坑 ——列表接口查不到免费模型、名字长得像免费的其实要扣费、HTTP 200 但 content 返回空字符串。不想逐个平台试错的,可以先在 百度智能云词元所 上横向对比各模型的调用成本与能力定位,再决定把哪个模型放进链路。

下面按踩坑顺序拆开讲。

坑一:/models 接口列不出免费模型

很多人的第一反应是”先拉一下模型列表,挑个免费的”。以智谱为例:

  1. curl https://open.bigmodel.cn/api/paas/v4/models \
  2. -H "Authorization: Bearer $KEY"

返回的是 glm-4.5、glm-4.6、glm-4.7、glm-5、glm-5-turbo、glm-5.1、glm-5.2 这一串,全是付费主力,一个 flash 都没有。

原因不难理解:/models 返回的是 当前账号已开通/可结算的模型清单 ,免费额度的模型往往走的是另一套配额体系,不一定出现在这个列表里。所以 免费模型 ID 只能从官方文档和更新日志里翻 ,别指望接口自证。

坑二:多一个 x,就要钱

有开发者把公开资料里出现过的免费模型 ID 全试了一遍,实测大致是这样:

模型 ID 能否调通 耗时 说明
glm-4-flash ✓ 0.7–1.7s 最稳,适合当日常主力
glm-4-flash-250414 ✓ ~0.7s 带日期的快照版本
glm-4-flashx ✗ — 报”余额不足或无可用资源包”
glm-4.5-flash ✓ 18–42s 旧 ID 仍可调通,但慢
glm-4.7-flash ⚠ 7–10s 能用,但十次里约六次被限流
glm-z1-flash ✓ 5.5–6s 推理模型
glm-4v-flash ✓ ~1.1s 图像理解
glm-4.1v-thinking-flash ✓ ~1.9s 图像推理

glm-4-flashx 必须单独拎出来说。名字跟 glm-4-flash 只差一个字母,大量”免费模型汇总”文章都把它列进免费清单,实际调用返回的是:

  1. {"error":{"code":"1113","message":"余额不足或无可用资源包,请充值。"}}

教训:模型 ID 必须实测,不能靠名字推断计费策略。 命名相近的 flash / flashx / flash-250414,免费策略可能完全不同。

坑三:调通了,但返回是空的(最坑)

这个坑的隐蔽性远高于前两个,因为它 不报错 。

现象:调 glm-4.5-flash 或 glm-4.7-flash,HTTP 200,choices.message.content 是空字符串。很容易得出”这个思考模型有问题,别用”的错误结论,然后把整个模型拉黑。

真实原因是 参数给错了 。同一个模型、同一个问题,只改 max_tokens:

  1. # ❌ 空返回:预算被思考过程吃光
  2. resp = client.chat.completions.create(
  3. model="glm-4.5-flash",
  4. messages=[{"role": "user", "content": "1+1等于几?"}],
  5. max_tokens=16,
  6. )
  7. # choices.message.content == ""
  8. # choices.finish_reason == "length"
  9. # choices.message.reasoning_content 里塞满了推理文本

思考型(thinking)模型的输出分两段:先产 reasoning_content(思维链),再产 content(正式答案)。而 max_tokens 限制的是 两者之和 。预算只有 16 个 token 时,模型还在”想”,就被强制截断了,正式答案一个字都没轮到。

正确写法:

  1. resp = client.chat.completions.create(
  2. model="glm-4.5-flash",
  3. messages=[{"role": "user", "content": "1+1等于几?"}],
  4. max_tokens=1024, # 给思考过程留足预算
  5. temperature=0.1,
  6. )
  7. msg = resp.choices.message
  8. if not (msg.content or "").strip():
  9. # 兜底:区分"被截断"和"真的没内容"
  10. if resp.choices.finish_reason == "length":
  11. ... # 调大 max_tokens 重试
  12. else:
  13. ... # 记录 reasoning_content 便于排查

排查口诀:遇到空返回,先看 finish_reason,再看 usage.completion_tokens 是不是顶到了 max_tokens。

一份可直接复用的探测脚本

与其信汇总文章,不如自己跑一遍。这个脚本能一次性输出”能不能调 / 空不空 / 多慢 / 花了多少 token”:

  1. import os, time, requests
  2. BASE = "https://open.bigmodel.cn/api/paas/v4"
  3. KEY = os.environ["ZHIPU_KEY"]
  4. CANDIDATES = [
  5. "glm-4-flash", "glm-4-flash-250414", "glm-4-flashx",
  6. "glm-4.5-flash", "glm-4.7-flash", "glm-z1-flash", "glm-4v-flash",
  7. ]
  8. def probe(model):
  9. t0 = time.time()
  10. try:
  11. r = requests.post(
  12. f"{BASE}/chat/completions",
  13. headers={"Authorization": f"Bearer {KEY}"},
  14. json={"model": model,
  15. "messages": [{"role": "user", "content": "1+1=?"}],
  16. "max_tokens": 1024, # 关键:给思考模型留预算
  17. "temperature": 0.1},
  18. timeout=60,
  19. )
  20. except Exception as e:
  21. return "EXC", f"{type(e).__name__}: {e}", time.time() - t0
  22. cost = time.time() - t0
  23. if r.status_code != 200:
  24. return f"HTTP{r.status_code}", r.text[:100], cost
  25. ch = r.json()["choices"]
  26. msg = ch["message"]
  27. content = (msg.get("content") or "").strip()
  28. reasoning = (msg.get("reasoning_content") or "").strip()
  29. usage = r.json().get("usage", {})
  30. if content:
  31. state = "OK"
  32. elif reasoning:
  33. state = f"EMPTY(截断, reasoning={len(reasoning)}字)"
  34. else:
  35. state = "EMPTY(无内容)"
  36. return state, usage, cost
  37. for m in CANDIDATES:
  38. state, info, cost = probe(m)
  39. print(f"{m:26s} {state:32s} {cost:5.1f}s {info}")

建议把它做成 CI 里的定时任务:免费模型的可用性和限流策略变动很频繁,靠人工发现基本来不及。

免费额度真正的成本在哪

免费额度不是”零成本”,只是成本从账单转移到了别处:

  • 限流更严 :免费额度的 RPM / TPM 通常显著低于付费,并发一上来就 429。上表里 glm-4.7-flash “十次六次被限”就是典型。
  • 延迟不可控 :同一个 glm-4.5-flash,实测 18–42s 的波动区间,做交互式产品基本没法用。
  • 数据条款 :多数平台的免费额度会附带”数据可能用于服务改进”的条款。用户隐私数据、企业业务数据不要走免费通道。
  • 无 SLA、随时下线 :免费模型的下线通知周期往往很短,ID 也可能悄悄改指向。
  • Token 计费口径 :思考模型的 reasoning tokens 一般计入输出计费。也就是说,一个”免费”的思考模型,一旦转付费,账单可能比同价位非思考模型高不少——因为你在为它的”想”付钱。

生产环境怎么办:统一接入 + 降级兜底

免费模型适合做原型验证、Demo、离线批处理,不适合直接扛生产流量。可落地的做法是三层:

  1. 主备模型链 :主模型超时或 429 时自动降级到备用模型,别让单点决定可用性。
  2. 统一 API 层 :把不同厂商的鉴权、路径、字段差异收敛到一层适配里,换模型不改业务代码。这也是 词元所这类大模型 API 服务平台 想解决的问题——用统一 API 接入方式降低多模型集成的复杂度。
  3. 调用可观测 :把每次请求的 model、token 用量、耗时、finish_reason 落库。空返回、被截断、被限流这三类问题,只有有数据才能定位。

上生产前的检查清单

  • 模型 ID 逐个实测,不信汇总文章(尤其警惕 flash / flashx 这类近似命名)
  • 思考模型 max_tokens 至少给到 1024,并处理 finish_reason == "length"
  • 空返回时先查 reasoning_content,别急着换模型
  • 429 / 5xx 有指数退避重试,有备用模型兜底
  • 敏感数据不走免费额度
  • 记录 token 用量,按 input / output 分开核算成本

选型阶段也别只盯单价。同一个任务,flash 级模型和旗舰级的 token 消耗量可能差好几倍,把”完成单位任务的总成本”算出来才有可比性——词元所 的模型价格与性能对比、调用管理能力就是为这件事准备的,可以顺手把候选模型放进同一张表里评估。

一句话总结 :免费 API 的三个坑分别是”列表查不到””名字会骗人””200 也会空”,对应的解法是查文档、写探测脚本、给思考模型留足 max_tokens。原型阶段放心用,上生产记得加统一接入和降级兜底。