简介:视频生成模型在画面质量上突飞猛进,但文字渲染仍是系统性短板。本文从评测基准设计的角度出发,分析文字渲染为何长期被主流评测体系忽略、难在何处,以及一套覆盖多场景、可自动化、与人类判断对齐的基准测试应如何构建,为开发者提供评测思路与工程实践参考。
设想这样一段由某视频生成模型输出的10秒广告短片:镜头里,一位年轻人在工作台前调试设备,光影层次自然,动作衔接流畅,镜头切换干净利落。快速浏览一遍,多数人会给它打高分——它看起来确实像一条合格的产品广告。
但如果逐帧审视画面中的文字,问题就暴露了:海报标题里的 “Poster” 被多拼了一个音节,广告语中的 “algae” 少了一个字母,“vivid” 被改成了不存在的词,旁边还凭空多出一个无意义的单词。瓶身标签上的 “CO2-neutral” 要么重复出现,要么拼写错误。
在“剧情合理性、动作自然度、场景连贯性”等维度上,这段视频在20项检查中满足了18项,综合得分达到0.90。然而它的文字错误率高达0.552——超过一半的文字内容是错的。画面越精致,文字错误就越刺眼。
这正是当前视频生成评测体系中一个系统性盲区:模型拍视频越来越像电影,但只要画面里出现文字,翻车概率就急剧上升。
过去几年,几乎所有主流视频生成评测基准都没有专门衡量视频中的文字正确性。画面美学、动作流畅度、物理规律一致性、镜头语言专业性——评估维度五花八门,唯独很少有人认真去数一数:海报上的字、路牌上的字、界面里的字,到底写没写对。
这不是研究者疏忽,而是文字评测本身太难:
自动化判断“这段文字对不对”,远比判断“这个人走路姿势自不自然”困难。已有的少数尝试依赖人工逐帧观看、逐项打分——在学术研究中小规模使用尚可,但如果要频繁测试、迭代、对比十几个模型,人工评测的成本就彻底不可承受。
要解决这个问题,需要设计一套既能覆盖长文本、又能自动化评测、还能与人类判断保持高度一致的基准测试。这背后有三个核心挑战:
文字在现实世界中承载信息的场景极其广泛。如果评测集只覆盖少数几个场景,结论就不具备泛化性。合理的做法是先由领域专家划定顶层应用场景,再逐层细分。
例如,可以划分出五大类:广告、科学、用户界面、文化、日常生活。这几乎覆盖了日常生活中绝大多数“文字承载信息”的典型情境。在每个大类下再细分具体子场景——广告类可包含实体产品、旅游推广、公益活动;科学类可包含物理、化学、材料科学、生命科学等。
最终形成的基准应包含数百条精心构造的提示词,每条提示词明确规定:画面中应出现什么文字、这些文字应出现在什么载体上(如一张海报、一个标签、一块显示屏)。
人工评测不可扩展,必须设计自动化方案。核心思路是:
这一流程的关键在于:文字检测和识别模型本身需要足够鲁棒,能够应对模糊、遮挡、透视变形等复杂情况。
自动化指标如果与人类感知不一致,就失去了意义。因此基准设计必须包含人机对齐验证环节:邀请人类评测者对同一批视频进行文字正确性打分,然后计算自动化指标与人工评分之间的相关性。只有当两者高度一致时,自动化评测结果才可信。
一套可落地的视频文字渲染评测基准,通常包含以下模块:
输入层:- 提示词集合(含目标文字、载体、场景描述)- 待评测模型列表生成层:- 调用各视频生成模型,产出视频样本检测层:- 文字区域检测(支持多帧、多载体)- 光学字符识别(支持多语言、多字体)比对层:- 识别文本 vs 目标文本对齐- 字符级/词级错误率计算报告层:- 单模型文字错误率- 跨模型对比- 分场景错误分布
在提示词设计上,需要刻意增加难度梯度:短文本 vs 长文本、单一载体 vs 多载体、静态文字 vs 运动中的文字、清晰文字 vs 部分遮挡的文字。这样才能全面暴露模型在不同条件下的文字渲染能力。
不要被画面质量迷惑:视频生成模型的视觉质量与文字正确性是两个独立维度。在选型或自研时,应将文字渲染能力作为单独指标进行评测。
建立自己的文字测试集:根据业务场景(如电商广告、教学视频、界面演示),构造包含目标文字的提示词集合,定期回归测试。
关注错误率而非仅看通过率:一段视频可能整体“看起来不错”,但文字错误率可能超过50%。量化错误率才能发现真实短板。
后处理可作为过渡方案:在模型文字渲染能力成熟之前,可考虑在生成后对文字区域进行检测和替换,但这会增加工程复杂度,且可能影响画面自然度。
推动评测标准化:只有社区共同采用统一的文字渲染评测基准,才能形成可比较的模型能力画像,推动模型在该维度上持续改进。
视频生成模型正在快速逼近“以假乱真”的画面质量,但文字渲染仍是其系统性短板。这一问题的严重性在于:它长期被主流评测体系忽略,导致模型在“高分”掩护下持续输出错误文字。构建一套覆盖多场景、可自动化、与人类判断对齐的评测基准,不仅是学术问题,更是工程实践中的迫切需求。对于开发者和企业用户而言,尽早将文字渲染纳入评测体系,才能在视频生成技术的选型与应用中避免“看起来很美”的陷阱。