简介:深度合成与生成式文本技术大幅降低了伪造门槛,虚假商品图、合成语音与批量软文正渗透进电商、社交与新闻场景。本文从生成模型的底层原理出发,系统梳理图像与视频的结构、光影、材质、文字、氛围五类感官判据,以及音频与文本的典型破绽,并给出一套可落地的人工核验流程,帮助普通读者与一线审核人员完成初步鉴别,降低被误导与被消费的风险。
先看一个典型场景:某电商大促期间,陆续有商家遭遇“仅退款”欺诈——买家提交所谓“质量问题”的商品照片作为凭证。其中一位商家放大图片后发现,画面角落残留着生成式工具默认叠加的水印特征,伪造行为就此败露;也有商家靠的是更朴素的方法:图中袜子的织物纹理重复得过分规律,“不像拍出来的”。
这类案例揭示了两个事实。第一,生成式工具已经从单纯的效率助手演变为双重角色:既能当好工作秘书,也可能沦为欺诈的帮凶。第二,即便不借助专业检测工具,仅凭人的观察与常识推理,也能在相当比例的伪造内容上命中要害——前提是你知道往哪儿看。
坏的是人,不是工具。但操纵工具的人散落各方,无法逐一识别,我们能做的是对“内容本身”建立防线。本文按“原理—判据—流程”的顺序,覆盖图像、视频、音频、文本四种模态,给出一套体系化的感官鉴别方法。
判据若只靠死记硬背,模型一迭代就会失效;理解伪影的成因,才能举一反三。
当前主流的图像生成范式是扩散模型:从一张纯噪声出发,反复“去噪”,逐步逼近一张统计意义上“像照片”的图。注意关键词——统计意义。模型学到的是像素的常见组合方式,而不是光线传播、刚体力学、透视投影这些物理规则。它没有全局的光线追踪器,去噪过程又往往分区域、分尺度进行,因此全局一致性(光源方向、镜面内容、多物体间的比例关系)天然是弱项。
视频生成大多在图像能力之上叠加时序建模,逐段生成再拼接,跨帧的物体恒常性与人物身份稳定性仍是公认难题。音频合成依赖声学模型加声码器,对呼吸、换气、口腔噪声这类“不完美但真实”的副语言现象建模不足。文本生成基于下一词的概率预测,天然倾向输出“高概率表达”——通顺、面面俱到、四平八稳,代价是具体性、个人经验与冒险的表述变少。
一句话总结:AI优化的是“看起来像真的”,而不是“物理上、逻辑上为真”。所有感官判据,都是围绕这道缝隙展开的。
这是模型最容易出错、也最容易被肉眼捕捉的维度。
实操技巧:用手遮住人脸,只看肢体与关节;或把图中已知尺寸的物体(门、椅子、手机)当作标尺,反推其他物体的尺寸是否合理。
即便是一流的生成模型也常在此翻车,因为阴影与反射需要全局计算。
实操技巧:先确定画面主光源位置,再逐一核对每个人物、每件物品的受光面与投影是否自洽。
之所以把文字放在优先级靠前的位置:文字是强语义符号,人眼对其异常极其敏感;而对生成模型而言,文字恰恰是统计分布中最难拟合的对象之一。图里只要有文字,先读它。
单看氛围不足以定性,但它是最好的初筛信号——十秒钟扫一遍,命中即转入细查。
静态图的所有判据都适用于视频的每一帧,但视频还有额外维度:
主动验证技巧:在实时通话中要求对方即兴说指定内容——一串随机数字、一句绕口令、复述你刚才的原话。克隆语音面对“计划外输入”时的自然度会明显下降;如果对方始终推脱,本身就是一个强信号。
检验技巧:追问三连——“具体是什么时候?”“你是怎么知道的?”“能举个反例吗?”真实经历者能补充细节,生成内容往往只能绕回宏大叙事。
把判据组织成流程,才能稳定执行、便于复盘:
# 内容核验伪代码(人工执行)输入: 待核验内容 item1. 初筛(约10秒): 整体氛围 + 文字符号命中任一异常 → 标记, 进入细查2. 细查(约1分钟): 结构逻辑 → 光影反射 → 材质细节累计命中 ≥ 2 类 → 高度疑似3. 溯源: 以图搜图 / 检索首发账号与首发时间 / 多源交叉验证4. 语境: 发布者利益相关性、情绪诱导、是否引导转账或点击5. 处置: 存证截图 → 平台举报或内部上报 → 案例入库复盘输出: 结论 ∈ {可信, 存疑, 疑似伪造}
几个补充原则:
感官鉴别是概率判断,不是司法鉴定,要正视三点:
正确的姿态是“校准后的怀疑”:不因画面粗糙就断定伪造(低质量压缩、老设备同样造成伪影),也不因画面精美就放松警惕。判据给出的永远是“进入细查的理由”,而非“最终判决”。
AI生成内容的一切感官破绽,都源自同一个根因:模型优化的是统计上的“像”,而非物理与逻辑上的“真”。图像看结构、光影、材质、文字、氛围五维,视频加时序一致性,音频听韵律与副语言,文本追问细节与一手经验,最后用“初筛—细查—溯源—处置”的流程把判据固化下来。工具无罪,判别能力则是每个人信息素养的一部分——在深度合成普及的时代,“会看、会听、会问”正在成为与读写同等基础的能力。