卷积与积分变换:大模型数学基础教程

作者:沙与沫2026.11.04 12:08浏览量:0

简介:本文从卷积的物理直觉出发,系统讲解加权叠加、卷积核、翻转滑动与图像卷积操作,帮助开发者理解大模型中局部建模与特征提取的数学基础,掌握可验证的推导与排查方法。

卷积与积分变换:大模型数学基础教程

一、教程目标

本教程面向开发者、算法工程师和技术负责人,目标是帮助读者真正理解卷积这一数学工具的核心机制,并能够将其与大模型中的局部建模、特征提取和时序加权等概念建立联系。读完本教程,你将能够:

  1. 用自己的语言解释卷积的物理含义与数学定义;
  2. 手动推导一个离散卷积的计算过程;
  3. 理解卷积核在图像和序列数据中的作用;
  4. 将卷积思想迁移到对大模型基础结构的理解中。

本教程不要求读者具备深度学习框架的使用经验,但需要具备基本的函数、求和、积分和线性代数概念。

二、适用场景

卷积思想广泛出现在以下技术场景中:

  • 时序建模:对历史输入按衰减规律进行加权叠加,计算当前时刻的总效果;
  • 图像处理:通过局部窗口滑动提取边缘、纹理等特征;
  • 信号处理:描述系统对输入信号的响应;
  • 大模型基础结构:局部感受野、权重共享、特征层级提取等思想均与卷积密切相关。

理解卷积,是理解“局部加权叠加”这一通用建模范式的起点。

三、前置准备

在开始动手推导之前,请确认以下基础知识:

  1. 函数概念:理解 f(x)、g(x) 表示随自变量变化的量;
  2. 求和符号:理解 Σ 表示对一系列项累加;
  3. 积分概念:理解积分是连续情形下的累加;
  4. 基本图像像素概念:了解图像由像素矩阵组成,每个像素有数值。

无需安装任何特定软件。本教程的推导可以用纸笔完成,也可以用任意通用编程语言验证。

四、核心概念:什么是卷积

4.1 直观定义

卷积是一套加权叠加计算。它要解决的问题是:

所有历史输入,经过系统规则衰减、延迟或变换后,在当下时刻叠加在一起的总效果是多少?

这里的“系统规则”就是卷积核。卷积核决定了每一份历史输入对当前时刻贡献多少权重。

4.2 物理直觉:回声

想象一次爆炸发出声音。声音直接到达耳朵,同时经墙壁多次反射后衰减到达。任意时刻听到的总音量,等于原始声波乘以不同延迟和衰减后的回声叠加。

回声是客观物理现象,而卷积是人类用来描述它的数学工具。这个顺序很重要:先有规律,后有工具。

4.3 数学表达

连续形式的卷积定义为:

  1. (f * g)(t) = ∫ f(x) · g(t - x) dx

离散形式为:

  1. (f * g)[t] = Σ f[x] · g[t - x]

关键观察:两个函数的参数 x 和 t-x 相加,x 作为变量被抵消,留下常量时间 t。这正是卷积“翻转滑动”特性的来源。

五、实施步骤:手动推导一个离散卷积

步骤一:设定场景

假设每天随机进货,货物以固定速率消耗。求第 T 天晚上仓库剩余货物。

  • f(x):第 x 天早上买入的货物量;
  • g(x):买入后经过 x 天,货物剩余比例。

步骤二:定义具体函数

假设未来 3 天每天早上买入曲线为:

  1. f(x) = x + 1

即第 0 天买 1 份,第 1 天买 2 份,第 2 天买 3 份。

货物每天均匀消耗,10 天消耗完,则剩余比例:

  1. g(x) = (10 - x) * 0.1

即第 0 天剩余 1.0,第 1 天剩余 0.9,第 2 天剩余 0.8,依此类推。

步骤三:计算第 3 天晚上的总剩余

第 3 天晚上,仓库中剩余货物来自不同时间买入的叠加:

  1. 总剩余 = f(0)·g(3) + f(1)·g(2) + f(2)·g(1)
  2. = 1×0.7 + 2×0.8 + 3×0.9
  3. = 0.7 + 1.6 + 2.7
  4. = 5.0

步骤四:抽象为通用公式

将上式推广到第 T 天:

  1. 总剩余 = f(0)·g(T-0) + f(1)·g(T-1) + f(2)·g(T-2)

写成求和形式:

  1. 总剩余[T] = Σ f[x] · g(T - x)

这正是离散卷积的定义。当时间连续时,求和变为积分:

  1. 总剩余(t) = ∫ f(x) · g(t - x) dx

步骤五:理解翻转滑动的含义

把 g(x) 翻转后得到 g(-x),再沿时间轴滑动。每滑动到一个位置 t,就计算 f(x) 与 g(t-x) 的乘积并累加。这就是“翻转—滑动—相乘—积分”的四步操作。

六、卷积在图像中的操作

6.1 图像卷积的基本原理

图像卷积的核心思想是:周围像素对中心像素有影响。

具体操作是:用一个小的矩阵(卷积核)在原图上逐窗口滑动,窗口内像素与核对应数值相乘后求和,得到新像素值。

6.2 一个 3×3 卷积核示例

假设卷积核为:

  1. 0 -1 0
  2. -1 5 -1
  3. 0 -1 0

这个核的作用是增强中心像素、削弱周围像素,常用于锐化。

6.3 计算过程示意

对于图像中某个 3×3 区域:

  1. 10 20 30
  2. 40 50 60
  3. 70 80 90

与上述核逐元素相乘并求和:

  1. 0×10 + (-1)×20 + 0×30
  2. + (-1)×40 + 5×50 + (-1)×60
  3. + 0×70 + (-1)×80 + 0×90
  4. = 0 - 20 + 0 - 40 + 250 - 60 + 0 - 80 + 0
  5. = 50

新像素值为 50,替换原中心像素 50 所在位置。滑动窗口遍历整张图,得到新图像。

6.4 卷积核的设计

卷积核的数值是人为定义的,不同数值对应不同效果:

  • 平滑核:所有元素为正且和为 1;
  • 锐化核:中心为正、周围为负;
  • 边缘检测核:正负交替,检测灰度变化。

注意:图像卷积中,核通常不翻转(严格说是互相关),但在数学定义中卷积需要翻转。工程实现中常混用这两个概念,理解时需注意区分。

七、结果验证

完成上述推导后,可以通过以下方式验证理解是否正确:

  1. 数值验证:用任意编程语言实现离散卷积公式,与手动计算结果对比;
  2. 边界检查:当 T 小于 0 时,卷积结果应为 0(没有输入);
  3. 归一化检查:若卷积核所有元素之和为 1,输出图像整体亮度应保持不变;
  4. 维度检查:离散卷积输出长度 = 输入长度 + 核长度 - 1(完整卷积情形)。

八、常见问题与排查

问题一:卷积和互相关有什么区别?

卷积需要翻转核,互相关不翻转。在图像处理中,如果核是对称的,两者结果相同。在数学推导中,必须区分。

问题二:为什么卷积要翻转?

翻转来自定义中的 g(t - x)。当 t 增大时,g 的图形沿正方向滑动。从计算角度看,翻转是为了让“历史输入的贡献”正确对齐到当前时刻。

问题三:卷积核大小如何选择?

核越大,感受野越大,但计算量增加。常见选择是 3×3、5×5、7×7。大模型中常用小核堆叠来近似大核效果。

问题四:边界像素怎么处理?

常见策略包括:补零、复制边缘、镜像填充。补零最简单,但会引入边缘效应;复制边缘能减轻边界突变。

九、优化建议

  1. 计算优化:卷积可通过快速傅里叶变换加速,将时间复杂度从 O(n²) 降到 O(n log n);
  2. 参数共享:同一个卷积核在整张图上滑动,大幅减少参数量;
  3. 稀疏交互:每个输出只与局部输入相关,降低连接数;
  4. 等变表示:卷积对平移具有等变性,这是其在图像任务中有效的重要原因;
  5. 可维护性:将卷积核设计为可配置参数,便于实验不同效果。

十、总结

本教程从物理直觉出发,逐步推导了卷积的数学定义,演示了离散卷积的手动计算过程,并说明了卷积在图像处理中的具体操作。

核心要点回顾:

  • 卷积是加权叠加计算,描述历史输入经系统规则变换后在当前时刻的总效果;
  • 卷积核是系统的记忆、衰减、变换规则;
  • 离散卷积公式为 Σ f[x]·g(t-x),连续形式为积分;
  • 图像卷积通过局部窗口滑动实现像素级特征提取;
  • 卷积的翻转、滑动、相乘、累加四步操作是其核心机制。

在大模型的理论基础中,卷积思想以局部感受野、权重共享、层级特征提取等形式持续发挥作用。理解卷积,是理解更复杂模型结构的重要一步。后续可继续关注卷积的变体、注意力机制与卷积的关系,以及它们在序列建模中的结合方式。