群发资讯网

一张图看懂AI背后:向量、矩阵、SVD是什么


经常有同学问我:想入门AI、机器学习,数学到底要学到什么程度?
我的答案很明确:绕不开线性代数。
很多人一看到满屏的矩阵符号就头疼,以为这只是大学考试用来做题的知识点。其实线性代数根本不是为了算行列式而生的,它是一套「用数字描述世界、变换数据」的语言。
今天我就结合这张图,用大白话讲清楚支撑AI最核心的9个概念,尽量不用晦涩术语,建议想学编程、人工智能的朋友收藏。

先建立一个最重要的观念:线性代数里,向量就是数据,矩阵就是变换。
很多教材一上来就抛定义,搞得大家云里雾里。我们换个视角:计算机看不懂图片、文字、声音,它只能读懂一串数字,这串数字,就是向量。

1. 向量:数据的表示
什么是n维向量?简单说就是一竖列数字:x = [x₁,x₂…xₙ]^T。
一张256×256像素的灰度图,拉平之后就是一个六万多维度的向量;一段语音采样之后,也是一个向量;甚至推荐系统里,你的用户画像,同样可以表示成一个高维向量。
向量可以做两件基础操作:相加和数乘。
x+y,可以理解成把两组数据叠加;c乘以x,相当于把这一组数据整体放大或者缩小。
很多初学者以为向量只是二维、三维空间里的箭头,殊不知在AI里面,向量动辄成百上千维,它不再看得见摸得着,只是用来存放特征的容器。

2. 矩阵:数据的变换
矩阵A是m行n列的数字表格。最关键的式子就是 y = Ax。
这句话翻译成人话:拿矩阵A,去“加工”输入向量x,得到输出向量y,这个过程就叫线性变换。
你可以把矩阵想象成一个函数,但它处理的不是一个数字,而是一整组数据。图像旋转、调色、特征提取,本质上都是拿一个矩阵去乘原始数据向量。
这里有一个巨大误区:不少同学觉得矩阵就是一张数表。不对!数表只是它的“皮囊”,它真正的灵魂,是一套对空间、对数据的变换规则。

3. 矩阵乘法:组合变换
矩阵乘法C=AB,很多人只会背“行乘列再相加”,却不知道含义。
如果B是第一个变换,A是第二个变换,那么C=AB就代表:先做B变换,再做A变换,把两次变换合并成一个新矩阵C。
注意一个硬性规则:内侧维度必须相等!m×n的矩阵,只能乘n×p的矩阵。
还有一个高频坑:矩阵乘法不满足交换律,AB≠BA!就好比你先开门再开灯,和先开灯再开门,虽然结果差不多,但很多变换顺序一变,意义完全不同。在深度学习里,矩阵顺序错了,输出直接就乱掉。

4. 转置:行列互换
A的转置Aᵀ,就是把行和列翻过来。
有三条基本性质:(Aᵀ)ᵀ=A;(A+B)ᵀ=Aᵀ+Bᵀ;(AB)ᵀ=BᵀAᵀ。
尤其最后一条,转置之后顺序要颠倒!很多人写代码、做推导的时候随手写成AᵀBᵀ,直接出错。
在AI里,转置经常用来匹配维度,让向量和矩阵能够顺利相乘,就像接口不对,我们要先转一下才能插上。

5. 行列式:带符号的体积缩放
不少同学大学考完试就把行列式还给老师了,觉得除了考试毫无用处。
2阶行列式det(A)=ad‑bc,3阶也有展开公式。它到底代表什么?
通俗来讲:行列式就是这个矩阵做变换的时候,把一个单位正方形(立方体)的面积/体积放大了多少倍!
如果行列式等于0,说明这个变换直接把空间“拍扁”了,降维了;如果是负数,代表变换的时候空间翻了个面、取向翻转。
而且有个关键点:只有方阵才有行列式!非方阵是没有行列式定义的。

6. 逆矩阵:逆转可逆变换
如果矩阵A是一把锁,那逆矩阵A⁻¹就是钥匙。满足A⁻¹A = AA⁻¹ = I(单位矩阵,相当于数字世界的“1”)。
它的物理意义:把A做过的变换,原路退回去。
但是!不是所有矩阵都有逆矩阵。两个前提:必须是方阵,并且行列式det(A)≠0。
一旦行列式等于0,空间被拍扁了,信息已经丢失,就再也回不去了,这个矩阵不可逆。
AI里面很多求逆操作,工程师都会尽量避开,因为数值很不稳定,还容易奇异。

7. 特征值与特征向量:特殊方向
公式 Av = λv,这是线性代数最美也最有用的公式之一。
v叫特征向量,λ叫特征值。什么意思?
当矩阵A做空间变换的时候,绝大多数向量都会被扯歪、旋转;但有一些特殊的向量v,被变换之后,方向不变,仅仅长度被拉伸或者压缩λ倍;λ小于0的时候还会反向。
很多降维算法、图像处理、主成分分析PCA,本质就是在找这些“不变的特殊方向”,也就是数据里最重要的特征方向。

8. 范数:衡量向量或矩阵的大小
普通数字我们知道多大,那高维向量怎么衡量它“有多大”?答案就是范数。
L1范数:所有数字绝对值相加;
L2范数:最常用,每个数平方求和再开根号,相当于高维空间里的欧氏距离;
L∞范数:取里面最大的那个绝对值;
还有矩阵的弗罗贝尼乌斯范数,用来衡量整个矩阵的大小。
AI训练的时候经常加L1、L2正则,就是用范数去约束参数,防止模型过拟合!很多人天天听见正则化,却不知道根就在范数上。

9. 奇异值分解(SVD):矩阵分解
公式 A=UΣVᵀ,这可以说是AI的“瑞士军刀”。
哪怕A不是方阵,也可以做SVD!它把任意一个矩阵,拆成三个矩阵相乘:U、V是正交矩阵,Σ是对角矩阵,放着非负、降序排列的奇异值。
我们可以简单理解:把复杂变换,拆解成「旋转 → 按权重缩放 → 再旋转」三步。
图片压缩、推荐系统、PCA降维、大模型里很多矩阵运算,背后都有SVD的身影。很多人说SVD是线性代数皇冠上的宝石,一点不夸张。

说了这么多,我想给准备入门AI的同学一句真心话:
不要把线性代数当成一堆孤立公式死记硬背。每一个符号背后,都有它对应的现实意义:向量存数据,矩阵做变换,特征找方向,SVD做分解。
很多人学的时候只刷题,不去思考“它能干什么”,等到学机器学习的时候才发现,自己还要回头重新学一遍。
当然,也不用焦虑,不用一口气吃透所有细节,先建立直观理解,再慢慢深入推导。