深度学习篇---向量空间

向量空间或称线性空间是一个很美妙的数学结构。它不仅是线性代数的核心更是我们理解很多高级概念比如深度学习中的词向量、特征空间的基础。简单说向量空间就是一个定义了向量加法和数乘运算并且这些运算满足8条特定规则的集合。 核心拆解两条运算八条铁律我们把空间里的元素叫“向量”把实数或复数叫“标量”。公理化定义的美妙就在于只要满足下面最基础的规则不管元素本身是几何箭头、多项式还是函数都能享受线性代数所有定理的便利。1. 两条基本运算必须定义清楚向量加法任意两个向量 u,v 相加结果还在这个空间里封闭性记为 uv。标量乘法数乘任意一个标量 c 乘上一个向量 v结果也在这个空间里记为 cv。2. 八大公理铁律无论你的向量是什么这两种运算都必须遵守这8条规则关于向量加法让向量能“平移”交换律uvvu谁先谁后没区别结合律(uv)wu(vw)组团顺序不影响结果有零元存在一个特别的“零向量”0使得 v0v加了等于没加有负元对每个 vv都存在一个 −v−v使得 v(−v)0可以“撤销”关于标量乘法让向量能“缩放”结合律c1(c2v)(c1c2)v连续的缩放可以合并有单位元1⋅vv乘以1不变关于加法和乘法的混合连接两种运算分配律一c(uv)cucv先加后放和先放后加等效分配律二(c1c2)vc1vc2v 直观理解三个层次的抽象为了帮你建立直觉我把向量空间分为三个层次来理解经典几何空间我们熟悉的有向箭头加减法满足平行四边形法则存在于二维或三维空间里。这是向量空间的“直觉模板”。扩展到N维空间 Rn当分量超过3个几何直觉不再适用。比如机器学习中的一个100维特征向量它就是一个100维向量空间中的一个点。尽管看不见但运算和几何模板完全一致。抽象向量空间这是最强大的地方向量的形式完全解放了。多项式空间可以把 x22x3 当作向量加法和数乘就是多项式运算零向量是 00。微积分和逼近论会用到。函数空间可以把连续函数 sin⁡(x)sin(x) 当作向量零向量是 f(x)0。这是信号处理和量子力学的基础。矩阵空间所有2x2矩阵也构成向量空间运算就是矩阵加法和标量乘法。这就是线性代数里的典型空间。 几个核心概念简述理解了空间本身再看几个相关的核心概念子空间一个向量空间里的“小世界”它自己也要能独立构成向量空间。比如过原点的直线是平面的子空间。基与维度基是空间里的一组“最小完整坐标架”空间中任何向量都能唯一地用它们的组合表示。维度就是这副坐标架里“坐标轴”的数量。例如平面的维度是2代表只需要两个独立的向量就能描述平面上的一切。内积空间在向量空间的基础上额外定义了点积运算让我们能谈论向量的“长度”和“夹角”。这是我们研究正交、投影、相似度等几何性质的舞台。 Mermaid总结框图总的来说向量空间的抽象定义是一张“通用蓝图”。无论是简单的几何向量还是复杂的函数只要它们符合加法和数乘的公理整个线性代数的强大工具就都能直接应用其上。这种威力正是数学结构之美的体现。