线性代数3:矢量方程
线性代数3:矢量方程深入解析
向量方程式和范围
前言
欢迎回到我一系列关于线性代数的基础知识的第三篇文章,这是机器学习背后的基础数学。在我之前的文章中,我介绍了梯阵形式。本文将研究向量、范围和线性组合,并将这些新观点与我们已经学过的内容联系起来。如果配合 David C. Lay、Steven R. Lay 和 Judi J. McDonald 的《线性代数及其应用》一起阅读,本文对读者最有帮助。把这个系列看作是一个伴侣资源。
欢迎分享想法、问题和批评。
在ℝ²、ℝ³和ℝⁿ中的向量
到目前为止,我们已经学习了矩阵,它们是一系列数字的数组,如果我们只是有一个数字的数组会怎样?请看向量:一种特殊类型的矩阵,其大小为 m x 1,其中 m 表示向量中的行数或条目数。请记住,矩阵大小的表示法是 m x n,其中 m 表示行数,n 表示列数。向量始终只有一列,但可以有任意多行。
具有两个条目的所有向量的集合是ℝ²。ℝ代表实数的整个集合,因此ℝ²是由实数的所有可能点(x,y)组成的二维空间。
向量可以在ℝ²、ℝ³、ℝ⁴……ℝⁿ中。请注意,向量空间的维数对应于向量中条目的数量。
您可能会遇到奇特的零向量(简称为 0),这是一个所有条目都为零的向量。虽然它可能看起来像一个细节,但我们以后会发现它对线性代数中一些最重要的思想有重要的影响。
几何可视化
到目前为止,矩阵和向量在数学上被描述、解释和符号化,而在物理学中,向量是具有大小和方向的量。两种说法都是正确的;下面是在ℝ²中向量的图形可视化,将两个向量的定义统一起来。
请记住,在ℝ²中的向量是有序对,在更高维的向量空间中,向量被描述为有序元组(具有定义顺序的数字列表)。两个向量可能具有完全相同的条目,但如果它们的条目顺序不同,那么向量也不相同,如上图所示。
ℝ³中的向量也可以可视化,只需添加第三个轴,因为我们有了额外的条目。在ℝ³之外,绘制向量变得更加复杂,因为很难理解高维空间的图像。
向量的代数性质
对于任何给定向量空间中的向量u,v,w和标量c和d:以下代数性质¹成立:
(i) 交换律*: u + v = v + u
(ii) 结合律*: (u + v) + w = w + (v + w)
(iii) 加法零元: u + 0 = 0 + u = u
(iv) 加法逆元: u + (-u) = –u + u = 0
(v) 向量的分配律: c(u + v) = cu + cv
(vi) 标量的分配律: (c + d)u = cu + du
(vii) 标量的结合律: c(du) = (cd)u
这些性质与向量加法和标量乘法的操作有关。
要添加两个向量,将相应的分量相加得到向量和。这意味着不同大小的两个向量不能进行向量相加。为了添加两个向量,它们必须具有相同数量的分量!这个条件是根据向量相加的执行方式而产生的。
对于给定标量c和向量u,标量乘法是通过将u中的每个分量乘以标量c而得到的标量倍数cu。
这两个操作可以一起使用;正如您将在下一节中发现的那样,它们结合在一起形成了线性代数的核心概念:线性组合。
线性组合
假设我们有向量v₁,v₂,… vₐ在ℝⁿ中,并且我们给定了标量(也称为权重)c₁,c₂,… cₐ,可以是任何实数,包括零。线性组合是由标量倍数之和定义的向量,c₁v₁ + c₂v₂ + … + cₐvₐ. ²
之前,我们已经探讨了线性代数中存在性的概念,即给定一个矩阵,是否至少存在一个解?换句话说,矩阵的化简/行阶梯形式是否存在矛盾?如果存在矛盾,表示不存在解。如果不存在矛盾,则至少存在一个解。这个基本的存在问题与线性代数中的许多思想有关,线性组合也不例外。
我们说,如果存在一组权重c₁,c₂,… cₐ(一个解),使得c₁v₁ + c₂v₂ + … + cₐvₐ = b,则向量b是一组向量v₁,v₂,.. vₐₚ在Rⁿ中的线性组合。
为了确定b是否是线性组合,我们可以使用向量加法和标量乘法的操作将我们的线性组合方程c₁v₁ + c₂v₂ + … + cₐvₐₚ = b重新排列成一种我们非常熟悉的表示法。这个重新排列的过程还揭示了为什么确定向量b是否是一组向量的线性组合是一个存在性问题。
上述解释旨在强调存在问题和矩阵行最简化与线性组合的联系,并以一般意义上的思想进行演示。让我们看一个更具体的例子。
在上面的例子中,将增广矩阵行最简化形式之后,我们发现确实存在解!
然而,让我们考虑一个增广矩阵的行最简化形式,其中行为[0, 0, … | b],其中 b ≠ 0,这意味着向量 b 不能被写成一组向量的线性组合。换句话说,向量 b 对于我们的向量集来说是无法达到的,或者(这是一个很好的过渡到即将到来的部分)向量 b 不在向量集的span范围内。
向量集的span
向量 v₁, v₂, … vₐ 在 ℝⁿ 中的所有可能线性组合的集合被称为由 v₁, v₂, … vₐ 张成的 ℝⁿ 的子集。向量 v₁, v₂, … vₐ 的span记为 Span{v₁, v₂, … vₐ},它是可以表示为 c₁v₁ + c₂v₂ + … + cₐvₐ 的向量集合。³ 另一种思考方式是span中包含所有可以表示为向量 v₁, v₂, … vₐ 的线性组合的向量。
我们可以找到给定任意数量向量集的span。假设我们有一个包含单个向量 v₁ 的集合。Span{v₁} 就是所有 v₁ 的标量倍数,因为在这种情况下只允许标量乘法运算(至少需要两个向量才能进行向量加法)。Span{v₁} 包含了可以通过 v₁ 达到的所有向量。
如果我们将span可视化,它将是一个直线,通过 v₁ 和原点,因为只有一个向量,线性组合(向量倍数)不能改变方向。这一点在下面的图表中进一步说明。
考虑在 ℝ² 中不同方向的两个向量的span,这两个向量能够创建哪些可能的线性组合呢?换句话说,哪些 ℝ² 中的向量可以表示为这两个向量的线性组合?
对于上述情况,经过进一步调查,发现u和v的span覆盖了 ℝ² 的全部!这意味着 ℝ² 中的任意向量都可以表示为u和v的线性组合。在未来的文章中,我们将探讨线性无关的概念,用来明确证明u和v张成了 ℝ²。
结论
向量、线性组合和span将我们带入线性代数丰富领域的更深一步。这些基本概念帮助我们理解向量空间的结构以及不同向量集之间的关系。随着我们的进一步学习,你会发现这些观念不断浮现,因为它们与其他核心概念相互关联。同样,我希望你能花些时间思考我们目前学到的一切(解的存在、行最简化形式)与这些新概念的深刻联系。
摘要
在本章中,我们学到了以下内容:
- ℝ²,ℝ³和ℝⁿ中的向量:向量是一种特殊的矩阵,大小为 m x 1。向量可以有任意数量的项,但只有一列。我们发现还可以有一个零向量,即所有项都为零的向量。
- 向量的几何可视化:向量可以用图形表示,有助于理解大小和方向的概念。
- 向量的代数性质:以下代数性质对所有向量和标量成立:交换律,结合律,加法单位元,加法逆元,向量的分配律,标量的分配律,以及标量的结合律。
- 线性组合:线性组合是通过标量倍数的和定义的向量 c₁v₁ + c₂v₂ + … + cₐvₐ。权重 c₁,c₂,… cₐ 可以是任意标量,包括零。
- 向量的张成:向量 v₁,v₂,… vₐ 的张成表示为 Span{v₁, v₂, … vₐ},是可以写成 c₁v₁ + c₂v₂ + … + cₐvₐ 的向量的集合。
注释
¹向量的代数性质参考自 https://cs.brown.edu/stc/summer/94GeoTrans/94GeoTrans_17.html
²线性组合的定义参考自《线性代数及其应用》第六版,作者:David C. Lay, Steven R. Lay, 和 Judi J. McDonald
³张成的定义参考自《线性代数及其应用》第六版,作者:David C. Lay, Steven R. Lay, 和 Judi J. McDonald。
*除非另有说明,所有图片都由作者创建。
*结合律意味着对于加法和乘法运算,数字可以以任何方式分组,结果仍然相同。例如,(5 + 2) + 3 = 5 + (2 + 3) = 10,和 (5 x 2) x 3 = 5 x (2 x 3) = 30。
*交换律意味着对于加法和乘法运算,数字可以以任何顺序相加或相乘,结果仍然相同。例如,5 + 2 = 2 + 5 = 7,和 5 x 2 = 2 x 5 = 10。