线性方程组与特征值
# 线性方程组
# 解方程组的步骤
线性方程组,就是多元一次方程组,如下列方程组
化为向量(矩阵)乘法的形式
当b为零向量时,为齐次线性方程组,否则为非齐次线性方程组
对于任意一个非齐次方程组,令其b向量为零向量,得到其对应的齐次方程组,也称作非齐次方程组的导出组
系数矩阵A的秩,其实就是方程组中有效方程的个数,如同我熟知的,一个两元一次方程组,两个不同的方程可以解出确定解,这里也一样,当r(A) = n,方程组的解将被唯一确定
- 若为齐次方程组,则说明该方程只有唯一的一个全零解
- 若为非齐次方程组,说明该方程通解只由唯一一个特解构成
解方程组的步骤
- 化简矩阵:初等行变换,系数矩阵、增广矩阵
- 判定解的形式:根据矩阵秩的大小和未知数的数量判断解的情况
- 齐次满秩:唯一零解
- 齐次非满秩:基础解系存在
n-r个向量 - 非齐次满秩:唯一特解
- 非齐次非满秩:存在一个特解和对应齐次方程组
n-r个向量构成的通解,二者共同构成非齐次的通解
- 解方程:通常通过正交的方式确定自由项,确定
n-r个自由项的值,解出方程,得到通解
# 齐次线性方程组
# 基础解系和通解
对于齐次线性方程组,当r(A) < n时,此时方程组的解将有无穷个(因为一定存在n-r(A)个不被确定约束的变量,我称之为自由项),通过自定义线性无关的自由项,可以解出n-r(A)个不同的解向量,这些解向量共同构成原方程的基础解系,而齐次线性方程组的通解,即为基础解系的任一线性表出
简单说,秩表示有效方程的数量,r 个有效方程约束了 r 个变量,剩下的 n-r 个变量自由发挥,通过线性无关排列,可以表示出任一符合该方程组的向量组合
# 求解齐次线性方程组
解齐次方程组
- 首先,化行最简系数矩阵
- 第二,确定自由项
- 第三,解方程,得到基础解系
- 最后,添上常数系数
k,得到通解
举两个栗子
可以发现,其实解齐次线性方程组的步骤非常固定
关于解的构成,牢记n-r(A)为自由项的个数,即为基础解系向量的个数
# 非齐次线性方程组
# 增广矩阵和导出组
对于非齐次方程组
其对应的增广矩阵如下
只有当
时,非齐次方程组才存在有效解
上述非齐次方程组对应导出组(齐次线性方程组)
当系数矩阵秩等于增广矩阵秩时,确定非齐次方程组有解,根据r(A)和未知数数量n的比较,可以得知通解的构成
- 当
r(A) = n时,原方程组存在唯一特解 - 当
r(A) < n时,原方程组通解由非齐次特解 + 对应齐次通解构成
# 求解非齐次线性方程组
求解大体分为两步,每一大步都要经过化简矩阵、判定解形式和解方程的步骤
- 求解特解
- 求解导出组通解
举两个梨子
仍可以发现,解非齐次方程组的方法也很固定,化简增广矩阵,判断秩的大小确定自由项个数,确定一个特解,解对应齐次方程组通解,糅合一下得到原方程组通解
要注意的是这里的化简方法,涉及到之前的初等行变换,灵活一点,通常通解不唯一
解的个数和增广矩阵秩的关系
非齐次线性方程组的通解和其对应导出组通解的关系
# 方程组的应用
# 可交换矩阵
可交换的概念,对于矩阵乘法,有
则说矩阵A和B可交换
通过线性方程组求解可交换矩阵
就是矩阵各个位置元素乘出来,列等式,联立方程组,通过解方程组求得各个位置元素的具体值(通解)
# 求解矩阵方程
通过线性方程组求解矩阵方程
这里不能用传统的求逆的方式求解矩阵乘法方程(很显然这里的矩阵都不可逆),只能用解线性方程组通解的形式求解每个位置的元素值
# 线性相关和线性表出
线性相关及线性表出和线性方程组通解的关系
线性相关和解情况的联系
将线性表出的系数视作未知数,联立线性方程组,求解线性表出的系数,表示出确定的线性表出
# 已知解系求方程组
逆天
# 向量和向量组
列向量和行向量,向量的每个元素称为分量
向量的运算和矩阵完全保持一致,相当于一个1xn或mx1的矩阵
向量组,若干同维数向量所组成的集合叫做向量组(我可不可以称之为矩阵😀)
- 部分组和整体组,横向扩展
- 延伸组和缩短组,纵向扩展
老生常谈的线性相关
# 线性表出与相关
# 线性表出和相关的定义
对于向量组α
为其一个线性组合
若一个向量β能够被α的某个线性组合表示出,即
则说β能够被α线性表出
对于线性齐次方程组
若这里的系数k可以不全为零,则说向量组α线性相关(说明某一个向量是另一个向量的整数倍);若只有当系数k全为 0 时方程才成立,说明向量组α线性无关
线性相关/无关的多种表述形式
重要定理,将非齐次方程组 - 向量乘法 - 线性表出 - 秩相联系
另一重要定理,将齐次方程组和线性相关相联系
关于整体组、部分组、延伸组、缩短组的定理
另外一些定理,太长不想看了
# 线性表出和非齐次方程组
判断向量是否能被某个向量组线性表出,使用方程对应的非齐次线性方程组进行判定
线性表出式子对应的非齐次线性方程组
对应方程组
其中
其他以此类推,当方程组有解,即有有意义的x1,x2,...,xn使方程组成立时,我们就说:向量β能够被向量组α线性表出(注意这里不能判断α是否线性相关,这是齐次方程组的事儿)
向量β能够被向量组α线性表出,说明对应的非齐次线性方程有解,说明对应的方程组系数矩阵α和矩阵(α|β)的秩相同
再举个栗子
线性表出实际上重点在于指出向量组前的系数是否存在,存在则能表出
# 线性相关和齐次方程组
判断向量组内部是否线性相关,使用向量组对应的齐次线性方程组进行判断,线性相关使向量组内部的事,线性表出是向量组这个整体的事,一定要注意区分
现有向量组α
α向量组对应的齐次线性方程组
自然可以得到该方程组的系数矩阵,记为A
判断向量组α线性相关的方法
- 若
A为方阵,求其对应行列式|A|,若|A| = 0,说明行列式中必有两行为各自的倍数,也就是说矩阵A线性相关(向量组α线性相关);相反的,若|A|不为 0,说明向量组α线性无关 - 将
A经过初等变换得到行阶梯矩阵B,可以轻易知道矩阵B的秩,也就是A的秩,当r(A) < n(这里n为向量组中向量的个数,也是其对应方程组未知数x的个数),说明有全零行,根据初等变换的性质可知,有成整数倍的两行,自然满足线性相关的定义
根据秩的大小判断向量组是否线性相关
根据向量组对应行列式是否为 0 判断向量组是否线性相关
含有未知量的向量组,关于线性相关的讨论,根据秩的大小来判定,一定要注意在消去公因子时,要做是否为 0 的判断(不能除以 0)
灵活结合矩阵乘法和线性相关的性质(行列式为 0)得出结论
以下三道证明题,死了亲妈,需要反复祭奠
关于线性相关和表示法唯一的证明
向量组线性相关 <=> 向量组内部某一向量能被其余向量线性表出
线性无关的延展性
# 正交规范化
# 向量组及矩阵的秩
向量组和矩阵好像没有什么区别,向量组更强调列的概念,
矩阵:是描述变换的
极大无关组:再多一点看一眼,就会爆炸(相关)
秩的官方定义:极大无关组中向量的个数,即为向量组的秩
求秩的方法
- 化为行阶梯矩阵,非零行的个数即为向量组的秩
- 若向量组为方阵,当对应行列式不为 0 时,其秩等于方阵阶数 n
求极大无关组的方法:将向量组化为行阶梯矩阵,其主元所在的列标对应的初始列向量构成的向量组即为原向量组的一个极大无关组(注意很多时候极大无关组不止一个,这有可能取决于你的初等变换过程)
向量组等价:向量组 α 中每个向量均可以由 β 线性表出,相反也成立,则说 α 等价于 β
矩阵的秩:暂时我将矩阵视为向量组,向量组视为矩阵,不分家
矩阵秩的公式
转置和数乘:转置和数乘不影响矩阵的秩
矩阵乘法:乘以转置不影响秩大小;乘积的秩取项中最小的秩
可逆:矩阵乘以可逆矩阵,其秩不变(矩阵可逆,其秩一定为 n)
分块矩阵
矩阵的扩展
三秩相等:矩阵的秩等于矩阵的列秩等于矩阵的行秩(矩阵的列秩可以视为相应向量组的秩)
根据秩的大小求解未知数,就是把秩表示出来然后列方程计算未知数
选择题答案为B,A
# 内积、模和正交
向量的内积:对于两个 n 维向量,选择合适的乘法顺序,将得到一个一维向量,即一个数,我们将这个一维向量称作向量的内积,如
向量的模,即为自身和自身的内积的根号,如设a = [1,2,3],其模记为|a|
这里的符号区别于矩阵对应的行列式,向量是1xn的,行列式是nxn的
当|a| = 1时,我们称向量a为单位向量
定义两个向量的夹角余弦为
当余弦为 0 时,自然两向量垂直,即正交,此时称向量 α 和 β 正交
# 施密特正交化
# 正交矩阵
要记住,矩阵,是描述变换的
当下式成立时,矩阵 A 正交
等价于
另外,当一个矩阵内行/列向量两两正交,且都是单位向量,我们说这个矩阵是正交矩阵
求正交向量
正交一定线性无关,按道理说正交是最线性无关
# 特征值与特征向量
特征值在我看来,实际上是一个高维矩阵在单维空间上的某种映射,携带自身的一些特性,而特征向量是特征值对应的一组显性表示
# 特征值、特征向量定义
对于矩阵A,若
则 λ 为 A 的一个特征值,α 为特征值 λ 对应的一个特征向量
上述等式等价于
我们可以发现这其实是一个齐次线性方程组,系数矩阵为A-λE,未知数为特征向量 α,这个方程组有解
- 则系数矩阵秩小于 n
- 系数矩阵对应行列式值为 0
根据行列式值为 0,在已知 A 的情况下,很显然可以解出行列式中唯一的未知数 λ,自此解决特征值和特征向量的问题
我们称|A-λE|为 A 的特征多项式,|A-λE| = 0为 A 的特征方程
# 求解特征值、特征向量
总的来说,求解特征值和特征向量的方法为:
- 设 λ,列出特征方程,解出 λ
- 代入 λ,得到齐次线性方程组的系数矩阵
A-λE,求解方程组,得到基础解系 - 方程组的通解即为特征值对应的特征向量,一一列出即可
特征值的一些性质(tr(A)为矩阵 A 的迹,为主对角线元素之和)
特征值的运算
在求解特征值的特征向量时,发现重根的特征值对应的特征向量,可能是一个,也可能是两个,取决于A-λE的秩
# 相似矩阵
# 相似矩阵概念及性质
若对于矩阵A,存在可逆矩阵P,使得
则 A 与 B 相似,记作
相似矩阵性质:反身性,对称性,传递性
特征多项式相等
特征值相同
A 和 B 秩相同
一些推论,当 A B 相似时,有
# 相似对角化
特征值、特征向量求解的高阶形式
当A~B且 B 为一个对角矩阵(除主对角线上元素均为 0)时,我们称 A 可被相似对角化,B 为 A 的相似对角型
A 能被相似对角化的充要条件
- 方阵 A 有 n 个不同的特征值
- 矩阵 A 每个特征值的重根数均等于其特征向量分量的个数,如二重根对应两个线性无关的特征向量
已知矩阵 A,求解相似对角阵 B 以及过度矩阵 P
首先明确一点,若一个矩阵可以被相似对角化,其相似对角型的主对角线元素均为其特征值(重根占多个元素位),如
设 λ1 的特征向量为 α1,λ2 的特征向量为 α2,则有
设
则
根据矩阵乘法的性质
哦哟,这不就是相似矩阵的定义吗,两边同时乘一个P^{-1},得
于是我们发现,每个特征值对应的特征向量组成的矩阵(我称之为特征矩阵),就是要求的 A 到 B 的过度矩阵
一定要注意,特征值的位置和其对应的特征向量的位置要一一对应
于是相似矩阵的问题又变成了
- 求特征值,得相似对角型
- 解特征值对应特征向量
- 组合特征向量为特征矩阵
# 实对称矩阵
相似对角矩阵的更进一步,实对称矩阵要求其所有特征向量两两正交且均为单位向量
- 两两正交:数量积为 0(各分量相乘再相加)
- 单位向量:模为 1,各分量平方和开根
这里要用到施密特正交化
另外注意,特征向量正交是极有用的信息,可以通过这一条件通过特征向量求特征向量,如已知三位实对称矩阵 A,其有一个特征值 a 对应特征向量 α,已知另一特征值 b
设另外的特征向量为 β
则
令
于是得到实对称矩阵 A 的三个特征向量 α,β1,β2
# 二次型及其标准型
# 二次型
关于 n 个变量x = (x1,x2,...,xn)的一个二次齐次多项式f(x)为这 n 维向量 x 的二次型
其中,非平方项的系数为偶
# 对应矩阵、标准形
二次型这一多项式式子可以用矩阵乘法表示
上述矩阵乘法中,A 被称作二次形 f 的对应矩阵
当然,A 必须为实对称矩阵,即a12 = a21,这样在乘出来之后,非平方项合并,系数为 2(偶)
- 当 A 为对角阵时,称二次形 f 为标准形(又叫平方和),自然,根据定义,此时二次齐次多项式只有平方项
- 进一步的,在标准形的基础上,当二次形对应矩阵 A 在对角上的元素元素均为 1、-1 或 0,称二次型 f 为规范形
二次型、标准形、规范形的关键其实都在于其对应矩阵 A
# 惯性指数、二次型的秩
在 f 对应的标准形 f' 中,对角线上正元素的个数为正惯性指数,负元素的个数为负惯性指数,注意 f 和 f' 的惯性指数是保持一致的
二次型 f 对应矩阵 A 的秩 r(A) 为二次型 f 的秩
# 合同矩阵、坐标转换
当存在可逆矩阵 C,令矩阵 A 满足下式
则我们说矩阵 A B 合同(反身性,对称性,传递性)
对于二次型 f
我们进行自变量 x 的一个坐标转换,令
C 为 x 到 y 的坐标变换,带入二次型 f,则有
这个新的矩阵 B 则为二次型 f 在新坐标 y 下的对应矩阵
很显然,由于
二次型在新旧坐标下的对应矩阵,是合同的
# 求解二次型标准形及坐标变换
# 正交变换法
简单来说,就是求一个实对称矩阵(正交相似对角),因为实对称化时,其转化矩阵C单位正交,一定有
所以有
这个转化矩阵在上一章已经证明过,就是矩阵A的特征向量组成的矩阵(单位正交化后),自然,这里涉及到施密特正交化的运用
于是求解标准形的坐标变换又变成了一个求解单位正交特征向量的问题
标准形和二次型对应矩阵的特征值的关系
正交变换下,根据坐标变换的正交性质求解特征向量
正交变换求解二次型及坐标变换
栗子一
栗子二
# 配方法
以后再学吧,用配方法化二次型
# 求解规范形
惯性定理:二次型经过任意左边变换,其标准形的正惯性指数和负惯性指数都是唯一确定的(坐标变换不改变二次型的惯性指数)
通过惯性定理可以求解规范形,很简单的道理,因为规范形只有1,-1,0,由于惯性定理,惯性指数不变,于是如
就是在标准形的基础上,把正惯性指数用 1 填充,负惯性指数用 -1 填充,0 用 0 填充得到的对角矩阵
求解惯性指数,就是求对应矩阵特征值,然后数数
对应矩阵一定和标准形合同,标准形一定和规范形合同
求解规范形
只要满足惯性指数相同,用 1、0、-1 作系数即可
# 正定二次型
# 正定二次型定义
当二次型 f,对于下式恒成立
则称二次型 f 为正定二次型,其对应矩阵 A 记作正定矩阵
# 判定正定
判断正定
- 顺序主子式均大于 0
- 特征值均大于 0
顺序主子式,如
的顺序主子式为
在实际情况下,需要对矩阵进行判断,是计算顺序主子式方便求解范围还是一个个求解特征值确定范围方便,有时都行
根据特征值或顺序主子式判断
根据顺序主子式判定
根据特征值判定
