4. 正交矩阵
设Q∈Rn×n，如果 TQ=QQT=I，则称 为正交 ∈ × 如果Q ，则称Q为 (orthogonal)矩阵。 矩阵。 矩阵 正交矩阵一定可逆， 正交矩阵一定可逆，且Q-1=QT。 是正交矩阵， 设Q1,Q2是正交矩阵，则Q1-1, Q1Q2, diag(Q1,Q2)也 也 都是正交矩阵。 都是正交矩阵。 1. Givens变换： 变换： 变换 A = c s , c 2 + s 2 = 1, A = cosθ sinθ . s c sinθ cosθ 可以通过一系列的Givens变换把任意非零向量变 可以通过一系列的 变换把任意非零向量变 的倍数。 成e1的倍数。
把正定矩阵定义中的x 改成x 把正定矩阵定义中的 TAx>0改成 TAx<0，则称 改成 ，则称A 矩阵。 是负定 (negative definite)矩阵。记做 矩阵 记做A<0。 。 负定矩阵的特征值都是负数 负数。 负定矩阵的特征值都是负数。
× 如果对任意x∈ 设A∈SRn×n，如果对任意 ∈Rn有xTAx≥(≤)0，则 ∈ ， 称A为半正 负)定 (semi positive/negative definite) 为半正(负 定 矩阵，记做A≥(≤)0。 矩阵，记做 。
2. 初等变换矩阵
第一类： 第一类：A1=diag(1,…,1,a,1,…,1)； ； 第二类： 第二类：A2=I+beiejT； 第三类： 第三类：A3=[e1,…,ei-1,ej,ei+1,…,ej-1,ei,ej+1,…,en]； ； 左行右列 A1-1=diag(1,…,1,1/a,1,…,1)； ； A2-1=I-beiejT； A3-1=A3。 分块形式初等变换矩阵。 分块形式初等变换矩阵。 证明： 和 的非 例1 设A∈Cm×n，B∈Cn×m ，证明：AB和BA的非 ∈ × ∈ × 零特征值完全相同，而且重数也相同。 零特征值完全相同，而且重数也相同。此外还有 det(Im+AB)=det(In+BA)。 。
3. 对称矩阵
(a) 实对称矩阵和复 实对称矩阵和复Hermite矩阵 矩阵 则称A为 设A∈Rn×n，如果满足 ∈ × 如果满足A=AT，则称 为对称矩阵 × (symmetric matrix)。记做 ∈SRn×n。 。记做A∈ 对称矩阵的特征值都是实数 实数。 对称矩阵的特征值都是实数。 则称A为 设A∈Rn×n，如果满足 ∈ × 如果满足A=-AT，则称 为反对称矩 阵(skew-symmetric matrix)。 。 反对称矩阵的特征值只能是纯虚数或 纯虚数或0。 反对称矩阵的特征值只能是纯虚数或 。 则称 为 设A∈Cn×n，如果满足A=A*，则称A为Hermite 矩 ∈ × 如果满足 阵(Hermitian matrix)；如果满足 ；如果满足A=-A*，则称A为 则称 为 矩阵(skew-Hermitian matrix)。 反Hermite 矩阵 。
1. 上三角矩阵
In表示 阶单位矩阵 表示n阶单位矩阵(identity matrix of order n)； ； ei表示 n的第 列； 表示I 的第i列 对角矩阵(diagonal matrix)：A=diag(a11,a22,…,ann) 对角矩阵 ： 上三角矩阵(upper 上三角矩阵(upper triangular matrix) 下三角矩阵(lower triangular matrix) 下三角矩阵 三角矩阵的特征值就是对角元； 上(下)三角矩阵的特征值就是对角元； 下 三角矩阵的特征值就是对角元 三角矩阵的逆矩阵仍然是上(下 三角矩阵 三角矩阵； 上(下)三角矩阵的逆矩阵仍然是上 下)三角矩阵； 下 三角矩阵的逆矩阵仍然是上 分块(block)对角矩阵：A=diag(A11,A22,…,Akk)； 对角矩阵： 分块 对角矩阵 ； 分块(block)上(下)三角矩阵； 三角矩阵； 分块 上 下 三角矩阵 分块上(下 三角矩阵的特征值是各对角块矩阵特征 分块上 下)三角矩阵的特征值是各对角块矩阵特征 值的并集，其逆矩阵仍然是分块上(下 三角矩阵 三角矩阵。 值的并集，其逆矩阵仍然是分块上 下)三角矩阵。
Hale Waihona Puke 2. Householder变换： 变换： 变换 任给单位向量u，定义 任给单位向量 ，定义H=I-2uuT，则H被称为 被称为 Householder矩阵。 矩阵。 矩阵 H满足：HT=H，H2=I，det(H)=-1。 满足： ， ， 。 满足 对任意非零向量x，y， 对任意非零向量x，y，总可以找到一个 Householder矩阵 ，使得 矩阵H，使得Hx=αy。 矩阵 。 特别的可以取y=e 特别的可以取 1。 ，则称 为 设U∈Cn×n，如果满足U*U=UU*=I，则称U为酉 ∈ × 如果满足 (unitary)矩阵。 矩阵。 矩阵 酉矩阵与正交矩阵有着类似的性质。 酉矩阵与正交矩阵有着类似的性质。
5. 内积空间 欧式空间 内积空间(欧式空间 欧式空间)
是实数域R上的线性空间 设V是实数域 上的线性空间。如果对于 中任意 是实数域 上的线性空间。如果对于V中任意 两个向量x,y，可以定义一个二元运算<x,y>，并且 两个向量 ，可以定义一个二元运算 ， 满足： 满足： 1. 交换性 <x,y>=<y,x>； ； 2. 分配律 <x,y+z>=<x,y>+<x,z>； ； 3. 齐次性 <kx,y>=k<x,y>，k∈R； ， ∈ ； 4. 非负性 <x,x>≥0，且等号只有当 时才成立。 ，且等号只有当x=0时才成立。 时才成立 则称这个二元运算是内积 内积， 称为 称为Euclid空间，或 空间， 则称这个二元运算是内积，V称为 空间 欧式空间，或内积空间。 欧式空间，或内积空间。 上述定义可以推广到复数域C上。 上述定义可以推广到复数域 上
对称半正定矩阵的特征值都大于等于 大于等于0。 对称半正定矩阵的特征值都大于等于 。 下列条件都等价： 下列条件都等价： 1. A是半正定矩阵； 是半正定矩阵； 是半正定矩阵 2. A的所有顺序主子式都大于等于 ； 的所有顺序主子式都大于等于0； 的所有顺序主子式都大于等于 3. 存在矩阵 ，使得 存在矩阵C，使得A=CCT； 4. A对称，且所有特征值都非负。 对称， 对称 且所有特征值都非负。 是复Hermite矩阵，如果对任意 ∈Cn都有 矩阵， 设A是复 是复 矩阵 如果对任意x∈ 负定， x*Ax>(<,≥,≤)0，则称 为正定 负定，半正定，半 ，则称A为正定(负定 半正定， 负定)矩阵 矩阵。 负定 矩阵。
(b) 正定矩阵
× 如果对任意非零x∈ 都有x 设A∈SRn×n，如果对任意非零 ∈Rn都有 TAx>0， ∈ ， 则称A为 矩阵。 则称 为对称正定 (symmetric positive definite)矩阵。 矩阵 记做A>0。 记做 。 对称正定矩阵的特征值都是正数 正数。 对称正定矩阵的特征值都是正数。 下列条件都等价： 下列条件都等价： 1. A是正定矩阵； 是正定矩阵； 是正定矩阵 2. A的所有顺序主子式都大于 ； 的所有顺序主子式都大于0； 的所有顺序主子式都大于 3. 存在非奇异矩阵 ，使得 存在非奇异矩阵C，使得A=CCT； 4. A对称，且所有特征值都是正数。 对称， 对称 且所有特征值都是正数。
1. V=Rn，<x,y>=xTy； ； 2. V=Cn，<x,y>=x*y； ； 3. V=Cn，<x,y>=xTy； 不是内积 ； × 4. V=Rn×n，<A,B>=tr(ABT)； ； b < 5. V=C[a,b]， f ( x ), g ( x ) >= ∫a f ( x ) g ( x )dx ； ， 6. V=Rn，A>0， <x,y>=xTAy； ， ； 在欧式空间中， 在欧式空间中，称非负实数 < x , x > 为x的长度 的 (模、范数 ，记为 。 模 范数)，记为||x||。 1. ||kx||=|k| ||x||； ； 2. ||x+y||=||x||+||y||； ； 3. ||<x,y>||≤||x|| ||y||。 。
1.3 常见特殊矩阵
1. 上三角矩阵 2. 初等变换矩阵 3. 对称矩阵 4. 正交矩阵 5. 内积空间
我们尽量采用如下记号： 我们尽量采用如下记号： 用大写英文字母表示矩阵， 用大写英文字母表示矩阵，如A,B,… 用小写英文字母加上下标表示矩阵的元素，如 用小写英文字母加上下标表示矩阵的元素， a11,b2n,… 用小写英文字母表示向量， 用小写英文字母表示向量，如x,y,z,… 用小写希腊字母表示标量， 用小写希腊字母表示标量，如α,β,λ,,…
