邓嘉驹
资料/高等线性代数

线性变换

第 3 章 · 6 节

3.1线性变换及其核与像

定义 3.1 (线性变换)

设和是定义在域上的向量空间,若对于任意和向量,函数满足

(3.1.1)

则称其为线性变换(linear transformation); 线性变换称为上的线性算子(linear operator)。 所有从到的线性变换构成的集合记为1; 所有上线性算子的集合记为。

以下术语也经常被使用。

定义 3.2
  1. 同态(homomorphism)对应线性变换;

  2. 自同态(endomorphism)对应线性算子;

  3. 单同态(monomorphism)或嵌入(embedding)对应单射线性变换;

  4. 满同态(epimorphism)对应满射线性变换;

  5. 同构(isomorphism)对应双射线性变换;

  6. 自同构(automorphism)对应双射线性算子。

例 3.1
  1. 微分算符是上所有无穷可微函数构成的向量空间上的线性算子;

  2. 设矩阵,函数定义为,其中所有向量均写成列向量,那么是从到的线性变换;

  3. 维向量空间的坐标映射为从到的线性变换。

命题 3.1
  1. 集合在普通的函数加法和函数关于上元素的标量乘法下构成一个向量空间;

  2. 若,则复合(composition);

  3. 若为双射,则;

  4. 向量空间是一个代数2,其乘法为函数复合,单位映射为乘法单位元,零映射为加法单位元。

证明
  1. 根据定义容易验证该结论;

  2. 对于任意和,

    (3.1.2)

    因此;

  3. 对于任意和,存在使得且,因此

    (3.1.3)

    因此;

  4. 根据代数的定义容易证明该结论。

定义线性变换最简单的方式之一是给定其在一组基上的值。 下述定理说明,我们可以在基上任意赋值,并通过线性延拓得到整个定义域上唯一的线性变换。

定理 3.1

设和为向量空间,为的一组基,则可以为所有任意指定的值,然后利用线性性将的定义域延拓到上,即

(3.1.4)

该过程唯一定义了一个线性变换; 换言之,若对任意满足,则。

证明

根据命题 2.3,对于任意,若,则两者具有相同的表示,即存在使得,进而,即该线性延拓是良定义的。 现在假设存在使得对所有成立。 那么对于任意,存在使得,进而

(3.1.5)

利用的任意性,。

注

若且为的一个子空间,据此可验证在上的限制为从到的线性变换。

定义 3.3 (线性变换的核与像)

设,子空间与分别称为的核(kernel)与像(image)。 称为的零化度(nullity),记作; 称为的秩3,记作。

注

和分别为和的子空间这一结论,虽然出现在定义中,但容易验证。

命题 3.2

设,则

  1. 为满射当且仅当;

  2. 为单射当且仅当。

证明

结论1恰好与满射的定义相一致; 对于结论2,任取,那么。 因此若,则,即为单射; 若为单射,则对于任意,,因此,即。

3.2同构与秩-零化度定理

定义 3.4 (同构)

双射线性变换称为从到的同构(isomorphism)。 当从到的同构存在时,我们称与同构,记作。

例 3.2

设,则对于中任意有序基,坐标映射将每个中的向量映射到其坐标矩阵,从而为同构。 因此,上任意维向量空间同构于。

正如以下命题所示,同构向量空间具有许多共同的性质。 若且,则。

命题 3.3

设为同构,,则

  1. 张成当且仅当张成;

  2. 在中线性无关当且仅当在中线性无关;

  3. 是的基当且仅当是的基。

上述结果请自行验证,据此我们直接得到如下结论。

推论 3.1

线性变换是同构当且仅当存在的一组基,使得是的一组基。 在这种情况下,将中任意基映射到内的一组基。

推论 3.2

设和为上的向量空间,则当且仅当。

在例例 3.2中,我们看到任意维向量空间都同构于。 现在假设是一个基数为的集合,设为所有从到且具有有限支撑的函数构成的向量空间。 容易证明,对于任意,函数

(3.2.1)

构成的一组基,称为标准基(standard basis)。 此时任意函数可表示为,故。 当然,对于任意基数,存在维度为的向量空间与同构。

定理 3.2

若为自然数,则上任意维向量空间同构于。 若为任意基数,且是基数为的集合,那么上任意维向量空间同构于所有从到的具有有限支撑的函数构成的向量空间。

有了上述结果,我们可以证明关于秩和零化度之间的一个重要关系,称为秩-零化度定理。

定理 3.3 (秩-零化度定理)

设。

  1. 的任意补空间同构于;

  2. 秩-零化度定理: ,或者。

证明

设,根据定理 2.4,任何子空间都具有补空间。 不妨记,其中为中的补空间。 对于的上的限制,

(3.2.2)

根据命题 3.2,为单射。 对于任意向量,存在和,使得

(3.2.3)

根据定义,是显然的,从而。 由此可见从到的映射既是单射又是满射,故。 那么根据定理 2.7,。

上述定理有一条重要的推论。

推论 3.3

设,其中,则为单射当且仅当其为满射。

证明

根据命题 3.2,为单射当且仅当其为零空间,当且仅当。 再根据定理 3.3,为单射当且仅当。 利用定理 3.2,为单射当且仅当与同构,即为满射。

3.3矩阵变换与基变换

3.1 从到的线性变换

在例例 3.1中,对于域上任意矩阵,乘法映射是一个线性变换。 事实上,任意线性变换都具有此形式。 设矩阵第列为,即,其中为第个标准基,则

(3.3.1)

其中表示的第列,因此。

命题 3.4
  1. 设为上的一个矩阵,则;

  2. 若,则,其中称为的矩阵。

若,则的像为的列向量的线性组合,即的列空间,因此秩-零化度定理 3.3给出

(3.3.2)

由此对于矩阵,可得到类似命题 3.2的结论。

命题 3.5

设为上的矩阵。

  1. 为单射当且仅当;

  2. 为满射当且仅当。

证明
  1. 根据命题 3.2和(3.3.2)式,为单射当且仅当,当且仅当;

  2. 根据命题 3.2,为满射当且仅当,当且仅当(定理 3.2)。

3.2 基变换矩阵

设和为向量空间的有序基,一个自然的疑问是,坐标矩阵和如何关联起来。 将化为的映射满足

(3.3.3)

即,称其为基/坐标变换算子(change of basis/coordinates operator)。 利用上一小节的讨论,为上的线性算子,因此其矩阵表示为

(3.3.4)

以后将此处记为,并称其为从到的基变换矩阵。

定理 3.4

设和为向量空间的两组有序基,则基变换算子为上的自同构,其标准矩阵为

(3.3.5)

进而,并且。

证明

已知坐标映射和均为同构,容易验证为自同构。 另外,

(3.3.6)
推论 3.4

若给定以下任意两者:

  1. 可逆矩阵;

  2. 的有序基;

  3. 的有序基;

则第三者可由方程唯一确定。

3.3 线性变换的矩阵

设为线性变换,其中且。 设和分别为和的有序基,则映射为线性变换的表示(representation)。 当然,这一表示取决于有序基和的选择。 由于从和的线性变换,它无非是一个的矩阵的乘法作用,即。 事实上,考虑到,类似(3.3.1)式可如下得到的列:

(3.3.7)
定理 3.5

设,和分别为和的有序基,则可关于和表示为矩阵乘法,即,其中

(3.3.8)

称为关于基和的矩阵。 当且时,我们将简记为,从而。

以下结果说明,采用线性变换或与其表示矩阵(给定有序基和)进行操作是同样方便的。 这不仅适用于加法和标量乘法,也适用于矩阵乘法。

定理 3.6

设和为域上的向量空间,其分别包含有序基和。

  1. 映射定义为,则该映射是同构,因此;

  2. 若且,分别为的有序基,则

    (3.3.9)

    因此乘积(复合)的矩阵为和各自矩阵的乘积。 事实上,这正是矩阵乘法定义的主要动机。

证明
  1. 首先证明该映射是线性的,即对于任意和,根据定理 3.5以及坐标映射线性的事实,

    (3.3.10)

    利用定理 3.1,是线性变换。 根据定理 3.2,可由和有序基确定,进而确定。 因此为满射; 根据推论 3.3,此时为双射,进而为同构;

  2. 根据上述结果,

    (3.3.11)

    对任意成立。 根据定理 3.1,。

3.4 线性变换的基变换

定理 3.7

设,和分别为和的两对有序基,则

(3.3.12)
证明

根据定理 3.4和定理 3.5,对于任意,

(3.3.13)

因此有,结论得证。

对于以及的特殊情形,我们可直接得到以下推论。

推论 3.5

设,和为的两组有序基,则。

3.4等价性与相似性

4.5 矩阵的等价

由于基变换矩阵实际上为可逆矩阵,定理 3.7的内容正是引出“矩阵等价”这一概念的动机。

定义 3.5 (矩阵等价)

若存在可逆矩阵和,使得矩阵和之间满足,则称和等价(equivalent)。

定理 3.8

设和分别为维度为和的向量空间,则两个矩阵和等价当且仅当其(可能在不同有序基下)表示同一个线性变换。 在这种情况下,和表示中相同的线性变换集。

证明

若和均表示,存在有序基对和使得且。 根据定理 3.7,存在和使得,从而和等价; 反之若和等价,存在可逆矩阵和使得。 根据定理 3.5,可通过和的一组任意给定的有序基确定的一组有序基,使得,其中为从到的某个线性变换。 类似地,根据定理 3.4,可通过和以及给定的有序基和确定相应的有序基和,使得且。 那么利用定理 3.7,。

4.6 矩阵的相似

定义 3.6 (矩阵相似)

若存在可逆矩阵,使得矩阵和满足,则称和相似(similar)。 与矩阵相似有关的等价类称为相似类(similar class)。

作为定理 3.8和推论 3.5的推论,我们有如下结果。

推论 3.6

设为维向量空间,那么两个矩阵和相似当且仅当其(可能在不同的有序基下)表示同一个线性算子。 在这种情况下,和表示中相同的线性算子集。

4.7 算子的相似

定义 3.7

若存在自同构使得线性算子满足,则称和相似。 与算子相似相关的等价类称为相似类。

定理 3.9

设为维向量空间,那么上的两个线性算子相似当且仅当存在一个矩阵可同时(可能在不同的有序基下)表示两个算子, 在这种情况下,和可用中相同的矩阵集表示。

证明

若存在的有序基和使得,那么可定义同构,从而根据定理 3.4,

(3.4.1)

因此根据定理 3.6和推论 3.5,

(3.4.2)

可见对于任意给定的有序基,,即和等价; 反之若和等价,存在自同构使得。 对于任意给定的有序基,可通过定义一组有序基。 根据(3.4.1)式,,进而

(3.4.3)

3.5不变子空间与约化对

一般而言,线性算子在的子空间上的限制未必是线性算子(封闭性),由此引出如下定义。

定义 3.8 (不变子空间)

设。 对于的一个子空间,若,则称在下不变(invariant under )或者-不变(-invariant); 换言之,对于任意,均有,即限制是上的线性算子。

例 3.3

在中定义线性算子,那么子空间是-不变的,但子空间不是。 这说明一般而言,即便的子空间是-不变的,其补空间也未必是-不变的。

定义 3.9 (约化)

设。 若且和均为-不变的,称约化(reduce)。

约化对可用于将线性算子如下分解为直和形式。

定义 3.10 (算子直和)

设。 若约化,记,并称为与的直和。 因此,表达式意味着存在的子空间和,使得约化,并且。

3.6投影算子

6.8 定义与基本性质

定义 3.11 (投影)

设,则线性算子定义为,其中。 称为沿到上的投影(projection onto along )。

以下是投影算子的基本性质。

命题 3.6

设为向量空间,。

  1. 若,则;

  2. 若,则且,进而。 此外;

  3. 若满足且,则为沿到上的投影。

证明
  1. 对于内任意向量,存在和使得,那么,即;

  2. 对于任意,存在和使得,因此,即; 另一方面,对于任意,由于,因此存在,使得,那么,即。 综上,。 类似分析可知,因此。 那么当且仅当;

  3. 记,则对于任意和,首先有,因此

    (3.6.1)

    因此为沿到的投影。

事实上,除去上述定义,投影算子存在一种更简单的等价描述。

定义 3.12 (幂等)

若线性算子满足,则称其幂等(idempotent)。

定理 3.10

线性算子是投影当且仅当其幂等。

证明

若,其中和分别为的子空间,那么对于任意,存在和使得。 那么,即; 反之若,对于任意,总存在使得,因此。 考虑,那么,即; 另外对于任意,总有,因此。 根据命题 3.6,是沿到上的投影。

6.9 正交投影与单位算子分解

定义 3.13 (正交投影)

对于投影,若,则称两者正交(orthogonal),记作。

命题 3.7

投影正交当且仅当且。

证明

若与正交,则对于任意,根据命题 3.6,,因此。 类似地,必要性得证; 反之若必要性成立,对于任意,,因此,类似地,故。

下面的例子将说明,仅有的条件是不充分的,甚至可能在此情况下不是投影。

例 3.4

设,考虑轴和轴以及对角线

(3.6.2)

那么对于任意,容易验证

(3.6.3)
(3.6.4)

可见若为投影,其乘积和可能仍为投影,但两者不相等。 此外,

(3.6.5)
(3.6.6)

可见,但,即非投影。

由于投影幂等,可将单位算子写为两个正交投影的和: ,并将此概念推广至更多投影。

定义 3.14 (单位算子的分解)

上单位算子的分解(resolution of the identity)为求和形式

(3.6.7)

其中为两两(pairwise)正交的投影,即当时。

上单位算子的分解与的直和分解存在如下关系。

定理 3.11

设为向量空间,上单位算子的分解与的直和分解(direct sum decompositions)存在如下对应关系:

  1. 若为单位算子的一种分解,则,其中是沿到上的投影;

  2. 若且为沿直和到上的投影,则是单位算子的分解。

证明
  1. 对于任意,由条件知,因此。 对于任意,考虑,那么根据定义,,即,因此,并且;

  2. 根据命题 3.6,对于任意指标,,类似地。 根据命题 3.7,两两正交。 最后对于任意,存在使得,进而

    (3.6.8)

    因此。

6.10 投影代数

命题 3.8

设为特征4不为2的域上的向量空间,为投影。

  1. 和是投影当且仅当,在这种情况下

    (3.6.9)
  2. 差是投影当且仅当,在这种情况下

    (3.6.10)
  3. 若和可交换,则是投影,在这种情况下

    (3.6.11)
证明
  1. 是投影当且仅当,等价于。 若,该条件显然成立; 反之可将其改写为。 结合可知,。 现在对于任意,根据定理 3.10,。 并且类似定理 3.11的证明,时,因此。 另一方面,对于任意,总存在和使得。 那么且,进而,可见。 综上,。 对于后一结论,是显然的。 对于任意,有,因此,类似地,即,充分性得证;

  2. 是投影当且仅当,即。 根据上一结论,这等价于,因此,即。 在此条件下,显然有; 对于任意,要求,即,回代得。 因此,即。 对于后一结论,首先考虑,有且,因此,回代得,即。 对于任意,存在和使得。 已知且,那么,。 因此且,进而,即; 另一方面,对于任意,已知,那么,因此,充分性得证;

  3. 根据条件,,因此是投影。 显然有; 对于任意,有,故。 对于后一结论,显然有; 反之对于任意,已知,那么,即,结论得证

  1. 这一部分仅讨论代数结构自身的性质,暂且不考虑其拓扑性质。 在第第 14 章章中,我们会将此处的记为,而将其中连续线性变换构成的集合记为。
  2. 代数上定义了加法、乘法和标量乘法三种运算,要求其在加法和标量乘法下构成向量空间,在加法和乘法下构成环,并且要求对于任意和,。
  3. 我们尚未证明行秩(行空间的维数)等于列秩(列空间的维数),不过这点容易由初等行变换不改变秩(向量集的线性组合不改变其中线性无关集的基数)这一事实证明,具体可参见[1]。
  4. 简言之,特征是使得乘法单位元1加和为加法单位元0的加项数,例如比特在按位加法和按位乘法下形成特征为2的域()