线性代数讨论贴

lego

说在前面的话

其实两个月前就想开这个讨论贴了
虽然说现在这个学期是快结束了，但是线性代数的学习远没有结束，所以现在开帖也不迟嘛（顶锅盖逃
主要是给19级的小伙伴咸鱼提供一个讨论的平台，当然也希望有别的级的大佬一起参与讨论：-D

现状
10月份的时候讲C的快速入门坟还有十几个人来讨论（听课），进入GSLA的学习之后来讨论的人数直线下降，连续两个星期只有三个人来讨论了。开这个帖子也是希望能有更多人关注到线代的学习，享受到学线代的乐趣。

局限
我们必须承认在线代的理解上我们还有非常多的不足。比如：在18.065的lecture 1里提到了一个A的CR分解，C中的列是A中的independent columns，这时R中是行空间的basis。这似乎再显然不过了，但是在我们整个学期的讨论中竟然没有提到过这种很基础很基础的分解形式，是不是也很能说明一些问题呢？如果我们能通过这种形式去理解为什么行空间与列空间维度相等，或者通过行秩等于列秩这一结论去推出A会有CR这种分解形式，是不是会有更深一步的收获呢？当然，CR分解这件事本身没什么令人震惊的，但我们学了一个学期居然没人想过这种很basic的idea，这比较让人震惊。大家如果有时间可以去看看18.065 lecture one，我相信你也会当场懵掉。不是因为难，而是因为这太基础了。
除了思考深度外，还有一点就是讨论时间。每周仅有周六早上3个小时的讨论，三个小时内解决所有人一周内积累的所有问题，这似乎不大现实。如果说我们可以做到在三个小时内讨论完所有的题目，我想这更能说明的一点是，我们做题做太少了（逃）。所以开这个帖子也是希望大家在平时也可以讨论线代，为啥要憋着等到周六再来一起讨论呢？？（好吧，在这点上我要背锅

最后
其实说实话，哪怕只有三个人在讨论，我也觉得挺开心的而且有收获。但刚才提到的局限，哪怕仅在三个人中也是存在的，可能要思考如何去调整。
另外，开这个帖子不是呼吁大家努力学习线代；事实上我只是想提醒那些正在学习线代并且想学好线代的同伴，我们现在可能面对一些之前未发觉的问题，需要作出改变和调整。而至于线代有没有用、有没有趣、需不需要认真学，大家都是~~成年人~~，自己判断吧。

最最后
下周是本学期最后一次讨论，暂定为recitation，有想讨论的知识点或题目可以跟帖马一下。

一些学习资源

-mit 18.06
-mit 18.065
-library genesis 有很多参考书可以免费下载

关于18.065：这是18年的课程，YouTube上有36期完整的视频，但是书可能暂时买不到；和18.06相比，新增了关于machine learning的内容；和18.06相比有不少重叠的知识，但是鉴于上18.065的学生中有一部分是已经学过18.06的，合理推测课程中对于我们熟悉的知识点可能还是会有和18.06不同的perspective，有时间的同学可以去康康。~~康完记得发帖分享~~

补充参考

-《Linear Algebra with Applications》Steven J.Leon （狗东上可以买到第九版）
-《Introduction to Applied Linear Algebra》 Stephen Boyd / Lieven Vandenberghe

只读一本GSLA应该是不够的。

lego

我先来带个头！
下面整理了一些GSLA（v5）上的题目，不是什么难题，只是一个补充。
很希望能有同学提出一些基础而不肤浅的问题，像CR分解一样，也许我们现在并不需要找一些很难的题目去锻炼我们的做题技巧，可能在学期的最末尾，我们需要沉下心来问自己一些看上去简单而显然的问题。

PS 3.5:
T13：判断两个矩阵的四大基本子空间相同的方法是？或者说，什么东西能决定它们的四大基本子空间相同？似乎可以从basis出发。除此之外，能不能从子空间的封闭性的角度把（c）改成正确的proposition。

T30:整个学期都没有怎么讨论matrix space，和vector space相比有哪些特性？（忘了是在书上还是视频里有提到symmetry matrix space的维度问题，有点意思的，应用（~~微分方程~~）上也有意义
PS 5.2
T25:构造分块矩阵来证明是真的有点玄学。我们知道block和entry在矩阵乘法上表现得比较类似，但是在求行列式时就不那么类似了，也许我们可以从矩阵的entry有的性质出发去玩一下block的性质。毕竟作为Cser，我们知道有许多算法都用到了分块矩阵。
PS 6.2
T31:Cayley-Hamilton Theorem，提到了特征多项式，P（A）也挺神奇的。
（P317最下面，又是分块矩阵的玄学构造难顶）
PS 6.5
T32:提到了group
PS 7.2
T18:建立了关于svd的直观理解后这应该是道送分题……？

以上都不是什么难题，只是我觉得平时比较少讨论到这些问题上，补充一下整挺好嗷。只有这几个问题是因为~~我做的题太少了~~

drink_young

lego
6.3：
T 2：回代的解法感觉好像书上没看到，看了答案也不明白。
T 4：应用题：要怎么抓取题目信息找出合适的矩阵。
T 31：余弦矩阵有意思

Bintou

A = CR 的一个具体实例。

1、A = [[2, 3, 5], [1, 1, 7], [3, 4, 12]]，把所有向量理解为列向量。很显然，A并不满秩，因为第一列加第二列等于第三列。

2、A的列空间C(A)等于什么？取第一列和第二列即可，所以，C = [[2, 3, 5], [1, 1, 7]]

3、A = C * R，现在已知A和C，R是什么？很容易看出（利用C的列组合），R= [[1,0], [0, 1], [1, 1]]

4、R是A的行空间的基吗？（反正我在这里犹豫了很久）直到Strang老先生提醒，R左乘C，是做行组合！验证，显然R=C(A^T).

这就是所谓的CR分解。A = CR，C与R有相同的Rank。

Not a big deal。开心就好。

论坛的公式支持要提高啊，站长！@0x0001

Cybsac

Bintou 是指R的行向量是A的行空间的基吗？

0x0001

Bintou 论坛的公式支持要提高啊，站长！

近期安排上

Cybsac

drink_young

线代讨论课的思维碰撞：把奇妙的想法用严谨的方式证明书中的结论。比如相似矩阵的有相同特征值。更有意思的是在证明过程中还找到了相似矩阵的特征向量。

Cybsac

推荐一个知乎上的笔记，可供参考 https://zhuanlan.zhihu.com/p/28277072

完整版可看我收藏夹 https://www.zhihu.com/collection/439602529?page=3

Bintou

Cybsac 是的。

lego

Cybsac 是的！这真的很妙，而且C是3x2，R是2x3，rank不就是2吗。而且其实再深挖一点，如果我们在学了rank-one matrix的形式后推广到更高维的情况，其实就是CR分解，只是当时我们没有再进一步。

Bintou

还有一个想法与大家讨论一下。MIT 18.06有大量的Python代码来进行线性代数计算，甚至包括使用SVD进行Strang老师的照片进行压缩。

我的问题是，大家会觉得这些Python代码对线性代数的学习有帮助吗？或者说，我们需要多少代码，不需要什么代码？我是非常提倡大家学数学的时候进行编程的。只是有一天我突然怀疑了起来，真的有一个软件，给定矩阵A，然后直接这样求行列式：A.determinant() 。这样的意义到底有多大？

怀疑归怀疑，还是建议大家有空去玩一下那些代码的。

Bintou

P.S 6.5 T32，不要害怕新名词，也不要等完整的代数课学完才接触group（群）。掌握以下几条群公理即可开始做题。群是一个元素集合G和一个运算符形成的抽象结构(G, *)。

封闭性（close） forall a, b \in G, a*b \in G
单位元（identity） exists e \in G, s.t ea = ae = a, for any a \in G
逆元（inverse） for a \in G, exists a' s.t. aa' = a'a = e
结合律（associativity） a(bc) = (ab)c

拿到matrix来说，*就是矩阵乘法。对所有n × n 矩阵，一个显然事实就是，I是矩阵群的单位元。其次，矩阵A存在逆矩阵iff Det(A) != 0。封闭性，就需要验证两个行列式不为零的矩阵想乘所得的矩阵行列式是否不为0？这样的群有一个特殊的表示GL_n，称为一般线性群。GL_n有一个子群就是所有行列式值为1的n × n矩阵。

推广到正定矩阵、单位正交矩阵等则是你们的工作。就是围绕这几条公理进行验证。最后，矩阵乘法有结合律！

lego

drink_young T2的话可以去看看mit的highlight of calculus公开课第17集！！也是Strang老先生主讲（我太喜欢他了）。星期六可以讨论一下了。
还有余弦矩阵，有余弦应该就有正弦，有了正弦余弦是不是就应该有欧拉了（~~滑稽逃~~

lego

🐎一下Problem set 2.5-2.7的一些问题：

PS 2.5:
T43:提到了Schur complement,但是没有说明白是什么的complement，和Schur分解有联系🐎
PS 2.6:
T15:昨天吵了很久为什么对称矩阵L=U^T，这里给出了LDU分解的唯一性的证明，用LDU分解的唯一性去证L=U^T 还是比较显然的（捂脸）。要关注一下各种分解的唯一性了。drink_young
T22:constant-diagonal matrix,🐎一下
PS 2.7:
T14:reverse the order of diagonal的操作，🐎一下
T18:纠正一个东西！！antisymmetric和skew-symmetric是同一个东西，而且它们对角线上元素都为0（捂脸）drink_young
T26:对称矩阵的快速消元，🐎一下
T31:没看懂这题意思，但直觉告诉我这道题挺有内涵
T34:LS分解：一个方阵可以被分解为一个下三角和一个对称矩阵，看到对称矩阵，先🐎一下再说

我真傻，真的，我应该把帖子开在博客区而不是综合讨论区：-D

Bintou

矩阵乘法

矩阵乘法通常有两种：列组合、行组合。大家知道以下这种乘法吗？

矩阵乘法等于Rank One矩阵的Summation

矩阵A * 矩阵B，将A的第i列与B的第i行相乘，得一个Rank one 矩阵，把所有得到的这些矩阵加起来。
据说，这是一种体现线性代数内涵的乘法。

lego

关于斌头老师提到的那个rank-one分解，在GSLA的72页，个人感觉这个分解并不是一个很容易能看出来的操作。当然，展开之后我们可以验证这是正确的。

另外，我在18.06的主页发现了一份selected questions，于是做了一下里面的一些题目。以下是Chapter 1里的一些题目。~~只做了Chapter 1~~

P.S 1.1
T9:给出平行四边形的三个顶点，不用距离公式，能用向量的线性组合找出第四个顶点吗（将点看成向量）。这个线性组合具有普适性吗？

T16、20、22:这三题内涵差不多。T20里问三个向量的线性组合满足什么条件会在虚线内的三角形里，答案是c+d+e=1，这感觉不显然啊？？有人能给一个论证🐎？
P.S 1.3
T3:提到了个sum matrix，把前n个奇数作为输入，能输出n个完全平方数。说明了完全平方数的性质之一。
T14:依然强调了行秩和列秩的关系，证明不难。

前三章的题目做的不多，~~可以说是很少~~，今天做了一下发现我们以为基础的东西其实也不简单啊（~~小鹦鹉落泪.jpg~~）。

还有一个可以重视一下的题型就是，前几天做final的时候发现，很多题目都是给定你一些条件，让你去构造符合这些条件的matrix。我一开始没重视这种题，觉得好像很简单很基础，没什么意思，后来慢慢感觉其实这些都是积累（特别是涉及到四大基本子空间的），而且matrix的类型也是线代里面重要的知识之一。所以还是要倒回去做一些这些题。

Kartone

lego c+d+e=1那个，受网上解法启发，可以设三角形内部点为D，u的终点为A，v的终点为B，w的终点为C，原点设为O。DA, DB, DC共面，所以DA=mDB+nDC，有OA-OD=m(OB-OD)+n(OC-OD)，化简得(1-m-n)OD=-mOA-nOB+OC，本来又有OD=cOA+dOB+eOC嘛，一一对应就得到相加为1了。一开始我还以为是二维平面，淦。
By the way，现在还有线代讨论群吧，暑假想学起来，一个人怕遇到解决不了的难题 🥹

lego

明早本学期最后一次讨论，能把这个星期收集的问题都讨论清楚感觉就已经挺好的了。（~~有气无力~~

以下是2.1～2.4的问题合集。

P.S 2.1:
T14:有一段时间没去想Ax=b的问题了，不知道为什么我一直以为x_particular一定在row space里面……然后，问一个~~非常愚蠢的~~paradox，在这个问题里面，我有一个x_particular和三个x_special，显然这四个向量线性无关，那为什么我的解空间是3D的而不是4D的（真的很简单的一个问题，居然还想了我蛮久的

T29:之前讲Markov matrix的时候我好像忘了说Markov matrix的power也是Markov matrix。证明的话可以用到斌头老师昨天补充的那个rank-one pieces的加法，或者有什么更直观的证明方法可以跟帖说一下？
P.S 2.3
T30:GL_n有一个det=1的子群的实例
P.S 2.4
T11:我没搞懂题目里面的col operation和row operation指的啥，随便换了两行两列感觉不太对劲
T16:关于乘法次数，作为Cser还是要知道的
T22: D、E都是保长度的正交矩阵，涉及旋转，我觉得这题的几何直观要建立起来（我自己有点懵
T37:给出了结合律的证明

Tover

lego @0x0001 找站长操作吧😂

lego

0x0001

Tover nsdd

0x0001

Tover

lego done. 但还是有点讨论的感觉啊哈哈哈