不妨设 $m\leqslant n$, 则 $\mathcal{M}_{mn}(R)$ 中矩阵的秩最多为 $m$. 可以按秩将 $\mathcal{M}_{mn}(R)$ 分成 $m+1$ 个互不相交的子集的并.
\[\mathcal{M}_{mn}(R)=\{O\}\cup\mathcal{M}_1\cup\mathcal{M}_2\cdots\cup\mathcal{M}_m,\]
其中 $\mathcal{M}_k$ 表示 $\mathcal{M}_{mn}(R)$ 中秩为 $k$ 的矩阵子集, $O$ 是零矩阵, 秩为零. 令
\[\mathcal{M}^k_{mn}(R)=\bigcup_{i\geqslant k}\mathcal{M}_i,\]
我们要证明 $\mathcal{M}^k_{mn}(R)$ 是 $\mathcal{M}_{mn}(R)$ 的开子集.
首先回顾一下矩阵秩的概念. $\text{rank}(A)=i$ 当前仅当 $A$ 中存在 $i$-阶非零子行列式, 而且任意 $i+1$ 阶子行列式均为零.
现在任取 $A\in \mathcal{M}^k_{mn}(R)$, 则存在 $k$ 阶非零子行列式, 不妨设这个子行列式为 $A_{(k)}$. $\det(A_{(k)})=d\neq 0$. 取 $\varepsilon > 0$, 对任意 $d(B,A)\leqslant\varepsilon$ 的矩阵 $B$, 设它相应于 $A_{(k)}$ 在 $A$ 中的位置, 有子方阵 $B_{(k)}$, 则
\[\|B_{(k)}-A_{(k)}\|\leqslant\|B-A\| < \varepsilon\]
若取 $\varepsilon$ 足够小, 则可使得 $\det(B_{(k)})\neq 0$, 从而 $\text{rank}(B)\geqslant k$. 这说明 $\mathcal{M}^k_{mn}(R)$ 是 $\mathcal{M}_{mn}(R)$ 的开子集. 而
\[\bigcup_{i < k}\mathcal{M}_i=\bigcup_{i\leqslant k-1}\mathcal{M}_i\]
是闭集.
当然也可以这样来理解, 秩小于 $k$ 的矩阵集合 $\bigcup_{i<k}\mathcal{M}_i$ 实际上是定义在 $\mathcal{M}_{mn}(R)$ 上的一组连续函数零点的集合. 这一组连续函数是指对 $m\times n$ 中任意 $k\times k$ 的子方阵求行列式. 要求均为零. 故 $\{0\}$ 的原像 $\bigcup_{i<k}\mathcal{M}_i$ 是闭集.
参见[1,p.63] 关于 Grassman 流形的论述. Grassman 流形参见问题750.
References:
[1] William M. Boothby, An Introduction to Differentiable Manifolds and Riemannian Geometry, second edition.