矩阵不等式

矩阵不等式

定义

矩阵不等式是很常用的一些矩阵相关的不等式定理，涉及到最优化、鲁棒控制等方面

线性矩阵不等式

Case 1

给定矩阵 $G,L,E,F$ 是实矩阵，且 $F{F}^T\le I$，那么有：

$$LFE+E^T{F}^T{L}^T\le \frac{1}{{\epsilon }^2}L{L}^T+{\epsilon }^2{E}^{T}E\forall \epsilon >0$$

在此基础上，令 $L=x^{T}D,E=Sy$，可以得到：

$$2x^{T}DFSy\le {\epsilon }^{-1}{x}^{T}D{D}^{T}x+\epsilon y^T{S}^{T}Sy$$

proof

note

这是一种常用的思路，将矩阵不等式升维，变成 $AX\le B$ 的形式

将问题整理为如下结构：

$$\left(\begin{array}{ll}\frac{1}{ϵ}L& ϵE^T\end{array}\right)\left(\begin{array}{cc}0& F\\ F^T& 0\end{array}\right)\left(\begin{array}{c}\frac{1}{ϵ}{L}^T\\ ϵE\end{array}\right)\le \left(\begin{array}{ll}\frac{1}{ϵ}L& ϵE^T\end{array}\right)\left(\begin{array}{c}\frac{1}{ϵ}{L}^T\\ ϵE\end{array}\right)$$

等价于证明：

$$M=\left(\begin{array}{cc}I& -F\\ -F^T& I\end{array}\right)⪰0$$

利用 schur complement 可以得到：

$$M⪰0\iff I-F{F}^T⪰0$$

而后者显然是成立的

---

Case 2

假定 $Q\succ 0$，那么对任意 x, y，均有：

$$\frac{1}{2}{x}^{T}Qx+\frac{1}{2}{y}^T{Q}^{-1}y\ge x^{T}y$$

proof

注意到，$\frac{1}{2}{y}^T{Q}^{-1}y$ 是 $\frac{1}{2}{x}^{T}Qx$ 的 对偶函数，即：

$$\begin{array}{c}{f}^{\star }\left(y\right)=\underset{x}{\max }{y}^{T}x-f\left(x\right)\\ f\left(x\right)=\frac{1}{2}{x}^{T}Qx\Rightarrow f^{\star }\left(y\right)=\frac{1}{2}{y}^T{Q}^{-1}y\end{array}$$

从而表明上式成立

---

参考

引文

• 请问这个矩阵式子为什么成立啊？ - 知乎

脚注