凸优化学习笔记——理论

PART1 凸集

1.凸集

1.仿射

仿射集(Affine set)定义:

凸优化学习笔记——理论
通过x1和x2的直线可以参数化描述为θx1 + (1-θ) x2, θ∈R,此直线就是一个仿射的凸优化学习笔记——理论
注:线性方程的解集是仿射集合,同时任何仿射集合都可以表示成线性方程的解集。

仿射组合定义:

凸优化学习笔记——理论
扩展:如果C是仿射的,其中任意点组成的仿射组合仍在C中。

仿射包定义:

凸优化学习笔记——理论

子空间概念:

凸优化学习笔记——理论
注意:子空间一定过原点,子空间其实就对整个集合做整体偏移,偏移x0,这里对于仿射集的子空间仍然为仿射的。

仿射维数与相对内部

仿射维数定义:仿射维数即为仿射包的维数。
相对内部
凸优化学习笔记——理论
即仿射包的维数小于其所处空间维度时,定义了相对内部

2.凸集

凸集定义:

凸优化学习笔记——理论
注:这里类似于取线段

凸组合定义:

凸优化学习笔记——理论

凸包定义:

凸优化学习笔记——理论

3.锥

锥定义:

如果对于任意x∈C和θx∈C,我们称集合C是锥。锥一定过原点

凸锥定义:

凸优化学习笔记——理论

锥组合定义:

凸优化学习笔记——理论

锥包定义:

凸优化学习笔记——理论

4.三种集合的总结

集合 定义 区别
仿射组合 Θ 1 x 1 + ⋯ + Θ k xk Θ 1+ ⋯ + Θ k=1
凸组合 Θ 1 x 1 + ⋯ + Θ k xk Θ 1+ ⋯ + Θ k=1,Θ k∈[0 ,1 ]
凸锥组合 Θ 1 x 1 + ⋯ + Θ k xk Θ 1…Θ k>0

5.重要例子

仿射:空集,单点集,全空间Rn,任意直线,子空间,注:仿射集是凸集的一种特例
凸集:仿射:空集,单点集,全空间Rn,线段,射线,子空间
凸锥:原点,空集,子空间,过原点的射线,直线,注:凸锥一定是凸的

超平面集合:凸优化学习笔记——理论
这里a ∈ Rn ,a ≠ 0 ,b ∈ R
半空间集合:
凸优化学习笔记——理论
注:超平面是放射集,凸集,半空间是凸集,不一定是凸锥(过原点为凸锥)
凸优化学习笔记——理论
Euclid球和椭球:
凸优化学习笔记——理论
这里xc为球心,r为半径。
凸优化学习笔记——理论
注:矩阵正定是指当存在一个矩阵A其是实对称矩阵,且对于所有的X ≠ 0,XTAX > 0,则称矩阵A正定,当矩阵A,XTAX ≥ 0,则称为半正定。实对称矩阵A正定的充分必要条件是其特征值都是正数。
范数球和范数锥
凸优化学习笔记——理论
范数球,范数锥是凸的
多面体
凸优化学习笔记——理论
多面体是凸集,是有限个半空间和超平面取交集的一个集合
单纯形
凸优化学习笔记——理论
一维单纯形为直线,二维空间中的单纯形为三角形,三维单纯形为四面体。
注意:在n维空间中找不到n+1个点以上的的单纯形。单纯形是一类重要的多面体
半正定锥
凸优化学习笔记——理论凸优化学习笔记——理论
Sn+是一个凸锥,Sn也是一个凸锥,Sn++是凸集但不是凸锥

2.保凸运算

1.交集

运算 例子
交集 S1和S2均为凸集,S1∩S2仍为凸
仿射 f : Rn- > Rm是仿射函数,f(x) = Ax + b , A∈Rm*n, b∈Rm
透视函数 P: Rn+1- > Rn, P(z ,t) = z / t domP =Rn × R++,z ∈ Rn, t∈R++
线性分式函数 g: Rn- > Rm+1为仿射映射, P: Rm+1- > Rm f : Rn- > Rm=P。g

注:

  • 每一个闭凸集是多个半空间的交集。
    -仿射运算就是做伸缩和平移。
	 S1和S2均为凸集
	 S1+S2 = { x+y | x ∈ S1 ,y ∈ S2 }仍然为凸
	 S1×S2 = { (x,y) | x ∈ S1 ,y ∈ S2 } 仍然为凸 
	 

-对于线性分式函数 f(x) = (Ax + b) / (CTx + d),dom f = {x | CTx + d > 0 }

上一篇:排序算法学习总结


下一篇:使用Git上传代码到GitHub详细的不能再详细教程