matlab可以求解无约束最优化问题、有约束最优化问题和线性规划、二次型规划问题等，同时实现了最小二乘法的曲线拟合方法。matlab求解优化问题的步骤为：

1. 写标准型
2. 描述目标函数：M-函数或匿名函数
3. 用fminunc()或fmincon()等函数求解原问题。
4. 检验得出的解，如随机变换求解的初值，观察是否能得到更好的解。
5. 传统最优化方法的最大问题是无法保证得到全局最优解，可以考虑调用matlab的进化算法，如遗传算法和粒子群算法来求解原问题。

1. 无约束最优化问题求解-fminsearch()

无约束最优化问题一般描述为：

$$\underset{\mathbf{x}}{\min }f(\mathbf{x})$$

我们的目标是选取合适的$\mathbf{x}$（一个向量）使得目标函数$f(\mathbf{x})$的值最小，最小化是最优化问题的通用描述，如果要求解最大化问题，可以给目标函数$f(\mathbf{x})$添加一个负号转化为求解最小值问题。

matlab提供了基于单纯形法求解无约束的函数的fminsearch()，该函数调用格式为

$$\left[\mathbf{x},f_{\text{opt }},\text{key},\text{c}\right]=\text{ fminsearch (Fun },{\mathbf{x}}_0,\text{ options,附加参数})$$

其中

• $\text{Fun}$：要求解问题的数学描述，是一个matlab函数也可以是是一个函数句柄；
• ${\mathbf{x}}_0$：自变量的起始搜索点，需要用户自己定义；
• $\mathbf{x}$：寻找到最优值下的自变量的结果。
• $f_{\mathrm{opt}}$：最优化的目标函数结果。
• $\text{key}$：函数返回的条件，正整数表示已经求解方程的解。而0或负整数表示未搜索到方程的解；
• $\text{c}$：解的附加信息，该变量是一个结构体变量，包含 + iteration: 迭代的次数； + funcCount: 目标函数的调用次数

另外matlab最优化工具箱提供fminunc()和fminsearch()的功能很像，有时候求解无约束最优化问题可以选择该函数。

1.1 例子

我们现在考虑二元函数

$$\underset{x,y}{\min }f(x,y)=(x^2-2x){\mathrm{e}}^{-x^2-y^2-xy}$$

---

我们需要做变量代换：令$x_1=x$，$x_2=y$，$\mathbf{x}=[x_1,x_2{]}^T$，于是转化目标函数为：

$$f(\mathbf{x})=(x_1^2{x}_1){\mathrm{e}}^{-x_1^2-x_2^2-x_1{x}_2}$$

f=@(x)(x(1)^2-2*x(1))*exp(-x(1)^2-x(2)^2-x(1)*x(2));
x0=rand(2,1);[x,f1]=fminsearch(f,x0)

解得：

2. 有约束最优化问题求解-fmincon()

$$\begin{gathered} \underset{\mathbf{x}}{\min }f(\mathbf{x}) \\ \text{ s.t. }\{\begin{array}{l}\mathbf{A}\mathbf{x}⩽\mathbf{B}\\ {\mathbf{A}}_{\mathrm{eq}}\mathbf{x}={\mathbf{B}}_{\mathrm{eq}}\\ {\mathbf{x}}_{\mathrm{m}}⩽\mathbf{x}⩽{\mathbf{x}}_{\mathrm{M}}\\ \mathbf{C}(\mathbf{x})⩽0\\ {\mathbf{C}}_{\mathrm{eq}}(\mathbf{x})=0\end{array} \end{gathered}$$

可以看到约束可以是线性等式约束(第1个式子)也可以是线性不等式约束(第2个式子)，可以是有界约束(第3个式子)，还可以是非线性约束(第4个和第5个式子)。在matlab里提供了一个fmincon()函数，专门用于求解各种约束下的最优化问题，其调用方式为：

$$\left[\mathbf{x},f_{\text{opt}},\text{key,c}\right]=\text{fmincon}\left(\text{Fun},{\mathbf{x}}_0,\mathbf{A},\mathbf{B},{\mathbf{A}}_{\mathrm{eq}},{\mathbf{B}}_{\mathrm{eq}},{\mathbf{x}}_{\mathrm{m}},{\mathbf{x}}_{\mathrm{M}},\text{CFun,OPT}\right)$$

其中

• $\text{Fun}$：给目标函数写的m-函数；
• ${\mathbf{x}}_0$：自变量的起始搜索点，需要用户自己定义；
• 线性约束如果不存在用空矩阵来占位
• $\mathbf{x}$：寻找到最优值下的自变量的结果。
• $f_{\mathrm{opt}}$：最优化的目标函数结果。
• $\text{CFun}$：给非线性函数写的m-函数；
• $\text{OPT}$：控制选项。
  如果在最优化过程中发现找不到可行解，在求解结束后将给出提示：No feasible solution found

有约束优化还有几种特殊的方式，如线性规划、二次型规划问题，可以使用工具箱的linprog()和quadprog()函数直接求解。此外，整数规划、0-1规划等问题可以由专门的工具求解，下面给出一般非线性规划问题的最优化求解。

2.1 例子1

$$\begin{gathered} \underset{\mathbf{x}}{\min }0.6224x_1{x}_2{x}_3{x}_4+1.7781x_2{x}_3^2+3.1661x_1^2{x}_4+19.84x_1^2{x}_3) \\ \text{ s.t. }\{\begin{array}{l}0.0193x_3-x_1\le 0\\ 0.00954x_3-x_2\le 0\\ 750\times 1728-\pi x_3^2{x}_4-4\pi x_3^3/3\le 0x_4-240\le 0\\ 0.0625\le x_1,x_2\le 6.1875,10\le x_3,x_4\le 200\end{array} \end{gathered}$$

---

main

% 定义目标函数
f=@(x)0.6224*x(1)*x(2)*x(3)*x(4)+1.7781*x(2)*x(3)^2+3.1661*x(1)^2*x(4)+19.84*x(1)^2*x(3);
% 定义求解条件
xm=[0.0625,0.0625,10,10];
xM=[6.1875,6.1875,200,200];
A=[];
B=[];
Aeq=[];
Beq=[];
x0=(xm+xM)/2;
ff=optimset;
ff.Tolx=1e-10;
ff.TolFun=1e-20;
[x,f]=fmincon(f,x0,A,B,Aeq,Beq,xm,xM,@constraint,ff)

由于约束函数要返回两个变量：等式约束$\mathrm{ceq}$和不等式约束$\mathrm{c}$。这里便不能用匿名函数来定义，原问题只有不等式约束，没有等式约束，所以返回的是空矩阵
constraint

% 定义非线性约束
function [c,ceq] = constraint(x)
c=[0.0193*x(3)-x(1);
    0.00954*x(3)-x(2);
    750*1728-pi*x(3)^2*x(4)-4*pi*x(3)^3/3;
    x(4)-240];
ceq=[];
end

运行main函数，最后我们得到的是：

有时候我们可能找不到最优解，这时候我们会提示：

Maximum number of function evaluations exceeded:
increase options.MaxFunEvals

这时候我们可能需要改进搜索的初值，或者修改控制参数OPT，再进行寻优，得到期望的最优值。

2.2 例子2

$$\begin{gathered} \underset{\mathbf{q},w,k}{\min }k \\ \text{ s.t. }\{\begin{array}{l}{q}_3+9.625q_{1}w+16q_{2}w+16w^2+12-4q_1-q_2-78w=0\\ 16q_{1}w+44-19q_1-8q_2-q_3-24w=0\\ 2.25-0.25k\le q_1\le 2.25+0.25k\\ 1.5-0.5k\le q_2\le 1.5+0.5k\\ 1.5-1.5k\le q_3\le 1.5+1.5k\end{array} \end{gathered}$$

我们首先需要对变量做替换：

$x_1=q_1,x_2=q_2,x_3=q_3,x_4=w,x_5=k$

并且需要对不等式重新进行整理：

$$\begin{gathered} \underset{\mathbf{x}}{\min }{x}_5 \\ \text{ s.t. }\{\begin{array}{l}{x}_3+9.625x_1{x}_4+16x_2{x}_4+16x_4^2+12-4x_1-x_2-78x_4=0\\ 16x_1{x}_4+44-19x_1-8x_2-x_3-24x_4=0\\ -0.25x_5-x_1\le -2.25\\ x_1-0.25x_5\le 2.25\\ -0.5x_5-x_2\le -1.5\\ x_2-0.5x_5\le 1.5\\ -1.5x_5-x_3\le -1.5\\ x_3-1.5x_5\le 1.5\end{array} \end{gathered}$$

原问题有两个非线性等式约束，没有不等式约束。非线性约束条件描述
constraint

function [c,ceq] = constraint(x)
c=[];
ceq=[x(3)+9.625*x(1)*x(4)+16*x(2)*x(4)+16*x(4)^2+12-4*x(1)-x(2)-78*x(4);
16*x(1)*x(4)+44-19*x(1)-8*x(2)-x(3)-24*x(4)];
end

线性不等式约束我们写作$\mathbf{Ax}\le \mathbf{b}$，其中：

$$\mathbf{A}=\left[\begin{array}{ccccc}-1& 0& 0& 0& -0.25\\ 1& 0& 0& 0& -0.25\\ 0& -1& 0& 0& -0.5\\ 0& 1& 0& 0& -0.5\\ 0& 0& -1& 0& -1.5\\ 0& 0& 1& 0& -1.5\end{array}\right],\mathbf{b}=\left[\begin{array}{c}-2.25\\ 2.25\\ -1.5\\ 1.5\\ -1.5\\ 1.5\end{array}\right]$$

该问题没有线性等式约束，也没有决策变量的下界和上界约束，所以可以将这些约束用空矩阵表示：

main

f=@(x)x(5);
xm=[];
xM=[];
A=[-1,0,0,0,-0.25;1,0,0,0,-0.25;0,-1,0,0,-0.5;0,1,0,0,-0.5;0,0,-1,0,-1.5;0,0,1,0,-1.5];
B=[-2.25;2.25;-1.5;1.5;-1.5;1.5];
Aeq=[];
Beq=[];
x0=2*rand(5,1);

[x,f]=fmincon(f,x0,A,B,Aeq,Beq,xm,xM,@constraint)

求解的时候很可能求出局部最优解$x_5=1.1448$，多调用几次就会得到全局最优解$\mathbf{x}=[2.4544,1.9088,2.7263,1.3510,0.8175{]}^T$，目标函数为$0.8175$。

参考资料：
[1] 薛定宇.《控制系统仿真与计算机辅助设计》.第3版