过P做MN的垂线，垂足为Q，若Q在线段MN以内(包括与点M点N重合)，则最短距离为垂线段长度，若垂足在MN以外，则最短距离为PM，PN中的较小者。（若P与MN共线，垂线长度为零，同样适用）
所以可由 Q位置判断
若Q在线段MN上 则
$$|MQ|+|QN|=|MN|$$
或不开方的
$$|MQ{|}^2+|QN{|}^2\le |MN{|}^2$$

所以最小距离可表示为
$$\{\begin{array}{lcr}|PQ|& & \text{|}MQ|+|QN|=|MN|\\ & & \\ MIN(|PN|,|PM|)& & |MQ|+|QN|>|MN|\end{array}$$
或
$$\{\begin{array}{lcr}|PQ|& & \text{|}MQ{|}^2+|QN{|}^2\le |MN{|}^2\\ & & \\ MIN(|PN|,|PM|)& & |MQ{|}^2+|QN{|}^2>|MN{|}^2\end{array}$$

计算垂足
$$\angle b=\angle a+90°$$
$$\tan (b)=\tan (a+\frac{\pi }{2})=-\cot (a)$$
MN斜率为k PQ斜率为 -1/k

$$\{\begin{array}{lcr}\frac{y_q-y_p}{x_q-x_p}=-\frac{1}{k}& & \\ & & \\ y=kx+b& & \end{array}$$

点Q在MN上求解

$$\{\begin{array}{l}{x}_q=\frac{x_p+k{y}_p-kb}{1+k^2}\\ \\ y_q=\frac{k{x}_p+k^{2}k{y}_p+b}{1+k^2}\end{array}$$

其中
$$\{\begin{array}{lcr}b=y_m-\frac{y_n-y_m}{x_n-x_m}{x}_m=\frac{x_n{y}_m-x_m{y}_n}{x_n-x_m}& & \\ & & \\ k=\frac{y_n-y_m}{x_n-x_m}& & \end{array}$$

代入 M N P 坐标 可算出 垂足坐标

水平与坚直另分一种情况直接求解