最优化方法Python计算:一元函数搜索算法——二分法

设一元目标函数 f ( x ) f(x) f(x)在区间 [ a 0 , b 0 ] ⊆ R [a_0,b_0]\subseteq\text{R} [a0,b0]R(其长度记为 λ \lambda λ)上为单峰函数,且在 ( a 0 , b 0 ) (a_0,b_0) (a0,b0)内连续可导,即其导函数 f ′ ( x ) f'(x) f(x) ( a 0 , b 0 ) (a_0,b_0) (a0,b0)内连续。在此增强的条件下,可以加速迭代计算压缩区间的过程。仍然设置计算精度为 ε > 0 \varepsilon>0 ε>0。首次迭代,即 k = 1 k=1 k=1时,插入点取 a 1 ′ = a 0 + b 0 2 a'_1=\frac{a_0+b_0}{2} a1=2a0+b0。若 f ′ ( a 1 ′ ) = 0 f'(a'_1)=0 f(a1)=0,即 a 1 ′ a'_1 a1 f ( x ) f(x) f(x) [ a 0 , b 0 ] [a_0,b_0] [a0,b0]的驻点,由单峰函数性质值, a 1 ′ a'_1 a1 f ( x ) f(x) f(x) ( a 0 , b 0 ) (a_0,b_0) (a0,b0)内维一的极小值点 x 0 x_0 x0,停止迭代。否则,若 f ′ ( a 1 ′ ) > 0 f'(a'_1)>0 f(a1)>0,意味着 f ( x ) f(x) f(x)沿 a 1 ′ a'_1 a1的左边方向下降(见下图(a)),故 x 0 ∈ ( a 0 , a 1 ′ ) x_0\in(a_0,a'_1) x0(a0,a1)。取压缩区间 [ a 1 , b 1 ] = [ a 0 , a 1 ′ ] [a_1,b_1]=[a_0,a'_1] [a1,b1]=[a0,a1]。若 f ′ ( a 1 ′ ) < 0 f'(a'_1)<0 f(a1)<0,则 f ( x ) f(x) f(x)沿 a 1 ′ a'_1 a1的右边方向下降(见下图(b)),必有 x 0 ∈ ( a 1 ′ , b 0 ) x_0\in(a'_1,b_0) x0(a1,b0),取压缩区间为 [ a 1 , b 1 ] = [ a 1 ′ , b 0 ] [a_1,b_1]=[a'_1,b_0] [a1,b1]=[a1,b0]。无论哪种情形, [ a 1 , b 1 ] [a_1,b_1] [a1,b1]的长度为 λ / 2 \lambda/2 λ/2,即压缩比为 0.5 0.5 0.5。用此策略,继续迭代,直至得到 a k ′ a'_k ak,使得 f ′ ( a k ′ ) = 0 f'(a'_k)=0 f(ak)=0 λ / 2 k < ε \lambda/2^k<\varepsilon λ/2k<ε,停止迭代, a k + b k 2 \frac{a_k+b_k}{2} 2ak+bk即为最小值点 x 0 x_0 x0的近似值。这一方法由于每次都将当前区间作对分,故称为“二分法”。回顾黄金分割法,迭代计算压缩区间的压缩比为 1 − ρ = 1 − 0.382 = 0.618 > 0.5 1-\rho=1-0.382=0.618>0.5 1ρ=10.382=0.618>0.5,所以二分法比黄金分割法效率稍有提高。在这里插入图片描述
将上述算法实现为如下的Python函数:

from scipy.optimize import OptimizeResult
bisection(fun,bracket,gtol,**options):
    a0,b0=bracket						#单峰区间端点
    a1=(a0+b0)/2						#中点
    f1,_=der_scalar(fun,a1)				#中点处导数
    k=1									#迭代次数
    while abs(f1)>gtol:					#重复迭代
        k+=1
        if f1<0:						#导数为负
            a0=a1						#修改左端点
        else:							#导数为正
            b0=a1						#修改右端点
        a1=(a0+b0)/2					#更新中点
        f1,_=der_scalar(fun,a1)			#更新中点处导数
    bestx=a1    
    besty=fun(bestx)
    return OptimizeResult(fun=besty, x=bestx, nit=k)

程序中第2-17行定义用二分策略计算目标函数局部最优解的bisection函数。参数fun表示目标函数 f ( x ) f(x) f(x),bracket表示初始单峰区间 ( a 0 , b 0 ) (a_0,b_0) (a0,b0),gtol表示容错误差 ε \varepsilon ε,options用来使minimize_scalar将gtol等实际参数传递给bisection。第3行读取单峰区间(详见博文《连续函数的单峰区间计算》)左右端点a0和b0。第4行计算单峰区间的中点为a1。第5行调用der_scalar函数(详见博文《一元函数导数的数值计算》)计算 f ( x ) f(x) f(x)在区间中点处的导数为f1。第6行将迭代次数k初始化为1。第7-14行的while循环执行重复迭代,直至当前区间中点处的导数绝对值接近0。循环体中,第8行迭代次数k自增1,第9~12行的if-else分支根据当前中点处导数的符号,决定下一次迭代的单峰区间。第13行更新当前区间中点,第14行更新中点处导数。第15、16行用a1分别设置最优解bestx和最优解处函数值besty。第17行用besty、bestx、k构造OptimizeResult对象并返回。
例1 用bisection函数计算函数 f ( x ) = x 2 + 4 cos ⁡ x f(x)=x^2+4\cos{x} f(x)=x2+4cosx x = 1 x=1 x=1附近的局部最优解。
:下列代码计算本例。

import numpy as np
from scipy.optimize import minimize_scalar
f=lambda x:x**2+4*np.cos(x)
bracket=myBracket(f,1)
res=minimize_scalar(f,bracket,method=bisection, options={'eps':1.48e-8})
print(res)

程序很简单,第3行定义目标函数 f ( x ) f(x) f(x)为f。第4行调用myBracket函数计算 f ( x ) f(x) f(x) x = 1 x=1 x=1近旁的单峰区间。第5行调用scipy.optimize的minimize_scalar函数,传递f、bracket和bisection函数,计算 f ( x ) f(x) f(x) x = 1 x=1 x=1近旁的局部最优解。运行程序,输出

fun: 2.3168084197882135
nit: 26
x: 1.895494265556336

bisection以容错误差 ε = 1.48 × 1 0 − 8 \varepsilon=1.48\times10^{-8} ε=1.48×108,迭代26次,算得最优解近似值为1.895494265556336,最优解处函数近似值为2.3168084197882135。
例2 物资需从位于陆地的城市 A A A运送到位于水中的海岛 B B B,假定各点间距离如题图中所示,且物资在陆地及水中的运输速度分别为1和 1 2 \frac{1}{2} 21。试确定海岸线上码头建造位置 x x x,使得物资运输时间最短。
在这里插入图片描述
:根据题意,算得目标函数(即物资运送时间) f ( x ) = 1 + x 2 + 2 1 + ( 2 − x ) 2 f(x)=\sqrt{1+x^2}+2\sqrt{1+(2-x)^2} f(x)=1+x2 +21+(2x)2 0 ≤ x ≤ 2 0\leq x\leq2 0x2。解析方法解决此问题,需算得其导数
f ′ ( x ) = x 1 + x 2 − 2 ( 2 − x ) 1 + ( 2 − x ) 2 . f'(x)=\frac{x}{\sqrt{1+x^2}}-\frac{2(2-x)}{\sqrt{1+(2-x)^2}}. f(x)=1+x2 x1+(2x)2 2(2x).
令其为0,算得驻点 x 0 x_0 x0。然后根据二阶导数 f ′ ′ ( x 0 ) f''(x_0) f′′(x0)的符号,判断 x 0 x_0 x0是否为极小值点。为求驻点 x 0 x_0 x0,需解方程 x 1 + x 2 = 2 ( 2 − x ) 1 + ( 2 − x ) 2 \frac{x}{\sqrt{1+x^2}}=\frac{2(2-x)}{\sqrt{1+(2-x)^2}} 1+x2 x=1+(2x)2 2(2x)。这将导致解高次方程
3 x 4 − 12 x 3 + 15 x 2 − 16 x + 16 = 0. 3x^4-12x^3+15x^2-16x+16=0. 3x412x3+15x216x+16=0.
手算的工作量极大。下面我们用黄金分割法数值地计算这个问题,代码如下。

import numpy as np									#导入numpy
from scipy.optimize import minimize_scalar			#导入minimize_scalar
f=lambda x:np.sqrt(1+x**2)+2*np.sqrt(1+(2-x)**2)	#设置目标函数
bracket=myBracket(f, 0)								#计算包围最优解的区间
res=minimize_scalar(f, bracket,method=bisection,	#用二分法计算f(x)的最有接近似值
                    options={'eps':1.48e-8})
print(res)

程序第3行设置目标函数 f ( x ) f(x) f(x)。第4行调用myBracket函数计算0附近包围 f ( x ) f(x) f(x)最优解 x 0 x_0 x0的区间bracket。 第5~6行调用minimize_scalar函数,传递f、bracket、bisection以及提供给bisection的eps等参数,用二分法计算 f ( x ) f(x) f(x)的最优解近似值。运行程序,输出

 fun: 4.037643276202614
 nit: 23
   x: 1.5382642555236816

意味着最优解 x 0 x_0 x0的近似值为1.5383, f ( x 0 ) f(x_0) f(x0)的近似值为4.0377。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/16593.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

PySpark基础入门(1):基础概念+环境搭建

目录 Spark基础入门 spark基础概念 spark架构 Spark环境搭建 local模式 Standalone 模式 Spark On YARN 模式 PySpark开发环境搭建 Python On Spark 执行原理 更好的阅读体验&#xff1a;PySpark基础入门&#xff08;1&#xff09;&#xff1a;基础概念&#xff0b;环…

数字图像处理--matlab图像反转、对数变换、伽马变换、对比度拉伸详解和代码实现

灰度变换在图像的单个像素上操作&#xff0c;主要以对比度和阈值处理为目的 空间滤波涉及改善性能的操作&#xff08;邻域操作&#xff09;&#xff0c;如通过图像中每一个像素的邻域处理来锐化图像 这两种方法均属于图像增强。 灰度变换 邻域基本增强变换定义数学表达三种基本…

基于协同过滤的旅游推荐系统设计与实现(论文+源码)_kaic

1 绪论 1.1 研究背景及意义 1.2 国内外研究现状 1.3 研究目标与意义 1.4 主要研究工作 2 相关理论介绍 2.1HTML与JavaScript 2.2 MySQL数据库 2.3 协同过滤算法简介 3 系统分析与设计 3.1 系统需求分析 3.1.1 功能性需求 3.1.2 安全性需求 3.2 系统总体架构 3.3 功能模块设计 3…

【LeetCode】221.最大正方形

221.最大正方形&#xff08;中等&#xff09; 题解 对于在矩阵内搜索正方形或长方形的题型&#xff0c;一种常见的做法是&#xff1a;定义一个二维 dp 数组&#xff0c;其中 dp[i][j] 表示满足题目条件的、以&#xff08;i,j&#xff09;为右下角的正方形或长方形属性。在本题中…

Android 编译模块 (小记)

1.整编 source build/envbuild.sh lunch xxx make 2.单独编译模块 2.1 去Android.bp 中找模块名 比如我想编译system/core/fastboot&#xff0c;那么我就去找这个路径下的Android.bp/ Android.mk Android.bp 中找每个模块的那么就行 然后直接make这个name make fastboot_…

设置苹果电脑vsode在新窗口中打开文件

0、前言 最近切换到mac电脑工作&#xff0c;又得重新安装一些工具软件并设置。虽然这些设置并表示啥复杂的设置&#xff0c;但是久了不设置还是会忘记。于是记录之&#xff0c;也希望给能帮助到需要的人。 我们使用vscode阅读或者编辑文件时&#xff0c;有时候希望同时打开多…

3个经典线程同步问题

生产者消费者问题 问题描述 系统中有一组生产者进程和一组消费者进程&#xff0c;生产者进程每次生产一个产品放入缓冲区&#xff0c;消费者进程每次从缓冲区中取出一个产品并使用。生产者、消费者共享一个初始为空、大小为n的缓冲区 伪码描述 semaphore mutex 1;//互斥信…

SpringBoot集成 ElasticSearch

Spring Boot 集成 ElasticSearch 对于ElasticSearch比较陌生的小伙伴可以先看看ElasticSearch的概述ElasticSearch安装、启动、操作及概念简介 好的开始啦~ 1、基础操作 1.1、导入依赖 <dependency><groupId>org.springframework.boot</groupId><arti…

2023 年 五一杯 B 题过程 + 代码(第一问)

文章目录 第一题问题分析PageRank 算法&#xff08;可跳过&#xff09;PageRank 算法修正权重系数 结果各城市链出与链入链出 权重链入 权重 PageRank 算法结果代码 第一题 问题分析 从收货量、发货量、快递数量增长/减少趋势、相关性等多角度考虑&#xff0c;建立数学模型&…

基于jQuery------购物车案例

目录 基于jQuery------购物车案例 案例&#xff1a;购物车案例模块-增减商品数量分析 案例&#xff1a;购物车案例模块-修改商品小计分析 案例&#xff1a;购物车案例模块-计算总计和总额 案例&#xff1a;购物车案例模块-删除商品模块 案例&#xff1a;购物车案例模块-选…

基于.Net开发的、支持多平台、多语言餐厅点餐系统

今天给大家推荐一套支持多平台、多语言版本的订单系统&#xff0c;适合餐厅、酒店等场景。 项目简介 这是基于.Net Framework开发的&#xff0c;支持手机、平板、PC等平台、多语言版本开源的点餐系统&#xff0c;非常适合餐厅、便利店、超市、酒店等&#xff0c;该系统基础功…

C语言宏使用

C语言宏 编译一个C语言程序的第一步骤就是预处理阶段&#xff0c;这一阶段就是宏发挥作用的阶段,编译完之后宏对二进制代码不可见。 使用 1. 宏常量 #define PI 3.142. 宏语句 #define Print printf("hello,world!\r\n")3. 宏函数 使用宏来定义函数&#xff0c…

UDP的报文结构和注意事项

1.UDP的报文结构 UDP的报文结构如图&#xff1a; 画成一行会比较好理解&#xff1a; 主要由两部分组成&#xff1a;UDP报头和UDP载荷。 UDP载荷其实就是数据。 UDP报头分为四个部分&#xff0c;每个部分占两个字节。 源端口目的端口报文长度校验和 下面介绍报头里各个部分…

论文阅读《PIDNet: A Real-time Semantic Segmentation Network Inspired by PID》

论文地址&#xff1a;https://arxiv.org/pdf/2206.02066.pdf 源码地址&#xff1a;https://github.com/XuJiacong/PIDNet 概述 针对双分支模型在语义分割任务上直接融合高分辨率的细节信息与低频的上下文信息过程中细节特征会被上下文信息掩盖的问题&#xff0c;提出了一种新的…

【操作系统复习】第5章 存储器管理 2

分页存储管理方式 页号P ◆12-31位&#xff1a;20位 ◆地址空间最多允许有1M&#xff08;2 20&#xff09;页 位移量W&#xff08;页内地址&#xff09; ◆0-11&#xff1a;12位 ◆每页大小为4KB &#xff08;2 12&#xff09; 对某特定机器&#xff0c;地址结构是一…

Apache Flink (最新版本) 远程代码执行

路虽远&#xff0c;行则将至&#xff1b;事虽难&#xff0c;做则必成 Apache Flink < 1.9.1(最新版本) 远程代码执行 CVE-2020-17518 漏洞描述 近日,有安全研究员公开了一个Apache Flink的任意Jar包上传导致远程代码执行的漏洞. 漏洞影响 Apache Flink < 1.9.1(最新…

《最强Android书 架构大剖析》读书笔记

文章目录 第一章 Android 体系结构的变革之路1.2 Android系统源码目录与Linux的异同Android的框架原生二进制可执行文件Android 的原生库核心(core)库用以支持框架的库硬件抽象层Linux内核不带上层 UI界面的Android 第二章 Android 的分区和文件系统2.1 分区架构实验:从设备中获…

C++的智能指针

文章目录 1. 内存泄漏1.1 什么是内存泄漏1.2 内存泄漏分类 2. 为什么需要智能指针3. 智能指针的使用及原理3.1 RAII3.2 使用RAII思想设计的SmartPtr类3.3 让SmartPtr像指针一样3.3 SmartPtr的拷贝3.4 auto_ptr3.5 unique_ptr3.6 shared_ptr3.6.1 shared_ptr的循环引用3.6.2 wea…

axios使用笔记

文章目录 基本语法其他语法defaults config作用案例 创建实例对象作用案例 拦截器 interceptor&#xff08;AOP&#xff09;请求取消&#xff08;节流&#xff09; 基本语法 <!doctype html> <html lang"en"> <head><meta charset"UTF-8&…

可视化工作流管理

​本场景是可视化工作流&#xff0c;通过可视化的精益看板将价值流进行可视化&#xff0c;通过精益思维消除瓶颈、加速流动&#xff0c;提升效率。 创建工作流任务看板 •通过Leangoo可视化工作流项目模板&#xff0c;创建一个工作流看板。 •通过看板&#xff0c;我们可以将…