天气预报 > 其他 >优化方法的理论体系

优化方法的理论体系

更新时间: 2021-05-04 18:26:42

(一)一维优化方法。主要有以下三类:1)基于盲人探路思想的试探法。以步长加倍策略将极值点确定在距离当前点单步步长之内,再以步长减半策略,使当前点接近于极值点。主要有确定极值点所在区间的进退法(应用推论1)、一维盲人探路法(在进退法基础上增加一个模块)、一阶导数符号法(应用推论2)等。2)区间削去法。比较区间内两点的目标函数值或计算一点的导数符号,根据单峰假设将极值点所在区间削短。主要有对称等比例、对称变比例区间分割法、平分法、切线交点法、自适应二分法等。3)拟合函数寻点法。主要是二次拟合函数法(抛物线法)、三角拟合函数法、二次拟合函数定点法、一次拟合导函数法等。

(二)多维无约束优化方法。主要有:1)负梯度方向法及基于盲人探路思想的折线负梯度方向法。2)多维二阶近似式方向法及其近似算法。3)坐标系拟均匀变换法,也称为坐标变换法,包括局部坐标系的建立。4)获得共轭方向的方法,主要有定义法、几何法、待定系数法、两次同方向寻优获得法、连续两次沿负梯度方向寻优获得法(四寻法、六寻法、三寻法)等。5)共轭方向轮换法,主要有几何法、待定系数法、正交向量组法等,包括方向组的概念。6)寻优方向的数值算法实现,基于二次函数假设的数值偏导数、方向导数计算式,构造二阶偏导数矩阵法、大步长探测等算法实例。7)拟合函数法,主要有多维二次拟合函数法和线性拟合梯度法。8)不求偏导数的方向组轮换法,主要有坐标方向轮换法、自适应坐标下降法、经典Powell基本算法和改进算法、构造共轭方向法等。9)无界多面体变形法,也称为单形替换法或单纯形法,与多维有约束复合形法的寻优思想相同。

(三)多维有约束优化方法。主要有:1)可行域内直接求解法,主要包括网格法、有界多面体变形法(复合形法)、随机方向法等。2)优选可用方向法,寻优到约束边界之后,寻优最好的方向继续寻优,是船到桥头自然直的正确思路。3)半步法,没有寻优到约束边界的时候采用无约束优化方法,寻到之后退半步重新选择新的寻优方向,是未雨抽聊的研究思路。4)化简法,主要有基于二阶近似式构造寻优方向法、基于一阶近似式线性化法。5)构造无约束优化问题序列法,采用加权组合的方式将目标函数和约束函数转化为无约束优化问题,权按照一定规律变化,从而构造出一系列的无约束优化方法,主要有围墙法(内点惩罚函数法,须加固围墙)和土堆法(外点惩罚函数法)。

(四)线性优化方法。对于目标函数和约束函数均为设计变量线性函数的优化问题,其约束边界和目标函数等值线均为直线,可行点的集合构成一个凸集,且为凸多面体。如果存在最优点,则必为该凸集的某个顶点。寻找最优点就是在该凸多面体上确定最优的顶点。主要方法为单纯形法,在可行域多面体的某一个顶点出发,逐渐滑向更好的顶点,最终获得最优点。

(五)多目标优化方法。主要有以下几类:1)穷举类方法。直接求出所有分目标函数的最优点,然后在各个目标之间进行协调,使其相互间作出适当“让步”,以便获得整体最优方案,选择较好的设计点。或者列出所有方案,采用专家评议、领导拍板等方式确定最优方案。2)直接重构单目标函数法。直接由各分目标函数构造一个新的目标函数,从而将多目标的优化问题转化为单目标的。如主要目标法、线性加权组合法、取最大分目标函数值法、分目标乘除法、分层序列法等,其中线性加权组合法最具有实用性。3)间接重构单目标函数法。将原分目标函数适当处理后构造一个新的目标函数。如理想点法、功率系数法(几何平均法)、协调曲线法等。

(六)离散变量优化方法。主要有三类:1)按连续变量处理法。取得最优点后,再圆整。离散变量依次确定,原优化问题依次降维。2)随机法。根据实际情况随机确定一些设计点,然后从中选取最优点。或者在初始点周围以随机方式寻找多个设计点,取其最优者作为当前点继续寻优。3)穷举法。如分支定界法、网格法。

(七)基于其他理论的优化方法。实际上,存在很多不能由标准数学模型描述的优化问题,其数学模型的建立与评价均没有固定的模式,可行域不连续,甚至只是一些零散的可行点,并且各可行点的优劣难以用统一的标准衡量,比如旅行商最佳路径问题、背包问题等。在日常生活当中也存在着类似的问题,如股市运作,何时何股入市最优;战争发起,何时何地以什么方式最有利;个人学习计划,先学习还是先工作,学什么课程做什么工作最好。借用其他学科的理论知识,可发展一些优化方法,如遗传算法、神经网络算法、基于知识的专家系统算法、蚁群算法、模拟退火算法、分形与混沌算法等。这些方法均以全域优化问题为研究对象,基于概率论和随机理论,使多个盲人按相同规律寻求全域极值点,因此也称为智能优化算法。其共同特点是“无序中寻求有序,偶然中探索必然”。

(八)常见的优化算例。1)一维单峰函数。用于一维优化方法的检验。2)二维二次函数。可绘图直观地表示寻优过程,,检验算法最直接有效。因为优化方法都是在单峰假设下提出来的,即假设目标函数为二次函数,检验结果可信。3)多维二次函数。构造共轭方向的优化方法对于二维优化问题效果明显,但是需要在多维设计空间当中检验。4)复杂函数。最典型的是Rosenbrock函数,由于存在一个弯弯的峡谷,成为许多优化方法的滑铁卢。5)目标函数没有数学表达式的优化问题。如目标函数的求取需要借助于其他计算算法。6)抽象优化问题。设计变量没有优选值问题、目标函数和约束函数难以用数学表达式表示。比如背包问题、旅行商问题、交通信号灯规划问题等。对于这些问题,穷举法是最可靠的算法。

(九)主要文献。上述综述主要是基于一下创新性文献而完成的:[1] 例证多维二阶近似式法的适用性[J]. 德州学院学报, 2017,33(6):12-14.[2] 多维二次拟合函数优化方法[J]. 甘肃科学学报, 2017, 29(5):26-28.[3] 基于目标函数梯度向量的相邻方向共轭法[J].甘肃科学学报,2017,29(05):15-21.[4] 目标函数优化的切线交点法[J]. 机械设计与研究(核心), 2017, 33(2):17-19,24.[5] The program verification of the three-seeking and six-seeking method based on the conjugate direction[A]. . 2017 5th International Conference on Machinery, Materials and Computing Technology(ICMMCT2017), March 25-26, 2017 Beijing, China. Advances in Engineering, volume 126, pp109-114.[6] 基于盲人探路寻优思想的二阶近似式定点法研究[J]. 中国石油大学学报(自然科学版), 2017, 41(1): 144-149.[7] 盲人探路负梯度方向法[J]. 甘肃科学学报, 2016, 28(5):116-122.[8] Blind-walking optimization method[J]. Journal of Networks, 2010, 5(12):1458-1466.[9] 优化方法[M]. 东南大学出版社, 2009.10[10] 随机方向法改进及其验证[J]. 计算机仿真, 2009, 26(1):189-192.[11] 具有畸形约束极值点问题的优化[J]. 中国科技论文在线学报, 2008, 3(8):562-565.[12] 形象化教学方法在“机械优化设计”课程中的应用[J]. 中国石油大学学报(社科版), 2008, 25(S): 90-92[13] 加固围墙的内点惩罚函数法防越界验证[J]. 机械设计, 2007, 24(S):111-112.[14]连续负梯度方向获得共轭方向的六寻优化方法[J]. 计算机科学与探索, 2019, 13(0).

标签:优化方法理论体系