第二章下降算法與線性搜索

第二章下降算法與線性搜索第一頁(yè)，共二十八頁(yè)，2022年，8月28日第二章無(wú)約束問(wèn)題的下降算法與線性搜索第一節(jié)無(wú)約束問(wèn)題的最優(yōu)性條件第二節(jié)下降算法的一般步驟第三節(jié)線性搜索第二頁(yè)，共二十八頁(yè)，2022年，8月28日第一節(jié)無(wú)約束問(wèn)題的最優(yōu)性條件第三頁(yè)，共二十八頁(yè)，2022年，8月28日第四頁(yè)，共二十八頁(yè)，2022年，8月28日第五頁(yè)，共二十八頁(yè)，2022年，8月28日第六頁(yè)，共二十八頁(yè)，2022年，8月28日第七頁(yè)，共二十八頁(yè)，2022年，8月28日第二節(jié)下降算法的一般步驟第八頁(yè)，共二十八頁(yè)，2022年，8月28日第九頁(yè)，共二十八頁(yè)，2022年，8月28日第三節(jié)線性搜索第十頁(yè)，共二十八頁(yè)，2022年，8月28日第十一頁(yè)，共二十八頁(yè)，2022年，8月28日1.單峰函數(shù)定義：設(shè)是區(qū)間上的一元函數(shù)，是在上的極小點(diǎn)，且對(duì)任意的有（a）當(dāng)時(shí)，（b）當(dāng).....則稱(chēng)是單峰函數(shù)。..一、精確線性搜索——黃金分割法(0.618法)

第十二頁(yè)，共二十八頁(yè)，2022年，8月28日性質(zhì)：通過(guò)計(jì)算區(qū)間內(nèi)兩個(gè)不同點(diǎn)的函數(shù)值，就可以確定一個(gè)包含極小點(diǎn)的子區(qū)間。定理

設(shè)是區(qū)間上的一元函數(shù)，是在上的極小點(diǎn)。任取點(diǎn)則有（1）如果，則（2）如果則.....第十三頁(yè)，共二十八頁(yè)，2022年，8月28日2.黃金分割法思想通過(guò)選取試探點(diǎn)使包含極小點(diǎn)的區(qū)間按相同比例不斷縮短，直到區(qū)間長(zhǎng)度小到一定程度，此時(shí)區(qū)間上各點(diǎn)的函數(shù)值均接近極小值。下面推導(dǎo)黃金分割法的計(jì)算公式。第十四頁(yè)，共二十八頁(yè)，2022年，8月28日第十五頁(yè)，共二十八頁(yè)，2022年，8月28日通過(guò)確定的取值，使上一次迭代剩余的迭代點(diǎn)恰與下一次迭代的一個(gè)迭代點(diǎn)重合，從而減少算法的計(jì)算量。同理可得。第十六頁(yè)，共二十八頁(yè)，2022年，8月28日算法步驟：第十七頁(yè)，共二十八頁(yè)，2022年，8月28日黃金分割法的迭代效果：第k次后迭代后所得區(qū)間長(zhǎng)度為初始區(qū)間長(zhǎng)度的其它的試探點(diǎn)算法：Fibonacci算法。第十八頁(yè)，共二十八頁(yè)，2022年，8月28日二、非精確線性搜索—Armijo型線性搜索和

Wolfe-Powell型線性搜索第十九頁(yè)，共二十八頁(yè)，2022年，8月28日第二十頁(yè)，共二十八頁(yè)，2022年，8月28日第二十一頁(yè)，共二十八頁(yè)，2022年，8月28日第二十二頁(yè)，共二十八頁(yè)，2022年，8月28日第二十三頁(yè)，共二十八頁(yè)，2022年，8月28日OebcaArmijo:[0，a]Wolfe-Powell:[e,c]Goldstein:[b,c]各種線性搜索的圖例第二十四頁(yè)，共二十八頁(yè)，2022年，8月28日四、下降算法的全局收斂性和超線性收斂性第二十五頁(yè)，共二十八頁(yè)，2022年，8月28日第二十六頁(yè)，共二十八頁(yè)，2022年，8月28日第二十七頁(yè)