遞歸與分治策略計算機算法設(shè)計與分析第PPT學習教案

1、會計學1遞歸與分治策略計算機算法設(shè)計與分析遞歸與分治策略計算機算法設(shè)計與分析第第第1頁/共51頁nT(n/2)T(n/2)T(n/2)T(n/2)T(n)= n對這k個子問題分別求解。如果子問題的規(guī)模仍然不夠小，則再劃分為k個子問題，如此遞歸的進行下去，直到問題規(guī)模足夠小，很容易求出其解為止。第2頁/共51頁n對這k個子問題分別求解。如果子問題的規(guī)模仍然不夠小，則再劃分為k個子問題，如此遞歸的進行下去，直到問題規(guī)模足夠小，很容易求出其解為止。nT(n)=n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(

2、n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4) n將求出的小規(guī)模的問題的解合并為一個更大規(guī)模的問題的解，自底向上逐步求出原來問題的解。第3頁/共51頁n將求出的小規(guī)模的問題的解合并為一個更大規(guī)模的問題的解，自底向上逐步求出原來問題的解。nT(n)=n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)第4頁/共51頁n將求出的小規(guī)模的問題的解合并為一個更大規(guī)模的問題的解，自底向上逐步求出原來問題的解。nT(

3、n)=n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4)n/2T(n/4)T(n/4)T(n/4)T(n/4) 分治法的設(shè)計思想是，將一個難以直接解決的大問題，分治法的設(shè)計思想是，將一個難以直接解決的大問題，分割成一些規(guī)模較小的相同問題，以便各個擊破，分割成一些規(guī)模較小的相同問題，以便各個擊破，分而治之。分而治之。第5頁/共51頁下面來看幾個實例。第6頁/共51頁例例1 1 階乘函數(shù)階乘函數(shù) 階乘函數(shù)可遞歸地定義為：00)!1(1!nnnnn邊界條件邊界條件遞歸方程遞歸方程邊界條件與

4、遞歸方程是遞歸函數(shù)的二個要素，遞歸函數(shù)只有具備了這兩個要素，才能在有限次計算后得出結(jié)果。第7頁/共51頁2.1 例例2 Fibonacci2 Fibonacci數(shù)列數(shù)列無窮數(shù)列1，1，2，3，5，8，13，21，34，55，稱為Fibonacci數(shù)列。它可以遞歸地定義為：邊界條件邊界條件遞歸方程遞歸方程110)2() 1(11)(nnnnFnFnF第n個Fibonacci數(shù)可遞歸地計算如下：int fibonacci(int n) if (n 1時，perm(R)由(r1)perm(R1)，(r2)perm(R2)，(rn)perm(Rn)構(gòu)成。 第12頁/共51頁2.1 例例5 5 整數(shù)劃分

5、問題整數(shù)劃分問題將正整數(shù)n表示成一系列正整數(shù)之和：n=n1+n2+nk，其中n1n2nk1，k1。正整數(shù)n的這種表示稱為正整數(shù)n的劃分。求正整數(shù)n的不同劃分個數(shù)。 例如正整數(shù)6有如下11種不同的劃分： 6； 5+1； 4+2，4+1+1； 3+3，3+2+1，3+1+1+1； 2+2+2，2+2+1+1，2+1+1+1+1； 1+1+1+1+1+1。第13頁/共51頁(2) q(n,m)=q(n,n),mn;最大加數(shù)n1實際上不能大于n。因此，q(1,m)=1。(1) q(n,1)=1,n1;當最大加數(shù)n1不大于1時，任何正整數(shù)n只有一種劃分形式，即nn111 (4) q(n,m)=q(n,m

6、-1)+q(n-m,m),nm1;正整數(shù)n的最大加數(shù)n1不大于m的劃分由n1=m的劃分和n1n-1 的劃分組成。(3) q(n,n)=1+q(n,n-1);正整數(shù)n的劃分由n1=n的劃分和n1n-1的劃分組成。2.1 例例5 5 整數(shù)劃分問題整數(shù)劃分問題前面的幾個例子中，問題本身都具有比較明顯的遞歸關(guān)系，因而容易用遞歸函數(shù)直接求解。在本例中，如果設(shè)p(n)為正整數(shù)n的劃分數(shù)，則難以找到遞歸關(guān)系，因此考慮增加一個自變量：將最大加數(shù)n1不大于m的劃分個數(shù)記作q(n,m)?？梢越(n,m)的如下遞歸關(guān)系。第14頁/共51頁11, 1),() 1,() 1,(1),(1),(mnmnmnmnmmn

7、qmnqnnqnnqmnq2.1 例例5 5 整數(shù)劃分問題整數(shù)劃分問題前面的幾個例子中，問題本身都具有比較明顯的遞歸關(guān)系，因而容易用遞歸函數(shù)直接求解。在本例中，如果設(shè)p(n)為正整數(shù)n的劃分數(shù)，則難以找到遞歸關(guān)系，因此考慮增加一個自變量：將最大加數(shù)n1不大于m的劃分個數(shù)記作q(n,m)?？梢越(n,m)的如下遞歸關(guān)系。正整數(shù)n的劃分數(shù)p(n)=q(n,n)。 第15頁/共51頁2.1 例例6 Hanoi6 Hanoi塔問題塔問題設(shè)a,b,c是3個塔座。開始時，在塔座a上有一疊共n個圓盤，這些圓盤自下而上，由大到小地疊在一起。各圓盤從小到大編號為1,2,n,現(xiàn)要求將塔座a上的這一疊圓盤移到塔

8、座b上，并仍按同樣順序疊置。在移動圓盤時應遵守以下移動規(guī)則：規(guī)則1：每次只能移動1個圓盤；規(guī)則2：任何時刻都不允許將較大的圓盤壓在較小的圓盤之上；規(guī)則3：在滿足移動規(guī)則1和2的前提下，可將圓盤移至a,b,c中任一塔座上。第16頁/共51頁在問題規(guī)模較大時，較難找到一般的方法，因此我們嘗試用遞歸技術(shù)來解決這個問題。當n=1時，問題比較簡單。此時，只要將編號為1的圓盤從塔座a直接移至塔座b上即可。當n1時，需要利用塔座c作為輔助塔座。此時若能設(shè)法將n-1個較小的圓盤依照移動規(guī)則從塔座a移至塔座c，然后，將剩下的最大圓盤從塔座a移至塔座b，最后，再設(shè)法將n-1個較小的圓盤依照移動規(guī)則從塔座c移至塔座

9、b。由此可見，n個圓盤的移動問題可分為2次n-1個圓盤的移動問題，這又可以遞歸地用上述方法來做。由此可以設(shè)計出解Hanoi塔問題的遞歸算法如下。2.1 例例6 Hanoi6 Hanoi塔問題（由塔問題（由a a移到移到b b） void hanoi(int n, int a, int b, int c) if (n 0) hanoi(n-1, a, c, b); move(a,b); hanoi(n-1, c, b, a); 第17頁/共51頁優(yōu)點：優(yōu)點：結(jié)構(gòu)清晰，可讀性強，而且容易用結(jié)構(gòu)清晰，可讀性強，而且容易用數(shù)學歸納法來證明算法的正確性，因此它數(shù)學歸納法來證明算法的正確性，因此它為設(shè)計算

10、法、調(diào)試程序帶來很大方便。為設(shè)計算法、調(diào)試程序帶來很大方便。缺點：缺點：遞歸算法的運行效率較低，無論是遞歸算法的運行效率較低，無論是耗費的計算時間還是占用的存儲空間都比耗費的計算時間還是占用的存儲空間都比非遞歸算法要多。非遞歸算法要多。第18頁/共51頁解決方法：解決方法：在遞歸算法中消除遞歸調(diào)用，使其在遞歸算法中消除遞歸調(diào)用，使其轉(zhuǎn)化為非遞歸算法。轉(zhuǎn)化為非遞歸算法。1 1、采用一個用戶定義的棧來模擬系統(tǒng)的遞歸調(diào)、采用一個用戶定義的棧來模擬系統(tǒng)的遞歸調(diào)用工作棧。該方法通用性強，但本質(zhì)上還是遞用工作棧。該方法通用性強，但本質(zhì)上還是遞歸，只不過人工做了本來由編譯器做的事情，歸，只不過人工做了本來由

11、編譯器做的事情，優(yōu)化效果不明顯。優(yōu)化效果不明顯。2 2、用遞推來實現(xiàn)遞歸函數(shù)。、用遞推來實現(xiàn)遞歸函數(shù)。3 3、通過、通過變換能變換能將一些遞歸轉(zhuǎn)化為尾遞歸，從而將一些遞歸轉(zhuǎn)化為尾遞歸，從而迭代求出結(jié)果。迭代求出結(jié)果。 后兩種方法在時空復雜度上均有較大改善后兩種方法在時空復雜度上均有較大改善，但其適用范圍有限。，但其適用范圍有限。第19頁/共51頁第20頁/共51頁第21頁/共51頁第22頁/共51頁第23頁/共51頁第24頁/共51頁因為問題的計算復雜性一般是隨著問題規(guī)模的增加而增加，因此大部分問題滿足這個特征。這條特征是應用分治法的前提，它也是大多數(shù)問題可以滿足的，此特征反映了遞歸思想的應用

12、能否利用分治法完全取決于問題是否具有這條特征，如果具備了前兩條特征，而不具備第三條特征，則可以考慮貪心算法貪心算法或動態(tài)規(guī)劃動態(tài)規(guī)劃。這條特征涉及到分治法的效率，如果各子問題是不獨立的，則分治法要做許多不必要的工作，重復地解公共的子問題，此時雖然也可用分治法，但一般用動態(tài)規(guī)劃動態(tài)規(guī)劃較好。第25頁/共51頁divide-and-conquer(P) if ( | P | = n0) adhoc(P); /解決小規(guī)模的問題 else divide P into smaller subinstances P1,P2,.,Pk；/分解問題 for (i=1,i=k,i+) yi=divide-and

13、-conquer(Pi); /遞歸的解各子問題 return merge(y1,.,yk); /將各子問題的解合并為原問題的解 人們從大量實踐中發(fā)現(xiàn)，在用分治法設(shè)計算法時，最好使子問題的規(guī)模大致相同。即將一個問題分成大小相等的k個子問題的處理方法是行之有效的。這種使子問題規(guī)模大致相等的做法是出自一種平衡平衡(balancing)子問題子問題的思想，它幾乎總是比子問題規(guī)模不等的做法要好。第26頁/共51頁一個分治法將規(guī)模為n的問題分成k個規(guī)模為nm的子問題去解。設(shè)分解閥值n0=1，且adhoc解規(guī)模為1的問題耗費1個單位時間。再設(shè)將原問題分解為k個子問題以及用merge將k個子問題的解合并為原問

14、題的解需用f(n)個單位時間。用T(n)表示該分治法解規(guī)模為|P|=n的問題所需的計算時間，則有：11)()/() 1 ()(nnnfmnkTOnT通過迭代法求得方程的解：1log0log)/()(nmjjjkmmnfknnT第27頁/共51頁分析：如果n=1即只有一個元素，則只要比較這個元素和x就可以確定x是否在表中。因此這個問題滿足分治法的第一個適用條件分析：比較x和a的中間元素amid，若x=amid，則x在L中的位置就是mid；如果xai，同理我們只要在amid的后面查找x即可。無論是在前面還是后面查找x，其方法都和在a中查找x一樣，只不過是查找的規(guī)模縮小了。這就說明了此問題滿足分治法

15、的第二個和第三個適用條件。 分析：很顯然此問題分解出的子問題相互獨立，即在ai的前面或后面查找x是獨立的子問題，因此滿足分治法的第四個適用條件。給定已按升序排好序的給定已按升序排好序的n個元素個元素a0:n-1，現(xiàn)要在這，現(xiàn)要在這n個元素中個元素中找出一特定元素找出一特定元素x。分析：分析：該問題的規(guī)模縮小到一定的程度就可以容易地解決；該問題的規(guī)模縮小到一定的程度就可以容易地解決；該問題可以分解為若干個規(guī)模較小的相同問題該問題可以分解為若干個規(guī)模較小的相同問題;分解出的子問題的解可以合并為原問題的解；分解出的子問題的解可以合并為原問題的解；分解出的各個子問題是相互獨立的。分解出的各個子問題是相

16、互獨立的。 第28頁/共51頁給定已按升序排好序的給定已按升序排好序的n個元素個元素a0:n-1，現(xiàn)要在這，現(xiàn)要在這n個元素中個元素中找出一特定元素找出一特定元素x。據(jù)此容易設(shè)計出二分搜索算法二分搜索算法：template int BinarySearch(Type a, const Type& x, int l, int r) while (r = l) int m = (l+r)/2; if (x = am) return m; if (x am) r = m-1; else l = m+1; return -1; 算法復雜度分析：算法復雜度分析：每執(zhí)行一次算法的while循環(huán)， 待搜索數(shù)

17、組的大小減少一半。因此，在最壞情況下，while循環(huán)被執(zhí)行了O(logn) 次。循環(huán)體內(nèi)運算需要O(1) 時間，因此整個算法在最壞情況下的計算時間復雜性為O(logn) 。第29頁/共51頁 請設(shè)計一個有效的算法，可以進行兩個請設(shè)計一個有效的算法，可以進行兩個n n位大整數(shù)的乘法運算位大整數(shù)的乘法運算u小學的方法：O(n2) 效率太低u分治法: X = Y = X = a 2n/2 + b Y = c 2n/2 + d XY = ac 2n + (ad+bc) 2n/2 + bd abcd復雜度分析復雜度分析T(n)=O(n2) 沒有改進沒有改進11)()2/(4) 1 ()(nnnOnTOn

18、T第30頁/共51頁 請設(shè)計一個有效的算法，可以進行兩個請設(shè)計一個有效的算法，可以進行兩個n n位大整數(shù)的乘法運算位大整數(shù)的乘法運算u小學的方法：O(n2) 效率太低u分治法: XY = ac 2n + (ad+bc) 2n/2 + bd 為了降低時間復雜度，必須減少乘法的次數(shù)。XY = ac 2n + (a-b)(d-c)+ac+bd) 2n/2 + bd復雜度分析復雜度分析T(n)=O(nlog3) =O(n1.59) 較大的改進較大的改進11)()2/(3) 1 ()(nnnOnTOnT第31頁/共51頁 請設(shè)計一個有效的算法，可以進行兩個請設(shè)計一個有效的算法，可以進行兩個n n位大整數(shù)

19、的乘法運算位大整數(shù)的乘法運算u小學的方法：O(n2) 效率太低u分治法: O(n1.59) 較大的改進u更快的方法?如果將大整數(shù)分成更多段，用更復雜的方式把它們組合起來，將有可能得到更優(yōu)的算法。最終的，這個思想導致了快速傅利葉變換快速傅利葉變換(Fast Fourier Transform)的產(chǎn)生。該方法也可以看作是一個復雜的分治算法。第32頁/共51頁A和B的乘積矩陣C中的元素Ci,j定義為: nkjkBkiAjiC1若依此定義來計算A和B的乘積矩陣C，則每計算C的一個元素Cij，需要做n次乘法和n-1次加法。因此，算出矩陣C的所有元素所需的計算時間為O(n3)u傳統(tǒng)方法：O(n3)第33頁

20、/共51頁使用與上例類似的技術(shù)，將矩陣A，B和C中每一矩陣都分塊成4個大小相等的子矩陣。由此可將方程C=AB重寫為：u傳統(tǒng)方法：O(n3)u分治法:222112112221121122211211BBBBAAAACCCC由此可得：2112111111BABAC2212121112BABAC2122112121BABAC2222122122BABAC復雜度分析復雜度分析T(n)=O(n3)22)()2/(8) 1 ()(2nnnOnTOnT第34頁/共51頁u傳統(tǒng)方法：O(n3)u分治法:為了降低時間復雜度，必須減少乘法的次數(shù)。222112112221121122211211BBBBAAAACC

21、CC)(2212111BBAM2212112)(BAAM1122213)(BAAM)(1121224BBAM)(221122115BBAAM)(222122126BBAAM)(121121117BBAAM624511MMMMC2112MMC4321MMC731522MMMMC復雜度分析復雜度分析T(n)=O(nlog7) =O(n2.81) 較大的改進較大的改進22)()2/(7) 1 ()(2nnnOnTOnT第35頁/共51頁u傳統(tǒng)方法：O(n3)u分治法: O(n2.81)u更快的方法?Hopcroft和Kerr已經(jīng)證明(1971)，計算2個矩陣的乘積，7次乘法是必要的。因此，要想進一步

22、改進矩陣乘法的時間復雜性，就不能再基于計算22矩陣的7次乘法這樣的方法了?；蛟S應當研究或矩陣的更好算法。在Strassen之后又有許多算法改進了矩陣乘法的計算時間復雜性。目前最好的計算時間上界是 O(n2.376)是否能找到O(n2)的算法？第36頁/共51頁基本思想：基本思想：將待排序元素分成大小大致相同的2個子集合，分別對2個子集合進行排序，最終將排好序的子集合合并成為所要求的排好序的集合。 void MergeSort(Type a, int left, int right) if (leftright) /至少有2個元素 int i=(left+right)/2; /取中點 merge

23、Sort(a, left, i); mergeSort(a, i+1, right); merge(a, b, left, i, right); /合并到數(shù)組b copy(a, b, left, right); /復制回數(shù)組a 復雜度分析復雜度分析T(n)=O(nlogn) 漸進意義下的最優(yōu)算法11)()2/(2) 1 ()(nnnOnTOnT第37頁/共51頁算法mergeSort的遞歸過程可以消去。初始序列49 38 65 97 76 13 2738 49 65 97 13 76 27第一步第二步38 49 65 97 13 27 76第三步13 27 38 49 65 76 97第38頁

24、/共51頁&最壞時間復雜度：最壞時間復雜度：O(nlogn)&平均時間復雜度：平均時間復雜度：O(nlogn)&輔助空間：輔助空間：O(n)第39頁/共51頁在快速排序中，記錄的比較和交換是從兩端向中間進行的，關(guān)鍵字較大的記錄一次就能交換到后面單元，關(guān)鍵字較小的記錄一次就能交換到前面單元，記錄每次移動的距離較大，因而總的比較和移動次數(shù)較少。templatevoid QuickSort (Type a, int p, int r) if (pr) int q=Partition(a,p,r); QuickSort (a,p,q-1); /對左半段排序 QuickSort (a,q+1,r); /

25、對右半段排序 第40頁/共51頁templateint Partition (Type a, int p, int r) int i = p, j = r + 1; Type x=ap; / 將 x的元素交換到右邊區(qū)域 while (true) while (a+i x); if (i = j) break; Swap(ai, aj); ap = aj; aj = x; return j;初始序列6, 7, 5, 2, 5, 8j-;ji5, 7, 5, 2, 6, 8i+;ji5, 6, 5, 2, 7, 8j-;ji5, 2, 5, 6, 7, 8i+;ji完成6, 7, 5, 2, 5,

26、 85, 2, 5 6 7, 8第41頁/共51頁templateint RandomizedPartition (Type a, int p, int r) int i = Random(p,r); Swap(ai, ap); return Partition (a, p, r); 快速排序算法的性能取決于劃分的對稱性。通過修改算法partition，可以設(shè)計出采用隨機選擇策略的快速排序算法。在快速排序算法的每一步中，當數(shù)組還沒有被劃分時，可以在ap:r中隨機選出一個元素作為劃分基準，這樣可以使劃分基準的選擇是隨機的，從而可以期望劃分是較對稱的。&最壞時間復雜度：最壞時間復雜度：O(n2)&

27、平均時間復雜度：平均時間復雜度：O(nlogn)&輔助空間：輔助空間：O(n)或或O(logn)第42頁/共51頁給定平面上n個點的集合S，找其中的一對點，使得在n個點組成的所有點對中，該點對間的距離最小。 u為了使問題易于理解和分析，先來考慮一維一維的情形。此時，S中的n個點退化為x軸上的n個實數(shù) x1,x2,xn。最接近點對即為這n個實數(shù)中相差最小的2個實數(shù)。假設(shè)我們用x軸上某個點m將S劃分為2個子集S1和S2 ，基于平衡子問題平衡子問題的思想，用S中各點坐標的中位數(shù)來作分割點。遞歸地在S1和S2上找出其最接近點對p1,p2和q1,q2，并設(shè)d=min|p1-p2|,|q1-q2|，S中的

28、最接近點對或者是p1,p2，或者是q1,q2，或者是某個p3,q3，其中p3S1且q3S2。能否在線性時間內(nèi)找到能否在線性時間內(nèi)找到p3,q3？第43頁/共51頁u如果S的最接近點對是p3,q3，即|p3-q3|d，則p3和q3兩者與m的距離不超過d，即p3(m-d,m，q3(m,m+d。u由于在S1中，每個長度為d的半閉區(qū)間至多包含一個點（否則必有兩點距離小于d），并且m是S1和S2的分割點，因此(m-d,m中至多包含S中的一個點。由圖可以看出，如果如果(m-d,m中有中有S中的點，則此點就是中的點，則此點就是S1中最大點。中最大點。u因此，我們用線性時間就能找到區(qū)間(m-d,m和(m,m+

29、d中所有點，即p3和q3。從而我們用線性時間就可以將從而我們用線性時間就可以將S1的解和的解和S2的解合并成為的解合并成為S的解的解。能否在線性時間內(nèi)找到能否在線性時間內(nèi)找到p3,q3？第44頁/共51頁u下面來考慮二維的情形。選取一垂直線l:x=m來作為分割直線。其中m為S中各點x坐標的中位數(shù)。由此將S分割為S1和S2。遞歸地在S1和S2上找出其最小距離d1和d2，并設(shè)d=mind1,d2，S中的最接近點對或者是d，或者是某個p,q，其中pP1且qP2。能否在線性時間內(nèi)找到能否在線性時間內(nèi)找到p,q？第45頁/共51頁u考慮P1中任意一點p，它若與P2中的點q構(gòu)成最接近點對的候選者，則必有distance(p，q)d。滿足這個條件的滿足這個條件的P2中的點中的點一定落在一個一定落在一個d2d的矩形的矩形R中中u由d的意義可知，P2中任何2個S中的點的距離都不小于d。由此可以推出矩形矩形R中最多只有中最多只有6個個S中的點中的點。u因此，在分治法的合并步驟中最多只需要檢查最多只需要檢查6n/2=3n個個候選者候選者能否在線性時間內(nèi)找到能否在線性時間內(nèi)找到p3,q3？證明證明:將矩形R的長為2d的邊3等分，將它的長為d的邊2等分，由此導出6個(d/2)(2d/3)的矩形。若矩形R中有多于6個S中的點，則由鴿舍原理易知至少有一個(d/2)(2d/3)的小矩形中有2個以上