雜度詳解:從分治思想到工程落地)
1. 歸并排序到底在做什么分治思想與執(zhí)行流程歸并排序是被討論最多但也是最容易被輕視的經(jīng)典排序之一。它的平均時(shí)間復(fù)雜度穩(wěn)定在 O(nlog2n)無(wú)論輸入是剛好亂序還是接近有序這個(gè)上界都不會(huì)變。很多人能背出遞歸代碼卻說(shuō)不清為什么需要臨時(shí)數(shù)組、為什么先遞歸再合并、為什么合并過(guò)程一定要雙指針。這篇文章想把歸并排序從思想層到代碼層徹底拆開(kāi)先講它到底在做什么再推導(dǎo) O(nlog2n) 的來(lái)源然后給出可直接復(fù)用的遞歸版和迭代版實(shí)現(xiàn)最后聊工程落地時(shí)真正值得注意的坑和優(yōu)化。適合讀這篇內(nèi)容的人有兩類(lèi)一類(lèi)是準(zhǔn)備技術(shù)面試的開(kāi)發(fā)者歸并排序幾乎是必考點(diǎn)而且經(jīng)常衍生出逆序?qū)?、鏈表排序、外部排序等?wèn)題另一類(lèi)是工作中要寫(xiě)數(shù)據(jù)處理工具的工程師需要在大數(shù)據(jù)量排序時(shí)選對(duì)算法。文章里的代碼我以 Python 為主但思路可以平移到任何語(yǔ)言。1.1 分治思想拆解不是“把一個(gè)數(shù)組拆開(kāi)”這么簡(jiǎn)單分治策略有三個(gè)動(dòng)作分解、解決、合并。歸并排序?qū)@三個(gè)動(dòng)作的執(zhí)行順序非常明確先遞歸地把數(shù)組分成兩半直到每個(gè)子數(shù)組只剩一個(gè)元素然后開(kāi)始逐步合并合并過(guò)程中完成排序。這里很多人有一個(gè)誤區(qū)以為歸并排序的核心是“拆分”。其實(shí)拆分只是輔助手段真正的排序發(fā)生在合并階段。把一個(gè)數(shù)組拆到只剩一個(gè)元素時(shí)每個(gè)子數(shù)組天然有序因?yàn)閱蝹€(gè)元素不需要比較。接下來(lái)要做的就是把兩個(gè)已經(jīng)各自有序的數(shù)組按照大小關(guān)系合并成一個(gè)新的有序數(shù)組。這種“把無(wú)序數(shù)組變成若干有序片段再通過(guò)有序片段合并得到整體有序”的思路才是歸并排序區(qū)別于冒泡、選擇這些暴力排序的本質(zhì)。另一個(gè)容易混淆的點(diǎn)歸并排序和快速排序都用了分治但方向是相反的??炫攀窃诜謪^(qū)之后就對(duì)數(shù)據(jù)做了調(diào)整使得基準(zhǔn)值左邊的數(shù)據(jù)都小于等于它、右邊的數(shù)據(jù)都大于等于它然后遞歸處理左右兩邊而歸并排序先遞歸到底排序?qū)嶋H發(fā)生在“歸”回來(lái)的路上。這也是為什么歸并排序在合并時(shí)需要輔助空間而快排可以在原數(shù)組上通過(guò)交換完成分區(qū)。1.2 合并兩個(gè)有序數(shù)組整個(gè)算法的靈魂假設(shè)你有兩個(gè)已經(jīng)排好序的數(shù)組比如 [1, 3, 5] 和 [2, 4, 6]要把它們合并成一個(gè)有序數(shù)組最自然的做法是雙指針一個(gè)指針指向左數(shù)組開(kāi)頭一個(gè)指針指向右數(shù)組開(kāi)頭每次比較兩個(gè)指針指向的元素較小的放入結(jié)果數(shù)組然后對(duì)應(yīng)指針后移。如果某一方先走完就把另一方的剩余元素直接接到結(jié)果后面。這個(gè)過(guò)程看起來(lái)簡(jiǎn)單但它決定了歸并排序的穩(wěn)定性。如果我們比較的時(shí)候使用arr[i] arr[j]而不是那么兩個(gè)相等的元素會(huì)優(yōu)先取左邊的這樣在合并過(guò)程中不會(huì)破壞相同元素的原始相對(duì)順序。穩(wěn)定性在業(yè)務(wù)場(chǎng)景里非常關(guān)鍵比如先按時(shí)間排序、再按優(yōu)先級(jí)排序如果第二次排序是不穩(wěn)定的第一次排序的順序就白做了。合并兩個(gè)有序數(shù)組的操作就是 merge。整個(gè)歸并排序的執(zhí)行過(guò)程可以理解成無(wú)數(shù)個(gè) merge 嵌套在一起最小規(guī)模是兩個(gè)長(zhǎng)度為 1 的數(shù)組合并成長(zhǎng)度為 2 的有序數(shù)組然后兩個(gè)長(zhǎng)度為 2 的數(shù)組合并成長(zhǎng)度為 4 的有序數(shù)組一層一層向上直到最后兩個(gè)長(zhǎng)度為 n/2 的數(shù)組被合并成完整的 n 長(zhǎng)度數(shù)組。1.3 手動(dòng)模擬一趟完整合并建立遞歸直覺(jué)用經(jīng)典的數(shù)組 [38, 27, 43, 3, 9, 82, 10] 走一遍。先按中點(diǎn)拆分成 [38, 27, 43, 3] 和 [9, 82, 10]左半部分繼續(xù)拆成 [38, 27] 和 [43, 3]再拆成 [38]、[27]、[43]、[3]。從最底層開(kāi)始合并[38] 和 [27] 合并成 [27, 38][43] 和 [3] 合并成 [3, 43]然后這兩個(gè)有序數(shù)組再合并成 [3, 27, 38, 43]。另一邊也做同樣的事情[9, 82, 10] 拆成 [9]、[82]、[10]合并后得到 [9, 10, 82]。最后兩個(gè)有序數(shù)組 [3, 27, 38, 43] 和 [9, 10, 82] 雙指針合并得到 [3, 9, 10, 27, 38, 43, 82]排序完成。注意整個(gè)過(guò)程的執(zhí)行順序是深度優(yōu)先的先一路拆到最左邊的最底層完成合并再回來(lái)處理右邊的分支。這也是遞歸程序的特點(diǎn)理解這一點(diǎn)后寫(xiě)代碼時(shí)就不會(huì)糾結(jié)為什么合并函數(shù)要在兩次遞歸調(diào)用之后才執(zhí)行。2. O(nlog2n) 是怎么算出來(lái)的復(fù)雜度推導(dǎo)與直覺(jué)2.1 從遞推公式到遞歸樹(shù)假設(shè)輸入規(guī)模為 n歸并排序把問(wèn)題拆成兩個(gè)大小為 n/2 的子問(wèn)題每個(gè)子問(wèn)題的代價(jià)是 T(n/2)合并兩個(gè)有序子數(shù)組需要掃描所有 n 個(gè)元素代價(jià)是 O(n)。于是可以得到遞推式T(n) 2T(n/2) O(n)邊界條件是 T(1) O(1)因?yàn)閱蝹€(gè)元素不需要任何比較。把遞推式一層層展開(kāi)T(n) 2T(n/2) n 2(2T(n/4) n/2) n 4T(n/4) 2n 8T(n/8) 3n ... (2^k)T(n/2^k) k*n當(dāng)遞歸到達(dá)底層時(shí)n/2^k 1也就是 k log2n。代入后得到 T(n) n*T(1) log2n * n O(nlog2n)。這個(gè)推導(dǎo)過(guò)程建議親手寫(xiě)一遍。很多面試?yán)飭?wèn)“歸并排序?yàn)槭裁词?O(nlog2n)”本質(zhì)上考的不是你能不能背出結(jié)論而是能不能從遞推式出發(fā)解釋層數(shù)和每層代價(jià)。遞歸樹(shù)法和這個(gè)展開(kāi)是等價(jià)的樹(shù)的高度是 log2n每一層所有子問(wèn)題加起來(lái)都要處理 n 個(gè)數(shù)據(jù)所以總代價(jià)是 n 乘以樹(shù)高。2.2 層數(shù)為什么是 log2n一個(gè)生活化類(lèi)比可以把歸并排序想象成一個(gè)班級(jí)廣播通知的下發(fā)過(guò)程一個(gè)老師告訴兩位班長(zhǎng)兩位班長(zhǎng)各自告訴四位組長(zhǎng)四位組長(zhǎng)再告訴八位組員。每次信息傳遞量翻倍從 1 到 n需要的層數(shù)就是從 n 除以 2 一直到 1 的除法次數(shù)也就是 log2n。歸并排序的遞歸樹(shù)高度正好是這樣的對(duì)數(shù)結(jié)構(gòu)。每層合并代價(jià)都是 O(n) 這一點(diǎn)也值得展開(kāi)。第 0 層只有一次合并掃描 n 個(gè)元素第 1 層有兩次合并每次掃描 n/2 個(gè)元素加總還是 n第 2 層有四次合并每次掃描 n/4 個(gè)元素加總依然是 n。無(wú)論哪一層所有合并操作的總掃描長(zhǎng)度都是 n。這個(gè)規(guī)律貫穿整個(gè)算法所以復(fù)雜度就是“層數(shù)乘以每層代價(jià)”即 log2n 乘以 n。說(shuō)到這里必須提醒一點(diǎn)O(nlog2n) 是平均時(shí)間復(fù)雜度同時(shí)也是最好和最壞時(shí)間復(fù)雜度。歸并排序不會(huì)因?yàn)檩斎胍呀?jīng)有序而減少比較次數(shù)也不會(huì)因?yàn)檩斎胪耆嫘蚨黾颖容^次數(shù)。這一點(diǎn)和插入排序形成鮮明對(duì)比插入排序的最好情況只有 O(n)。歸并排序的這種確定性在實(shí)時(shí)性要求高的場(chǎng)景里是優(yōu)勢(shì)在追求極致性能的緩存場(chǎng)景里也可能成為劣勢(shì)這點(diǎn)后續(xù)會(huì)展開(kāi)。2.3 空間復(fù)雜度與穩(wěn)定性為什么臨時(shí)數(shù)組是剛需歸并排序的空間復(fù)雜度是 O(n)因?yàn)槊看魏喜蓚€(gè)有序數(shù)組時(shí)需要一個(gè)和整體規(guī)模等長(zhǎng)的臨時(shí)數(shù)組來(lái)存放結(jié)果。遞歸調(diào)用本身的棧深度是 log2n所以如果嚴(yán)格計(jì)算總空間占用是 O(n) 加上 O(log2n) 的函數(shù)棧但 O(log2n) 被 O(n) 主導(dǎo)通常就記作 O(n)。很多人會(huì)問(wèn)能不能不用臨時(shí)數(shù)組在原數(shù)組上直接完成歸并如果嚴(yán)格要求原地也可以做但要么用復(fù)雜的原地旋轉(zhuǎn)算法把時(shí)間復(fù)雜度推到 O(nlog2n) 上方要么犧牲排序穩(wěn)定性工程上都不劃算。一個(gè)更常見(jiàn)的做法是預(yù)先分配一個(gè)長(zhǎng)度為 n 的臨時(shí)數(shù)組在遞歸過(guò)程中反復(fù)使用它而不是每次 merge 都新建數(shù)組。這樣空間開(kāi)銷(xiāo)只是 O(n)不會(huì)變成 O(nlog2n)。穩(wěn)定性來(lái)源于合并時(shí)對(duì)相等元素的處理。如果寫(xiě)成if arr[i] arr[j]相等的時(shí)候先取左半部分那么原始順序就被保留了。如果寫(xiě)成相等時(shí)先取右半部分穩(wěn)定性就被破壞。很多初寫(xiě)歸并排序的人在這里不小心寫(xiě)錯(cuò)導(dǎo)致排序結(jié)果正確但“穩(wěn)定排序”的名頭丟了。3. 遞歸版與迭代版完整實(shí)現(xiàn)代碼是最快的說(shuō)明書(shū)3.1 遞歸實(shí)現(xiàn)的正確姿勢(shì)遞歸版歸并排序的代碼結(jié)構(gòu)非常固定外層是排序函數(shù)內(nèi)層是合并函數(shù)。一個(gè)容易踩的坑是臨時(shí)數(shù)組的處理。不要在遞歸函數(shù)內(nèi)部反復(fù)創(chuàng)建數(shù)組正確的做法是在入口函數(shù)里一次性創(chuàng)建好然后作為參數(shù)向下傳遞。def merge(arr, left, mid, right, temp): i, j, k left, mid 1, left while i mid and j right: if arr[i] arr[j]: temp[k] arr[i] i 1 else: temp[k] arr[j] j 1 k 1 while i mid: temp[k] arr[i] i 1 k 1 while j right: temp[k] arr[j] j 1 k 1 for t in range(left, right 1): arr[t] temp[t] def merge_sort_recursive(arr, left, right, temp): if left right: return mid left (right - left) // 2 merge_sort_recursive(arr, left, mid, temp) merge_sort_recursive(arr, mid 1, right, temp) merge(arr, left, mid, right, temp) def merge_sort(arr): temp [0] * len(arr) merge_sort_recursive(arr, 0, len(arr) - 1, temp)注意兩點(diǎn)mid left (right - left) // 2而不是(left right) // 2后者在極端情況下可能產(chǎn)生整數(shù)溢出雖然 Python 的整數(shù)不會(huì)溢出但其他語(yǔ)言需要養(yǎng)成這個(gè)習(xí)慣。另外合并結(jié)束后要把臨時(shí)數(shù)組拷貝回原數(shù)組。這里用的是循環(huán)拷貝如果是在 Python 里也可以直接用切片arr[left:right1] temp[left:right1]但循環(huán)更便于理解也避免了切片帶來(lái)的額外對(duì)象開(kāi)銷(xiāo)。3.2 自底向上的迭代實(shí)現(xiàn)遞歸實(shí)現(xiàn)的缺點(diǎn)是當(dāng)數(shù)組規(guī)模特別大時(shí)遞歸深度會(huì)達(dá)到 log2n雖然不容易爆棧但在某些嵌入式環(huán)境或函數(shù)棧極小的環(huán)境里仍然不放心。迭代版自底向上實(shí)現(xiàn)完全避開(kāi)遞歸方法是從合并長(zhǎng)度為 1 的子數(shù)組開(kāi)始循環(huán)處理長(zhǎng)度為 2、4、8 直到整個(gè)數(shù)組。def merge_sort_iter(arr): n len(arr) if n 2: return arr temp [0] * n width 1 while width n: left 0 while left n: mid min(left width - 1, n - 1) right min(left 2 * width - 1, n - 1) if mid right: merge(arr, left, mid, right, temp) left 2 * width width * 2 return arr這里的 merge 函數(shù)和遞歸版共用。迭代版的核心是width每次翻倍left 每次前進(jìn)2 * width保證當(dāng)前合并的兩個(gè)區(qū)間分別是 [left, mid] 和 [mid1, right]。當(dāng)數(shù)組長(zhǎng)度不是 2 的冪時(shí)需要借助min對(duì) mid 和 right 做鉗制。if mid right這個(gè)判斷很重要如果不加當(dāng)左區(qū)間已經(jīng)包含數(shù)組剩余全部元素時(shí)合并會(huì)去訪(fǎng)問(wèn)一個(gè)不存在的右區(qū)間。3.3 兩種寫(xiě)法在工程上如何取舍遞歸版更符合分治思想代碼可讀性好調(diào)試的時(shí)候可以用調(diào)用棧直觀看到分解過(guò)程。迭代版代碼稍顯繁瑣但避免了遞歸調(diào)用開(kāi)銷(xiāo)在數(shù)據(jù)規(guī)模極大時(shí)更穩(wěn)。我個(gè)人的習(xí)慣是日常業(yè)務(wù)代碼用遞歸版因?yàn)檫壿嬊宄?、不易出錯(cuò)底層工具或需要極致穩(wěn)定性的場(chǎng)景用迭代版。下表簡(jiǎn)單對(duì)比兩種實(shí)現(xiàn)的差異維度遞歸版迭代版代碼可讀性高和思想一一對(duì)應(yīng)低需要理解 width 和 left 的推進(jìn)關(guān)系函數(shù)調(diào)用開(kāi)銷(xiāo)有但影響通常可忽略無(wú)遞歸純循環(huán)??臻g壓力需要 O(log2n) 遞歸棧幾乎不需要額外棧邊界處理難度較簡(jiǎn)單需要小心鉗制 mid 和 right適用場(chǎng)景面試、業(yè)務(wù)排序、教學(xué)嵌入式環(huán)境、超大數(shù)組、無(wú)遞歸環(huán)境4. 工程落地避坑指南邊界、內(nèi)存與微優(yōu)化4.1 最容易被忽略的邊界條件歸并排序?qū)戝e(cuò)的原因通常不是算法思想不對(duì)而是邊界處理不到位。第一個(gè)高頻錯(cuò)誤是遞歸終止條件寫(xiě)成left right這本身也能工作但會(huì)多一層無(wú)意義的遞歸更規(guī)范的是left right。第二個(gè)高頻錯(cuò)誤是對(duì)mid的劃分。假設(shè)數(shù)組下標(biāo)是 [left, right]左區(qū)間應(yīng)該是 [left, mid]右區(qū)間是 [mid1, right]。如果錯(cuò)誤地把右區(qū)間寫(xiě)成 [mid, right]左區(qū)間會(huì)多一個(gè)元素最終排序結(jié)果雖然可能正確但會(huì)讓兩個(gè)區(qū)間不均衡破壞了歸并排序的分治邏輯甚至可能導(dǎo)致死循環(huán)。而且 mid 的計(jì)算方式必須和迭代版的鉗制邏輯一致否則左右區(qū)間會(huì)出現(xiàn)重疊或漏掉元素。第三個(gè)錯(cuò)誤出現(xiàn)在合并后的拷貝階段。有些人只把臨時(shí)數(shù)組的一部分拷回原數(shù)組比如從 0 開(kāi)始拷到 right-left卻沒(méi)有考慮 left 的偏移量。當(dāng) left 不是 0 時(shí)這種寫(xiě)法會(huì)污染原數(shù)組里不屬于當(dāng)前合并范圍的元素。正確的做法是從 left 開(kāi)始循環(huán)到 right把 temp 對(duì)應(yīng)位置拷回去。4.2 臨時(shí)數(shù)組分配策略統(tǒng)一分配還是每次創(chuàng)建很多初學(xué)版本的代碼長(zhǎng)這樣在 merge 函數(shù)內(nèi)部temp [0] * (right - left 1)看起來(lái)沒(méi)錯(cuò)但每次遞歸調(diào)用都要重新分配數(shù)組整體空間分配次數(shù)等于合并次數(shù)約為 n 次量級(jí)。對(duì)于十萬(wàn)元素或許還能忍受對(duì)于百萬(wàn)千萬(wàn)級(jí)數(shù)據(jù)創(chuàng)建大量臨時(shí)對(duì)象不僅耗時(shí)還容易觸發(fā)內(nèi)存碎片。工程上的標(biāo)準(zhǔn)做法是在入口函數(shù)里一次性分配temp [0] * n之后所有遞歸層級(jí)共用這一塊空間。這是因?yàn)槊看魏喜⒅恍枰L(fǎng)問(wèn)當(dāng)前區(qū)間對(duì)應(yīng)的位置不同分支遞歸并不會(huì)同時(shí)使用 temp 數(shù)組所以不存在數(shù)據(jù)覆蓋問(wèn)題。這種方法把動(dòng)態(tài)內(nèi)存分配從 O(n) 次降低到常數(shù)次效果非常明顯。4.3 三個(gè)值得做的微優(yōu)化第一個(gè)優(yōu)化是小區(qū)間切換插入排序。當(dāng)待排序區(qū)間長(zhǎng)度小于某個(gè)閾值常用 16 或 32時(shí)不再繼續(xù)拆分和合并而是直接對(duì)小區(qū)間做插入排序。插入排序在規(guī)模小的時(shí)候常數(shù)因子遠(yuǎn)小于歸并排序而且緩存友好。這個(gè)優(yōu)化是很多工業(yè)級(jí)排序庫(kù)的基礎(chǔ)做法。def merge_sort_optimized(arr, left, right, temp): if right - left 16: insertion_sort(arr, left, right) return mid left (right - left) // 2 merge_sort_optimized(arr, left, mid, temp) merge_sort_optimized(arr, mid 1, right, temp) if arr[mid] arr[mid 1]: return merge(arr, left, mid, right, temp)第二個(gè)優(yōu)化是判斷是否真的需要合并。如果左區(qū)間最后一個(gè)元素已經(jīng)小于等于右區(qū)間第一個(gè)元素說(shuō)明兩個(gè)區(qū)間已經(jīng)天然有序整段不需要做任何操作。這個(gè)判斷只需要 O(1) 時(shí)間卻能在處理近似有序數(shù)組時(shí)跳過(guò)大量合并直接把最好情況的時(shí)間復(fù)雜度從 O(nlog2n) 降到 O(n)。它和插入排序的近似有序友好特性殊途同歸。第三個(gè)優(yōu)化是減少元素的重復(fù)拷貝。標(biāo)準(zhǔn)寫(xiě)法每次合并完都把 temp 拷回 arr下一層合并又把 arr 拷到 temp。如果交替使用 arr 和 temp 作為目標(biāo)數(shù)組可以讓數(shù)據(jù)在兩層之間直接往返省掉一部分拷貝。實(shí)現(xiàn)起來(lái)要復(fù)雜一些性能提升通常在 10% 到 20% 之間適合對(duì)性能有極致要求的讀者自己去研究業(yè)務(wù)場(chǎng)景不一定需要。4.4 常見(jiàn)錯(cuò)誤與排查思路如果排序結(jié)果只是部分有序先檢查合并后拷貝的區(qū)間是否完整。如果數(shù)組完全沒(méi)排序檢查遞歸調(diào)用時(shí) mid 的左右區(qū)間是否寫(xiě)反。如果出現(xiàn)越界異常檢查 while 循環(huán)的終止條件是否寫(xiě)成i mid而不是i mid。這些錯(cuò)誤在調(diào)試時(shí)不一定要看完整數(shù)組可以用小規(guī)模隨機(jī)數(shù)組反復(fù)跑再對(duì)比 Python 內(nèi)置的sorted()結(jié)果很快能定位。另一個(gè)實(shí)用技巧是在合并函數(shù)入口加一個(gè)斷言assert left mid right確保調(diào)用 merge 時(shí)區(qū)間參數(shù)合法。很多問(wèn)題不是算法問(wèn)題而是調(diào)用方?jīng)]有正確傳入?yún)^(qū)間范圍。加斷言后測(cè)試階段就能暴露問(wèn)題而不是等線(xiàn)上數(shù)據(jù)出錯(cuò)。5. 歸并排序的經(jīng)典變體與應(yīng)用場(chǎng)景5.1 逆序?qū)y(tǒng)計(jì)merge 時(shí)的天然能力逆序?qū)Χx是如果 i j 且 arr[i] arr[j]這一對(duì)元素就是一個(gè)逆序?qū)Α1┝夥p重循環(huán)需要 O(n2) 時(shí)間而歸并排序可以在合并過(guò)程中順手統(tǒng)計(jì)時(shí)間復(fù)雜度降到 O(nlog2n)。原理其實(shí)很巧妙。合并兩個(gè)有序子數(shù)組時(shí)當(dāng)右區(qū)間的當(dāng)前元素arr[j]小于左區(qū)間的當(dāng)前元素arr[i]說(shuō)明從 i 到 mid 的所有元素都大于arr[j]它們每一個(gè)都和arr[j]構(gòu)成逆序?qū)?。此時(shí)一次性累加mid - i 1個(gè)逆序?qū)Χ皇且粋€(gè)個(gè)比較。def merge_count(arr, left, mid, right, temp): i, j, k left, mid 1, left inv 0 while i mid and j right: if arr[i] arr[j]: temp[k] arr[i] i 1 else: temp[k] arr[j] j 1 inv mid - i 1 k 1 while i mid: temp[k] arr[i] i 1 k 1 while j right: temp[k] arr[j] j 1 k 1 for t in range(left, right 1): arr[t] temp[t] return inv這個(gè)寫(xiě)法注意一點(diǎn)只有arr[i] arr[j]時(shí)才計(jì)數(shù)等于的情況不計(jì)。因?yàn)榈扔诓皇悄嫘驅(qū)τ萌∽髤^(qū)間元素可以保證穩(wěn)定性也不會(huì)多算逆序?qū)?。面試中?jīng)常把它作為歸并排序的進(jìn)階題理解了這一行計(jì)數(shù)邏輯就掌握了一套高頻解題思路。5.2 外部排序與多路歸并如果數(shù)據(jù)量遠(yuǎn)超內(nèi)存比如幾十 GB 的日志文件要在內(nèi)存只有幾個(gè) GB 的機(jī)器上排序普通快排或者歸并都不能一次性完成。這時(shí)會(huì)用到外部排序而外部排序的核心就是把歸并排序的思路放大到文件級(jí)別?;玖鞒淌前汛笪募蟹殖啥鄠€(gè)可讀入內(nèi)存的塊每塊讀入內(nèi)存后用快排或歸并排好序?qū)懟卮疟P(pán)形成多個(gè)臨時(shí)有序文件最后對(duì)這些有序文件做多路歸并。多路歸并不能簡(jiǎn)單兩個(gè)文件兩兩合并因?yàn)槟菢訒?huì)產(chǎn)生大量磁盤(pán) IO工程上一般用優(yōu)先隊(duì)列維護(hù) k 個(gè)文件的最小元素每次取最小寫(xiě)回輸出文件同時(shí)從對(duì)應(yīng)文件補(bǔ)一個(gè)元素進(jìn)來(lái)。這個(gè)過(guò)程本質(zhì)上是 k 路歸并。之所以還是叫“歸并”是因?yàn)樗蛢?nèi)存歸并排序共享同一個(gè)核心操作合并多個(gè)有序序列。區(qū)別只在于數(shù)據(jù)載體是文件以及為了減少磁盤(pán) IO 引入的緩沖區(qū)設(shè)計(jì)??梢哉f(shuō)如果不理解歸并排序外部排序就很難展開(kāi)這也是為什么很多大數(shù)據(jù)工程師會(huì)回頭補(bǔ)排序算法的底層知識(shí)。5.3 鏈表排序歸并排序的真正主場(chǎng)數(shù)組排序時(shí)歸并排序需要 O(n) 額外空間這是它對(duì)比快排的最大劣勢(shì)。但如果是鏈表排序歸并排序不需要額外開(kāi)辟存儲(chǔ)空間因?yàn)殒湵砉?jié)點(diǎn)之間的指針可以在合并時(shí)重新連接不需要新的節(jié)點(diǎn)數(shù)組。額外開(kāi)銷(xiāo)只有遞歸函數(shù)棧 O(log2n)這比數(shù)組歸并要好得多。鏈表歸并的核心思路用快慢指針找到鏈表中點(diǎn)切成左右兩條鏈表遞歸排序后再用雙指針合并兩條有序鏈表。找中點(diǎn)的代碼我經(jīng)常看到有人寫(xiě)錯(cuò)def merge_sort_list(head): if not head or not head.next: return head slow, fast head, head.next while fast and fast.next: slow slow.next fast fast.next.next right_head merge_sort_list(slow.next) slow.next None left_head merge_sort_list(head) return merge_two_lists(left_head, right_head)這里 fast 從head.next開(kāi)始走可以讓 slow 恰好停在左半部分的最后一個(gè)節(jié)點(diǎn)。如果 fast 也從 head 開(kāi)始slow 可能會(huì)停在偏右的位置拆分就不準(zhǔn)了。合并兩條有序鏈表的函數(shù)則是典型的雙哨兵節(jié)點(diǎn)技巧這里不再展開(kāi)。5.4 與主流排序庫(kù)的關(guān)系很多人以為歸并排序只是教科書(shū)內(nèi)容現(xiàn)實(shí)中都用內(nèi)置排序。其實(shí)很多現(xiàn)代編程語(yǔ)言?xún)?nèi)置排序正是歸并排序的改良版本。比如某些語(yǔ)言標(biāo)準(zhǔn)庫(kù)里的排序算法是 TimSort它的核心思想是找到數(shù)組中已經(jīng)有序的“run”然后用歸并的方式把這些 run 合并起來(lái)同時(shí)在小規(guī)模時(shí)切換到插入排序??梢哉f(shuō) TimSort 就是“歸并排序 插入排序 自然有序檢測(cè)”的混合體。理解歸并排序的價(jià)值不只是為了面試。當(dāng)你遇到一個(gè)近似有序的大數(shù)組時(shí)原生快排可能表現(xiàn)平庸而基于歸并思想的 TimSort 卻能在 O(n) 時(shí)間完成排序。當(dāng)你需要統(tǒng)計(jì)逆序?qū)r(shí)歸并排序是標(biāo)準(zhǔn)答案。當(dāng)你處理鏈表時(shí)歸并排序又是空間效率最高的穩(wěn)定排序。這也是為什么它作為“經(jīng)典排序”的地位一直沒(méi)有被替代。6. 怎么選歸并排序 vs 快排 vs 堆排的實(shí)戰(zhàn)對(duì)比6.1 不同數(shù)據(jù)形態(tài)下的表現(xiàn)差異我用一組相對(duì)可控的實(shí)驗(yàn)數(shù)據(jù)說(shuō)明一下感受。以下耗時(shí)不是精確基準(zhǔn)值但比例能反映算法差異環(huán)境是一臺(tái)普通開(kāi)發(fā)機(jī)語(yǔ)言是 Python數(shù)據(jù)規(guī)模從十萬(wàn)到一千萬(wàn)。數(shù)據(jù)形態(tài)歸并排序快速排序堆排序10 萬(wàn)隨機(jī)整數(shù)約 0.04 秒約 0.03 秒約 0.06 秒100 萬(wàn)隨機(jī)整數(shù)約 0.5 秒約 0.35 秒約 1.1 秒100 萬(wàn)近似有序約 0.08 秒帶跳過(guò)優(yōu)化約 0.05 秒pivot 選擇好時(shí)約 1.0 秒100 萬(wàn)大量重復(fù)值約 0.4 秒約 0.3 秒約 1.2 秒1000 萬(wàn)隨機(jī)整數(shù)約 7 秒內(nèi)存占用顯著約 5 秒約 15 秒從這張表可以看出幾個(gè)規(guī)律歸并排序在任何數(shù)據(jù)形態(tài)下都比較穩(wěn)定但常數(shù)因子不是最小的快排在重復(fù)值和隨機(jī)數(shù)上通常最快但遇到特定退化的 pivot 選擇可能變慢且不穩(wěn)定堆排序常數(shù)最大它的優(yōu)勢(shì)主要在內(nèi)存占用固定、無(wú)遞歸以及優(yōu)先級(jí)隊(duì)列場(chǎng)景而不是單純排序。6.2 工程選型的判斷清單如果你的需求里包含下面任意一條優(yōu)先考慮歸并排序第一要求排序穩(wěn)定相同元素順序不能變第二數(shù)據(jù)源是鏈表結(jié)構(gòu)第三數(shù)據(jù)量超過(guò)內(nèi)存需要外部排序第四需要順便統(tǒng)計(jì)逆序?qū)Φ谖鍖?shí)時(shí)系統(tǒng)希望排序耗時(shí)盡量可預(yù)測(cè)不管輸入是否有序。如果你內(nèi)存非常緊張比如單片機(jī)環(huán)境歸并排序 O(n) 的輔助空間可能不可接受。此時(shí)要么選堆排序用 O(1) 空間換一個(gè)不那么快的排序時(shí)間要么選快排的原地分區(qū)版本。如果數(shù)據(jù)結(jié)構(gòu)是數(shù)組、內(nèi)存充足而且只關(guān)注速度快排往往更好。如果排序目標(biāo)是基礎(chǔ)類(lèi)型且不需要穩(wěn)定很多語(yǔ)言的原生雙軸快排已經(jīng)優(yōu)化得很好也不一定要自己寫(xiě)歸并。6.3 一點(diǎn)個(gè)人體會(huì)我從第一次寫(xiě)歸并排序到現(xiàn)在最大的感受是它的思想價(jià)值大于代碼價(jià)值。遞歸拆分讓我們學(xué)會(huì)用對(duì)數(shù)視角看待問(wèn)題合并過(guò)程讓我們理解穩(wěn)定性從何而來(lái)復(fù)雜度推導(dǎo)讓我們知道層數(shù)和每層代價(jià)這兩個(gè)維度構(gòu)成了算法分析的基本框架。這些能力可以直接遷移到很多非排序問(wèn)題上。如果你正在準(zhǔn)備面試不要只背代碼試著在白板上推導(dǎo)一遍 T(n) 2T(n/2) O(n)再手動(dòng)模擬一個(gè)長(zhǎng)度為 7 的數(shù)組的業(yè)務(wù)流程然后把遞歸版改成迭代版最后自己加上逆序?qū)τ?jì)數(shù)。這一套走完歸并排序才算真正吃透了。工作中如果你碰到一個(gè)要求穩(wěn)定排序的大數(shù)據(jù)場(chǎng)景或者需要把多個(gè)有序文件合并成一個(gè)你會(huì)感謝現(xiàn)在花時(shí)間把這些細(xì)節(jié)弄明白的自己。