免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Linux進(jìn)程管理全解析:從task_struct到調(diào)度與僵尸進(jìn)程

Linux進(jìn)程管理全解析:從task_struct到調(diào)度與僵尸進(jìn)程 你有沒有遇到過這種情況線上服務(wù)沒多少用戶量CPU 卻飆得離譜或者你 fork 完子進(jìn)程后父子進(jìn)程的打印順序完全不按你預(yù)期的來又或者一個程序明明不復(fù)雜卻頻繁卡頓、僵尸進(jìn)程堆積。這些問題看著五花八門追根溯源全部指向同一個領(lǐng)域——Linux 進(jìn)程管理。這篇內(nèi)容我會從內(nèi)核視角把進(jìn)程管理這條鏈路完整梳理一遍重點(diǎn)拆解兩個核心環(huán)節(jié)進(jìn)程是如何被創(chuàng)建的以及創(chuàng)建之后調(diào)度器又是如何決定“誰先跑、誰后跑、跑多久”的。同時會延伸到進(jìn)程退出、回收和僵尸進(jìn)程這些工程實(shí)戰(zhàn)中一定會踩到的場景基本覆蓋了從創(chuàng)建到調(diào)度、再到銷毀的完整生命周期。適合正在學(xué) Linux 內(nèi)核原理的學(xué)生也適合那些寫多進(jìn)程服務(wù)、做性能排查時經(jīng)常需要面對進(jìn)程模型的開發(fā)者和運(yùn)維。1. 進(jìn)程在Linux里到底是什么——從task_struct說起1.1 “進(jìn)程”不是抽象概念它就是一個結(jié)構(gòu)體實(shí)例教科書上說“進(jìn)程是運(yùn)行中的程序”這句話沒錯但對內(nèi)核開發(fā)者來說太朦朧了。在 Linux 內(nèi)核里進(jìn)程的本質(zhì)就是一塊數(shù)據(jù)一個叫task_struct的結(jié)構(gòu)體實(shí)例。內(nèi)核每創(chuàng)建一個進(jìn)程都會kmalloc出一塊內(nèi)存初始化一個task_struct然后把這個結(jié)構(gòu)體掛到全局任務(wù)鏈表上。進(jìn)程的切換、調(diào)度、信號處理、資源統(tǒng)計(jì)說白了都是在對這塊數(shù)據(jù)做操作。你ps看到一行輸出背后就是遍歷這一堆task_struct節(jié)點(diǎn)然后把字段打印成表格。task_struct是一個非常龐大的結(jié)構(gòu)體包含的字段有幾百個按職責(zé)大致可以分成這幾類職責(zé)代表字段作用狀態(tài)與調(diào)度state、se、prio、static_prio、normal_prio、rt_priority表示進(jìn)程當(dāng)前狀態(tài)、調(diào)度實(shí)體、優(yōu)先級內(nèi)存管理mm、active_mm指向進(jìn)程地址空間描述符文件系統(tǒng)fs、files記錄根目錄、當(dāng)前工作目錄、打開的文件表信號處理sigpending、signal掛起信號和信號處理函數(shù)身份與權(quán)限cred、uid、gid記錄用戶態(tài)身份和權(quán)限相關(guān)信息時間與統(tǒng)計(jì)start_time、utime、stime啟動時間、用戶態(tài)/內(nèi)核態(tài) CPU 時間資源限制rlim進(jìn)程可使用的資源上限用生活里的類比來說每個進(jìn)程像是一個在公司里的員工task_struct就是他的完整檔案袋。檔案里寫著他是誰、在哪個部門調(diào)度器、住哪內(nèi)存、負(fù)責(zé)什么項(xiàng)目文件描述符、上面有多少領(lǐng)導(dǎo)權(quán)限權(quán)限體系。調(diào)度器做決策的時候看的不是“人”就是這份檔案。1.2 在 Linux 里進(jìn)程和線程沒有那么涇渭分明很多人問“Linux 進(jìn)程和線程到底怎么區(qū)分”。答案可能會顛覆你的認(rèn)知在內(nèi)核視角下進(jìn)程和線程沒有本質(zhì)區(qū)別它們都是task_struct。區(qū)別只在于clone()系統(tǒng)調(diào)用時傳入哪些共享標(biāo)志如果父子進(jìn)程共享地址空間CLONE_VM、共享文件表CLONE_FILES、共享信號處理器CLONE_SIGHAND那看起來就是一個“線程組”里的多個線程。如果不共享這些東西各自擁有獨(dú)立的地址空間和資源這就是傳統(tǒng)意義上的“進(jìn)程”。所以 Linux 里的線程準(zhǔn)確叫法是輕量級進(jìn)程Lightweight Process。你平時用ps -eLf可以看到一個進(jìn)程對應(yīng)的多個線程每行一個task_structLWP 就是線程 ID。我實(shí)際排查線程問題時踩過一個坑用top看某個進(jìn)程 CPU 占用不高但整個系統(tǒng)負(fù)載很高。后來用top -H -p PID按線程查看才發(fā)現(xiàn)是其中一個線程在死循環(huán)。這就是因?yàn)檫M(jìn)程是一種“資源容器”CPU 調(diào)度其實(shí)是針對于線程內(nèi)核可調(diào)度實(shí)體進(jìn)行的并不以進(jìn)程為最小單位。2. 進(jìn)程的誕生fork、寫時復(fù)制與執(zhí)行流切換2.1 fork 的語義調(diào)用一次返回兩次Linux 創(chuàng)建進(jìn)程最經(jīng)典的方式就是fork()。這個系統(tǒng)調(diào)用的語義在大學(xué)課本里就寫著調(diào)用一次返回兩次。如果是父進(jìn)程成功調(diào)用fork()內(nèi)核會在父進(jìn)程的地址空間基礎(chǔ)上復(fù)制一份子進(jìn)程的task_struct然后讓父進(jìn)程返回子進(jìn)程的 PID讓子進(jìn)程返回 0。這樣程序里就能通過返回值判斷自己是父還是子#include stdio.h #include unistd.h int main() { pid_t pid fork(); if (pid 0) { perror(fork); return 1; } if (pid 0) { printf(子進(jìn)程PID%d父進(jìn)程PID%d\n, getpid(), getppid()); } else { printf(父進(jìn)程PID%d子進(jìn)程PID%d\n, getpid(), pid); } sleep(1); return 0; }編譯運(yùn)行g(shù)cc -o fork_demo fork_demo.c ./fork_demo你會發(fā)現(xiàn)輸出兩行但順序不一定固定。父和子誰先運(yùn)行完全由調(diào)度器決定。如果你假設(shè)父進(jìn)程一定先執(zhí)行大概率會寫出有并發(fā) Bug 的程序。fork 失敗的情況也得留意。最常見的原因是進(jìn)程數(shù)達(dá)到RLIMIT_NPROC限制或者內(nèi)存不足申請不到內(nèi)核態(tài)數(shù)據(jù)結(jié)構(gòu)。線上服務(wù)器如果 fork 頻繁報 EAGAIN首先去查是不是某個系統(tǒng)服務(wù)把進(jìn)程數(shù)打滿了。2.2 寫時復(fù)制COW為什么 fork 可以這么快早期 Unix 的fork()確實(shí)會完整復(fù)制父進(jìn)程的地址空間包括所有物理頁。后來工程師們想明白一個關(guān)鍵問題fork 之后絕大多數(shù)情況是緊接著調(diào)用exec()加載新程序父進(jìn)程的整個地址空間很快就會被覆蓋丟棄前面復(fù)制那么多頁純屬浪費(fèi)。于是內(nèi)核引進(jìn)了寫時復(fù)制Copy-on-Write機(jī)制。原理一句話概括fork 的時候內(nèi)核不會復(fù)制父進(jìn)程的物理頁只是把父進(jìn)程的頁表復(fù)制一份并把父子進(jìn)程頁表中所有可寫頁表項(xiàng)標(biāo)記為只讀。父子進(jìn)程的虛擬地址此時映射到同一個物理頁。誰先嘗試寫這個頁面誰就會觸發(fā)缺頁異常內(nèi)核在異常處理里做真正的物理頁復(fù)制、更新頁表權(quán)限然后重放這條寫指令。這個過程快在哪fork 本身只需要復(fù)制頁表不需要復(fù)制物理內(nèi)存時間復(fù)雜度大大下降。只有實(shí)際發(fā)生寫入的頁面才會被復(fù)制很多“復(fù)制后不寫”的場景開銷為零。如果 fork 后立刻exec()幾乎不會觸發(fā)缺頁復(fù)制開銷極小。這也是為什么一些 Web 服務(wù)器喜歡用 fork 模型每次都復(fù)制一個很大的進(jìn)程出來但在 exec 之前只做很少的操作整體成本可控。2.3 fork 的變體與 exec工程里到底怎么用真實(shí)工程里直接用裸fork()的情形其實(shí)不算多因?yàn)榇蠖鄶?shù)語言運(yùn)行時會自己做封裝。但你理解原理之后看 C/C 里的pthread_create、Python 的multiprocessing底層就不虛了。fork()有三個值得注意的親戚系統(tǒng)調(diào)用行為典型場景fork()復(fù)制進(jìn)程配合 COW父子獨(dú)立地址空間經(jīng)典進(jìn)程創(chuàng)建vfork()不復(fù)制頁表父進(jìn)程阻塞子進(jìn)程共享父進(jìn)程地址空間直到子進(jìn)程 exec 或退出嵌入式/內(nèi)存受限環(huán)境現(xiàn)在基本被 forkCOW 替代clone()通過 flags 精細(xì)控制父子共享哪些資源pthread_create的底層實(shí)現(xiàn)再來看exec系列。這里有個常見誤區(qū)exec 不是創(chuàng)建進(jìn)程而是替換進(jìn)程。execve()系列系統(tǒng)調(diào)用execl、execlp、execvp等會把當(dāng)前進(jìn)程的代碼段、數(shù)據(jù)段、堆、棧全部換成新可執(zhí)行文件的內(nèi)容但進(jìn)程的 PID、打開的文件描述符默認(rèn)情況下等保持原樣。所以整個生命周期是fork()創(chuàng)建新進(jìn)程。子進(jìn)程調(diào)用exec()加載目標(biāo)可執(zhí)行程序。父進(jìn)程wait()回收子進(jìn)程。這條鏈路從 Unix 時代延續(xù)至今Linux 上跑任何程序的本質(zhì)都是這一套組合拳。提示很多人分不清“執(zhí)行一個程序”和“創(chuàng)建一個進(jìn)程”。執(zhí)行程序必然先創(chuàng)建進(jìn)程或者復(fù)用當(dāng)前進(jìn)程但創(chuàng)建進(jìn)程之后不一定 exec。比如環(huán)境變量設(shè)置、命令行解析這些邏輯都得在 exec 之前做好準(zhǔn)備。3. 調(diào)度器的核心機(jī)制vruntime、CFS與調(diào)度類3.1 調(diào)度器演進(jìn)從遍歷所有進(jìn)程到紅黑樹選最左節(jié)點(diǎn)說完了進(jìn)程怎么來接下來是主角調(diào)度器。它的任務(wù)可以濃縮成一句話——多個進(jìn)程都在可運(yùn)行隊(duì)列里CPU 到底給誰。Linux 調(diào)度器歷史上經(jīng)歷過三個階段O(n) 調(diào)度器2.4 時代每次調(diào)度都要遍歷整個運(yùn)行隊(duì)列計(jì)算每個進(jìn)程的優(yōu)先級、當(dāng)前狀態(tài)等。進(jìn)程數(shù)量多了以后調(diào)度本身消耗的 CPU 時間線性上升這在高負(fù)載服務(wù)器上完全不可接受。O(1) 調(diào)度器2.6 早期引入 active / expired 兩個優(yōu)先級數(shù)組調(diào)度時間變成常數(shù)級。它更重視響應(yīng)速度但對“公平性”的理解比較粗暴交互式進(jìn)程體驗(yàn)不穩(wěn)定。CFS完全公平調(diào)度器2.6.23 之后不再用優(yōu)先級數(shù)組而是維護(hù)一棵紅黑樹用虛擬運(yùn)行時間vruntime作為鍵值每次取最左葉子節(jié)點(diǎn)作為下一個運(yùn)行進(jìn)程。名字叫“完全公平”但實(shí)際是通過權(quán)重實(shí)現(xiàn)“按比例公平”不是絕對平均?,F(xiàn)在的 6.x 內(nèi)核又在 CFS 基礎(chǔ)上引入了 EEVDF最早虛擬截止時間優(yōu)先理念有些變化但 CFS 的虛擬時間模型依然是理解這一切的地基所以我們從 CFS 講起。3.2 核心概念vruntime 是怎么算出來的CFS 的關(guān)鍵變量是vruntime翻譯過來叫“虛擬運(yùn)行時間”。每個進(jìn)程更準(zhǔn)確說是每個調(diào)度實(shí)體都維護(hù)一個自己的vruntime。進(jìn)程運(yùn)行的時間越長vruntime就越大。內(nèi)核每次選擇下一個進(jìn)程時就從紅黑樹里挑出vruntime最小的那個進(jìn)程來運(yùn)行。這樣做的好處很直觀哪個進(jìn)程欠的 CPU 時間最多就先補(bǔ)給他。vruntime的增長速度并不是簡單的 1:1而是經(jīng)過權(quán)重?fù)Q算delta_vruntime delta_exec * NICE_0_LOAD / se_load其中NICE_0_LOAD 1024se_load是當(dāng)前進(jìn)程的權(quán)重。權(quán)重的來源就是 nice 值。nice 值范圍是 -20 到 19內(nèi)核里通過一張靜態(tài)映射表把它轉(zhuǎn)換成權(quán)重nice 值權(quán)值-2088761-109546010245335101101915從這個表格能看到兩個要點(diǎn)。第一nice 0 的進(jìn)程權(quán)重就是 1024vruntime增長速度和真實(shí)運(yùn)行時間一致。第二nice 值每降低一級權(quán)重約增加 1.25 倍每提高一級權(quán)重約減少 0.8 倍。但權(quán)重差不是均勻的。nice 0 到 nice 19 權(quán)重相差約 68 倍。所以如果一個 nice 0 的進(jìn)程和一個 nice 19 的進(jìn)程同時競爭一個 CPUnice 19 的進(jìn)程幾乎跑不動它的vruntime漲得飛快很快就被紅黑樹推到右邊。為了讓你更直觀地感受假設(shè) nice 0 進(jìn)程運(yùn)行 1ms它的vruntime增加 1ms同樣是 1ms 運(yùn)行時間nice 19 進(jìn)程的vruntime增加約1 * 1024 / 15 ≈ 68ms。這就是“低優(yōu)先級進(jìn)程得到更少 CPU”在數(shù)學(xué)上的精確表達(dá)。3.3 為什么是紅黑樹而不是鏈表或數(shù)組這個問題我面試時經(jīng)常被問到。原因很樸素CFS 需要頻繁做兩種操作——插入新喚醒的進(jìn)程、刪除運(yùn)行中的進(jìn)程、找出最小vruntime節(jié)點(diǎn)。鏈表查找最小值是 O(n)數(shù)組插入刪除涉及移動都不適合大量進(jìn)程的場景。紅黑樹能在 O(log n) 時間內(nèi)完成插入、刪除、查找最小節(jié)點(diǎn)平衡操作又能控制樹的深度保證最壞情況下性能也可接受。實(shí)際代碼里調(diào)度器直接把紅黑樹的最左葉子節(jié)點(diǎn)作為下一個要運(yùn)行的進(jìn)程。這棵樹的根在 per-CPU 運(yùn)行隊(duì)列的cfs_rq結(jié)構(gòu)里如果兩個 CPU 上各有一個cfs_rq調(diào)度就是各跑各的只有發(fā)生負(fù)載均衡時才會把進(jìn)程從忙的 CPU 遷移到閑的 CPU。3.4 調(diào)度類不同需求的進(jìn)程走不同的“車道”CFS 管的是普通進(jìn)程但 Linux 里還活著多種調(diào)度需求。為了靈活處理內(nèi)核把調(diào)度器代碼抽象成了“調(diào)度類”sched_class每個task_struct都會掛到某個調(diào)度類下面。從高優(yōu)先級到低優(yōu)先級核心調(diào)度類大致如下調(diào)度類優(yōu)先級典型用途stop_sched_class最高停止 CPU、CPU 熱插拔等內(nèi)核內(nèi)部任務(wù)dl_sched_class高Deadline 調(diào)度嚴(yán)格保證最晚完成時間用于實(shí)時任務(wù)rt_sched_class較高SCHED_FIFO / SCHED_RR傳統(tǒng)實(shí)時調(diào)度fair_sched_class中CFS普通進(jìn)程idle_sched_class最低每個 CPU 的空閑進(jìn)程調(diào)度器選擇進(jìn)程時會從高優(yōu)先級調(diào)度類開始找只有當(dāng)前調(diào)度類沒有可運(yùn)行任務(wù)才會往下走。這就是為什么實(shí)時進(jìn)程能搶占普通進(jìn)程的原因rt_sched_class 在 fair_sched_class 前面。rt 調(diào)度類內(nèi)部又有兩種策略SCHED_FIFO先進(jìn)先出。相同優(yōu)先級的任務(wù)先到先跑沒有時間片的概念直到任務(wù)自己阻塞或退出或者更高優(yōu)先級的任務(wù)出現(xiàn)。SCHED_RR時間片輪轉(zhuǎn)。同優(yōu)先級的任務(wù)輪流運(yùn)行時間片用完就排到隊(duì)尾。用實(shí)時策略時要特別謹(jǐn)慎。如果系統(tǒng)里有一個 SCHED_FIFO 的死循環(huán)進(jìn)程普通進(jìn)程包括 shell、監(jiān)控程序完全得不到 CPU系統(tǒng)看起來就像死機(jī)了鍵盤和鼠標(biāo)都無響應(yīng)。這也是為什么設(shè)置實(shí)時策略需要 root 權(quán)限或CAP_SYS_NICE權(quán)限。3.5 上下文切換的代價為什么更推薦線程調(diào)度器做出決策后就要執(zhí)行上下文切換。這個操作不是簡單切換寄存器而是要保存當(dāng)前進(jìn)程的 CPU 現(xiàn)場恢復(fù)下一個進(jìn)程的現(xiàn)場。進(jìn)程間的上下文切換開銷更大因?yàn)閮蓚€進(jìn)程有不同的地址空間內(nèi)核需要切換內(nèi)核棧。切換 CR3 寄存器使 MMU 指向新進(jìn)程的頁表。刷新 TLBTranslation Lookaside Buffer。重置流水線狀態(tài)新進(jìn)程的指令和數(shù)據(jù)基本都在冷緩存里后續(xù)訪問會頻繁 miss。線程之間切換就好一些它們共享地址空間CR3 不變TLB 也基本不用全部刷新只是切換棧、寄存器、指令指針。所以在高并發(fā)場景里線程模型往往比進(jìn)程模型有更好的上下文切換性能。我在做性能優(yōu)化時測過一個處理服務(wù)用進(jìn)程模型每秒只能承受約 2 萬請求換成線程模型以后接近 5 萬主要差距就是上下文切換的 TLB miss 少了很多。4. 優(yōu)先級、nice值與CPU綁定不知道這些命令等于白搭4.1 nice 值給低優(yōu)先級進(jìn)程“讓路”在用戶態(tài)絕大多數(shù)進(jìn)程都是普通進(jìn)程走 CFS。你能直接用到的干預(yù)手段就是 nice 值。nice名字本身就很有意思——“禮貌”。你的進(jìn)程越禮貌nice 值越大越把 CPU 讓給別人。啟動時指定 nice 值nice -n 10 ./cpu_bound_process對已運(yùn)行的進(jìn)程調(diào)整renice -n 5 -p 1234這里有個很實(shí)際的規(guī)則普通用戶只能把 nice 值調(diào)高讓優(yōu)先級更低不能調(diào)低讓優(yōu)先級更高。比如你自己啟動一個進(jìn)程你可以把自己的進(jìn)程從 nice 0 改成 nice 10但不能改成 nice -10因?yàn)檎{(diào)低優(yōu)先級會搶占其他用戶進(jìn)程的資源內(nèi)核不讓你這么干。只有 root 或者有CAP_SYS_NICE權(quán)限的進(jìn)程才能隨便調(diào)。從實(shí)測角度一個 nice 0 的 CPU 密集進(jìn)程和一個 nice 19 的 CPU 密集進(jìn)程在單核上跑nice 19 的進(jìn)程能被分配到的 CPU 時間會少到讓任務(wù)幾乎無法完成。做批處理任務(wù)時經(jīng)常用 nice 調(diào)低優(yōu)先級避免影響了線上服務(wù)的響應(yīng)。4.2 chrt實(shí)時調(diào)度策略的正確用法如果你需要嚴(yán)格保障某個任務(wù)的最壞情況響應(yīng)時間普通 CFS 滿足不了可以考慮實(shí)時調(diào)度策略。chrt就是設(shè)置實(shí)時策略和優(yōu)先級的工具# 以 SCHED_FIFO 策略運(yùn)行優(yōu)先級 50 chrt -f 50 ./realtime_task # 以 SCHED_RR 策略運(yùn)行優(yōu)先級 30 chrt -r 30 ./realtime_task # 查看當(dāng)前進(jìn)程的調(diào)度策略 chrt -p $$實(shí)時優(yōu)先級范圍是 1~99數(shù)字越大優(yōu)先級越高。普通進(jìn)程的 nice 值范圍是 -20~19和這個實(shí)時優(yōu)先級完全是兩套體系不要混淆。什么場景適合用實(shí)時調(diào)度音頻采集、工業(yè)控制、高頻交易這種對抖動極其敏感的任務(wù)它們需要的是“到了時間就必須運(yùn)行”的硬保證。普通 Web 服務(wù)完全沒必要用了反而有風(fēng)險。我親眼見過有人給一個日志處理進(jìn)程設(shè)了 SCHED_FIFO 高優(yōu)先級結(jié)果它占住 CPU 不放數(shù)據(jù)庫主進(jìn)程餓死整個服務(wù)雪崩。實(shí)時優(yōu)先級不是越高越好它的本質(zhì)是搶占權(quán)必須控制使用范圍。4.3 taskset 與 NUMA綁核要不要用再往下一層是 CPU 親和性CPU affinity。用taskset可以把進(jìn)程綁定到指定的 CPU 核心上# 將進(jìn)程綁定到 CPU0 和 CPU1 taskset -c 0,1 ./cpu_bound # 綁定到 CPU0~3 的任意核心 taskset -c 0-3 ./cpu_bound # 修改已有進(jìn)程的綁定 taskset -pc 0 1234綁核的價值主要體現(xiàn)在緩存和 NUMA 上。如果一個進(jìn)程在多核之間來回遷移它的熱數(shù)據(jù)在 L1/L2 緩存里反復(fù)失效性能損耗明顯。綁定到固定核心后一級二級緩存能保持相對熱度。在 NUMA 架構(gòu)下進(jìn)程訪問本地內(nèi)存和遠(yuǎn)端內(nèi)存的延遲差距能達(dá)到數(shù)倍把進(jìn)程綁定到內(nèi)存所在節(jié)點(diǎn)的本地 CPU 上能顯著降低內(nèi)存訪問延遲。但綁核也不是越多越好。綁定后調(diào)度器就不能在這個進(jìn)程上做負(fù)載均衡了。如果該 CPU 核心本身已經(jīng)很忙其他核心很閑綁核反而會浪費(fèi)算力。我的建議是先不要綁核用性能分析工具比如perf觀察確認(rèn)緩存 miss 和遠(yuǎn)程內(nèi)存訪問是瓶頸再考慮綁定別一上來就綁。5. 進(jìn)程的“身后事”退出、回收與僵尸進(jìn)程5.1 從 exit 到 do_exit進(jìn)程退出到底清理了什么進(jìn)程退出不是簡單的“內(nèi)存釋放”。當(dāng)進(jìn)程調(diào)用exit()或者從 main 函數(shù)返回時內(nèi)核會執(zhí)行do_exit()整個清理過程大概涵蓋釋放用戶態(tài)地址空間mm銷毀頁表和物理頁面。關(guān)閉進(jìn)程打開的所有文件描述符。釋放文件系統(tǒng)相關(guān)結(jié)構(gòu)當(dāng)前目錄引用等。向父進(jìn)程發(fā)送 SIGCHLD 信號喚醒正在 wait 的父進(jìn)程。把進(jìn)程狀態(tài)設(shè)置為僵尸ZOMBIE保留最小信息等待父進(jìn)程回收。注意最后一步。進(jìn)程死了但task_struct并沒有立刻消失。它會以一個僵尸狀態(tài)繼續(xù)留在進(jìn)程表里直到父進(jìn)程調(diào)用wait()或waitpid()來讀取退出狀態(tài)。5.2 僵尸進(jìn)程為什么內(nèi)核不立刻清干凈新同學(xué)第一次看到僵尸進(jìn)程時通常會問既然進(jìn)程都結(jié)束了為什么不立刻回收掉答案是父進(jìn)程有權(quán)知道子進(jìn)程的退出碼。比如一個子進(jìn)程因?yàn)槟承┬r?yàn)失敗而退出退出碼是 3。父進(jìn)程需要拿到這個 3 來判斷子進(jìn)程為什么退出。內(nèi)核必須有地方存這個退出碼又不能為此保留整個地址空間所以就在進(jìn)程表里留下一個最小化的task_struct里面主要是 PID、退出碼、資源統(tǒng)計(jì)、時間統(tǒng)計(jì)。所以僵尸進(jìn)程占用的資源其實(shí)很少它本身沒問題。真正的問題在于如果父進(jìn)程一直不 wait僵尸進(jìn)程就會一直累積。大量僵尸會消耗 PID 表項(xiàng)讓系統(tǒng)無法創(chuàng)建新進(jìn)程。同時運(yùn)維看top的時候滿屏 zombie會嚴(yán)重影響排障判斷。一個經(jīng)典的制造僵尸進(jìn)程的 C 代碼是這樣的#include stdio.h #include unistd.h #include sys/wait.h int main() { pid_t pid fork(); if (pid 0) { // 子進(jìn)程立即退出 return 0; } // 父進(jìn)程不調(diào)用 wait直接掛起 sleep(30); return 0; }編譯運(yùn)行后另開一個終端執(zhí)行ps -el | awk $2 Z你就能看到狀態(tài)為 Z 的僵尸進(jìn)程。父進(jìn)程睡 30 秒后退出僵尸會被系統(tǒng)收養(yǎng)并回收就消失了。5.3 排查和清理僵尸進(jìn)程的實(shí)戰(zhàn)流程在線上服務(wù)器碰到僵尸進(jìn)程第一步不是急著 kill而是理清父子關(guān)系。推薦按這個順序排查# 1. 找出所有僵尸進(jìn)程 ps -el | awk $2 Z # 或 top -b -n 1 | grep zombie # 2. 看僵尸進(jìn)程的父進(jìn)程是誰 ps -o ppid -p zombie_pid # 3. 看父進(jìn)程到底在干什么 ps -fp ppid處理方式取決于父進(jìn)程的情況如果父進(jìn)程是我們的服務(wù)進(jìn)程那問題大概率是代碼里 fork 了子進(jìn)程卻沒有調(diào)用 wait或者只 wait 了一個、另一個沒處理。正確做法是補(bǔ)上waitpid(-1, NULL, WNOHANG)循環(huán)。如果父進(jìn)程是可以安全的重啟或 kill 的進(jìn)程直接把父進(jìn)程 kill 掉它的孤兒進(jìn)程們會被 systemd 收養(yǎng)systemd 會循環(huán) wait 回收僵尸自然消失。如果父進(jìn)程是不能動的重要進(jìn)程可以用SIGCHLD信號處理器或者現(xiàn)成的子進(jìn)程管理器來做回收。提示硬 kill 僵尸進(jìn)程kill -9 zombie_pid是沒有意義的。內(nèi)核里它已經(jīng)“死”了kill 信號不會起任何作用。能做的只有從父進(jìn)程層面去 wait或者干掉父進(jìn)程讓子進(jìn)程被收養(yǎng)。5.4 孤兒進(jìn)程父進(jìn)程沒了誰來管和僵尸進(jìn)程經(jīng)常一起出現(xiàn)的是孤兒進(jìn)程——父進(jìn)程先退出子進(jìn)程還在運(yùn)行。正常情況下子進(jìn)程的父進(jìn)程字段ppid會被改成 1也就是被 init 進(jìn)程現(xiàn)在一般是 systemd收養(yǎng)。systemd 作為祖先會在子進(jìn)程退出時主動調(diào)用wait完成回收。所以孤兒進(jìn)程只要不自己掛住一般不會變僵尸。在容器化環(huán)境里有個細(xì)節(jié)值得注意容器往往沒有完整的 init 進(jìn)程如果容器里的 1 號進(jìn)程不是專門負(fù)責(zé)收尸的 init就可能導(dǎo)致容器內(nèi)的孤兒進(jìn)程沒人回收積累成僵尸。這也是很多容器基礎(chǔ)鏡像額外引入tini之類 init 程序的原因。5.5 不可中斷睡眠 D 狀態(tài)和僵尸不是一回事排查進(jìn)程狀態(tài)時除了 Z還經(jīng)常會看到 D不可中斷睡眠狀態(tài)。D 狀態(tài)通常意味著進(jìn)程正在等待內(nèi)核態(tài) IO比如等待磁盤寫入完成、等待 NFS 響應(yīng)這期間信號殺不掉它因?yàn)閮?nèi)核正在做一些不能半途而廢的操作。大量 D 狀態(tài)進(jìn)程基本說明底層 IO 子系統(tǒng)出問題了比如存儲卡死、網(wǎng)絡(luò)文件系統(tǒng)超時。這種情況排查重點(diǎn)不在進(jìn)程層而是去查存儲和網(wǎng)絡(luò)。我處理過一例 MySQL 實(shí)例無響應(yīng)ps一看幾十個 D 狀態(tài)線程最后定位到是底層存儲設(shè)備故障和數(shù)據(jù)庫配置沒什么關(guān)系。結(jié)尾一點(diǎn)個人體會進(jìn)程管理這塊內(nèi)容學(xué)的時候確實(shí)枯燥但每次線上出問題最后都會回到這些基礎(chǔ)概念。我自己排查過不少 CPU 飆高、服務(wù)掛起的問題最開始的判斷往往不是代碼邏輯而是先看進(jìn)程狀態(tài)、調(diào)度策略、優(yōu)先級這幾個入口。其中 fork 和 wait 的配合、僵尸進(jìn)程和孤兒進(jìn)程的機(jī)制、實(shí)時調(diào)度策略的使用邊界這三個點(diǎn)踩過坑以后就再也忘不掉了。如果你剛接觸 Linux建議不要只盯著top那一排數(shù)據(jù)而是抽時間親手跑一遍 fork、wait、taskset、chrt 的示例看看進(jìn)程狀態(tài)在ps -el里怎么變化。只要把這些實(shí)驗(yàn)做一遍你對“進(jìn)程是怎么活過來又是怎么被安排運(yùn)行的”這件事的理解會比看十篇文章都深刻。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
操九色| 婷婷久久夜| 久久激情天堂| 色婷婷五月天av在线| www.天天干| 天天色天天色天天色天天色天天色天天色| 色九九九九| 精品一区二区三区免费毛片爱| 伊人婷婷99热精品| 欧美一级色| 亚洲va欧美va国产综合久久久| 久99久精品视频| www.97视频| 婷婷欧美激情综合| 婷婷色五月激情强奸四射| 无码激情精品色婷婷久久久久| …亚洲黄色在线播放日韩、av中文a…| 欧美经典片免费观看大全| 激情综合色播| 五月天久久丁香| 色色色精品无码区| 婷婷色女| 丁香婷婷六月激情文学| 五月开心婷婷网| 操比激情五月| 九九久久高清| 九九精品99久久久| 国内久久久精品99| 成人在线网站| 久久 婷婷 五月天| 91婷婷丁香| 亚洲成人无码免费| 五月婷婷色啪| 五月婷婷三级| 亚洲久热| 激情五月婷婷色综合| 九九RE视频在线精品| 婷婷丁香综合| 人人性久久| 日韩成人电泉AV| 91人久| 九九成人视频| 777米奇影视第四色| 中文精品在| 99在线播放| 丁香五月-激情综合| 亚洲天堂久久| 丁香婷婷婷| 91超级碰| 婷婷激情五月天天天开心| 欧美日韩91| www.婷婷.com| 综合欧美五月婷婷| 亚州精品久久久久AV无码| 亚洲瑟瑟精品在线| 思思热视频在线观看| 婷婷六月激情| 99这里只有精| 午夜天堂一区人妻| 99在线视频女女视频| 久久区区一二三av| 99re热视频这里只有综合亚洲| 亚洲不卡欧洲| 激情婷婷丁香五月| 狠狠色噜噜狠狠狠狠综合| 色五月激情五月开心五月| 五月丁香婷婷婷激情爱爱| 五月亭亭开心网| 停婷丁五月在线| 久久激情五月婷婷| 亚洲亚洲人成综合网络 | 九九精品综合| 深爱五月中文字幕| 91成人看片| 大香蕉九操| 色色婷婷丁香| 停停综合色色| 欧美综合在线五月天色婷婷| 91丨九色丨熟女| 中文字幕av久久爽一区| 五月桃花网综合| 蜜臀av 粉嫩av 懂色av| 热九九精品| 色色色色色色色综合| 色五月天视频| 久久538| http://www.com久久久精品一区| 九九热99视频在线| 久久精品亚洲热| 在线观看亚洲AV| 9久久精品| 全部老头和老太XXXXX| 色天使久久综合| 操碰久| 天堂婷婷五月在线| 丁香五月影视| 亚洲第二AV| 四虎成人精品永久免费AV九九| 五月激情婷婷开心五月| 亚洲操精品| www.五月天| 国产99久9在线| 激情网站五月| 久久草中文日韩欧美| 亚洲亚洲人成综合网络| 开心五月婷婷激情| 欧美影院| 青青草原爱爱网| 99热网站在线观看| 五月婷激情| 日韩日比视频在线| 五月丁香伊人网| 久久五月丁香婷婷| 婷婷五月天情色| 奸逼视频| 激情五月婷婷| 丁香婷婷六月激情| 亚洲亚洲人成综合网络| 色综合久久88色综合天天人守婷| 99热久| 成人色图情色成人网 www.5b5b5bcom 五月天 | 五月人妻婷婷| 少妇大叫太大太粗太爽了A片| 五月狠狠| 五月婷婷开心网| www.夜夜| 激情的五月婷婷蜜桃| 五月天丁香婷婷社区| 玖玖婷婷色欲| www·五月天| 五月婷婷激情久久| 六月婷婷天天操夜夜爽视频| 开心深爱激情网| 五月丁香激情综合啪啪| 五月丁香婷婷深深爱| 五月停性愛| 五月天另类综合网| 亚洲精品一区中文字幕乱码| 狠狠999| 色婷婷小说| 大香蕉人人人| 五月停停999| 婷五月天| 97色天堂| 婷婷丁香五月天哟啪| 97影院一级片| 美女亚洲五月丁香| 午夜少妇在线观看视频| 26uuu亚洲欧美| 青草青草视频2免费观看| 久久精品爱爱| 激情性爱五月天网页| 91啪级电影| 五月天激情网站| 五月天婷婷基地丁香| 激情图片五月天| www九九热| 五夜婷婷| 五月婷婷成人w| 人妻内射一区二区在线视频| 日日夜夜久| 色色网站日本91| 婷婷综合网站| 亚洲视频国产一区| 超碰99热| 丁香五月五婷| 色婷婷成人网| 国产婷婷色综合AV蜜臀AV | 亚洲五月丁| 99无码| 五月丁香伊人网| 国模狼狼| 婷婷五月天丁香| Av狠狠色丁香婷| 欧美性色A片免费免费观看的| 九色视频这里只有精品| 91精品久久久久久久久 | 五月婷婷开心深| 狠狠综合| 99热精品在线观看| 五月激情视频网| 9色资源在线| 九九热精品视频| 日本久久高清| 91呦呦呦| 激情99| 婷婷六月激情丁香| 丁香大香蕉| 国产精品日本一区二区在线播放| 综合五月天| www.久久| 丁香五月婷婷婷桃花影院| 9精品在线| 色天天综合天天综合频道。| 人操人人| 三年高清大片免费观看国语| 色五月婷婷综合在线| 精品乱码视频| www.com.色色| 成人五月丁香花| 99九九玖玖| 婷婷大美在线| 99热超碰在线| 狠狠色大香蕉| 五月婷婷黄色网址| 婷婷伊人网| 婷婷五月天免费视频| 欧美影院婷婷| 精品网站:999WWW| 日本欧美成人片AAAA| 99这里只有精| 天天操,天天插| 91久久久久久久久18| se色婷婷视频| 人妻熟人中文字幕一区二区| 色偷偷五月天| 丁香六月五月天| 婷婷五月综合激情免费视频| 五月丁香成人版| 色婷婷五月天偷拍| 9久热在线精品| 丁香五月电影| 五月综合色| 婷婷色在线播放| www.思思99热| 五月激激网w'w'w| 婷婷色色丁香五月天| 五月丁香亭亭电影久久| 九九九激情综合| 丁香五月天之婷婷影院| av大香蕉| 丁香五月播播| 久久丁香五月天| 日日噜噜夜夜狠狠久久丁香六月| 色五开心五月五月深深爱| 九九热这里有精品23| 色婷婷五月综合在线| 亚洲久久天堂| 日本性视频| 影音先锋女人AA鲁色资源| 婷婷91| 99riAV国产精品视频| 久久怕怕视频| 97在线/亚洲| 亚洲第一精品网站| 免费观看大片视频 丁香婷婷 六月欧美| 成人欧美Va| 亚洲成人色五月婷婷综合| 国在线激情网| 开心亚洲久久开心| 影音先锋人妻出差| 五月婷婷啪| 激情婷婷网| 婷婷涩五月天综合| 99色色色色| 狠狠色综合精品视频在线| www.亭亭五月天| 色婷婷五月天综合网| 草AV9999| 79精品视频| 五月婷婷婷婷婷| 久久久久99精品成人片| 99这里只有精品视频| 天天日本夜夜谢| 激情综合网五月激情| 婷婷六月五月| 人人干99| 亚洲精品久久久久久久久久吃药 | 成人综合AV| 亚洲旡码| 五月婷婷和六月| 色色色色色色色色色999| 色婷婷丁香AV综合| 五月丁香好婷婷A片网| 91色操| 日本99久久| 五月激情视频| 六月婷婷毛片| 99黄色在线视频精品熟女| www久久99| 五月色婷婷在线观看| 最新精品视频99| 色欲久久久久| 久久这里只精品| 蜜桃人妻无码AV天堂三区| 久久激情中文| 夜夜 操无码| 五月丁香美女视频| 五月天深爱激情网| 色婷婷久久综合| 伊人激情| 午夜丁香综合婷婷| 综合色天天| 五月丁香啪啪综合| 日日夜夜干| 婷婷五月激情欧美大胆视频| 日韩啪| 婷婷六月网| 99爱在线精品视频免费观看| 秋霞免费视频| 碰碰女| 狠狠va| 欧美性色视频| 婷婷五月在线影院| 99操逼| 五月天夜夜爱夜夜操| 色色色婷| 成人AV综合在线| 美日韩成人| 99久久er| 尔尔AV一区| 狼人伊人干| 超碰99在线| 欧美激情凹凸丁香网| 大香蕉婷婷色| 人妻激情网| 久久久久久天天日天天爱| 日本激情综合| 久久AAAA片一区二区| 狠狠爱婷婷爱| 五月婷婷激情五月| 东北熟女视频99| 婷婷丁香77777| 丁香五月开心亚洲| 丁香色影院| 亚洲人人干| 五月婷婷五月天| 北条麻妃九九九国产精品视频| 色婷婷AV在线| 激情网五月天| 99资源在线| 国产六月婷婷| 六月丁香婷| 外国碰视频网站97| 强伦轩人妻一区二区电影| 玖玖婷婷免费| 色婷婷香蕉丁丁网| 98国产精品综合一区二区三区| 日本婷久久| 丁香激情综合| 99视频日韩| 五月天精品综合在线| 99热8| 久热AA| 久热免费| 欧美日韩国产伦精品日韩人妻一| 五月天激情婷婷| 亚洲AV无码电影| 99色1| 风流少妇A片一区二区蜜桃| 色八戒操婷婷| 人人爽人人射-美女久久久久久久久久-成人AV| 99热99热在线观看| www婷婷| 五月丁香婷婷色色色| 丁香婷婷噜噜| 久久婷婷六月综合综合| 欧美日韩成人在线观看| 色五月天丁香| 亚洲热视频| 色综合久| 黑人糟蹋人妻HD中文字幕| 天天艹天天综合网| 日本不卡高字幕在线2019| 婷婷五月天激情文学小说| 五月天婷婷久久| 综合激情网五月激情| 久热超碰| 精品A√| 另类图片五月天婷婷| 99热这里只有免费| www.色色五月天.com| AV在线免费网站| 色综合九九色综合88| 九热...av| 中文字幕在线免费| 久久大香蕉| 我爱婷婷五月天综合88| 丁香五月天婷婷大香蕉| 国产99久久久| 天天粽合合合合| 91久女| 久久99热这里只有精品| 色婷婷五月天av在线| 五月婷在线| 亚洲狠狠婷婷综合久久久| AV片一区在线观看| 1区2区视频| 五月婷婷无码| 五月色亭丁香| 九九激情| 女高怪谈在线观看| 人人爽人人射-美女久久久久久久久久-成人AV| www.99精品日操伊人乱碰在线| 丁香婷婷月| 99热这里都是精品| 午夜不卡久久精品无码免费| www.91在线观看| 丁香五月天欧洲在线| 久热在线中文字幕色999舞| 深爱五月日韩| 日本熟女视频一区二区| 久久182| 久热只有精品| 夜夜谢天天干| 免费试看小视频 99| 97色图片中文字幕视频在线观看 | 五月婷婷综合激情| 亚洲小视频| www..999热久| 丁香五月婷婷综合激情啪啪啪啪啪啪啪| w婷婷五月婷婷w| 亚洲五月六丁香激情| 午夜激情久久| 亚洲日韩一页精品发布| 久久激情五月婷婷| 天天激情| 欧美噜一噜| 婷婷综合亚洲| 婷婷丁香精品视频在线观看| 超碰人人草| 超碰99资源站| 色视频五月天| 久久久久99精品成人片| 开心婷婷五月激情网小说| 五月色丁香婷婷综合| 久综合网| 噜噜噜狠狠色综合| 97色永久免费视频| 人人播| 日韩六十路91性交电影| 都市激情久久| 久久久婷婷| 99热99极品观看| 亚洲宗合激情| 福利视频在线播放| 五月天婷婷久久| 91Chinese在线| 婷婷狠狠干| 久久这里只有国产精品视频| 日本五月丁香| 99精彩视频在线观看| 久久香蕉影院| 色九区| 婷婷内射视频在线| 91精品又长又大又粗又爽又猛| 操大屄五月天视频| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 日韩成人精品中文字幕电影| 国产婷婷色综合AV蜜臀AV| 超碰人人色| 天堂综合久久 | www.91九色| 九月丁香欧美综合| 十区AV| 国产性爱色| 97干资源在线观看| 婷五月天| 丁香五月婷婷Av| 9色免费网| 九九综合网| 色爱爱综合网| 欧美精品A片一区在线观看| 婷婷九月丁香中文| 伊人久久大香线蕉AV最新午夜| Caoporn公开| 亚洲天堂青草| 大香蕉免费9| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 九九热av| 婷婷五月天福利| 五月婷在线观看| 99热这里只有精| 婷婷激情六月| 国自产拍偷拍精品啪啪一区二区| 国产在线网| 丁香五月婷婷av影院| 日本www免费九九| 91丨九色丨国产| 婷婷五月天丁香久久| 亚洲久艹| 色性综合| 日本熟女一区二区| 五月天成人在线播放| 亚洲午夜视频| 久久99热这里只频精品6学生| 国产真实乱了老女人视频| 久草婷婷在线| 99久re热| 五月丁香婷婷久久| 天天摸天天透天天舔| AV在线观看网站| 狠狠综合| 五月丁香婷婷啪啪网| 婷婷丁香成人| 天天爽夜夜爽| 婷婷六月激情| 婷婷激情久久| 久久综合干| 凹凸探花电影| 人妻久久久| 这里只有精品久久| 五月色丁香婷婷综合| www.久久久.com| 亚洲 在线 性爱 | 男同色五月开心五月激情五月| 久久99大全| 天天日日人| 五月丁香六月婷婷亚洲综合| 亚洲AV成人在线| 久久综合综合综合| 激情五月综合六月丁香婷婷狠狠干| 色欲AV导航| 玖玖婷婷五月天| 九月婷婷人人操人人舔人人爱| 久久精品4| 激情婷婷另类| 激情综合网色播五月| 伊人在线大香蕉网| 性爱先锋AV| 深爱五月激情| 精品二区| 亚洲激情 久久| 狠狠摸狠狠摸| 久久激丁香| 色综合网上班开心婷婷久久| 久久九九免费视频| 在线播放人妻| 青青草a在线| 五月天丁香网站| 久草视频大香蕉99| 内射丰满人妻| 亚洲激情网| 九九干视频| 这里只有精品视频一区| 无码日本精品XXXXXXXXX | 成人电影在线免费试看| 婷婷五月天开心激情网| 人人艹艹艹| 1024日韩| 日韩婷婷| 97久久人人操| 丁香五月婷婷亚洲综合精品| 欧洲S级在线观看| 色女伊人| 久久激情婷婷| 一本久道综合色婷婷五月| 免费观看全黄做爰的视频| 影音先锋按摩| 久久九九综合| 激情婷婷五月天。| 五月天伊人网| 九九国产视频| 婷婷中文字幕| 99爱视频精品| 色婷婷丁香五月| 色综合九九| 色哟哟www| 亚洲无码yw| 99久在线精品99re8| 久久9情免费| 久热a| 大地9中文在线观看免费高清| 婷婷丁香六月五月天| 久久久这里有精品| www.狠狠操.co m| 99热这里是精品| 久久久网站| 日本三级中国三级99人妇网站| 五月婷婷三级| 啪啪一区| 久久机热这里只有| 抽插特写| 亚洲男女激情| 91se在线视频| 97操碰| 99热这里只有精品23| 啪啪日本欧美| 五月综合激情视频在线| 色五月婷婷综合在线| 日韩人妻在线观看| 激情的五月婷婷蜜桃| 色偷偷AV亚洲男人的天堂| 色婷婷六月精品| 婷婷不卡基地| 色噜噜狠狠色综合成人网| 亚洲精品99| 欧美婷婷| 天天激情站| 六月撸婷婷| 思思热视频在线| 久久五月丁香六月婷| 五月天婷婷Av| 色碰碰| 思思热久在线观看视频| 26uuu成人网| 五月天 婷 欧美亚洲| 中文字幕在线日亚州9| 99国产精品白浆在线观看免费| 日韩综合大黄| 欧美久久婷婷| 婷婷综合仓库中文| 五月激情综合网| jiujiu无码五区| 超级碰 久久9| 国产成人99久久亚洲综合精品| 天天操天天操天天操| 日本黄色精品| 国自产拍偷拍精品啪啪一区二区| 天天爱天天吃狠天天透| 情欲综合网| 婷婷成人在线| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 激情亚洲婷婷| 日本激情五月| 97人人草| 色婷婷香蕉丁丁网| 亚洲国产精品二二三三区| 五月丁香中文| 丁香六月激情综合网| 亚洲成人网站在线| 超碰99热精品在线| 五月香婷婷| 99热这| 婷婷五月天激情在线观看 | 人人爽在线视频综合网| 99re免费视频| 年轻的妺妺伦理HD中文| 亚洲人妻AV| 思思热高清在线观看| 玖玖在线资源视频| 黄色五月婷婷| 欧美啪啪网| 成人精品视频99在线观看免费| 日本婷婷在线| 五月丁香亚洲婷婷| 天天日,夜夜爽| 色色色色欧洲| 99网址在线看| 69精品人妻不卡视频| 人人爽网| 国产毛片欧美毛片久久久| 日本久久人人| 可以免费观看的AV| 99精吕视频在线观看了| 五月丁香亭亭天天舔| 亚洲国产精品五月天| 色色激情网| 男人的天堂97| 久久精品天| 丁香五月停停av| 亚洲精品白浆高清久久久久久| 色丁香五月| 翔田千里 50岁 无码| 激情五月丁香亭亭 | 亚洲亚洲人成综合网络| 99啪啪| 人人摸人人| 婷婷黄色| 成人AV在线网站| 大香线蕉伊人| 97人人做| 色999五月色| 九九热精品99| 96精品久久久久久久久| 狠狠色狠狠| 9l视频自拍九色9l视频自拍九色9l社区| 欧美丁香五月夫妻天| 五月天婷婷乱论小说| 五月婷婷色五月| 俺去也综合| 久热只有精品| 午夜激情综合| 直接看的av| 五月婷婷激情网| 日韩色色视频| 国产看真人毛片爱做A片| 国产熟妇的荡欲午夜视频| 婷婷五月花| 疯狂做受XXXX高潮A片| 9色91视频| 精品热九九| 婷婷五月欧美| 超碰成人av| 九九色逼| 狠狠色综合777| 九九一综合精品| 999热成人在线综合网| 婷婷丁香五月综合网上| 秋霞AV淫| 五月婷久久| 综合福利网| 久久婷婷综合色丁香| 99人人操人人操人人精| 99热最新网址| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 精品一二三区久久AAA片| 国产99久| 五月天伊人综合| 五月婷丁香花| 999热成人在线综合网| 99综合| 99热这里有精品| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 丁香五月大片| 婷婷五月婷婷| 99在线精品观看99| 超碰成人在线免费观看| 91黄址| 精品福利911| 欧美狠狠色| 五月丁香在线| 色欲色香综合网站| 丁香婷婷综合激情五月色,开心五月丁香花综合网,激情综合五月亚洲婷婷,五月天 | 色135综合网| 婷婷玖玖五月天| 26uuu.| 婷香五月激情视频| 超碰久热| 色婷婷啪啪啪啪啪啪| 五月天婷婷在线观看精品男人| 天天爽,夜夜爽| www.色婷婷.com| 人人97操| 日本在线免费中文com.| 99ri国产在线| 强奸幻女毛片| 色婷婷精品小视频| 人人97碰| 大大香蕉综合在线| 久婷婷五月丁香在线观看| 91成人性爱视频| 性做久久久久久久免费看| 成人色图情色成人网 www.5b5b5bcom 五月天 | 激情综合网五月激情网| 日韩成人无码| 色噜噜婷婷| 丁香婷婷视频| 综合aV在线| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 婷婷成人视频| www.久久婷婷| 夜夜爽天操| 青草视频在线观看视频| 天天日天天做天天舔 | 好叼操在线观看| 婷婷五月激情热播| 超碰人人干| 色婷婷在线影院| 天天做 天天爱| 疯狂做受XXXX高潮A片| 九九色精品| 久久与婷婷| 超碰色人妾| 丁香5月婷婷| 极品人妻VIDEOSSS人妻| 五月丁香婷婷无码中文| 97热视频| 97狠狠色| 99热这里都是精品| 亚洲成人另类| 五月天天天天天天天天天天天天天天天婷婷婷 | 婷婷丁香成人色综合| 五月情婷婷五月| 婷婷爱五月| 9久热| 伊人激情啪啪| 97碰| 五月久久婷婷丁香| 操人久久| 五月婷婷欧美| 97精品综合久久| 亚洲综合五月天婷婷丁香| 91.com男女操| 男人天堂99| 日韩久久视频| 五月天综合视频| 天天日日夜夜爽| 丁香五月综合| 99在线观看视频蜜臀| 五月激情在线| 婷婷丁香激情五月| 日韩AC在线免费观看| 色五月婷婷五月丁香五月| 狠狠色色色| 婷婷五月天高清无码| 久久免费试看120秒| 99爱视频在线观看| 久热AA| 67194国产| 五月丁香六月婷婷啪啪综合| 久热在线中文字幕色999舞 | 我淫我色婷婷五月天激情四射| 激情小说之五月| 9 7总站超级碰免费视频| 99热这里只有精品2| 五月天伊人久久久久| 六月丁香啪啪啪| 99re99热| 5月丁香综合图区| 五月成人综合| 爆乳熟女一区二区三区爆乳| 天天狠天天叉| 丁香五月深爱五月婷婷| AV中文字幕夜夜操b天天摸bb| 亚洲va在线∨a天堂va欧美va| 国产精品视频| 99热在线播放| 日本va欧美va欧美va| 日韩av在线免费观看| 五月丁香六月情| 激情婷婷五月黑人| 色色网91| 色偷偷综合| 97色婷婷五月天| 98色花堂98t.R| 99碰碰| 欧美xx激情视频在线观看| 丁香六月狠狠干| 久久在线视频免费观看| 夜夜撸夜夜骑| 人妻内射麻豆视频| 天天摸色吧天天摸色吧| 欧洲婷婷五月天| 婷色五月天| 丁香五月在线观看| 丁香婷婷丁香五月欧美人| 1024久婷| 99性爱| 亚洲中文乱字字幕在线永久| 激情小说婷婷小说| 九九中文字幕九| 久久人妻视频| 51国精产品自偷自偷综合| 婷婷六月色丁香视频在线观看| 91xxxx九色| 天天插天天插| 欧美日韩成人高清在线| 色婷婷五月网| 婷婷啪啪| 九九色之九九色之88| 一本大道熟女人妻中文字幕在线| 免费看成人747474九号视频在线观看| 丁香五月综合图片在线观看| 美女黄频aⅴ视频| 色综合99无码| 99∨VTV| 久久色五月天| 婷婷五月天BBw| 精品国产va久久久久| 五月婷婷综合影院| 色九四色| 国产毛多水多女人A片| 在线观看亚洲视频影院| 五月婷婷丁香狠狠撸久久| 色五月xxx| 超碰免费成人| 五月天之色情综合网| 久久精品无码一区| 久久xxxx| 性色五月天| www.jiujiujiu| 婷婷综合激情| 久久婷婷五月综合色和| 九九成人精品| 热99精品视频观看| 天搞天天天天天| 美女黄频aⅴ视频| 欧美啪啪五月天| 日日操天堂| 第四色在线观看| 久久久婷| 色色色综合网| 五月丁香久久| 日日操日日撸| 大香蕉九九| 色综合激情| 97操碰视频| 九热视频在线精品15| 五月天婷婷色综合| 婷婷伊人五月天| 99热这里只有精品在线播放| 337午夜福利| www.sezonghe| 五月天深爱激情网| 婷婷五月天成人网站| 婷婷综合网站| 国产VA亚洲VA96| 狠狠色噜噜色狠狠狠综合久久成人波| 婷婷五月天另类网站| 天天天天天天噜| 色五月婷婷激情| 日日夜夜狠狠操| 激情丁香五月婷婷| enecarbon-materials.com污K127封锁请涟系@wip1688 | 日韩成人无码| 欧美情色一区| 91狼友视频在线观看| 激情婷婷护士激情| 色色婷婷婷丁香五月天| 99re免费在线视频| 五月婷精品| 九九99在线观看视频| 亚洲色色在线| 九九视频在线免费视频| 久久久精品色| 丁香婷婷性久久| 九九99免费理论| 成人精品在线| 无码视频国内精品久久久| 就爱日五月天| 天天综合网~91综合网| 99色色爰| 激情久久天天| 情婷婷五月天| 97人人搞| 中文字幕欧美日韩VA免费视频| 久久婷婷五月丁香蜜桃网| 激情骚五月| 婷婷久久亚洲| 色视五月天婷婷| 色婷婷综合视频| 五月婷婷色色色| 疯狂做受XXXX高潮A片| 婷婷五月丁香99| 色婷婷五月天成人网| 开心久久xxx色| 丁香五月激情澎湃一区| 五月天偷拍| 五月天六月色| 在线中文字幕免费视频| 国产熟女一区二区三区五月婷| 蜜臀A∨在线水帘洞| 激情五月色综合| 婷婷五月天影院| 色色色色欧美| 97超碰在线免费观看| 婷婷久久午夜网| 五月激情婷婷开心| 欧美性爱五月天| 中文字幕 中文字幕明步| 大香蕉欧美在线| 久久黄色免费视频| 五月天六月婷婷| 亚洲中文乱字字幕在线永久| 五月婷婷碰碰| 久久久久妻| 日日夜夜狠狠操| 99这里只有精品| 国产成人在线不卡AV| 天天综合干| 996热re视频精品视频| 色狠狠色综合久久久绯色aⅴ影视| 超碰在线超碰| 99秘 在线| 超碰在线99| 色色婷婷婷丁香五月天| 婷婷五月丁香在线观看| 激情啪啪五月| 亚洲99热| 婷婷五月天直播| 日日干天天射| 亚洲激情六月丁香| 丁香五月婷婷动漫视频| 伊人久久婷| 99久久高清视频| 五月丁香直播| 99热这里只有精品4| 色婷婷瘦婷婷日韩| 久久在线人妻| 色综合久| 婷婷五月丁香综合| 亚洲这里只有精品| 丁香五月婷婷啪啪视频| 五月天激情综合网站| 中文字幕,综合,91| 久久五月热| 五月婷婷精品视频| 色婷网| Av大香蕉| 亚洲在线操| 久久婷婷草| 五月婷婷无码| 99青青草99| 婷婷六月丁香1| 激情视频网址| 97天堂| 色婷丁香| 91久久综合亚洲噜噜成人在线 | 五月天婷婷影院影院| 韩国真做片在线观看| 91狠狠综合久久久久久| 99久在线精品| 色久影院| 婷婷少妇激情| 伊人婷婷色| 日韩黄色电影| 久久婷婷丁香五月宗合| 久久人妻人人| 狠狠色丁香婷婷五月| 婷婷久久综合久色| 五月天婷婷网站| 激情五月丁香六月婷婷| 国产干逼片| 中文字幕婷婷五月天在线观看| 4399无码视频| 天天艹夜夜爽| 在线18av | 思思99热这里只有精品6| 亚洲成人无码专区| 久久婷婷五月草视频| 超碰在线观看三级片| 欧美英丁香开心快乐六月天网| 久久黄色片| 五月丁香婷庭在线| 亚洲殴洲精品Av在线| 天天天综合网| www.9797国产| 五月天堂色| 国产片天天爽夜夜爽| AV大香蕉| 天天爽天天爽夜夜爽| 久久综合五月情| 第四色婷婷丁香五月| 欧美日韩五月婷婷| caop在线| 亚洲成人色五月天| AⅤ网站在线看| 五月丁香六月激情啪| 99啪在线| 五月丁香婷婷综合| 久久久久久天天日天天爱| 黄色视频网站在线播放| 激情综合丁香五月| 婷婷色九月| 色色婷婷五月天| 久久九九大香蕉电院| 大香蕉啪啪啪啪啪啪| 欧美色99| 国产婷婷五月中文字幕高清| 人人肏逼视频在线一区二区| 99色综合| 免费AV黄在线播放| 果冻传媒A片一二三区| 色五月欧美| 亚洲激情丁香五月天色| 久操香蕉| 久久精品99久久久久久| 另类五月婷婷| 丁香五月伊人| 色婷婷AAA| 翔田千里无码| 日韩欧美成人片| 亚洲精品色| 六月婷婷五月天| 精a品a视a频| 99re视频在线精品| 超碰久热| 五月天激情啪啪| 色婷婷丁香| 色亭亭影园| 中文字幕视频在线播放| 婷婷五月精品在线| 蜜桃婷婷狠狠久久| 色噜噜狠狠色综无码久久合欧美| 思思热视频| 99无码免费视频| 日本97久久久精品| 天天射影院| 丁香五月色网| 99乱视频| 五月天激情社区| 亚洲综合五月天婷婷丁香| 久久在线视频免费观看| 久久大香蕉同僚| 亚洲一区二区无码蜜乳av| 久久永久视频| 亚洲成人AV电影网| 九月婷婷| 超碰成人在线观看| 久久er99| 狠狠va| 99爽视频| 涩涩激情五月婷婷| 五月丁香影视| 九九九九综合| 六月色播| 五月天激情国产综合AV| 中文字幕永久在线| 大香蕉久久婷婷| 激情影院69| 天天日天天插| caop在线视频| 婷婷另类小说| 开心五月婷| 丁香五月婷婷少妇| 碰碰91| 超碰无码318604| 色色色色色色色色色色色色色色,网站| 色婷婷电影网| 久99久在线| 日本婷婷| 亚洲第一精品成人999久久精品| 五月婷久久| 天天曰夜夜爽| 久九色| 久久精品五月天| 综合九九中文字幕| 香蕉五月婷婷| 午夜在线成人网站免费观看| 国产人妻777人伦精品HD| AAA久久| 色色色色色色网| 久久久久婷婷| 丁香六月啪啪啪| 综合五月天| 色五月av| 色五月综合在线| 停停五月丁香| 婷婷五月丁香基地| 激情网婷婷婷| 色综合综合网| 情婷婷五月天| 婷婷五月图片小说视频| 99精品在线下载| 99热这里只有精品23| www.日日日.com| 丁香五月婷婷成人色区| 五月婷婷亚洲天堂激情在线| 他改变了拜占庭| 五月婷婷六月丁香激情深爱| 日本a片网址| 色噜噜狠狠色综合伊人| 五月激情六月| 色五月天综合| 少妇人妻凹凸视频| 激情五月少妇| 五月天亚洲综合网| 天天天天干| 久久色天堂| 天天综合在线网| 99性爱视频| seav天堂| 色色婷婷婷丁香五月天| 色噜噜五月天| 日韩人妻在线观看| eeuss人妻| 亚洲综合干| 婷婷五月综合啪| 99在线小视频| 色情久久久| 天天干天天操天天爽| 亚洲日韩一页精品发布| 九九成人电影婷婷| 亚洲热久| 日本欧美在线| 丁香六月视频| 99热6色| 九月丁香亭亭| 中文字幕日产A片在线看| 久9热视频在线| 五月天之色情综合网| 色色丁香婷婷| 五月丁香六月欧美综合| 999影院成人在线影院| 婷婷婷久久久| 深爱五月婷婷| 中文字幕av久久爽| 色一情一乱一乱一区91| 成人婷婷五月天| 丁香五月成人av| 91精品久久久久久| 中文字幕网伦射乱中文| 色月丁| 欧美婷婷| 99热成人在线观看| 久久九九@| 中文字幕欧美日韩VA免费视频| 丁香影院五月综合| 97啪啪| 色综合色色色色色| 伊人www22综合色| 少妇性按摩无码中文A片| www,色综合| 亚洲精99| 97色色网| 国产乱子轮XXX农村| 182TV大香蕉| 亚洲热综合网在线观看| 激情丁香九九五月综合网| 99国产精品久久久久久久久久久| 色色色色色综合| 婷婷日| 日韩AV片| 国产精女同一区二区三区久| 九九热av| 五月婷婷中文字幕| 久久婷婷五月天| 五月婷久久草| 婷婷狠狠五月综合| 色五月六月| 日韩三级视频一区二区| 草操网| 久久婷婷啪啪视频| 91伦| 69午夜成人影片| 九九99免费视频| 亚洲久艹| 丁香五月婷婷激情123| 91Chinese在线| 亚州色综合| 天天久久综合| 天天日天天色| 综合网啪啪| 亚洲情欲| 激情五月丁香五月色| 婷婷97| 久久免费操| 婷婷色基地在线看| 精品色色网| 五月丁香狠狠爱| 天天肏视频| 人人摸人人| 99国产97在线,| 激情丁香网| 狠狠穞A片一區二區三區| 伊人婷婷大香蕉| 欧美五月丁香| 99久久婷婷综合| 五月丁香在线国产| 超碰在线国产| 久久五月丁香| 伊人久久婷| www.日本91| 五月天啪啪啪| 丁香五月天婷婷大香蕉| m色激情网| 丁香综合日产精品久久| 9999热精品在线免费播放| 久色资源| 色色婷| 狠狠综合| 五月天久久婷婷| 久久久99视频| 婷婷情色五月天| 久久久婷婷五月亚洲97号色| 97碰碰电影| 日韩综合久| 92国产福利| 婷婷操久久| 97干视频在线| 色情五月天丁香社区| 色欲影香| 91avse| 综合婷婷| 第四色五月天| 亭亭丁香aV| 五月激情影院| 深爱激情九九五月天 | 91热网址| 久99综合婷婷| 亚洲日日操| 婷婷5月色| 五月色情| 日本五月视频| 婷婷久久天堂网|