免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

On-CPU 與 Off-CPU:Linux 性能分析雙視角與延遲排查

On-CPU 與 Off-CPU:Linux 性能分析雙視角與延遲排查 1. 先把 On-CPU 和 Off-CPU 這兩個詞掰開揉碎性能分析這件事做得久了會發(fā)現(xiàn)一個很尷尬的現(xiàn)象很多人拿到一臺卡頓的機(jī)器第一反應(yīng)是 top、ps、然后開 perf 抓火焰圖看到 CPU 使用率不高、火焰圖也沒幾個尖峰就得出系統(tǒng)沒問題的結(jié)論。但業(yè)務(wù)方還在催接口還是慢。問題出在哪出在只看了線程跑在 CPU 上的那段時間忽略了線程不在 CPU 上的那段更漫長的時間。Linux 性能分析里的 On-CPU 和 Off-CPU說的就是把一個線程的完整生命周期切成兩半來看On-CPU 是線程真正占用處理器執(zhí)行指令的時間Off-CPU 是線程雖然活著、但沒有被處理器執(zhí)行的時間。這兩塊時間加起來才是一個請求從進(jìn)來到返回的真實(shí)墻鐘耗時。我做過的排查里至少有六成的性能問題根子在 Off-CPU 上等鎖、等磁盤 IO、等網(wǎng)絡(luò)回包、等定時器、等被喚醒調(diào)度。而大家習(xí)慣用的工具幾乎全是為 On-CPU 設(shè)計的。這就導(dǎo)致一個結(jié)構(gòu)性盲區(qū)——你越用 On-CPU 的工具越會把注意力放在計算熱點(diǎn)上越容易漏掉阻塞點(diǎn)。所以這篇內(nèi)容想聊的就是怎么把這兩半時間都量出來、怎么看、怎么改。適合已經(jīng)會用 top、perf 這類基礎(chǔ)工具但遇到CPU 不高卻很慢的場景會卡住的運(yùn)維、后端開發(fā)和 SRE也適合剛接觸 Linux 性能調(diào)優(yōu)、想建立一套完整分析框架的朋友。1.1 一個類比餐廳后廚和等位區(qū)把服務(wù)器想象成一家餐廳CPU 核心就是廚師線程就是一道道待做的菜。On-CPU 時間相當(dāng)于廚師正在灶臺前顛勺的時間Off-CPU 時間是這道菜從點(diǎn)單到出餐之間廚師沒碰它的所有時間——可能是在等配菜送過來等 IO可能是灶臺被別的菜占著等鎖也可能是廚師被叫去處理別的單子、這道菜就擱在一邊調(diào)度延遲。只統(tǒng)計廚師顛勺的時長你會覺得后廚效率挺高但顧客感受到的是從點(diǎn)單到上菜的完整等待。這兩者之間的差距就是 Off-CPU 分析要填的坑。理解了這層類比后面所有的工具和指標(biāo)其實(shí)都是在回答兩個問題廚師到底在哪個灶臺上花了多少時間On-CPU 熱點(diǎn)以及這道菜在沒被烹飪的時候究竟卡在哪一步Off-CPU 阻塞點(diǎn)。1.2 為什么只盯 On-CPU 會系統(tǒng)性誤判CPU 使用率是個比值分子是忙的時間分母是總時間。當(dāng)系統(tǒng)大量線程都在睡覺等待時這個比值天然就低看起來很閑。但這恰恰可能是最糟的狀態(tài)線程數(shù)開了一堆每個都在等同一個資源吞吐上不去延遲還高。這類問題在 On-CPU 視角里幾乎隱身因?yàn)閴焊鶝]有多少指令在跑。更麻煩的是一些常見結(jié)論會把人帶偏。比如CPU 使用率低說明負(fù)載輕可以再壓一壓實(shí)際可能是下游某個依賴把請求全堵住了再比如火焰圖沒熱點(diǎn)所以代碼沒問題實(shí)際瓶頸在 syscall 睡眠或者 futex 等待上采樣器根本沒采到什么棧。所以建立 On-CPU 和 Off-CPU 的雙視角不是為了多學(xué)幾個命令而是為了堵住這個判斷漏洞。1.3 把線程時間賬本拆開一個線程從被創(chuàng)建到退出它的時間可以粗略拆成三塊Running在 CPU 上跑、Runnable就緒但在等 CPU、Sleeping睡眠等某個事件。Running 就是 On-CPU后兩者合起來是 Off-CPU。這里有個容易被忽視的細(xì)節(jié)Runnable 狀態(tài)本身也是一種浪費(fèi)它說明 CPU 不夠分或者調(diào)度策略讓某些線程遲遲輪不上。很多偶發(fā)尖刺就是 Runnable 排隊造成的。把這三塊量化出來你就能給任何一次慢請求做一個耗時歸因表多少時間在算多少時間在等鎖多少時間在等 IO多少時間在等調(diào)度。歸因清楚了優(yōu)化方向基本就是明牌。接下來的章節(jié)我會先講 On-CPU 怎么采得準(zhǔn)再講 Off-CPU 怎么把等待棧抓出來最后給一個從現(xiàn)象到修復(fù)的完整推演。2. On-CPU 分析采樣、火焰圖與熱點(diǎn)定位On-CPU 分析的目標(biāo)很明確找出線程把時間花在了哪些代碼路徑上。主流做法是基于定時中斷的采樣sampling而不是插樁計數(shù)因?yàn)椴蓸訉π阅苡绊懶 ⒛芊从痴鎸?shí)分布也不需要改代碼。采樣器每隔一個固定周期打斷一次 CPU抓下當(dāng)前的調(diào)用棧攢夠樣本數(shù)之后按棧聚合就得到了調(diào)用分布的近似。樣本越多統(tǒng)計越穩(wěn)。2.1 perf 采樣機(jī)制和幾個必須懂的參數(shù)Linux 上最通用的采樣工具就是 perf。它依賴內(nèi)核的 perf_event 子系統(tǒng)和硬件/軟件 PMU能按時間頻率或事件計數(shù)觸發(fā)采樣。一條典型的抓取命令是這樣perf record -F 99 -g -p 12345 -- sleep 30 perf script perf.out ./stackcollapse-perf.pl perf.out perf.folded ./flamegraph.pl perf.folded oncpu.svg幾個參數(shù)值得掰扯清楚。-F 99 表示每秒采樣 99 次。為什么不是 100因?yàn)檎麛?shù) 100 容易和系統(tǒng)里其他 100Hz 的周期任務(wù)比如某些定時器產(chǎn)生鎖相采出來的樣本會偏向某個固定相位導(dǎo)致分布失真。99 是個質(zhì)數(shù)能打散這種共振。-g 是抓完整調(diào)用棧沒有它你只能看到最頂層的函數(shù)看不到是誰調(diào)用的定位就沒有上下文。-- sleep 30 是限定采集時長用 sleep 而不是直接 Ctrl-C是為了讓腳本化更穩(wěn)定、退出更干凈。還有兩個參數(shù)在排查特定問題時很關(guān)鍵-e 可以指定事件默認(rèn)是 cycles但你也可以換成 cache-misses、branch-misses 來抓特定瓶頸--call-graph dwarf 會在用戶態(tài)棧難以回溯時改用 DWARF 調(diào)試信息展開代價是開銷更大、產(chǎn)出更大。一般先默認(rèn) fpframe pointer跑一遍棧斷了再考慮 dwarf。注意perf 的內(nèi)核棧符號來自 /proc/kallsyms用戶態(tài)符號需要帶調(diào)試信息的二進(jìn)制。生產(chǎn)環(huán)境經(jīng)常遇到符號被 strip 掉的情況采出來全是十六進(jìn)制地址白忙一場。動手前先確認(rèn)目標(biāo)進(jìn)程有沒有 debuginfo 或者帶符號的構(gòu)建產(chǎn)物。2.2 火焰圖怎么讀哪些形狀代表什么問題火焰圖的橫軸是樣本占比不是時間順序縱軸是調(diào)用深度每一塊是一個棧幀塊越寬說明該函數(shù)在采樣里出現(xiàn)得越多。讀圖的核心心法就一句先找最寬的葉子再看它是被誰調(diào)用的。最寬的葉子通常是實(shí)際的 CPU 消耗大戶但它的元兇可能在它的調(diào)用者那一層——比如一個通用的序列化函數(shù)很寬但真正的問題是某個業(yè)務(wù)邏輯反復(fù)調(diào)它。幾種典型形狀對應(yīng)不同問題。平頂山形狀底部寬、頂層一排差不多的寬塊通常是循環(huán)或批處理在反復(fù)執(zhí)行同類操作優(yōu)化點(diǎn)是降復(fù)雜度或加緩存。塔尖形狀某一層特別寬下面迅速收窄說明有個單點(diǎn)函數(shù)吃滿了 CPU直接盯它。斷層形狀中間某層突然很窄說明采樣在這個函數(shù)里分布稀疏要么是它執(zhí)行快要么是棧在那斷了需要配合 dwarf 或檢查符號。2.3 符號丟失、棧截斷和 JIT 代碼這三類坑實(shí)話說On-CPU 分析最容易翻車的不是命令不會敲而是采出來的東西沒法看。第一類坑是符號丟失解決方式是裝對應(yīng)版本的 debuginfo 包或者用perf buildid-list確認(rèn) build-id 能不能對上 debug 文件。第二類坑是棧截斷frame pointer 被編譯器優(yōu)化掉了-fomit-frame-pointer 是很多發(fā)行版的默認(rèn)這時候要么重新編譯加 -fno-omit-frame-pointer要么切到 dwarf 模式。深度太深時 perf 默認(rèn)只抓一部分??梢杂?-call-graph dwarf,65528加大棧大小。第三類坑是 JIT 代碼Java、Node、部分 Go 場景都會遇到采出來是一堆[JIT]或者匿名地址。Java 的解法是掛 perf-map-agent讓 JIT 編譯時把方法地址映射寫到 /tmp/perf-PID.mapperf 就能解析更省事的做法是直接用 async-profiler 抓 CPU 火焰圖它對 JIT 代碼的映射是內(nèi)建的。Node 可以用--perf-basic-prof之類的方式輸出映射表。這類工作如果一開始沒規(guī)劃好事后補(bǔ)會很難受建議在部署階段就把符號和映射準(zhǔn)備好。3. Off-CPU 分析把等待這件事量化聊完 On-CPU重頭戲來了。Off-CPU 分析要回答的是線程沒在跑的時候到底在等什么等了多久。傳統(tǒng)思路是插樁記錄每個阻塞點(diǎn)的進(jìn)入和退出時間但這要求改代碼、而且覆蓋不到內(nèi)核路徑。更優(yōu)雅的做法同樣是跟蹤切換內(nèi)核每次發(fā)生上下文切換時都會記錄誰被換下、誰被換上如果我們在這兩個時刻打點(diǎn)就能算出每個線程兩次被調(diào)度之間隔了多久并且抓下它被換下時的調(diào)用棧——那個棧就是它睡覺的原因。3.1 線程離開 CPU 的幾種典型原因歸納一下線程從 Running 變成 Off-CPU常見就這幾類。第一類是睡眠等待主動調(diào)用會睡眠的 syscall 或同步原語比如 read/write 阻塞、futex 等待、nanosleep。第二類是等鎖包括用戶態(tài)自旋鎖的退化、互斥量、文件鎖內(nèi)核里 futex 是重災(zāi)區(qū)。第三類是等 IO包括磁盤、網(wǎng)絡(luò)、管道很多時候表現(xiàn)為 epoll_wait 或 read 阻塞。第四類是被搶占時間片用完或被高優(yōu)先級線程擠下去這時候線程還是 Runnable只是沒輪上。前幾類是 Sleeping第四類是 Runnable。區(qū)分它們很重要Sleeping 說明有外部依賴拖著優(yōu)化方向是縮短依賴或并發(fā)化Runnable 說明 CPU 資源或調(diào)度配置有問題優(yōu)化方向是加資源或調(diào)優(yōu)先級、綁核。很多分析工具會把兩者混在總 Off-CPU 時間里看的時候要留意能不能拆開。3.2 offcputime 與 wakeuptime等待棧和喚醒鏈BCC 工具集里的 offcputime 是最常用的入口。它會跟蹤上下文切換統(tǒng)計每個線程 Off-CPU 的累計時長并按被換下時的棧聚合offcputime -df -p 12345 30 offcpu.folded flamegraph.pl --colorio --titleOff-CPU Time --countnameus offcpu.folded offcpu.svg參數(shù)含義-d 打印分隔符方便后續(xù)折疊-f 輸出折疊格式直接喂給火焰圖腳本-p 限定進(jìn)程最后一個數(shù)字是采集秒數(shù)。得到的 Off-CPU 火焰圖跟 On-CPU 長得像但橫軸寬度是阻塞時長微秒讀法是哪個棧把線程卡住得最久。offcputime 解決的是線程在哪睡但它不回答誰把它叫醒的。這時候就要請出 wakeuptime。它把阻塞棧和喚醒棧拼在一起直接告訴你A 線程在某個 futex 上睡了 200ms是被 B 線程喚醒的。這個信息非常值錢因?yàn)樗岩蚬溄o串起來了——很多鎖競爭的根因不是持鎖線程慢而是持鎖線程被別的更慢的操作卡住了。wakeuptime -p 12345 30實(shí)測下來wakeuptime 在排查線程池互相等待、上游把下游拖死的場景里特別好用。缺點(diǎn)是對復(fù)雜調(diào)用棧的輸出會比較長需要配合過濾看。3.3 runqlat被忽視的調(diào)度延遲前面說過 Runnable 狀態(tài)是獨(dú)立的一類浪費(fèi)量化它主要靠 runqlat老版本叫 runqslower。它統(tǒng)計任務(wù)從進(jìn)入就緒隊列到真正被調(diào)度執(zhí)行之間的延遲分布輸出是直方圖runqlat -m -P 10-m用毫秒做單位-P按進(jìn)程聚合。看這個輸出主要看長尾如果 p99 到了幾十毫秒說明某些線程經(jīng)常在就緒隊列里等很久CPU 飽和或者有 CPU 密集任務(wù)在搶。這類延遲在應(yīng)用層往往表現(xiàn)為莫名的抖動而且因?yàn)樗幌?CPU 時間常規(guī)監(jiān)控根本看不到。線上偶發(fā)毛刺排查runqlat 是我必開的一個工具。注意offcputime 統(tǒng)計的時長里其實(shí)已經(jīng)隱含包含了 Runnable 的等待因?yàn)榫€程從被換下到再次被換上中間可能既有睡眠也有排隊。要精確拆開需要同時看 offcputime 和 runqlat用差值估算。睡了 100ms 里有 80ms 是在排隊這種結(jié)論只能靠兩個工具配合才能得出。4. 一次真實(shí)排查的完整推演講完工具來走一遍完整流程比干講參數(shù)有用得多。以下是我處理過的一個典型場景做了脫敏和簡化但思路和步驟是原樣的。4.1 現(xiàn)象描述和初步假設(shè)現(xiàn)象某服務(wù)接口在壓測時 p99 從 20ms 漲到 900ms但機(jī)器 CPU 使用率只有 25%IO 也不高監(jiān)控上看不出明顯異常。單看資源指標(biāo)這臺機(jī)器簡直空閑得可以去度假。這種資源不緊張但延遲爆炸的形態(tài)基本可以判定瓶頸在 Off-CPU而且大概率是排隊或者鎖不是計算。先立幾個假設(shè)一是線程池被某個慢調(diào)用占滿新請求只能排隊二是某個共享資源連接池、緩存、鎖成了串行點(diǎn)三是 GC 或者定時任務(wù)周期性搶占導(dǎo)致抖動。接下來逐個驗(yàn)證。4.2 用 On-CPU 排除計算密集第一步還是先排除計算問題畢竟它最好查。抓 30 秒 On-CPU 火焰圖perf record -F 99 -g -p $(pgrep -f myapp | head -1) -- sleep 30 perf script | ./stackcollapse-perf.pl | ./flamegraph.pl oncpu.svg結(jié)果很干凈最寬的葉子占不到 5%沒有任何函數(shù)吃滿。這就基本排除了 CPU 熱點(diǎn)也側(cè)面印證問題在等待。同時看了一眼 On-CPU 的采樣總數(shù)30 秒 99Hz 應(yīng)該接近 3000 個樣本實(shí)際只采到不到 800 個——這個差值本身就是信號大量時間線程根本沒在跑采樣器采不到。4.3 用 Off-CPU 定位到鎖競爭接下來抓 Off-CPUoffcputime -df -p $(pgrep -f myapp | head -1) 30 offcpu.folded flamegraph.pl --colorio --titleOff-CPU --countnameus offcpu.folded offcpu.svg火焰圖一出來最寬的一條棧非常顯眼從業(yè)務(wù)入口一路到pthread_mutex_lock再往下是futex_wait累計阻塞時間占了總 Off-CPU 時間的六成以上。也就是說大量線程都堵在同一把鎖上。順著棧找到那個 mutex 對應(yīng)的代碼位置是一個本以為讀多寫少的共享配置緩存實(shí)際每次刷新都會整表加寫鎖而刷新又調(diào)用了下游接口一旦下游慢鎖就持很久。再用 wakeuptime 確認(rèn)喚醒鏈wakeuptime -p $(pgrep -f myapp | head -1) 30輸出清楚地顯示喚醒這些等鎖線程的正是那個持鎖的刷新線程而刷新線程自己又阻塞在下游網(wǎng)絡(luò)讀上。到這里因果鏈完整了下游慢 → 刷新線程持鎖時間長 → 其他線程全堵在鎖上 → 請求排隊 → p99 爆炸。4.4 驗(yàn)證與修復(fù)驗(yàn)證方式很直接給共享緩存的刷新邏輯改成先算好再原子替換指針也就是讀路徑無鎖、寫路徑只做一次指針交換把持鎖時間從整個下游調(diào)用縮到指針賦值。改完復(fù)壓p99 回落到 30ms 以內(nèi)Off-CPU 火焰圖上那條 futex_wait 的寬度基本消失了。這次排查的價值不在于用了多高級的工具而在于先用 On-CPU 排除、再用 Off-CPU 定位、最后用 wakeuptime 串因果這個固定套路。你把這套順序記下來遇到類似問題就不用靠猜了。5. 環(huán)境準(zhǔn)備與工具選型的一些硬門檻工具再好環(huán)境不支持也白搭。Off-CPU 這類分析工具大多基于 eBPF對內(nèi)核版本和權(quán)限有實(shí)打?qū)嵉囊筇崆按_認(rèn)能省掉很多抓耳撓腮的時間。5.1 內(nèi)核版本與 eBPF 能力自檢先看內(nèi)核版本uname -roffcputime、wakeuptime 這類工具依賴掛載 kprobe 的能力實(shí)踐上建議內(nèi)核 4.15 以上5.x 更穩(wěn)。4.9 到 4.14 之間有些工具能跑但偶有兼容問題。檢查內(nèi)核配置grep -E CONFIG_BPF|CONFIG_BPF_SYSCALL|CONFIG_KPROBE /boot/config-$(uname -r)幾個關(guān)鍵項要能查到BCC 工具集才能正常工作。如果是最小化安裝的發(fā)行版可能連 bcc-tools 包都沒裝。5.2 安裝 BCC 與依賴主流發(fā)行版基本都有現(xiàn)成包# Debian/Ubuntu 系 sudo apt-get install bpfcc-tools linux-headers-$(uname -r) # RHEL/CentOS 系 sudo yum install bcc-tools kernel-devel-$(uname -r)裝完工具一般在/usr/sbin或者/usr/share/bcc/tools下可能帶-bpfcc后綴。perf 和火焰圖腳本另裝perf 跟內(nèi)核版本綁定最好用包管理器裝避免自己編譯出坑FlameGraph 是一堆 Perl 腳本clone 下來即可。5.3 容器和虛擬化環(huán)境的特殊處理容器環(huán)境里有兩個必踩的坑。第一是 PID 命名空間容器里看到的 PID 和宿主機(jī)不是一回事perf 和 bcc 工具如果跑在宿主機(jī)上得用宿主機(jī)的 PID用docker top或者ps -eLf | grep去定位。BCC 的-p參數(shù)接受的是它所在命名空間里的 PID跑在容器內(nèi)就填容器內(nèi) PID。第二是權(quán)限eBPF 傳統(tǒng)上要 root5.8 以后有了 CAP_BPF 和 CAP_PERFMON 可以降權(quán)但生產(chǎn)上多數(shù)還是用 root 或者 privileged 容器。虛擬化環(huán)境里硬件 PMU 事件可能不可用perf 的部分功能會退化但軟件事件cpu-clock和采樣依然可用Off-CPU 工具基于 kprobe 基本不受影響。這一點(diǎn)在云主機(jī)上不需要太擔(dān)心。提示如果 offcputime 報 HINT: ... failed to attach 之類的錯誤先確認(rèn)內(nèi)核開了 CONFIG_BPF 相關(guān)選項再確認(rèn)自己沒有在受限的 seccomp 環(huán)境里跑。有些安全加固過的環(huán)境會禁用 bpf() 系統(tǒng)調(diào)用。6. 常見問題與排查技巧速查把經(jīng)常遇到的坑整理成一張表排查時直接對號入座比翻文檔快?,F(xiàn)象可能原因排查手段處理方式On-CPU 火焰圖全是地址符號二進(jìn)制被 strip 或缺 debuginfoperf buildid-list對比安裝 debuginfo 包或帶符號重編采樣樣本數(shù)遠(yuǎn)低于預(yù)期線程大量 Off-CPU對比預(yù)期樣本數(shù)轉(zhuǎn) Off-CPU 分析Java 棧顯示為[JIT]JIT 代碼無符號映射檢查/tmp/perf-PID.map掛 perf-map-agent 或換 async-profileroffcputime 棧斷在中間棧展開深度不足看棧頂部是否有斷裂dwarf 模式或加大棧參數(shù)Off-CPU 圖里大量 idle/swapper采集到空閑任務(wù)觀察最寬塊的名字用-p限定進(jìn)程或加過濾p99 抖動但 CPU 不高調(diào)度延遲長尾runqlat -m -P查 CPU 飽和或綁核調(diào)優(yōu)先級等鎖時間長但持鎖者不慢持鎖者被下游卡住wakeuptime看喚醒鏈縮短持鎖范圍或改無鎖容器內(nèi)工具報 PID 找不到命名空間不一致docker top核對用對應(yīng)命名空間的 PIDeBPF 工具 attach 失敗內(nèi)核能力或 seccomp 限制查內(nèi)核 config 和安全策略換環(huán)境或提權(quán)這張表里我最想強(qiáng)調(diào)的兩行是采樣樣本數(shù)遠(yuǎn)低于預(yù)期和等鎖時間長但持鎖者不慢。前者是一個很隱蔽的信號很多人看到 CPU 不高就直接放棄 perf 了其實(shí)差值本身就在告訴你答案后者是翻身常犯的錯——盯著等鎖的人看忽略了叫醒他們的人。把這兩個視角建立起來絕大多數(shù)詭異延遲都能找到入口。再補(bǔ)幾個實(shí)操心得。第一采集時長別太短Off-CPU 事件往往稀疏10 秒可能采不到幾次建議至少 30 秒長尾問題可以拉到幾分鐘。第二采樣時盡量復(fù)現(xiàn)問題場景空跑采集沒意義要壓測就邊壓邊采。第三火焰圖看的是分布不是順序別試圖從圖里讀出時間先后要看先后得用 trace 類工具。第四perf script產(chǎn)出的中間文件可能很大幾十秒采集幾百 MB 是常事注意磁盤空間和后續(xù)處理的內(nèi)存占用。7. 一些踩坑之后才明白的經(jīng)驗(yàn)最后聊點(diǎn)工具之外的東西都是實(shí)打?qū)嵅瘸鰜淼?。剛接觸 Off-CPU 分析時我老想找一個命令搞定后來發(fā)現(xiàn)這套分析的價值恰恰在于組合On-CPU 排除計算、offcputime 找阻塞點(diǎn)、wakeuptime 串因果、runqlat 補(bǔ)調(diào)度四個環(huán)節(jié)缺一個結(jié)論就可能偏。還有一個體會是Off-CPU 時間不是越低越好而是越可解釋越好。有些等待是設(shè)計使然比如正常的網(wǎng)絡(luò) RTT、必要的批量攢批這些等待是劃算的真正要干掉的是那些沒必要的、可以并發(fā)化的、因?yàn)閷?shí)現(xiàn)缺陷被放大的等待。所以別追求把 Off-CPU 壓到零先追求能說清楚每一段等待花在哪、值不值。另一個容易忽略的點(diǎn)是采樣開銷。eBPF 工具在高頻事件上比如上下文切換特別頻繁的系統(tǒng)本身也會產(chǎn)生可觀測的額外負(fù)載采集的時候要留意對被分析進(jìn)程的影響別把觀察行為變成了干擾因素。壓測對比時最好先跑一次不采集的基線再跑采集版本把采集開銷從結(jié)果里扣掉不然容易冤枉代碼。再分享一個小技巧如果線上不方便跑 root 工具可以先從/proc/PID/status里的 voluntary_ctxt_switches 和 nonvoluntary_ctxt_switches 看趨勢兩個值漲得快說明上下文切換頻繁O(jiān)ff-CPU 問題概率大這就是個零成本的先行指標(biāo)用來決定要不要上重武器很夠用。這套東西我用了好幾年越用越覺得它不是什么高深技術(shù)就是把線程到底在干嘛這個問題拆成兩半來回答的樸素方法。工具會隨內(nèi)核版本變理解On-CPU 加 Off-CPU 等于完整墻鐘時間這個賬本關(guān)系才是長期管用的東西。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
99热国产在线| 色婷婷4| 五月情婷婷| 五月丁香综合色婷婷| 六月丁香深深爱| 亚洲日日日| 丁香婷婷久久 | 婷婷丁香69精华| 爆乳熟妇一区二区三区爆乳照片| ss五月天激情| 精品热九九| 色爱终和网| 日本黄 色 片| www.婷婷五月天| 色婷六月| 99色在线观看| 日韩小视频在线99| 97碰碰视频| 久色网址| 五月丁香成人网| 五月丁香六月婷婷亚洲| 超碰精品国产首页| 人人爽天天爽| 深爱五月最新网址| 日韩综合网络男女香蕉a片| 性色五月天| 色五月丁香一区在线| 91 欧美| 五月天婷婷丁香社区| 亚洲操B视频| 狼人婷婷综合| 手机AVAV天堂看网| 色婷婷免费视频| 人人摸人人| 久久五月丁香六月婷| 久婷婷视平| 久热这里只有精品99re| 99热只有精品在线播放| 开心五月婷婷伊人| 丁香五月婷婷在线| 久久久久er热| 樱花99视频| 熟女激情五月天| ji'qing'luan'ren'lun| 色情五月综合婷婷| 五月丁香色色色| 色婷婷丁香五月在线观看| 免费成片在线观看| 亚洲色五月婷婷| 五月天婷婷色紫薇阁| 无码日本精品XXXXXXXXX | 天天色综合综合| 久一网站| 欧州婷婷五月天综合| 免费观看的av| 五月婷六月丁香| 色婷婷9| 国产成人99久久亚洲综合精品| 欧美日韩AAAAA| 五月天激情日色在线| 99久在线精品99re8热| 狠狠色丁香婷婷基地| 久久狠婷婷| 91久久久久久久| 婷婷开心激情五月激情网| 五月婷俺去也| 日本久草福利| 99久久婷婷国产综合亚洲| 免费婷婷| 五月丁香六月情| www.激情五月天。com| 日日操无码| 久久五月天综合| 激情VA视频| 91美女被操| 操逼亚洲天堂| 乱岳熟女50岁| 色五月 五月婷婷| 五月婷婷六月综合| 色婷婷五月综合网| 天天艹夜夜爽| 91九色首页| 91精品刘玥| 日日杆天天| 51国精产品自偷自偷综合| 性 色 婷婷| 色在线99| 无码A片一区二区免费| 亚洲乱码日产精品BD| 色三级色三级| 激情五月婷黄版| 五月婷婷基地| 另类亚洲2| 日本少妇AA一级特黄大片| 四虎国产精品永久在线国在线| 99色色| 色婷婷深爱五月| 丁香婷婷五月综合影院| 成人AV网站在线| 少妇人妻丰满做爰XXX| 男女99免费视频| 精品久久久人妻| 亭亭丁香aV| 亚洲激情综| 日韩AV在线免费| 开心婷婷五月| www.五月丁香| 九九免费精品| 欧美成人五月天| 久久er+| 丁香五月性| 1024操逼视频| 影音先锋偷偷色男人站| 婷婷七月丁香色色| 色婷婷88| 日韩999| 熟女91九色| Caoporn公开| 婷婷操无码| 免费看欧美成人A片无码| www久久99| 91婷婷丁香| 99爱视频在线观看| 久久色五月| 思思热在线观看| 97丁香五月| 久8色色| 五月WWW| 五月激情偷拍婷婷| 99爱无码| www.色婷婷.com| 婷婷涩五月| 欧美日韩国产一区二区| 丁香六月婷婷社区| 日本久久视频| 大香蕉久久| 《诡秘之主》在线观看| 欧美综合激情五月丁香| 婷婷激情五月综合丁香社| 四色女婷婷| 激情五月天之五月婷婷| 五月天六月婷| 五月综合丁香婷婷| 深爱综合网| 激情五月婷黄版| 激情性爱五月| 99精品免费| 色情成人五月天| 日韩精品AV一区二区三区| 97碰碰碰免费公开在线视频| 亚洲天堂青草| 97干97色| 情情五月天色| 久久99网| 丁香婷婷色五月激情综合| 天天干夜晚夜操| www.激情| H亚洲| AV在线不卡网站| 狠狠爱婷婷丁香| 五月天久久婷婷| 六月婷婷激情| 久久精品A片777777| 婷婷在线网| 97色综合| 久久九色| 丁香五月天天高清在线| 亚洲欧美成人在线| 99热传媒| 狠狠色噜噜狠狠狠狠综合| 激情综合网丁香| 中文不卡一二三区| www久久艹| 亚洲精品亚洲人成人网| 午夜福利8055| 婷婷日在线观看| 激情五月天开心网丁香无码| 狠狠色噜噜狠狠狠888| 久久综合五月天| 五月婷婷五月天| 久久全意婷婷| 欧美色色色| 欧美性爱特黄一级aaaassss| 最新色色五月天| 91狠狠综合久久久久久| 黄久久久| 天天cha成人综合网| 久久久久这里只有精品| 成AV人片一区二区三区久久| 激情色播| 婷婷激情人妻| 色五月成人网| 婷婷六月久久综合导航| 婷婷综合中文| 成人五月天在线观看| 丁香五月 六月婷婷首页| 国产日韩欧美性爱| 夜夜嗨一区二区三区直播内容| 大香蕉人在线65| 夜夜骑操AV| 婷婷色基地| 欧美日韩成人在线| 视频久久9| 欧美天天干五月丁香| 五月天婷婷7米| 天天干,夜夜爽| 九九色情网五月天| 26uuu激情五月天| 九九干视频| 欧美性色A片免费免费观看的 | 91色五月| 性色综合网| 热久久成人| 色婷婷六月| 风流少妇A片一区二区蜜桃| 色婷亚洲五月丁香| 99热在线观看免费| 丁香六月激情综合| 亚洲AV成人一区二区在线观看| 9色视频在线| 色综合综合网| 国产欧美熟妇另类久久久| 91久久色| 激情丁香五月天图片| 日本色婷婷| 91色色色18| 五月天色网站| 亚洲V国产V欧美V久久久久久| 综合激情在线| 婷婷五月天亚洲五码| Av狠狠色丁香婷| 亚洲日韩国产黑丝黑丝AVAV一区二区三区 | 丁香五月综合激情性爱| Www.久久| 激情综合色婷婷啪啪六月天| 五月开心播播网| 色色吧综合| 婷婷爱五月天| 无码动漫AV| 久久久久久综合五月婷婷| 日韩色色视频| 国产婷婷色五月| 色婷婷久久综合丁香五月| 国产肥白大熟妇BBBB视频| 人人操99| 六月丁香五月天| 色色色五月婷| 激情人妻综合| 天天日夜夜欢| 久久九区| 综合激情五月天| 性高潮久久久久久-九九九九九九九九九九热-成人AV| 天天干天天av天天射| 色久婷婷网| 色五月激情婷婷| 热久国产| 91蜜桃婷婷狠狠久久综合9色| 超碰在线99热| 色99在线视频| 丁香婷婷网| 亚洲最大在线| 激情五月婷婷丁香六月| 婷婷五月激情中文字幕| 五月婷婷丁香深深爱| 色色网站在线| 5月色婷婷| 99re这里| 久久久久久草黄色片AV在线观看| 狠狠干狠狠色| 五月天婷婷丁香视频| 五月丁香影院| 伊人狠狠综合| 97操碰免费视频| 色综合色综合色综合| 丁香婷婷浪潮AV久久综合| 五月天激情婷婷丁香| 日本视频久久| 色区久久| 无码AV免费精品一区二区三区| 五月婷婷色播视频| 日日做A爰片久久毛片A片英语 | 综合色五月| 最新av在线观看| 五月婷婷三级| 99热这是里只有精品| 激情五月天色播| 欧美五月丁香在线观看| www.韩日视频| 狠狠人妻色综合| 九九99精品| 久久这里有精品| 成人丁香五月| 成人超碰网| 久久九九蜜| 亚洲av无码影院| 激情九九六月激情免费视频| 五月婷色| 婷婷色五月大香蕉在线| 婷婷五月丁香色综合| 欧美日韩成人免费在线| 日本精品99| 一起草无码视频| 成人做爰A片免费看视频| 婷婷五月天播| 九色视频九色九色91jiuseshipin| 亚洲色网络| 97碰久久| 蜜臀久久99精品久久久久久酒店| 免费视频99| 九九99免费视频| 99热在线观看| 婷婷五月天综合久久| 国产性爱一级| 国产日韩欧美| 九九在线精点品| 99这里有精品| 天天草比天天爽| 色约约视频一区二区三区四区五区| 思思热在线| 久久激情网| 一本色道久久88加勒比| 婷婷五月天激情电影| 五月丁香婷婷在线综合蜜桃| 色综合久久无码| 九九热99视频| 天天狠狠色综合| 五月丁香婷婷色播无码| 久久综合九九| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 中文AV网站| 五月天婷婷色播在线网| 久99久在线| 不卡在线超碰| 久久婷婷婷| 国产精品久久久99视频| 亚洲精品成人片在线播| 香蕉久久国产AV一区二区| 79精品视频在线观看,| 女人露出p毛视频www网站| 禁欲电影完整版在线播放| 99精品在这里| 综合性视频99| 区区久久妻| 韩日AV片| 色色婷婷五月| 丁香五月综合在线| 久久精典| 伊人久热91| 亚洲视频一区| 五月婷婷中文字幕| 天天天天操| 色综合久久天天综合网| 激情五月天色| 丁香婷婷五月色成人网站| 色情婷婷| 色色亚洲视频| 九九在线视频| 五月婷婷AV| 久久ER视频com| 日韩黄色电影| 9一精品视频观看| 久草热8精品视频在线观看| 丁香五月婷婷亚洲色图| 婷婷五月天激情网站| 色色网站免费在线视频| 欧美色色色色色色色| 97超碰99热99| 嫩草AV久久伊人妇女超级A| 婷婷色在线视频| 五月激情婷婷开心| 6080av| 婷婷丁香在线| 久9久9久9久9久9久9| 大香久久综合网| 激情久久久| 久久婷婷成人| 色婷婷婷婷| 丁香五月天欧美在线| 日日噜狠狠色综| 日本久久性| 涩婷婷视频快播人妻| 99久久国产宗和精品1上映| 夜夜操夜夜操| 这里只有精彩视频| 欧美99| 亚洲va在线∨a天堂va欧美va| Va另类视频| 久久人妻久久久久| 国产色丁香| 三级三久久线久久99久目本WW| 国产精品国产| 天天综合久久| 色婷婷五月综合在线| 亚洲人成网站999久久久综合| 婷婷五月丁香激情| 日日夜夜九九| 日本97人人| 日本eVa一区=区视频| 国产精品久久久久久久久久| 国产全是老熟女太爽了| 久久伊人大香蕉| 狠狠插狠狠操| 亚洲无码色| 国产日韩欧美性爱| 天天插天天干| 天天爽天天爽| 99无码视频| 色五月婷婷很很操| 五月婷婷六月天| 久久精品亚洲一级牲爱综合| 色色性爱视频| 久艹大香蕉| 偷偷操99| 丁香五月日韩| 五月天婷婷色色| 色五月综合激情| 成人网站在线观看视频| 色色a| 丁香婷婷六月| 一级AV片| 老师把我爽高潮了免费A片| 成人啪啪色婷婷久| 中美日韩成人在线| 色99在线视频| 99精品这里只有免费视频 | 婷婷六月啪啪| 91久久久久久| 伊人久久丁香五月91| 九月性爱网| 91精品啪| 97人人操人人爽| 色婷婷五月天av在线| 九九这里只这里只有精品| 激情图片婷婷| 久久黄色片| 久久99精品久久久久久三级| www.五月天| 欧美性生交XXXXX无码小说| 午夜精品久久久久久久爽| 婷婷丁香精品视频在线观看| 久久婷婷婷| 99久久综合狠狠综合久久| 亚洲天堂AV综合网| 久久大香蕉同僚| 色婷婷免费视频| 五月丁香色色网| 丁香六月亚洲| 五月久视频| 久久HD| 欧美交换配乱吟粗大25P| 97人人妻人人艹| 婷婷五月天丁香社区| 亚洲小视频免费播放| 大波美女VA网站| 五月丁香激情婷婷| 日本久久人| 99视频| 五月丁香综合色婷婷| 五月丁香久久色| 五月婷婷中文字幕| 天天添天天摸天天天天做| 91婷婷五月天嫩女| 在线播放成人网站| 成人短视频免费| 亚洲1区| 插插五月天| 五月婷婷六月丁香玖玖玫瑰91| 五月天色丁香| 激情婷婷。| 99ri在线视频| 五月丁香婷婷三级| 涩五月婷婷| 999热这里只有美国精品| 色色热| av在线不卡播放| 开心六月婷| 狠狠色无码| 97人人搞| 久久丁香网| 婷婷色综合| 天天做天天摸| 久久在线视频免费观看| 色婷婷综合亚洲| 综合激情网| 97操碰在线视频| 中字幕视频在线永久在线观看免费 | 婷婷综合激情| 夜夜夜夜撸夜夜操| 亚洲乱码日产精品BD| 91AV视频| 开心五月丁香啪| 大香蕉伊人久久| 五月婷婷9| 日本色婷婷久久99精品91| 荷兰av一级| 岛国在线观看91| 色五月综合网| 99热热这里只精品996小说| 99热在线观看| 另类色视频| 天天插天天干| 丁香婷婷婷婷十二月在线观看视频| 精a品a视a频| 先锋资源婷婷| 99热官网精品在线| 99.色| 天天搞天天爽| 成人五月丁香社区| 另类视频五月天| 色婷婷五月天av在线| 色色色色热热| 日韩亚洲视频| 乱精品一区字幕二区| 99噜噜| 久久免费婷婷视频| 韩国中文字幕91| 九色自拍| 欧美久久网| 卡视频1区2区| 婷婷精品性性性性性性性| 精品夜夜澡人妻无码AV| 国产精品在线视频| 亚洲综合成人网| 日韩综合网络男女香蕉a片| 久久丁香五月天| 91干网站| 视色综合| 超碰妻人人| 国产片天天爽夜夜爽| www久久艹| 久色88| 涩涩涩五月天| 精品九九婷婷| 深爱五月激情| 超碰在线观看成人视| 天天谢天天操| 九九综合| 丁香婷婷丁香五月欧美人| 丁香五月AV| 天天干,天天舔| 97人妻碰碰中文无码久热丝袜| 123草逼网| 超碰人人99| 国产亚洲成人综合| www.婷婷五月| 天天综合 99久久婷婷| 五月天激情婷婷| 偷拍九九五月丁香婷婷| 先锋资源婷婷| 日韩AV片| 日日爽夜夜爽| 伊人丁香五月| 人人摸人人干| 蜜臀av粉嫩av懂色av| 激情无码网| 性生活视频98791| 九九色综合网| 久热这里只有精品性色AV| 五月天成人综合| 视频综合网| 色综合五月天| 成人欧美一区二区三区在线观看| 高清资源站日A美A欧亚…| 五月丁香激情欧洲啪啪| 综合www色| 综合99综合久久久久久久| 婷婷的99视频网站| 色色综合网站| 日日夜夜天天爽| 久久一操| 色区久久| 色综合天天网| www.亚洲激情.com| 超碰高清在线| 99热日本| 99久在线精品99re8热| 色婷婷成人丁香| 九九热这里只有精品6| 欧美99热| 香蕉99网| 激情五月综合| 五月丁香欧美综合免费视频| 91久女| 色婷婷在线视频| 91 九色 熟女| 色婷婷六月| 五月天婷婷成人网| 国产欧美婷婷| 91热久久| 色愛综合网| 香蕉久操| 日本色图综合| 五月婷综合性中心| 久re热视频| 夜夜躁爽日日| 婷婷六月中文字幕| 免费97碰碰| 婷婷六月色| 五月天婷婷青青草| 黄色片区子| 日本不卡高字幕在线2019| 小视频久久久aaa| 色婷久九| 亚洲综合网在线| 国产日韩欧美性爱| 五月婷婷开心色伊人| 九九九激情综合| 婷婷色婷婷| 99视频久久免费视频| 1囯产午夜仑鲁鲁| 久久久免费精彩视频| 五月丁香六月香综合激情| 激情综合网五月| 中文字幕网伦射乱中文| 丁香六月啪啪啪| 激情婷婷狠狠干| 久久99久久99精品免观看粉嫩| 欧美日本日韩| 五月激情啪啪啪| 日本性激情色播| www.超碰在线| 大香蕉在九| 五月丁香福利| 九九色综合视频| 五月丁香六月综合情在线观看 | 丁香女人五月天| 婷婷五月六月丁香| 国产欧美精品AAAAAA片| 天天久久狠狠色综合| 五月天伊人手机在线播放AV| 五月色综合网欧美网| 香蕉五月婷婷| AA片在线观看视频在线播放| 色五月激情综合网| 99成人网一区| 7777久久亚洲中文字幕| 做爰丰满少妇1313| 丁香六月在线| 五月婷在线| 五月天婷a| 天天 青草 制服丝袜 在线| 9久久精品视频| 国产在线网| 色综合伊人网| 外国碰视频网站97| 激情五月天婷婷丁香| 五月婷婷激情色情网| 色色吧综合| 五月综合丁| 国成人网| av免费在线看不卡无毒| 五月天激情小说| 色婷婷基地| 五月天丁香久久| 五月丁香婷婷激情视频| 五月天婷婷影院影院| 国产乱码久久| 91久热| 伊人9在线| 久久久久久久人妻| 丁香五月av| 亚洲欧美成人在线| 欧洲一区二区| 欧美丁香五月| 很很干天天干| 99爱无码| 99er久久| 热99热9| 艾小青av| 天天做天天爱天天爽在| 午夜理论片最新午夜理论剧| 色五月婷色彩免播放器| 99er6免费视频热播| 香蕉AV777XXX色综合一区 | www.久9| 色99xx| 日韩在线视频9色| 国产美女无遮挡裸体毛片A片 | 青青999| 久久久9久| 91伦| 丁香六月青青草| 九九热青草| 秋霞九九无码| 激情爱爱网站超大免费| 男女啪啪做爰高潮无遮挡| 91丨九色丨熟女丰满| 综合性爱网| 91九色在线视频| 激情综合在线观看| www.久久久久| 开心激情五月天网| 天天做天天爱天天高潮| 北京熟妇搡BBBB搡BBBB| 成人国产欧美大片一区| 色五月 婷婷, 大香蕉| 狠狠一日| 天堂网色婷婷| 伊人www22综合色| 激情伊人| 综合五月草| 热的国产,热的综合,热的有码| 无码四色色色| 色婷婷丁香五月在线| 99'无码| 五月婷婷亚洲综合网| 99热骚货| 婷婷射丁香| 久久婷婷五月综合色丁香| 久碰婷婷视频| 九九99久久| 激情亚洲婷婷| 五月激情在线| 玩熟女五十AV一二三区| 日韩另类| 色五月激情| 99网| 大香蕉视频婷| 亚洲无码11| 久久99这里只有精品| 噜色精品| 精品一区二区三区木瓜| 噜噜狠狠色综无码久久合欧美| 97五月久久丁香婷婷| 伊人激情影院| 综合色、色综合| 综合久久久婷| 玖玖在线视频福利| 五月四色婷婷| 99熟女啪啪视频| 色色色热热热| 久9综合| 色婷婷偷拍| 一区二区中文字幕| 俺也去在线视频| 91avse| 成人片黄网站色大片免费毛片| 色婷婷yy久| 久久人人超| 天天操九九插| 1区2区视频| 日本色色网| 狠狠婷婷色| 91日日日| 婷婷五月丁香激情色情| 六月婷婷色综合| 色5月婷婷| 九色亚洲| 狠狠干狠狠色| 26uuu国产激情视频| 色五月色五天色情网| 在线成人va| 九九精品自拍| 天天舔天天摸视频| 激情五月天婷婷五月天| 五月色情婷婷| 五月天婷综合网站| 久久九九怡红院| 狠狠五月激情丁香六月| 五月婷婷丁香五月| 亚洲免费av观看| 激情综合网五月天天| 99热国产免费| 欧美大片免费观看| 九九综合伊人| 五月天伊人综合| 超碰99在线观看| 五月天社区婷婷丁香社区| 色丁香在线视频| 99操逼视频| 色色丁香婷婷五月天| 6月丁香婷婷| www天天色天天射| 国精产品一区一区三区免费视频| 在线sebiav精品视频| 婷婷亚洲激情在线观看视频| 久久人人妻| 婷婷久热| 色婷婷免费视频| 五月综合缴情网| 人妻久久久久久久 | 99热这里只有精品50| 性一交一乱一交A片久久四色| 日韩AV在线免费| 5月色亭亭视频| 激情文学久久| 77777亚洲午夜久久| 丁香五月婷婷天激情| 精品人妻一区| av在线观看网址| 五月婷婷黄色视频| 开心五月婷婷激情| 五月婷婷久久久| 欧美这里只有精品| 婷婷五月丁香四射| 亚洲 在线 性爱 | 激情五月综合网| 国产首页在线| 五月婷在线观看| 99热精品在线| 久热9热| 五月天堂在线| 国产乱人偷精品人妻A片| 99精品在线| 啪啪99| 性爱激情小说AV五月丁香花| 色天天综合| 激情综合色婷婷啪啪五月天| www.久久五月天.com| 综合色色网| 国产超碰在线| 日韩人妻无码专区| 国产av基地| 天天噜| 97综合在线| 丁香五月天婷婷大香蕉| 婷婷五月天男人影院色色网| 北条麻妃九九九国产精品视频| 人人草公开操| 日本丁香五月| 五月婷婷xxx| 日本三级中国三级99人妇网站| 97人人操| 爆乳熟妇一区二区三区爆乳| 九九精品热播| 操操自拍| 99热碰碰热| AAA久久久| 婷婷五月AV| www.婷婷五月| 丁香五月婷婷啪啪| 99九九视频| 思思热闹这里只有精品| 99热青青草| 亚洲AV免费国产电影| 大伊久久| 三日本无码| 五月天色婷婷激情| 99五丁香月| 丁香五月天啪啪a日本| 天花AV无码| 日日夜夜狠狠| 色噜噜狠狠色综合成人99| 大香蕉综合在线| 99 热国产在| 97av在线视频| 色五月丁香激情视频| 农村熟妇高潮精品A片| 99热骚货| 欧美情色一区| 丁香五月婷婷激情中文| 日韩久综合| 色色色国产| 五月天婷婷综合久久| 99精彩视频| 婷婷丁香五月六月激情| 欧美情色电影一区二区| 五月天自拍视频| 丁香九月色| 婷婷五月天伊人| 丁香五月91| 五月婷婷综合网| 5月婷婷激情6月| 九九99视频精品| 一级二级色大片| 中文精品在| 成人精品在线| 久久婷婷五月综合激情国产| 青草激情综合| 97亚洲色 torrent magnet| 婷婷激情五月综合| 久色国产| 欧美男女婷婷| 久久99久久久久久| 另类小说五月天综合| 五月婷无码| 久久久99视频| 久久婷婷五月草视频在线播放| aaa久久久| 玖玖五月| 日韩成人网站精品久久大全| 婷婷五月天涩涩| 色五月婷婷av| 翔田千里aV中文字幕| 一区二区乱视频码| 日韩成人综合网| 99在线视频精品| 狠狠色婷| 人妻AV在线| 丁香五月激情澎湃一区| 伊人成综合五月婷婷| 99啪啪视频| 黄页大全十八禁| 老师高潮流白浆喷水的A片| 97亚洲婷婷| 日本精品。999| 婷婷五月天你懂的| 久操婷婷| 天天操天天日天天操| 操久久网| 大香蕉福利导航| 亚洲激情av| 丁香六月无码| 大香蕉婷婷| 超碰无码老师| 夜夜骑夜夜操| 密桃激情五月天综合网| 久久停停超碰| 久久久久久婷| 丁香五月婷婷亚洲综合精品| Va另类视频| 久操综合| 久久日婷婷| 婷婷五月天堂| 丁香五月激情在线| 91狠狠色| 国产亚洲成人综合| 免费精品99| 五月婷婷六月激情| 色情激情五月| 人妻久久久久久久| 婷婷激情社区| 久久这有这里精品| 亚洲欧美国产A片免费观看| 9久久精品| 婷婷少妇激情| 狠狠操狠狠做| 这里只有视频精品| 日韩人妻在线观看| 亚洲av成人一区二区电影在线| 看片视频在线免费日产在线看| 综合六月激情婷婷| 综合五月草| av在线中文| 色综合久久无码| 夜夜爽77777妓女免费下载| 久久精品婷婷| 激情图片五月天| www激情网| 六月激情婷婷| 激情综合色婷婷啪啪六月天| 久久婷婷五月综合色区| 99热超碰| 五月天啪啪| ss99热| 丁香婷婷综合精品六月初| 99热加勒比| 色播色丁香五月| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 思思热99er在线视频| 色综合久久88色综合天天99| 欧美激情久| 九九爱精品网站| 亚洲无码色| 男女99免费视频| 天天日,天天插| 天天操夜夜玩!| 久久伊人大香蕉| 六月久久婷婷| 99啊精典免费视频| 五月色激情综合网| ZpRSw| 韩国中文字幕91| 激情五月婷婷视频一区二区三区| 激情丁香社区| 99热热这里只精品996小说| 女高怪谈在线观看| 韩国三级五月天婷婷。| 亚洲色色色色| 襙比视频| 狠狠狠人妻| 亚洲丁香五月天在线视频| 狠狠爱丁香婷| 极品嫩草| 亚洲成人av在线观看 | 丁香五月激情综合啪啪| 色婷婷九月| 五月综合婷婷久久在线| 久久九九大香蕉电院| 色 五月婷婷基地| 婷婷香五月综合激情| 五月丁香色播| 久久五月丁香综合17C| 日本色婷婷综合| 激情综合网,婷婷| 五月色丁香国产在线视频| 激情综合网,五月| 激情综合激情五月| 欧美丁香六月激情视频| 精品综合五月| 天天摸天天高潮天天爽| 噜噜噜精品欧美成人在线观看| 天插天啪天啪天啪| AV79| 天天狠天天叉| 天天干,夜夜爽| 九九人人精品| 97资源碰碰| 精品人妻久久久久久| 六月婷婷综合| 国产AV一区二区三区日韩| www.色五月| 国外亚洲成AV人片在线观看| 乱精品一区字幕二区| 国产伦亲子伦亲子视频观看| 琪琪色综合网站| 爱iii做iiii日日| 色五月婷婷伊人| 中文字幕+中文在线| 亚洲无码成人网| 噜噜噜狠狠色综| 亚洲小视频免费观看| 激情五月天黄色小说| 亚洲小视频免费播放| 久久黄色免费视频| 日本在线噜噜| 色婷婷五月天激情在线观看| 综激情网| 99无码视频| 国产婷婷婷| 亚洲欧美国产A片免费观看| 天天综合色丁香| 9久久精品| 91热er| 99r这里只有精品在线观看| 丁香五月天电影| 99久久久| 久久女婷| 国产看真人毛片爱做A片| 99riAV成人在线视频| 人人爽欧美婷婷久久久五月丁香| 另类激情综合| 在线综合婷婷| 激情综合网五月| 国产67194| 91男人操女人视频| 另类国产区| 9有码中文| 97资源欧美日韩大香蕉超碰一区| 天天操夜夜啊| 亚洲激情精品| 欧洲亚洲免费视频9| 色综合五月天| 色婷婷色和| 亚洲超碰在线| 停停五月天激情网| 久九色| 丰滿爆乳一区二区三区| 色99自拍| 小视频一区| 91色综合网| 色色色色色色综合网| 综合久久五月天| 99aese| 日本色99| 五月天丁香色色| 亚洲旡码| 新伍月婷婷| 色色色色色色色色网站| 大香蕉婷婷婷| www99热| 天天狠天天叉| 大香蕉av在线| 五月天天综合| 激情WWW| 婷婷在线免费| 99久久天堂婷婷| 99这里只有精品8| 婷婷社区五月天| 免费无码毛片一区二区A片| 99色在线观看视频| 婷婷五月天激情亚洲小说| 99爽视频| 久在线综合69| 激情 五月 婷婷 丁香| 人妻久久久| 中文字幕有多少字| 五月婷婷激情综合| 婷婷丁香成人五月天| www.五月天| 六月丁香大香蕉| 丁香涩涩爱| 99亚洲天堂| 亚洲午夜视频| 五月天综合图片| 超碰在线99| 啪啪 综合网| 激情五月少妇| 九月色婷婷| 五月婷婷精品视频| 91视屏在线观看com.wwwvv| 91超碰在线播放| 久草婷| 色五月开心五月激情五月| 99色网站| 东京热五月婷婷| 婷婷亚洲五| 亚洲综合网 665566| 五月婷婷性爱视频| 天天 青草 丝袜制服 在线| 午夜五月天| 丁香婷婷九月| 日日夜夜狠狠操| 九九热狼人| 99在线爽| 久久久久er热| 99玖玖免费视频| 免费在线观看欧美激情xx小视频| 67194线路二在线观看| 久久6这里只有精品| 美女五月天| 婷婷五月综激情| 五月花婷婷| 中文字幕精品推荐免费在线观| 色婷婷五月亚洲| 日本色婷婷| 五月天六月丁香| 另类视频在线| 婷婷丁香五月麻豆| 五月婷婷影院| 婷婷色色丁香| 五月天婷婷激情综合| 激情开心五月天| 99无码视频| 99综合免费视频| 在线中文字幕av| 夜夜躁婷婷AV| 91艹人| 99∨VTV| 色色五月天婷婷丁香| 丁香婷婷五月| 操操精品| www.久热| 1024成人在线观看| 天天日夜夜帕| 9在线9在线婷婷在线国产| 99精品福利视频| 夜色.cnm| 伊人五月天在线| 婷五月天| 99无码精品| av在线观看网址| 五月天婷婷在线视频| 99re在线免费视频| 狠狠狠狠狠干| 欧美色色色色色色色色色色| 久久婷婷五月天激情| 操操国产| 99热偷拍| av 一区三区四区| 狠狠干,狠狠操| 国产丁香五月天婷婷| 99久久9| 手机看片日日做夜夜| 欧美日韩二区在线| 色婷婷丁香中文在线播放| 婷婷热色| 欧美成人色婷婷| 久久久婷丁香五月天激情综合| 五月 激情视频| 91色在线/日韩| 99热免费精品| 婷婷五月天AV网| 亚洲无码99| 天天色天天爱天天舔| 亚洲综合色成丁香五月色| 米奇激情婷婷| 天天肏视奸| 99精品无码| 97色热| 亚洲无码99| 婷婷丁香五另类网站| 亚洲精品第一国产综合亚AV | 国产熟妇乱子伦hd| 激情网婷婷婷| 98永久精品| 91九色国产| 激情5月婷婷狠狠干| 午夜丁香久久久久久| 夜夜骑天天操| 91性高潮久久久久久久久| 天天操天天插| www五月天激情com| 99久久视频| 婷婷五月丁香基地| 久久婷婷五月综合色播| 啪啪啪丁香五月| 久久92| 夜夜涩涩涩| 婷婷天天五月天| 久久性视频| 亚洲婷婷月丁香五月| 91碰操| AV在线大香蕉| 丁香五月骚喷水视频| 99热久久日本| 9l视频自拍9l九色成人| 怡红院院久久| 99免费青青蜜臀| 黄网在线播放| 久久人妻伦理| 超碰免费成人| 男同91 | 久草网大香视频| 九九RE视频在线精品| 久热这里只有精品99re,久热这里只有精品7 | 激情AV网| 五月婷婷激情中文字幕| 色五月成人婷婷| 色吧婷婷五月亚洲| www热久久yy9| 伊人六月无码视频| 婷婷中文字幕在线| 嫩草AV久久伊人妇女超级A| 丁香色婷婷五月天| 色玖玖| 秋霞网在线免费基地五月婷婷丁香| 超碰人人干| 五月丁香做爱视频| 五月婷婷深深的爱| 中文字幕成人版| 久久99久久久久久| 日日操日日爽| 91色综合| 天堂网操| 九九Av| 五月天色不卡| 激情五月婷婷在线区| 九色91视频| co超碰在线观看| 5月丁香啪啪啪| 亚洲欧美另类在线23p| 99久久久国产大片区| 金品在线视频99| 亚洲精品又粗又大又爽A片| 激情综合网址| 江苏少妇性BBB搡BBB爽爽爽| 精品人妻一区| www.操逼comm| 另类专区在线观看| 九色亚洲| 97五月天| 亚洲丁香婷婷丁香五月天激情| 色的色综合| 婷婷丁香在线| 五月天婷婷色综合| 精品一二三区久久AAA片| 欧日韩成人| 99热这里只有精品一区| 五月丁香久人妻中文| 日韩成人综合| 狠狠一日| 99热精品免费| 久色激情| 蜜桃五月天| 亚洲第精品| 九九亚洲视频| 久久久久98| 五月丁香五月综合欧美| 天天干天天干天天干| 夜夜爽天操| 色五月开心五月激情五月| 国产67194| 9999三级片| 超碰伊人碰婷婷五月| 久久婷婷艹|