免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Linux下C/C++運(yùn)行時(shí)調(diào)用?;厮荩簭腷acktrace到符號解析的工程實(shí)踐

Linux下C/C++運(yùn)行時(shí)調(diào)用?;厮荩簭腷acktrace到符號解析的工程實(shí)踐 程序跑著跑著突然崩了日志里只有一句“Segmentation fault”連是哪個(gè)函數(shù)、哪一行出的問題都不給這種場景但凡在Linux下寫過C/C的人應(yīng)該都遇到過。尤其是線上服務(wù)core文件不一定開、gdb不一定裝、復(fù)現(xiàn)還不一定穩(wěn)最后只能靠加打印一行行猜。其實(shí)Linux本身提供了一套相當(dāng)成熟的運(yùn)行時(shí)調(diào)用?;厮輽C(jī)制能在程序活著的時(shí)候把當(dāng)前函數(shù)調(diào)用鏈、返回地址、甚至對應(yīng)的源文件和行號直接打出來不需要掛調(diào)試器也不需要等崩潰。這篇就圍繞“程序運(yùn)行時(shí)打印調(diào)用棧信息”這件事把backtrace、符號解析、行號還原、編譯選項(xiàng)配合、以及實(shí)際落地時(shí)那些文檔里不會(huì)寫的坑完整拆一遍。適合已經(jīng)能寫C程序、但被線上問題折磨過、想把自診斷能力做進(jìn)代碼里的開發(fā)者參考也適合剛接觸Linux調(diào)試體系、想搞明白“?;厮莸降自趺垂ぷ鳌钡呐笥选?. 先搞清楚運(yùn)行時(shí)?;厮莸降自诮鉀Q什么問題很多人第一反應(yīng)是“崩潰了用gdb看不就行了”。這話在本地開發(fā)階段沒錯(cuò)但放到真實(shí)場景里就站不住了。我先把運(yùn)行時(shí)打印調(diào)用棧和傳統(tǒng)調(diào)試手段的差異擺出來你就明白為什么值得單獨(dú)做一套機(jī)制。1.1 調(diào)試器依賴與線上環(huán)境的現(xiàn)實(shí)矛盾gdb這類工具的工作前提是你能在出問題的機(jī)器上啟動(dòng)它、能拿到可執(zhí)行文件、能拿到符號信息、最好還能復(fù)現(xiàn)。這四條在線上環(huán)境里經(jīng)常同時(shí)不成立。生產(chǎn)機(jī)器為了精簡和安全通常不會(huì)裝完整的調(diào)試工具鏈可執(zhí)行文件可能被strip過core dump策略出于磁盤考慮往往是關(guān)閉的偶發(fā)問題更是難以穩(wěn)定復(fù)現(xiàn)。這時(shí)候你手里剩下的唯一線索就是程序自己愿意吐出來的日志。運(yùn)行時(shí)?;厮莸暮诵膬r(jià)值就在這它把“事后調(diào)試”變成了“事中自證”。程序在關(guān)鍵路徑上主動(dòng)調(diào)用一次回溯把當(dāng)前調(diào)用鏈寫進(jìn)日志問題發(fā)生時(shí)你直接翻日志就能看到調(diào)用路徑不需要任何外部工具介入。這相當(dāng)于給程序內(nèi)置了一個(gè)輕量級的現(xiàn)場記錄儀。1.2 調(diào)用棧在內(nèi)存里長什么樣要理解怎么打印得先知道棧上有什么。x86-64架構(gòu)下函數(shù)調(diào)用靠的是棧幀stack frame鏈。每次調(diào)用被調(diào)函數(shù)會(huì)在棧上保存調(diào)用者的棧基址rbp形成一個(gè)鏈表結(jié)構(gòu)當(dāng)前rbp指向的棧單元里存著上一層rbp再上一層又存著更上一層的rbp。順著這條鏈一路往上走就能把每一層的返回地址return address收集起來。返回地址是關(guān)鍵它指向“調(diào)用指令的下一條指令”也就是函數(shù)執(zhí)行完要回到的位置。把這個(gè)地址映射回符號表就能知道它屬于哪個(gè)函數(shù)再結(jié)合調(diào)試信息就能還原出源文件和行號。所以整個(gè)回溯過程本質(zhì)上是三步沿棧幀鏈?zhǔn)占祷氐刂?→ 地址轉(zhuǎn)符號 → 符號轉(zhuǎn)行號。后面所有工具和接口都是圍繞這三步做封裝。注意編譯器優(yōu)化會(huì)破壞棧幀鏈。開啟幀指針省略-fomit-frame-pointer后rbp被挪作通用寄存器鏈就斷了。這是后面要專門處理的一個(gè)大坑。1.3 三種主流實(shí)現(xiàn)路徑的取舍Linux下做運(yùn)行時(shí)回溯常見的有三條路各有適用邊界方案依賴優(yōu)點(diǎn)局限glibc backtraceexecinfo.h零額外依賴接口極簡依賴幀指針優(yōu)化后可能不全libunwind獨(dú)立庫支持DWARF展開優(yōu)化代碼也能回溯需引入第三方庫接口略重編譯器內(nèi)建__builtin_return_address無依賴只能逐層取層數(shù)需手動(dòng)控制大多數(shù)項(xiàng)目我會(huì)優(yōu)先用glibc的backtrace因?yàn)樗銐蚝唵?、夠用配合正確的編譯選項(xiàng)能覆蓋九成場景。只有在高度優(yōu)化、幀指針被徹底省略且無法改編譯選項(xiàng)的情況下才考慮libunwind。這個(gè)取舍邏輯后面會(huì)展開講。2. glibc backtrace接口的用法與符號解析鏈路選定方案后真正動(dòng)手時(shí)你會(huì)發(fā)現(xiàn)backtrace本身只有兩個(gè)函數(shù)但“打印出人能看懂的信息”這件事難點(diǎn)全在符號解析上。這一章把接口用法和解析鏈路講透。2.1 backtrace與backtrace_symbols的分工glibc提供的核心接口就兩個(gè)#include execinfo.h int backtrace(void **buffer, int size); char **backtrace_symbols(void *const *buffer, int size);backtrace負(fù)責(zé)填充地址數(shù)組返回實(shí)際抓到的層數(shù)backtrace_symbols負(fù)責(zé)把地址數(shù)組翻譯成字符串?dāng)?shù)組。這里有個(gè)容易忽略的點(diǎn)backtrace_symbols內(nèi)部會(huì)malloc一塊內(nèi)存來存放所有字符串用完必須手動(dòng)free否則每次調(diào)用都漏一塊。而backtrace_symbols_fd是它的兄弟接口直接把結(jié)果寫到文件描述符不經(jīng)過malloc在信號處理函數(shù)里更安全。一個(gè)最小可用的封裝大概長這樣#include execinfo.h #include stdio.h #include stdlib.h void print_stack(void) { void *buffer[64]; int nptrs backtrace(buffer, 64); char **strings backtrace_symbols(buffer, nptrs); if (strings NULL) { perror(backtrace_symbols); return; } for (int i 0; i nptrs; i) { printf(%s\n, strings[i]); } free(strings); }跑起來輸出大概是這樣一行行的./demo(0x11a9) [0x55f...] ./demo(0x1256) [0x55f...] /lib/x86_64-linux-gnu/libc.so.6(0x29d90) [0x7f...]看到問題了嗎只有偏移地址沒有函數(shù)名沒有文件名行號。這就是很多人第一次用backtrace后覺得“沒啥用”的原因——接口給了但符號沒解析出來。2.2 為什么默認(rèn)輸出只有偏移地址backtrace_symbols的輸出質(zhì)量取決于可執(zhí)行文件里有沒有動(dòng)態(tài)符號表。默認(rèn)編譯出來的程序符號表里只有動(dòng)態(tài)鏈接需要的少量符號函數(shù)名大多不在其中所以只能顯示“模塊名偏移”。要讓它顯示函數(shù)名編譯時(shí)必須加-rdynamic等價(jià)于鏈接時(shí)加--export-dynamic把所有符號導(dǎo)出到動(dòng)態(tài)符號表。gcc -g -rdynamic demo.c -o demo加上之后輸出會(huì)變成./demo(print_stack0x1a) [0x55f...] ./demo(main0x2c) [0x55f...]函數(shù)名有了但文件名和行號還是沒有。因?yàn)閎acktrace_symbols只查符號表不查調(diào)試信息。行號還原是另一套機(jī)制得靠addr2line或者dladdr配合調(diào)試段來完成。2.3 用addr2line把地址還原成文件行號拿到偏移地址后最直接的行號還原方式是調(diào)用addr2line。但注意backtrace_symbols給的是“模塊內(nèi)偏移”而addr2line需要的是“虛擬地址減去模塊加載基址”后的偏移兩者在非PIE程序里恰好一致在PIE程序里需要做減法。這就是為什么很多人直接拿輸出地址喂給addr2line結(jié)果得到??:0。正確做法是先用dladdr拿到模塊基址算出真實(shí)偏移再交給addr2line。或者更省事——直接在程序里用backtrace_symbols拿到帶偏移的字符串解析出偏移值再拼成addr2line -e 模塊名 偏移去執(zhí)行。不過運(yùn)行時(shí)fork子進(jìn)程執(zhí)行外部命令有性能和安全性顧慮更優(yōu)雅的方案是鏈接libbfd或libdw在進(jìn)程內(nèi)解析但那就重了。我的經(jīng)驗(yàn)是開發(fā)調(diào)試階段用addr2line腳本后處理日志完全夠用線上環(huán)境如果確實(shí)需要行號優(yōu)先在編譯時(shí)保留調(diào)試信息并用libdw做進(jìn)程內(nèi)解析或者干脆接受“函數(shù)名偏移”這個(gè)粒度。因?yàn)榻^大多數(shù)線上問題定位到函數(shù)名就已經(jīng)能圈定范圍了行號屬于錦上添花。2.4 一個(gè)可直接復(fù)用的解析腳本把日志里的地址批量還原成行號我常用這么一段shell#!/bin/bash # 用法: ./resolve.sh 可執(zhí)行文件 日志文件 BIN$1 LOG$2 grep -oP 0x[0-9a-f] $LOG | while read addr; do echo -n $addr - addr2line -e $BIN -f -C $addr done-f輸出函數(shù)名-C做C符號demangle。這個(gè)腳本在排查偶發(fā)崩潰時(shí)救過我很多次——日志里存著原始地址事后拿對應(yīng)版本的可執(zhí)行文件一跑調(diào)用鏈清清楚楚。前提是可執(zhí)行文件版本必須和產(chǎn)生日志的版本完全一致否則地址對不上這是硬約束。3. 編譯選項(xiàng)決定回溯質(zhì)量-g、-rdynamic與幀指針的三角關(guān)系上一章反復(fù)提到編譯選項(xiàng)這一章專門把它們之間的關(guān)系理清楚。因?yàn)檫\(yùn)行時(shí)回溯能不能用、好不好用八成取決于編譯時(shí)怎么配。3.1 -g與調(diào)試信息的取舍-g生成DWARF調(diào)試信息是行號還原的前提。沒有它addr2line只能給出函數(shù)名還得有符號表給不出文件和行號。但-g會(huì)讓可執(zhí)行文件顯著變大線上發(fā)布時(shí)很多人會(huì)strip掉。這里有個(gè)折中技巧用-g編譯但發(fā)布時(shí)用objcopy --only-keep-debug把調(diào)試信息單獨(dú)抽成一個(gè).debug文件存起來主程序strip掉調(diào)試段但保留符號表。這樣線上程序體積可控出問題時(shí)拿.debug文件配合addr2line照樣能還原行號。gcc -g -rdynamic demo.c -o demo objcopy --only-keep-debug demo demo.debug strip --strip-debug demo # 事后解析 addr2line -e demo.debug -f -C 0x11a9這套流程我在多個(gè)項(xiàng)目里用過兼顧了體積和可診斷性值得固化進(jìn)構(gòu)建腳本。3.2 -rdynamic到底改了什么前面說過-rdynamic讓函數(shù)名出現(xiàn)在輸出里但它的實(shí)際作用是把所有符號加入動(dòng)態(tài)符號表.dynsym而不只是鏈接需要的那些。副作用是可執(zhí)行文件的動(dòng)態(tài)符號表變大加載時(shí)符號解析稍慢一點(diǎn)點(diǎn)但通??梢院雎?。需要提醒的是-rdynamic只影響“能不能看到函數(shù)名”不影響行號。有人加了-rdynamic發(fā)現(xiàn)還是沒有行號就以為選項(xiàng)沒用其實(shí)是把兩件事混為一談了。函數(shù)名靠符號表行號靠調(diào)試信息兩條獨(dú)立的鏈路。3.3 幀指針省略最隱蔽的回溯殺手這是最容易踩的坑?,F(xiàn)代編譯器在-O2及以上默認(rèn)開啟-fomit-frame-pointer把rbp省出來當(dāng)通用寄存器用。結(jié)果就是棧幀鏈斷裂backtrace只能抓到當(dāng)前函數(shù)和少數(shù)幾層再往上就亂了或者提前終止。解決辦法有兩個(gè)編譯時(shí)顯式加-fno-omit-frame-pointer強(qiáng)制保留幀指針。代價(jià)是少一個(gè)通用寄存器性能有輕微損失通常1%以內(nèi)絕大多數(shù)場景可接受。改用libunwind它基于DWARF的CFI信息做棧展開不依賴幀指針。代價(jià)是引入依賴、接口更復(fù)雜。我的建議是如果項(xiàng)目能控制編譯選項(xiàng)優(yōu)先-fno-omit-frame-pointer glibc backtrace簡單可靠如果是接手的遺留系統(tǒng)、編譯選項(xiàng)動(dòng)不了再上libunwind。這個(gè)決策順序能省掉大量折騰。3.4 一組推薦的編譯配置綜合下來需要運(yùn)行時(shí)回溯的模塊我一般用這套CFLAGS -g -O2 -fno-omit-frame-pointer -rdynamic-g保行號-O2保性能-fno-omit-frame-pointer保棧幀鏈-rdynamic保函數(shù)名。四個(gè)選項(xiàng)各司其職缺一個(gè)回溯質(zhì)量就掉一檔。如果對體積敏感再疊加前面說的debug文件分離方案。提示-O2配合-fno-omit-frame-pointer時(shí)某些內(nèi)聯(lián)函數(shù)仍然不會(huì)出現(xiàn)在棧里因?yàn)閮?nèi)聯(lián)本質(zhì)上是把函數(shù)體展開沒有獨(dú)立棧幀。看到調(diào)用鏈“缺層”先別懷疑工具想想是不是被內(nèi)聯(lián)了。4. 把回溯嵌進(jìn)真實(shí)代碼信號處理與日志落地的工程細(xì)節(jié)接口會(huì)用了、編譯選項(xiàng)配好了接下來是把它嵌進(jìn)真實(shí)項(xiàng)目。這一步的坑不在API而在“什么時(shí)候調(diào)、在什么上下文調(diào)、結(jié)果往哪寫”。4.1 在信號處理函數(shù)里打印崩潰棧最常見的落地場景是捕獲崩潰信號SIGSEGV、SIGABRT等在信號處理函數(shù)里打印調(diào)用棧。但信號處理函數(shù)有嚴(yán)格的異步信號安全約束只能調(diào)用可重入函數(shù)不能malloc不能用printf。而backtrace_symbols內(nèi)部會(huì)mallocprintf也不是異步信號安全的。所以信號處理里應(yīng)該用backtracebacktrace_symbols_fd的組合直接寫文件描述符#include signal.h #include execinfo.h #include unistd.h #include fcntl.h static void crash_handler(int sig) { void *buffer[64]; int nptrs backtrace(buffer, 64); int fd open(/tmp/crash.log, O_WRONLY | O_CREAT | O_APPEND, 0644); if (fd 0) { backtrace_symbols_fd(buffer, nptrs, fd); close(fd); } signal(sig, SIG_DFL); raise(sig); }注意最后兩行恢復(fù)默認(rèn)處理并重新raise讓程序按正常流程終止該產(chǎn)生core還是產(chǎn)生core而不是被我們的handler吞掉。這個(gè)細(xì)節(jié)很多人漏掉導(dǎo)致崩潰被“吃掉”、進(jìn)程狀態(tài)異常。4.2 主動(dòng)埋點(diǎn)在關(guān)鍵路徑而非只等崩潰信號處理只能抓崩潰但很多問題不崩潰——比如邏輯卡死、返回了錯(cuò)誤結(jié)果、性能突然劣化。這類場景更適合在關(guān)鍵路徑上主動(dòng)埋點(diǎn)條件觸發(fā)時(shí)打印當(dāng)前棧。比如一個(gè)請求處理函數(shù)檢測到耗時(shí)超過閾值就把當(dāng)前調(diào)用棧打出來if (elapsed_ms 500) { log_warn(slow path detected, dumping stack:); print_stack_to_log(); }這種“條件回溯”比無差別打印有用得多日志量可控信噪比高。我在一個(gè)服務(wù)里給慢查詢加了這套很快就定位到某個(gè)鎖競爭導(dǎo)致的偶發(fā)卡頓比翻監(jiān)控指標(biāo)快多了。4.3 日志落地的幾個(gè)實(shí)操約束回溯信息寫日志時(shí)有幾個(gè)細(xì)節(jié)值得注意加時(shí)間戳和線程ID。多線程程序里光有調(diào)用棧不知道是哪個(gè)線程打的等于白打。用syscall(SYS_gettid)拿內(nèi)核線程ID和日志框架的線程標(biāo)識(shí)對齊。限制層數(shù)。64層通常夠用太深既拖慢速度又刷屏。遞歸調(diào)用特別深的場景可以適當(dāng)調(diào)大但要評估開銷。控制頻率。高頻路徑上無條件打印會(huì)拖垮性能務(wù)必加條件或采樣。注意日志切割。崩潰棧往往一次寫一大段如果日志框架有單條長度限制可能被截?cái)嘁崆按_認(rèn)。4.4 多線程環(huán)境下的一個(gè)隱蔽問題backtrace本身是線程安全的但如果你在信號處理里打印而信號可能打斷任意線程就要小心信號處理函數(shù)運(yùn)行在被打斷線程的棧上此時(shí)backtrace抓到的棧是“信號處理函數(shù) 被打斷位置”的混合棧前幾層是信號框架真正的崩潰點(diǎn)要往下找。這個(gè)特性不是bug但解讀日志時(shí)要知道別被前幾層__restore_rt之類的框架函數(shù)迷惑。5. 踩過的坑與排查鏈路實(shí)錄這一章不講新接口專門復(fù)盤幾個(gè)真實(shí)踩過的坑把排查過程完整走一遍因?yàn)檫@些東西文檔里基本不會(huì)寫。5.1 加了-rdynamic還是只有地址一次完整的定位過程現(xiàn)象按文檔加了-rdynamicbacktrace_symbols輸出依然是./demo(0x11a9)沒有函數(shù)名。排查鏈路先確認(rèn)選項(xiàng)真的生效了。用readelf -s demo | grep FUNC看動(dòng)態(tài)符號表里有沒有目標(biāo)函數(shù)。結(jié)果發(fā)現(xiàn)目標(biāo)函數(shù)不在.dynsym里。懷疑是靜態(tài)函數(shù)。檢查代碼果然是static void helper()。靜態(tài)函數(shù)不導(dǎo)出到動(dòng)態(tài)符號表-rdynamic也救不了。驗(yàn)證把static去掉重新編譯函數(shù)名出現(xiàn)了。結(jié)論-rdynamic只導(dǎo)出有外部鏈接屬性的符號static函數(shù)天然不可見。如果確實(shí)需要回溯靜態(tài)函數(shù)只能靠調(diào)試信息addr2line而不是符號表。這個(gè)區(qū)分很關(guān)鍵很多人卡在這里以為是選項(xiàng)沒生效。5.2 回溯只有兩層就斷了幀指針被優(yōu)化掉現(xiàn)象backtrace返回的層數(shù)明顯偏少調(diào)用鏈在中間某處就斷了。排查鏈路用objdump -d demo | grep -A2 func:看函數(shù)序言發(fā)現(xiàn)沒有push %rbp; mov %rsp,%rbp說明幀指針被省略了。確認(rèn)編譯選項(xiàng)果然帶了-O2且沒加-fno-omit-frame-pointer。加上該選項(xiàng)重編層數(shù)恢復(fù)正常。這個(gè)坑的隱蔽之處在于程序功能完全正常只有回溯不全不專門驗(yàn)證根本發(fā)現(xiàn)不了。所以我的習(xí)慣是凡是依賴回溯的模塊構(gòu)建后跑一個(gè)自檢用例斷言回溯層數(shù)達(dá)到預(yù)期把這個(gè)問題擋在發(fā)布前。5.3 addr2line返回??:0的三種原因拿到地址喂給addr2line卻得到??:0原因通常有三類現(xiàn)象原因解決全部??:0可執(zhí)行文件沒帶-g重新用-g編譯或用對應(yīng)debug文件部分??:0地址是PIE偏移未減基址用dladdr算基址后相減特定函數(shù)??:0該地址落在庫函數(shù)內(nèi)換對應(yīng)庫的debug符號文件第三類最容易被忽略調(diào)用棧里混著libc的函數(shù)拿主程序的debug文件去解析libc地址當(dāng)然解不出。要針對每個(gè)模塊用各自的符號文件。5.4 信號處理里用printf導(dǎo)致的二次崩潰現(xiàn)象崩潰時(shí)打印棧結(jié)果程序直接卡死或又崩一次日志沒寫出來。原因信號處理函數(shù)里調(diào)了printf而printf內(nèi)部有鎖和緩沖區(qū)操作不是異步信號安全的。如果信號恰好打斷了printf自身就會(huì)死鎖。修復(fù)改用write或backtrace_symbols_fd直接寫fd全程不碰stdio。這個(gè)坑的教訓(xùn)是信號處理函數(shù)里能用什么、不能用什么必須嚴(yán)格對照異步信號安全函數(shù)列表憑直覺寫遲早出事。6. 性能開銷評估與生產(chǎn)環(huán)境的啟用策略最后聊聊大家最關(guān)心的這玩意兒到底多慢線上能不能常開。6.1 單次回溯的耗時(shí)構(gòu)成一次完整回溯的耗時(shí)主要在三塊抓地址backtrace本身微秒級、符號解析backtrace_symbols涉及內(nèi)存分配和符號查找?guī)资綆装傥⒚搿懭罩救Q于IO。實(shí)測在普通x86機(jī)器上抓64層地址加符號解析單次大約在幾十微秒量級具體隨層數(shù)和符號數(shù)量浮動(dòng)。這個(gè)開銷放在低頻路徑崩潰處理、慢請求告警完全無感放在每秒幾十萬次的高頻路徑上就是災(zāi)難。所以啟用策略的核心是按場景分級而不是一刀切。6.2 分級啟用策略我一般這么分崩潰信號處理無條件啟用反正進(jìn)程要掛了開銷無所謂。錯(cuò)誤返回路徑條件啟用比如連續(xù)失敗N次才打一次避免刷屏。性能告警路徑采樣啟用比如每100次超閾值只打1次兼顧可觀測性和開銷。正常高頻路徑默認(rèn)關(guān)閉需要時(shí)通過配置或信號動(dòng)態(tài)打開。這種分級讓回溯能力“隨時(shí)可用但不常開”是生產(chǎn)環(huán)境的穩(wěn)妥做法。6.3 用信號動(dòng)態(tài)開關(guān)回溯一個(gè)實(shí)用技巧注冊一個(gè)用戶信號比如SIGUSR1收到時(shí)把全局的回溯開關(guān)翻轉(zhuǎn)。線上排查時(shí)給進(jìn)程發(fā)個(gè)信號就能臨時(shí)打開詳細(xì)回溯排查完再發(fā)一次關(guān)掉不用重啟、不用改配置。static volatile sig_atomic_t g_trace_on 0; static void toggle_handler(int sig) { (void)sig; g_trace_on !g_trace_on; }注意開關(guān)變量要用sig_atomic_t保證讀寫原子性。這個(gè)機(jī)制在定位偶發(fā)問題時(shí)特別好用相當(dāng)于給線上進(jìn)程裝了個(gè)可遠(yuǎn)程觸發(fā)的“探針”。6.4 別忘了驗(yàn)證回溯本身是否可靠最后強(qiáng)調(diào)一個(gè)容易被忽視的點(diǎn)回溯機(jī)制自己也可能出問題幀指針被優(yōu)化、符號被strip、地址算錯(cuò)。所以要有自檢手段——在啟動(dòng)時(shí)或測試用例里主動(dòng)打一次已知調(diào)用鏈的棧斷言層數(shù)和函數(shù)名符合預(yù)期。把回溯當(dāng)成一個(gè)需要測試的功能而不是“配了就一定對”的黑盒這個(gè)意識(shí)能幫你避免在真正出事時(shí)才發(fā)現(xiàn)回溯是壞的。我個(gè)人在實(shí)際項(xiàng)目里的體會(huì)是運(yùn)行時(shí)調(diào)用棧這套東西配起來不復(fù)雜難的是把編譯選項(xiàng)、符號解析、信號安全、性能開銷這幾件事同時(shí)照顧到。一開始圖省事只調(diào)backtrace結(jié)果線上真出事時(shí)發(fā)現(xiàn)只有地址沒有函數(shù)名那種感覺比沒有日志還難受。后來把-g -fno-omit-frame-pointer -rdynamic固化成模板、把debug文件分離寫進(jìn)構(gòu)建腳本、把信號處理和條件埋點(diǎn)做成通用組件才算真正把這套能力用起來。如果你現(xiàn)在正準(zhǔn)備給項(xiàng)目加這個(gè)能力建議先從崩潰信號處理這一條鏈路做通跑穩(wěn)了再往主動(dòng)埋點(diǎn)擴(kuò)展步子別邁太大。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
超极99精品| 99热日本| 99精品大片| 色播五月婷婷| 欧美色六月婷婷| 成人无码髙潮喷水A片| 中文人妻主播久久| 激情九月丁香婷婷| 成人五月天丁香| 天天摸天天肏| 丁香五月天堂网| 色综合久久五月| 99无码| 五月丁香久久网| 九月丁香| 日本天天色| 在线看av| 欧美va视频| 日韩人妻在线观看| 五月天激情小说| 五月丁香色婷婷综合| 蜜乳久AV| 激情文学五月丁香六月婷婷 | 激情五月小说婷婷| 婷婷五月激情片| 91妻人人爽人人看片| 四色五月婷婷| 五月丁香六月婷婷综合在线| 无码少妇高潮喷水A片免费| 99色一| 丁香操逼| 亚洲综合无码| 激情涩涩网| www.色欲丁香婷婷| 五月丁香网站| 精品无码99| 九九精品婷| 超碰操网| 五月天激情www| 婷婷在线播放av| 国产做A爰片毛片A片美国| 丁香六月视频免费观看| 亭亭玉立国色天香| 先锋资源婷婷| 思思99热| 伊人玖玖婷婷| 狠狠色婷婷7| 新激情婷婷| 综激情网| 五月婷婷激情中心| 开心五月综合激情网| 99热这里只有精品9| 久久精品国产色| 婷婷影院A成人| 久久久人妻系列| 无码啪啪| 欧美WW在线网| 全部老头和老太XXXXX| 激情开心五月天婷婷基地丁香社区| 狠狠综合区| 五月丁香黄色视频| 九九热免费| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 婷婷亚洲日本| 99亚洲视频| 五月天综合网| 欧美综合五月丁香六月婷| 九九视频在线免费视频| 天天色播| 亚洲成人综合网在线免费观看| 色色色色色色色色色色色色色97| 五月丁香999| 国产免费av在线| 日韩AV在线影片| 婷婷五月天AV| 国产成人网| 亚洲婷婷五月| 99色在线| 99精品久久| 五月婷婷深爱六月| 亭亭丁香久久五月| 国产亚洲色婷婷久久99精品91| 99精品偷自拍| 五月婷丁香| 九九大香蕉黄色影院| 五月丁香六月激情综合| 91热er| 成人网在线观看视频| 五月婷婷色色| 婷婷五月天久久| 婷婷六月激情丁香| 午夜色色色极品视频| 色婷婷丁香九月| 色婷大香蕉| 人妻熟人中文字幕一区二区| 国产成人+综合亚洲+天堂| 丁香婷婷色六月| 婷婷伊人| 久久3p| 亚洲视频一区| 精品一二三区久久AAA片| 五月婷婷与六月丁香图片激情| 91精品国产日韩91久久久久久国模| 色五月大香蕉| 99热碰碰| 人妻激情在线| 免费观看欧美成人AA片爱我多深| 日日爽日日操| 激情五月综合网| 久久激情五月网| 日韩aⅴ视频| 久久精品一区二区三区四区| 国产亚洲成AV人片在线观黄桃| 熟女激情五月天| 丁香五月另类色婷婷麻豆| 国产精品久久久海的味道| 五月色丁香成人| 激情亚洲婷婷| 97色永久免费视频| 色婷婷91| 欧美三级视频下载| 亚洲视频另类| yjzz亚洲国产| 青青草免费公开视频| 天天爽天天| 婷婷另类小说| 久久五月天婷婷| 丁香五月婷婷大香蕉| 欧美婷婷精品激情| 97精品自拍视频| 久9视频免费播放| 激情五月激情综合网| 九九热在这里只有精品| 婷婷激情五月天小说校园| 蜘蛛女免费观看完整版高清电影| oumeisesewang| 少妇激情五月婷婷| 这里只有精品视频一区| AV国产有码| 五月婷婷,六月激情| 婷婷丁香成人在线视频| 六月丁香激情婷婷| 综合噜噜| 香蕉综合在线| 狠狠爱综合网| 激情婷婷五月丁香啪啪啪| 五月婷婷 婷婷五月 一区二区 久久久 | 亚洲国产99| 99热在线播放| 97色色色| 亚洲操逼网| 亚洲五月婷婷| 极品少妇XXXX精品少妇偷拍| 日韩中出视频| 激情婷婷五月综合| 婷婷五月综合网| 91免费看片| 青青草原亚洲天堂| 婷婷丁香五另类网站| 极品人妻videosss人妻| 色婷婷激情视频| 久狠日av| 97碰碰视频在线观看| 99综合久久| 99在线精品视频| 天天操天天插| 日韩AV在线免费| 色五月婷婷青娱乐| 色五月婷婷久久爱| 久热网在线视频| 婷婷五月天色播| 超级碰碰碰97免费| 婷婷精品| 精品九九九久| 五月天婷婷操逼视频| 99久久9| 婷婷五月免费观看| 涩涩涩五月天| 人人草人人爱| 亚洲成人综合网在线免费观看| 人人性久久| 人人色人人摸人人看| 久久欧洲久久| 影音先锋777xfplay色资源网站| 激情av在线| www.久久99| 久久91久久精品久久| 五月天色色色色色| PORNY九色9l自拍视频成人| 色之综合网| 激情综合六月| 日韩1区2区| 五月婷婷色色爱| 丁香五月网| 激情婷婷五月久久| 热久久这里只有精品20| 任你爽精品免费视频6| 中文字幕黄色片| 久婷婷久草| 亚洲天99| 久久66精品| 色婷婷丁香五月| 久久精品系列| 久久精品无码一区| 男女99免费视频| 有码人妻久久| 99热综合色图| 亚洲人妻AV| 色色色色色色色色网站| 一起草Av| 九九九九九九九九九九九九九九九九九九九在线视频 | 五月激情综合婷婷| 伊人婷婷大香蕉| 国产乱子轮XXX农村| 中文久久婷婷| 99福利视频| 五月丁香无码| 狠狠狠狠青草| 婷婷色5月天在线。| 久久99网| 青青草婷婷五月天| 色很很96| 色色五月天丁香婷婷| 丰满少妇猛烈A片免费看观看 | 成人视频九九| 亚洲AV综合在线观看| 国产人妻777人伦精品HD| 日本高清久| 婷婷五月激情片| 久久婷婷国产| 五月丁香综合久久夜夜| 五月天小说激情| 久8色色| 色九九综合| 五月丁香六月停停停| 婷婷五月丁香综合激情| www色五月天| 99re这里| 精品99在线| 婷婷丁香激情| 日本乱子人伦在线视频| 99热最新| WWW,五月| 青青999| 色综合天天网| 色五月婷婷影院| 成人在线高清| 99av视频| 久久久久久久久久久-久五月天婷婷| 亚洲激情综合网| 五月激情丁香五月宗合| 六月丁香五月天| 色婷婷五月影院| 天天干天天色天天干| 成人日韩欧美| av色婷婷| 五月丁香亭亭操逼| av第一二区| 色婷婷香蕉丁丁网| 色婷婷基地 | 日本九九九九| 超碰在线视屏| 婷婷操超碰| 婷婷五月婷| 性欧美大战久久久久久久83| 五月天激情黄色小说在线观看| 深爱激情五月网| 色婷婷成人色网| 深爱 五月天| www久| 五月天婷婷激情在线色图| 色色色色色色色色色999| 99自拍视频| 这里只有精品免费在线视频| 久久曰曰| 成人丁香五月| 五月婷婷av| 人人操超碰| 夜夜爽日日躁| 无码免费人妻A片AAA毛片西瓜| 丁香五月激情啪| 丁香婷婷十月| 五月婷婷性爱网| 五月天婷婷开心| 最近中文字幕大全免费版在线 | 五月丁香啪。| 五月天激情网图片| 97碰碰视频| 久久99网| 草榴视频网| 91成人性爱视频| 久久久久97| 欧美久久五月婷婷| 国产,欧美,学生妹,视频| 九九精品在线视频观看| 99这里只有| 天天射美女| 夜夜资源站| 操逼巨乳91| 亚洲五月花| 激情五月瑟瑟| 日本 @ va 免费| 综合色色五月| 啄木鸟丝袜美女福利视频| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 丁香五月天堂亚洲社区| 日韩九九| 二级黄色毛片| 92久久| 欧美天堂久久| 丁香五月久久| 人人操Av| 狠狠一日| 五月天婷婷亚洲| 色婷婷色五月综合| 五月丁香操婷逼| 成人婷99最新| 中文字幕在线免费观看视频| 夜夜爽日日躁| 97在线日韩| 婷婷六月激情综合| 激情五月四色| 日本人人xxx| 婷婷五月丁香色综合| 欧美久久网| 成人网址在线观看| 五月丁香亭亭| 九九视频这里有精品| 97偷拍对白视频| 中文AV网| 婷婷性爱| 91紱請| 99热久久这里只有精品2010| 久久性刺激| 超碰久热| 天天爱天天做天天爽| 五月婷婷性爱网| 人妻精品一区二区三区| 日本99热| 五月天操逼激情| 色综合久久88色综合天天| 999九九九久久久99HD| 超碰人人操| 丁香五月色| 国产av天堂| 国产精品成人av在线观看春天| 亚洲AV成人无码电影| 久热黄色| 色哟哟精品| 五月天六月婷婷电影| 97久久精品视频| 99热这里只有精品9| 亚欧州精品视频| 99热只有| 天天爽天天日天天舔| 国精产品一区二区三区| 婷婷五月六月| 思思久久99热只有频精品66| 久久婷婷五月丁香网| 欧美99热| 婷婷深爱五月丁香| 亚洲一个色| 91蝌蚪窝视频在线| 五月丁香操婷逼| 丁香五月婷婷久久久| 丁香五月婷婷图片综合| 久久伦乱| 能看的av片| 五月丁香黄色视频| 免费黄网不卡AV| 天天干夜晚夜操| 成人看片网站| 激情婷婷护士激情| 婷婷网五月天| 开心激情网五月| 欧美日韩123| 五月综合视频| 91日视频| 天天添天天摸天天天天做| 欧美日本高清视频99| 538在线精品| 天天操天爱综合| 91色色色18| 91九色在线| 日韩无码专区| 婷婷五月丁香色色| 久久久月丁香| 香蕉久久av一区二区三区| 色色色色热| 五月色婷婷综合色| 久久9999| 天久综合91综合首页| 99色在线观看视频| 开心综合激情综合| 婷婷性爱| 超碰国产AV| 国产精产国品一二三在观看| 五月丁香六月激情综合| 色操b| 五月色情婷婷| 深爱激情久久| 婷婷久久久| 色色999三级片| 丁香九月婷婷| www.天天干| 婷婷综合五月激情| 91超碰人人操| 超碰高清在线| 九九综合九色欧美狠狠| 99激情| 免费在线观看欧美激情xx小视频| 日日鲁鲁夜夜爽爽| 99这里有精品视频3| 色婷六月| 淫荡综合网| 超碰99在线观看| 五月婷色丁香| 99综合| 五月天激情视频网站| 五月天激情小说| 五月婷婷丁香综合,亚洲天堂| 日本综合色图| 99热在线精品观看| 综合伊人久久| www.婷婷五月| 国精产品久久| 开心五月丁香综合久久| 婷婷综合| √天堂资源在线人妻熟女| 九色视频入口91| 国产乱子轮XXX农村| 欧美色色色色色色色色色色| 亚洲激情网| 丁香婷婷十月| 久久久久人无码人妻| 色五月xxx| 五月婷婷偷拍| 九九AV在线| 碰碰人人人| 久久综合婷婷| 天天综合精品| 五月叮香啪| 丁香九月综合| 色色色五月婷| 九九热最新| 丁香六月激情网C0W| 激情网 五月天| 五月婷婷新网站| 97人人看| 五月丁香婷中文| 中文字幕欧美久久| 五月婷婷日| 中文字幕欧美精品久久| 人人操超碰| 亚洲12p| 激情99| 99这里| 狠狠五月激情婷婷直播片| 激情五月天啪啪视频| 五月色色色| 中文字幕日韩成人| 成人精品人妻| 九九碰九九爱97超| www,色综合| 99无码免费视频| 97碰啪啪| 久久婷婷五月天懂色| 97碰人人操| 冬月かえでAV无码播放| 六月丁香激情| 色九九七七| 五月天婷婷亚洲| 久久人五月| 激情丁香五月综合| 超碰在线网站| 色五婷婷| 妇激情基地| 99综合视频一体| 丁香婷婷六月天| 久久婷婷五月丁香网| 99色色网| 成人免费超碰| 日本三级99人妇网站| 琪琪布丁香社区激情五月天| 97综合视频在线| 99久久超级| 91人妻九色大屁股| 丁香伊人五月色婷婷五十路| AV色婷婷| 婷婷五月丁香欧洲| 国産精品| 夜夜夜天天操| 99热日韩这里只有精品| AV 3P| 五月丁香激情深爱婷婷| 丁香五月婷久久| 婷婷性色| 婷婷五月天另类网站| 婷婷六月伊人| www五月天com| 色婷婷88| 五月天婷婷在线视频| 色婷婷影视| 免费看欧美成人A片无码| www五月婷婷88导航| 国产原创视频91九色| 色综合久久综合| 丁香九月综合| 色婷五月婷婷| 欧美成人猛片AAAAAAA| 无码激情AAAAA片-区区| 9色操| 91丨九色丨老农村| 色九网| 深爱激情网五月| 婷婷激情综合网| 伊人AV五月婷| 9久久精品| 在线视频九色97| 精品视频网| 99爱爱网| 五月婷婷新网站| 婷婷深爱五月亚洲综合| www.com五月天| 九热精品| 成人精品一区日本无码网 | 亚洲精品99| 久久色情| 婷婷五月天桃花网| 91久久综合亚洲噜噜成人在线| 日本99视频| 丁香五月在线观看综合| 激情五月天小说网| 91九色精品熟女内射| 日碰日| 97色色婷婷五月天| 五月天婷婷青青| 五月婷婷中文| 天天做天天爽| 大香蕉久久伊人网| 婷婷五月天av| 久久这里有精品在线观看| 亚洲成人av在线播放| 婷婷丁香18| 丁香婷婷五月| 草榴视频黄色网| 99色网站| 婷婷五月噜噜| 超碰色综合| 少妇被躁爽到高潮无码文| 人人操91色| 狠狠大香婷婷爱| 六月婷婷久久大全| A久久| 日本久碰| 婷婷色五月噜噜| 国产色色色色| 日韩人妻白浆视频系列| 激情五月天福利| 97福利视频| 婷婷丁香人妻久久在线观看| 日本一级黄色电影| 97男人天堂| 丁香五月亚洲激情婷婷射| 性天天中文网| 99热综合| 天天综合色丁香| 大香蕉伊在| 精品日本视频444| 日韩 中文 欧美| 丁香伊人综合| 97色婷婷成人综合在线观看| 99re资源在线视频导航| 97色碰| 常久最新免费的色吊丝| 婷婷91| 亚洲av无码精品色午夜| 婷婷五月天激情视频| 久激情网| 色爱综合五月| 丁香五月婷婷亚洲综合精品在线| 五月婷网| 久久全色| www激情网| 五月亭亭六月天| 日本欧美啪啪| 夜夜骑日日夜夜| 91热99| 婷婷激情综合色五月久久91| 婷婷六月激情啪啪| 丁香五月色情| 丁香玖玖| 九九激情视频| 亚洲爆乳无码精品AAA片蜜桃| 99狠狠色| 停婷丁五月在线| 五月婷婷 激情按摩| 亚洲午夜精品久久久久久人妖| 99热只有| 色婷婷91激情小说| 天天操天天操| 国产欧洲欧洲精品久久| 色五月婷婷操逼| 五月第四色| 九九在线热九九在线热99热| 精品视频这里只有精品| 中文字幕av在线| 激情久久月| 日本熟女一区二区| 无码激情AAAAA片-区区| 亚洲色色色色色| 99九无网码| 婷婷性爱综合| 色五月第四色| 色色五月天 亚洲| 五月丁香激情婷婷综合字幕| 玖玖婷婷五月天| 91狠狠色| 99热日韩| 99啪啪网| 免费亚洲婷婷| 五月婷婷色白丝| 亚洲无码九九| 丁香五月天91| 能直接看的AV网站| 五月天开心色色网| 丁香五月人妻熟女| 亚洲深喉aV| 夜夜天天久久婷婷| 开心五月色婷婷综合开心网| 色色色精品无码区| 丁香五月婷婷啪啪| 日日干日日色| 99色综合| 这里只有精品99视频| 久热这里只有| 五月总合激情网| 婷婷色播婷婷| 久久婷婷六月综合| 99热思思| 国产欧美婷婷| 天天做天天爱| 婷婷激情五月天7| 天天日天天舔| 天天色综合色色色色色。| 色五月激情五月开心五月| 67194国产| 婷婷丁香五月天激情| 色噜噜狠狠色综无码久久合欧美| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 六月丁AV| 在线免费观看激情视频| 开心五月深爱婷婷| 色五月激情问网站| 九九热99热| 五月婷婷综合在线视频| 五月婷婷六月开心| 2005天天干天天1| 丁香五月天激情免费在线观看AV777| 91久久九| 五月婷婷开心网| 婷婷五月激情五月丁香五月| 色婷婷五月天在线观看| 991国产精选视频在线播放下载| 婷婷内射视频在线| 久热伊人| 天天草婷婷五月| www.99热这里精品| 99热99操| 91一起艹| 丁香五月婷婷亚洲人| 五月天成人免费视频| 久久国产性爱A V| 丁香六月 人妻| 91婷婷色| 九九亚洲视频| 色五月av| 思思热精品免费视频| 九九一区| 丁香六月婷婷综合欧美| 久久久久久久久久久97| 色婷婷色99国产综合精品| 国产色色在线| www.99热国产| 久机视频这只有精品| 国产成人在线不卡AV| 99九九久久| 丁香激情五月综合网| 国产在线激情视频| 狠狠狠狠狠干| 色五月婷婷婷婷婷婷婷婷婷婷| 天天日天天爽| 九九热国产| www.色九月| 人人爽天天爽| 五月婷婷六月奇米网丁香| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 99色最新在线视频网站| 99热线观看9| 婷婷色五月天在线| 草婷婷在线| se99热久久一本| 婷婷在线视频| 丁香五月第四色88| 99干日本| 少妇水多A片太爽了| 丁香五月婷婷在线观看| 久久综合爱| 久久久亚洲精品一区二区三区浴池| 女人天堂 AV| 99热e| 极品少妇XXXX精品少妇偷拍| 俺去也五月天婷婷| 9久久精品| 丁香五月大香蕉在线99| 五月婷婷偷拍| 伊人干练久| 九九色区| 成人做爰A片免费看视频| www激情婷婷com| 热99国产精品| 色99xx| 91久久久久久| 五月亭亭综合五码| 久久久www| 人人妖人人97| 91五月天| 丁香五月天AV| 夜夜骑操AV| 亚洲第一av| 91综合在线| 国产精品VA在线| 99热精品少| 婷婷综合九月| 亚洲精品久久久无码| 精品人妻一区| 熟女五月天久久综合| 91日日日| 男人的天堂婷婷色五月| 操97| www夜夜操comwww| 久久久久久欧美精品se一二三四| 精品自拍97| 欧美精品999| 99热免费观看| 99在线视频在线观看| 伊人五月婷婷| 极品嫩草| 少妇高潮呻吟A片免费看软件| 一本色道久久综合狠狠躁小说| 99这里只有免费的精品| 综合性爱网| 伊人久久丁香狠狠婷婷综合香蕉 | WWW.久久.COM| 91九色首页| 思思热在线播放| 99热99热在线观看| 狠狠色噜噜狠狠狠狠综合| 激情玖玖综合网| 九九黄色网| 亚洲AV网址| 激情婷婷啪啪| 激情网第四色| 五月天婷婷色在线视频免费观看 | 日本色99| 五月激情婷婷丁香天堂| 久久五月丁香激情综合| 欧美精品999| 9久久网| 激婷网| 9久久精品| www.射伊蕉婷婷| 中文字幕色色| 亚洲天堂AAA| 色欲人妻综合aaaaaaaa网| 99视频网址| 久久33视频| 国产69精品久久久久999小说| 可以直接看的AV| 91九色欧美| 桔色成人在线| 五月天激情网页| 综合久色五月| 天天操天天日天天爱| 亚洲性爱电影| 五月婷婷六月丁香首页| 婷婷五月天丁香综合网| 天天日天天久久青青| 天天爽天天爽| 婷色五月天| 日韩操女| 人人操人人妻| 大地资源色婷婷视频在线| 99热在线精品观看| 玖玖无码中文| 久9免费视频| 五月婷婷天天| 婷婷五月电影院| 色欲五月婷婷| 中文字幕婷婷在线| 色99亚洲| www.久久99热地址发布| bukadeavzaixian| 精品热九九| 欧美成人猛片AAAAAAA| 精品无码久久久久久久久| 婷婷丁香五月激情| 99热在线播放| 亚洲激情AV| 色五月首页| 久99久在线| 激情AV在线| 色天堂在线| 久9视频免费播放| 婷婷五月在线视频| 99性爱视频| 激情五月婷婷| 五月天婷综合| 伊人久久大香线蕉av一区| 九九青草热| 亚洲AV在线免费看| 无码日本精品XXXXXXXXX| 婷婷综合在线| 噼里啪啦完整版中文在线观看| www99热| 99热这里是精品| www.99在线| 9l视频自拍9l九色成人| 色五月亚洲| 欧美顶级少妇做爰HD| 777精品久无码人妻蜜桃| 国产美女无遮挡裸体毛片A片 | 99热97| 久久九九国产精品怡红院| 成年人丁香五月| 色99色| 99久超碰| 深夜男女福利刺激影院一区完整| 97干在线视频| 热久精品| 99这里有精品视频| 欧美激情综合五月色丁香| 日韩在线观看网址| 久久性都花花世界成人免费视频| www.99操.com| 久热丁香| 亚洲无码播放| 五月总合激情网| 十月丁香婷婷| 五月天婷婷青青| 久久机热思思热| 婷婷香五月天| 毛片新网地| 一级性爱视频| 香蕉AV福利精品导航| 色五月丁香com| 99re在线免费视频| 日韩成人电影在线播放| 色区久久| 五月综亚洲| 日本熟女一区二区| 婷香五月激情视频| 97超碰人人操| 日韩AV片| 丁香花五月天| 婷婷五月天色综合| 丁香五月天在线观看| 99人妻碰碰碰久久久久视| 97人人操人人爽| 色婷婷成人| 色色色com| 人妻中文字幕网| 91综合国免费久入| 亚洲九九免费| 婷婷五亚洲| 丁香五月社区| 99久久性爱| 少妇人妻丰满做爰XXX| 97操女视频| www.色色五月天.com| 无码一区二区日韩| 国产精品A片| 97操碰在线视频| 色五月婷婷在线| 久久大香蕉丁香| 99超碰人人| 婷婷丁香五月天婷婷| 婷婷六月久久| 五月激情天| 九九RE视频在线精品| 99久久国产综合精品五月天喷水\| av第一二区| 狠狠干五月天婷婷网| 99秘 在线| 99免费在线视频| 五月天激情国产综合婷婷婷| 日本婷婷色| 九九九日本熟女| 久久九九99字幕| 婷婷五月成人| 婷婷综合久久| www,com,五月色色| AV在线观看网站| 久久五月网| 五月丁香六月| 99热这里| 999久久久国产精品| 激情久久四色| jizzdr| 在线综合网| 久综合4| 黄色五月婷婷| 九九热视频免费的| 中文字幕在线免费| 激情综合色五月丁香| 91网站黄| 色宗合久久五月婷婷| 色婷婷免费视频| 99热热热99精品丁香| 色五月色图| 先锋av性爱成人电影| 99久.| 91在线97视频| 91狠狠色丁香婷婷综合久久精品| 夜夜骑天天玩天天日| WWW.婷婷| 牛牛色av| 99高级会所久久| 激情久久丁香| 在线播放人妻| 99啪啪| 婷婷亚洲欧美丁香五月| 97人人操人人干| 情一色一乱一伦一91A| 婷婷五月天天| 网色99| 99久久偷拍视频| 天天 青草 制服丝袜 在线| 99这里只有精品视频| 国产精产国品一二三在观看| 久久性刺激| 精品51XX| 99热这里| 熟女网站久久| 色天天综合| 五月激情综合网| 亚洲九九婷婷| 色五月婷婷啪啪五月| 99re久久| 五月丁香婷婷激情四射迷人| 丁香五月激情六月| 色综合久久久久| 精品导航在线x不卡| 久久五月婷综合网| 大香蕉啪啪网| 色综合色色色色| 国产精品久久久久久五月天加勒比| 九九免费视频| 91操在线观看| 思思久热6| 黄桃AV无码免费一区二区三区| 九九婷婷综合| 桃色激情网| 97夫妻超碰| 狠狠色噜噜狠狠色噜噜噜999| 99人妻碰碰碰久久久久视| 国产女18毛片多18精品| 包操45分钟网站| 色久九| 欧美亚洲成人在线| 色欲五月婷婷| 五月激情综合网| 91啪啪视频| 日韩另类在线观看| 久久久五月天婷婷成人网| 99亚洲大片精品永久在线观看 | 成人短视频在线| 色九九九九| 丁香五月综合AV在线| 丁香激情综合| 另类图片 五月激情| 五月丁香综合啪啪| 伊人久久婷婷| 久久作爱| 狠狠色色综合| 婷婷丁香人妻天天爽| 日本久久色| 天天综合图片| 国产精品色色| 思恩热国产视频右线观看| 97操视频| 99操无码视频观看| 99色色网| 婷婷丁香色性爱| 开心激情网五月| 色婷婷色综合久久精品V| 五月色婷婷综合丁香精品无遮挡| 超碰久热| 五五月丁香花激情综合网| 色色婷婷五月天| 色99日韩| 婷婷九月激情| 人妻AV在线观看| 丁香九九九九| 大香蕉99热| 亚洲AV网址| 伊人久久大香线蕉av一区| www.五月丁香| 97超碰在线免费观看| 激情婷婷五月天| 丁香五月婷婷天堂大香蕉| 色色色热| 九九 激情 网| 人人摸人人澡人人| 99热国产婷婷| 殴美日韩成人| 91日日日| 中文AV在线播放| AV在线免费播放| 激情九月婷婷| 日本久久网| 少妇综合网| 五月婷六月综合在线观看| 欧美久热| 婷婷丁香五月天在线视频| WWW.桔色成人.COM| 久久996re热这里只有精品无码| 免费看欧美成人A片无码| 欧美婷| 人五月天婷婷喷水| 九九热精品6| 日韩精品无码AV| 99色色视频| 成人综合视频在线| 亚洲精品亚洲人成人网| www.超碰| 天天插天天射| 激情小说五月天中文字幕| 无码成人AAAAA毛片AI换脸| 俺也去综合| 久久99精品久| 99热只有| 51成人| 欧洲色| 五月丁香婷婷国产精品综合| 婷婷色色综合| 五月开心激情| 婷婷五月色综合| 99爱在线免费视频| 在线五月色播| 日韩熟女啪啪视频| 操一操干一干| 色射影院| 五月丁香成人网| 这里只有免费的精品| 日韩AV在线免费| 停停五月色宗合| 97色碰| 亚洲亚洲人成综合网络| www国产亚洲色婷婷com| 久久全色| 91人人爽狠狠狠| 丁香五月婷婷婷婷欧美综合| 亚洲欧美日韩VIP| 开心激情网在线| 久久伦乱| 91人妻PORNY九色大屁股| 亚洲精品小视频| 婷婷五月欧美| 人妻激情综合| 69堂午夜视频最新地址| 激情综合网激情五月丁香五月俺也去| 丁香六月婷婷色XXXXX| 美女激情综合| 婷婷亚洲天堂| 五月网在线| 亚欧州精品视频| 五月丁香影视| 亚洲成人噜噜| 秋霞A V毛片| 国产高潮A片羞羞视频涩涩| 丁香五月亚洲| 五月色色色| 国产乱妇乱子在线播视频播放网站| 国产无套精品一区二区| 久九色| 97超碰婷婷五月天| 亚洲另类日本| 青草网在线观看| 五月婷婷丁香日韩在线| WWW.桔色成人.COM| 五月花婷婷在线精品视频| 色噜噜狠狠狠狠色综合久欧美| 久久婷婷丁香| 婷婷丁香五月天熟女丝袜| 97国产精品女人碰碰| 丝袜人妻| 求可以看的AV网址| 99啊精典免费视频| 这里只有精彩视频| 天天色官网| www.五月婷婷.com| 天天综合精品| 青青草成人网| 婷婷五月天播| 97久操| 丁香六月激情综合| 玖玖资源站蜜臀| 久久久18| 午夜微拍福利| 99久久久免费| 欧美性爱5月天天天看| 99热大香蕉| 婷婷综合仓库中文| 色五月91| 天天综合网亚洲综合网| 六月婷婷av| 北条麻妃九九九国产精品视频| 九九人人精品| 亚洲精品小视频| 精品在线网站| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 五月丁香美女| 婷婷五月天你懂的| 国产精品18久久久| 激情五月综合亚洲另类| 亚洲综合干| 日本欧美国产| 天天干天天日蜜臀av| 九九激情网| AV五月婷婷露脸| Av性爱网站| 先锋资源婷婷| 在线播放人妻| 五月丁香| 五月天.com| 99re在线观看视频| 2017人人操| 91夫妻网站九色| 久久五月丁香| 九九无码| 人妻AV在线| 婷婷五月天激情综合深爱激情| 五月丁香婷婷啪啪| 国产女人十八水真多1| 六月丁香啪啪| 久久伦乱| 丁香五月五月婷婷五月天激情四射| 婷婷六月激情小说网| 天天透天天干| 久99999热视频在线观看免费| 欧美日朝成人| 开心网五月色婷婷| 婷婷五月开心中文字幕色| 国产欧美第五十五页| 亚洲殴洲精品Av在线| 欧美黑人巨大性生话| 五月香婷婷| 这里只有精品视频在线| 99精品久久久久久久婷婷久久| 开心婷婷中文字慕| 色爱99| 色色六月| 亚洲乱码日产精品BD| 99自拍视频在线观看| 思思久久精品| 另类综合国产| 精品网站99| 九九人人操| 色婷婷偷拍| 一本狠婷婷综合| 91 欧美| 九九激情网| 国产一级片| 六月久久婷婷| 五月丁香六月在线| 久久久五月婷婷| 色。 日日日| 如何安全看伊人婷婷| www98日本小时间到了| 婷婷久久五月丁香| 亚洲瑟瑟精品在线| 亚洲一个色| aa久久| 亚洲AV无码影院| 任我干视频在线观看| 99免费在线视频| 五月亭亭直播| 五月色色网| 五月婷婷色播| 深爱激情六月天| 色偷偷狠狠| 99热这里只有精品2016| 丁香六月av| 華人性愛AV在線| 综合色播| 亚洲综合1024| 超碰二区| 婷婷五月色影视先锋| 久久九九re热| 丁香五月天社区婷婷| 色综久久久| 欧美在线ee日韩| 91919191919久久成人视频| 202丰满熟女妇大| www.99在线| 久久HD| 夜夜谢天天干| 99免费在线| 五月婷婷激情综合网| 久热大香蕉| 婷婷色网站| 色婷丁香| 99色天堂| 日韩欧美一级大黄网站| 狼人婷婷久久| 外国碰视频网站97| 思思99久久| 超碰色综合| 欧美久久婷婷| 丁香五月激情婷婷| AV中文在线| 99这里只有精品|v| 婷婷五月天精品| 婷婷五月六月丁香| 色五月亚洲| 婷婷色中文字幕| 亚洲亚洲人成综合网络| 做爰丰满少妇1313| 全部老头和老太XXXXX| 欧美午夜乱妇午夜福利| 91在线就要啪| 九九热狼人| 在线一起草av| 五月婷婷色白丝| 色色婷婷丁香五月天| 天天搞天天色综合| 九九综合九九| 玖玖在线视频福利| 婷婷欧美色| 婷婷五月天亚洲色| 色色色色色色色色色999| 天天五月情| 开心深爱激情网| 五月婷婷成人| 中文字幕永久免费| 天天日天天色| 国产99久久久国产精品免费看| 欧美成人猛片AAAAAAA| 亚洲AV无码成人电影| 婷婷色六月| 六月色播| 538午夜激情| 日韩激情婷婷五月天| 久久九九99亚洲国产久精综合| 丁香六月五月婷婷| 第五色婷婷| 91九色丨国产丨爆乳| 五月天亭亭俺也| 另类少妇人与禽zOZZ0性伦| 色五月综合激情网| 综合激情九月婷婷,激情综合婷婷中文字| 久久天堂婷婷五月| av久热| 婷婷五月天另类视频| 俺去也在线视频|