免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

全鏈路壓測(cè)方案:DESP仿真度、流量隔離與自動(dòng)化基線

全鏈路壓測(cè)方案:DESP仿真度、流量隔離與自動(dòng)化基線 簡(jiǎn)介《全鏈路壓測(cè)最佳實(shí)踐》是一份面向性能測(cè)試工程師、測(cè)試開(kāi)發(fā)人員與穩(wěn)定性保障團(tuán)隊(duì)的實(shí)戰(zhàn)型文檔聚焦生產(chǎn)級(jí)全鏈路壓測(cè)從理論方法到工程落地的完整路徑。內(nèi)容圍繞全鏈路壓測(cè)的核心概念、適用場(chǎng)景與DESP模型展開(kāi)逐一拆解數(shù)據(jù)仿真度、環(huán)境仿真度、場(chǎng)景仿真度和壓力仿真度的設(shè)計(jì)要點(diǎn)并結(jié)合新東方續(xù)班體系案例說(shuō)明核心鏈路梳理、背景數(shù)據(jù)與參數(shù)化數(shù)據(jù)構(gòu)造、并發(fā)與TPS負(fù)載配置、壓測(cè)流量隔離及自動(dòng)化實(shí)施過(guò)程同時(shí)覆蓋壓測(cè)平臺(tái)架構(gòu)與功能規(guī)劃。壓縮包僅含1個(gè)docx文件大小約1.65MB結(jié)構(gòu)集中便于按章節(jié)檢索和復(fù)盤(pán)。已有364人學(xué)習(xí)適合需要系統(tǒng)理解全鏈路壓測(cè)模型設(shè)計(jì)、案例拆解與平臺(tái)建設(shè)思路的讀者參考。1. 從一次續(xù)費(fèi)窗口期說(shuō)起全鏈路壓測(cè)要解決的是「測(cè)不準(zhǔn)」某在線教育平臺(tái)的續(xù)報(bào)窗口期在晚上八點(diǎn)開(kāi)啟。測(cè)試同學(xué)提前在預(yù)發(fā)環(huán)境把下單接口壓到 3000 QPS曲線漂亮報(bào)告也寫(xiě)了。窗口一開(kāi)鏈路中間一個(gè)不起眼的規(guī)則校驗(yàn)接口把數(shù)據(jù)庫(kù)連接池占滿(mǎn)整個(gè)下單流程卡在原地運(yùn)維臨時(shí)擴(kuò)容才扛過(guò)去。這類(lèi)翻車(chē)在窗口期和大促現(xiàn)場(chǎng)并不少見(jiàn)原因也不神秘單接口壓測(cè)只回答了「這個(gè)接口能扛多少」沒(méi)有回答「這條業(yè)務(wù)鏈路在真實(shí)數(shù)據(jù)分布、真實(shí)并發(fā)配比、真實(shí)環(huán)境拓?fù)湎履芸付嗌佟埂H溌穳簻y(cè)要解決的就是后者——基于生產(chǎn)業(yè)務(wù)場(chǎng)景、系統(tǒng)環(huán)境和真實(shí)數(shù)據(jù)模擬海量用戶(hù)請(qǐng)求跑完整條鏈路再持續(xù)調(diào)優(yōu)。這份方案適合兩類(lèi)人做性能方向畢設(shè)、需要把模型和落地都講清楚的學(xué)生以及要給窗口期、大促做容量評(píng)估的開(kāi)發(fā)與測(cè)試。下面按模型設(shè)計(jì)、流量隔離、數(shù)據(jù)構(gòu)造、負(fù)載建模、避坑排查、驗(yàn)收答辯的順序展開(kāi)。2. 壓測(cè)模型設(shè)計(jì)DESP 四維仿真度怎么拆成可執(zhí)行參數(shù)全鏈路壓測(cè)的核心是四件事業(yè)務(wù)場(chǎng)景、數(shù)據(jù)鏈路、壓力模型、環(huán)境拓?fù)?。把這四個(gè)核心點(diǎn)抽象成模型就是 DESP數(shù)據(jù)仿真度D、環(huán)境仿真度E、場(chǎng)景仿真度S、壓力仿真度P。模型本身不難背難的是每個(gè)維度落到具體參數(shù)上時(shí)你到底要改哪個(gè)值。仿真度決定壓測(cè)結(jié)果的參考價(jià)值一個(gè)維度偷懶整份報(bào)告就只?!概苓^(guò)了」三個(gè)字。2.1 數(shù)據(jù)仿真度規(guī)模只是及格線復(fù)雜度才是分水嶺壓測(cè)數(shù)據(jù)分兩塊。一塊是被壓系統(tǒng)的背景數(shù)據(jù)也就是歷史存量和存量規(guī)模查詢(xún)類(lèi)場(chǎng)景對(duì)這塊特別敏感——同一個(gè)列表接口返回 1 萬(wàn)條和返回 10 萬(wàn)條結(jié)果耗時(shí)可能差一個(gè)量級(jí)。原則很樸素背景數(shù)據(jù)規(guī)模盡量貼近真實(shí)寧可多導(dǎo)一些不要圖省事只造幾百條。另一塊是請(qǐng)求的參數(shù)化數(shù)據(jù)可以來(lái)自線上脫敏數(shù)據(jù)也可以按參數(shù)規(guī)則自己構(gòu)造。這里最容易忽略的是數(shù)據(jù)復(fù)雜度。真正影響性能的往往不是總量而是對(duì)象之間的關(guān)聯(lián)分布。以續(xù)報(bào)場(chǎng)景為例同樣 100 個(gè)學(xué)員一種分布是 90 個(gè)學(xué)員各報(bào) 2 個(gè)班、10 個(gè)學(xué)員各報(bào) 10 個(gè)班另一種是 10 個(gè)學(xué)員各報(bào) 2 個(gè)班、90 個(gè)學(xué)員各報(bào) 10 個(gè)班。后者的整體性能明顯更差因?yàn)閱蝹€(gè)學(xué)員的關(guān)聯(lián)對(duì)象變多鏈路里逐條校驗(yàn)和優(yōu)惠計(jì)算的成本被放大。如果構(gòu)造數(shù)據(jù)時(shí)按平均分布鋪開(kāi)這條瓶頸根本壓不出來(lái)。數(shù)據(jù)分層構(gòu)造來(lái)源規(guī)模目標(biāo)需要控制的復(fù)雜度因子背景存量數(shù)據(jù)生產(chǎn)脫敏抽樣與生產(chǎn)同量級(jí)單賬號(hào)關(guān)聯(lián)對(duì)象數(shù)分布、歷史數(shù)據(jù)時(shí)間跨度請(qǐng)求參數(shù)數(shù)據(jù)日志回放 規(guī)則構(gòu)造覆蓋 Top 接口主要取值參數(shù)取值多樣性、邊界值占比業(yè)務(wù)規(guī)則數(shù)據(jù)按窗口期規(guī)則改寫(xiě)覆蓋當(dāng)前生效規(guī)則集規(guī)則命中比例、優(yōu)惠疊加層數(shù)分布比例不是拍腦袋定的得從訂單明細(xì)里統(tǒng)計(jì)出來(lái)。通常的做法是拉一段時(shí)間窗口期的訂單統(tǒng)計(jì)每個(gè)學(xué)員的報(bào)班量分布再按這個(gè)分布生成壓測(cè)數(shù)據(jù)。下面這段腳本就是按統(tǒng)計(jì)結(jié)果反向構(gòu)造的# 按真實(shí)報(bào)班量分布構(gòu)造學(xué)員-班級(jí)關(guān)系而不是平均分配 import random def build_student_class_pairs(n_students10000, n_classes5000, seed42): random.seed(seed) # 固定種子保證每輪壓測(cè)數(shù)據(jù)可復(fù)現(xiàn) pairs [] for sid in range(n_students): r random.random() if r 0.90: k random.randint(1, 5) # 90% 學(xué)員報(bào) 1~5 個(gè)班主體流量 elif r 0.95: k random.randint(6, 10) # 5% 學(xué)員報(bào) 6~10 個(gè)班 else: k random.randint(11, 30) # 5% 長(zhǎng)尾學(xué)員專(zhuān)門(mén)用來(lái)壓出瓶頸 pairs.extend((sid, cid) for cid in random.sample(range(n_classes), k)) return pairs三個(gè)參數(shù)要跟著業(yè)務(wù)走n_students決定并發(fā)賬號(hào)基數(shù)一般按預(yù)估峰值在線人數(shù)除以單賬號(hào)可復(fù)用次數(shù)來(lái)估n_classes要保證班級(jí)容量規(guī)則不會(huì)在壓測(cè)中途被耗盡比例閾值 0.90、0.95 是從訂單明細(xì)里統(tǒng)計(jì)出來(lái)的換了業(yè)務(wù)就得重算不要直接抄。種子固定是為了讓每輪基線壓測(cè)跑在同一份數(shù)據(jù)上否則性能波動(dòng)沒(méi)法歸因。2.2 環(huán)境仿真度線上壓測(cè)優(yōu)先線下等比例不等于等比縮環(huán)境仿真度看三個(gè)因子是否線上壓測(cè)、線下部署規(guī)模、線下服務(wù)器資源配置。首選當(dāng)然是在線上壓但要先建壓測(cè)通道、做數(shù)據(jù)隔離不能把真實(shí)數(shù)據(jù)攪亂。做不到線上壓線下就得按線上集群等比例部署服務(wù)器配置盡量保持一致否則仿真度會(huì)大打折扣。這里有一條血淚經(jīng)驗(yàn)等比例壓縮只壓應(yīng)用層不壓中間件瓶頸位置會(huì)整體錯(cuò)位。線上 200 臺(tái)應(yīng)用對(duì)應(yīng) 20 臺(tái)數(shù)據(jù)庫(kù)你在線下壓成 20 臺(tái)應(yīng)用卻仍然只掛 2 臺(tái)數(shù)據(jù)庫(kù)先掛的一定是數(shù)據(jù)庫(kù)你據(jù)此得出的「數(shù)據(jù)庫(kù)是瓶頸」結(jié)論在線上根本不成立。折算清單要一起算應(yīng)用節(jié)點(diǎn)、數(shù)據(jù)庫(kù)連接數(shù)、緩存分片、消息隊(duì)列分區(qū)、網(wǎng)關(guān)實(shí)例缺一個(gè)都會(huì)讓瓶頸搬家。資源類(lèi)型線上規(guī)模線下折算折算時(shí)必須同步調(diào)整的參數(shù)應(yīng)用節(jié)點(diǎn)200 臺(tái) 8C16G20 臺(tái) 8C16G每節(jié)點(diǎn)連接池上限按比例下調(diào)數(shù)據(jù)庫(kù)主從多實(shí)例同比例縮減實(shí)例數(shù)最大連接數(shù)、慢查詢(xún)閾值同步下調(diào)緩存多分片集群縮減分片但保留集群模式客戶(hù)端分片算法不變避免壓測(cè)代碼走另一條路徑網(wǎng)關(guān)多可用區(qū)部署單可用區(qū)多實(shí)例限流閾值按實(shí)例數(shù)等比縮放2.3 場(chǎng)景仿真度核心鏈路要敢做減法壓測(cè)場(chǎng)景就是壓測(cè)的目標(biāo)和范圍前提是把業(yè)務(wù)吃透。做法是從日志和用戶(hù)行為里歸納出一條或幾條核心鏈路明確鏈路上每個(gè)接口、每類(lèi)調(diào)用同步還是異步、串行還是并行、每類(lèi)參數(shù)。所謂核心鏈路是用戶(hù)在關(guān)鍵時(shí)間點(diǎn)的真實(shí)操作序列打開(kāi)購(gòu)物車(chē)、進(jìn)結(jié)算頁(yè)、打開(kāi)收銀臺(tái)、選優(yōu)惠、選支付、下單、下單后置處理。確定核心鏈路最關(guān)鍵的一點(diǎn)是不要貪多。覺(jué)得用戶(hù)可能會(huì)點(diǎn)這里、也可能點(diǎn)那里把低頻操作也塞進(jìn)主鏈路結(jié)果是把核心鏈路的壓力稀釋掉還多了一堆無(wú)關(guān)的失敗點(diǎn)。以零點(diǎn)場(chǎng)景為例非核心查詢(xún)基本都會(huì)被降級(jí)——比如訂單列表只允許查最近三個(gè)月其余提示稍后再查把資源全部讓給核心鏈路。這個(gè)降級(jí)策略本身也要寫(xiě)進(jìn)壓測(cè)方案因?yàn)閴毫δP统闪⒌那疤崾墙导?jí)開(kāi)關(guān)真的生效了。接口峰值調(diào)用占比是否進(jìn)壓測(cè)鏈路降級(jí)策略登錄鑒權(quán)18%是不降級(jí)壓測(cè)標(biāo)識(shí)走獨(dú)立通道班級(jí)與規(guī)則校驗(yàn)26%是不降級(jí)優(yōu)惠計(jì)算24%是不降級(jí)下單與訂單落庫(kù)22%是不降級(jí)歷史訂單查詢(xún)6%否限時(shí)間范圍查詢(xún)推薦位與運(yùn)營(yíng)位4%否直接返回兜底內(nèi)容2.4 壓力仿真度并發(fā)模式與 TPS 目標(biāo)模式怎么選壓力仿真度就是負(fù)載參數(shù)壓測(cè)模式、并發(fā)數(shù)或目標(biāo) TPS、集合點(diǎn)、thinktime、預(yù)熱時(shí)長(zhǎng)、壓測(cè)時(shí)長(zhǎng)。模式選錯(cuò)整套壓測(cè)的方向就偏了。并發(fā)模式適合已知大概并發(fā)的場(chǎng)景。比如預(yù)估有 10 萬(wàn)用戶(hù)會(huì)來(lái)先判斷這 10 萬(wàn)是集中訪問(wèn)還是分散訪問(wèn)集中在秒殺、搶購(gòu)這類(lèi)瞬間場(chǎng)景那就設(shè) 10 萬(wàn)并發(fā)并開(kāi)集合點(diǎn)讓請(qǐng)求同一時(shí)刻放出去如果是一天累計(jì) 10 萬(wàn)按二八法則折算成峰值并發(fā)就夠。TPS 目標(biāo)模式適合后臺(tái)接口類(lèi)場(chǎng)景跟并發(fā)數(shù)無(wú)關(guān)只盯吞吐量接口設(shè)計(jì)上限是 3 萬(wàn) TPS就直接設(shè) 3 萬(wàn)壓測(cè)系統(tǒng)自動(dòng)調(diào)節(jié)并發(fā)去逼近目標(biāo)達(dá)不到就判定不達(dá)標(biāo)非常適合作為基線任務(wù)的固定口徑。# 續(xù)報(bào)核心鏈路壓測(cè)場(chǎng)景配置TPS 目標(biāo)模式 scene: renewal_core_chain mode: tps_target # 可選 tps_target / concurrency target_tps: 3000 # 按歷史峰值 TPS 上浮 20% 設(shè)定 ramp_up_seconds: 300 # 預(yù)熱 5 分鐘避開(kāi) JIT 與連接池冷啟動(dòng)造成的假瓶頸 duration_seconds: 1800 # 穩(wěn)定壓 30 分鐘覆蓋一次 GC 周期 think_time_ms: 800 # 按真實(shí)用戶(hù)操作間隔設(shè)置設(shè) 0 會(huì)虛高吞吐 rendezvous: enabled: false # 目標(biāo)模式不設(shè)集合點(diǎn)集合點(diǎn)只用于瞬時(shí)并發(fā)驗(yàn)證 data_binding: account_pool: pressure_account_q1 param_source: renewal_pair_distribution sla: p99_ms: 800 error_rate: 0.001幾個(gè)參數(shù)的理解比數(shù)值本身重要ramp_up_seconds太短第一分鐘的 p99 會(huì)非常難看那是冷啟動(dòng)不是瓶頸think_time_ms直接決定同一并發(fā)下的實(shí)際 TPS設(shè)成 0 相當(dāng)于讓每個(gè)虛擬用戶(hù)全速打壓出來(lái)的數(shù)字沒(méi)人敢信rendezvous開(kāi)在目標(biāo)模式下會(huì)把平滑壓力變成脈沖除非你就是要驗(yàn)證瞬時(shí)沖擊否則關(guān)掉sla里用 p99 而不是平均值平均值會(huì)把長(zhǎng)尾藏起來(lái)這是壓測(cè)報(bào)告里最常見(jiàn)的黑匣子。3. 流量與數(shù)據(jù)隔離壓測(cè)標(biāo)識(shí)怎么透?jìng)鳌?shù)據(jù)怎么回收線上壓測(cè)繞不開(kāi)隔離。壓測(cè)流量進(jìn)了生產(chǎn)庫(kù)、壓測(cè)訂單污染了真實(shí)報(bào)表后續(xù)清理成本遠(yuǎn)高于壓測(cè)本身。業(yè)界比較成熟的做法是給壓測(cè)流量打標(biāo)標(biāo)識(shí)隨調(diào)用鏈一路透?jìng)鞲飨到y(tǒng)按標(biāo)識(shí)分支處理數(shù)據(jù)側(cè)則用影子賬號(hào)、影子對(duì)象加規(guī)則改寫(xiě)把壓測(cè)數(shù)據(jù)和真實(shí)數(shù)據(jù)分開(kāi)。這套東西不難難在透?jìng)麈溌飞先魏我画h(huán)丟標(biāo)。3.1 標(biāo)識(shí)注入與全鏈路透?jìng)鞯娜齻€(gè)落點(diǎn)第一個(gè)落點(diǎn)是網(wǎng)關(guān)。壓測(cè)流量統(tǒng)一從壓測(cè)機(jī)或壓測(cè)通道進(jìn)來(lái)網(wǎng)關(guān)解析 header 里的標(biāo)識(shí)寫(xiě)進(jìn)請(qǐng)求上下文同時(shí)打到日志 MDC 上后續(xù)排查能按標(biāo)識(shí)撈全量日志。第二個(gè)落點(diǎn)是 RPC 上下文。服務(wù)間調(diào)用要把標(biāo)識(shí)放進(jìn)隱式參數(shù)或 header不能靠業(yè)務(wù)代碼逐層傳參否則遲早漏。第三個(gè)落點(diǎn)是消息隊(duì)列生產(chǎn)消息時(shí)把標(biāo)識(shí)寫(xiě)進(jìn)消息屬性消費(fèi)端讀出來(lái)重新塞進(jìn)上下文。// 網(wǎng)關(guān)層統(tǒng)一收口壓測(cè)標(biāo)識(shí)避免各業(yè)務(wù)方各自解析出偏差 public class PressureTagInterceptor implements HandlerInterceptor { public static final String PRESSURE_HEADER X-Pressure-Flag; private static final ThreadLocalBoolean HOLDER new ThreadLocal(); Override public boolean preHandle(HttpServletRequest req, HttpServletResponse resp, Object handler) { // 只認(rèn) 1其余取值一律按生產(chǎn)流量處理避免臟標(biāo)識(shí)誤傷真實(shí)請(qǐng)求 boolean isPressure 1.equals(req.getHeader(PRESSURE_HEADER)); HOLDER.set(isPressure); MDC.put(pressure, String.valueOf(isPressure)); return true; } Override public void afterCompletion(HttpServletRequest req, HttpServletResponse resp, Object handler, Exception ex) { // 線程池復(fù)用場(chǎng)景必須清理否則標(biāo)識(shí)會(huì)串到下一個(gè)請(qǐng)求上 HOLDER.remove(); MDC.remove(pressure); } }關(guān)鍵在afterCompletion里的清理動(dòng)作。Web 容器線程是復(fù)用的只 set 不 remove下一個(gè)真實(shí)請(qǐng)求可能繼承上一個(gè)壓測(cè)請(qǐng)求的標(biāo)識(shí)結(jié)果真實(shí)用戶(hù)的數(shù)據(jù)被當(dāng)成壓測(cè)數(shù)據(jù)清了這種事故修起來(lái)極其難受。異步線程和線程池場(chǎng)景要用可傳遞的 ThreadLocal 包裝或者顯式在提交任務(wù)時(shí)把標(biāo)識(shí)帶過(guò)去這是透?jìng)麈溌防镒钊菀讛嗟囊画h(huán)。3.2 數(shù)據(jù)隔離影子賬號(hào)、影子對(duì)象與規(guī)則改寫(xiě)隔離分讀寫(xiě)兩側(cè)。讀側(cè)靠賬號(hào)區(qū)分為壓測(cè)預(yù)留一批專(zhuān)用賬號(hào)綁定的學(xué)員是虛擬學(xué)員與真實(shí)學(xué)員在姓名和賬號(hào)維度上完全隔開(kāi)壓測(cè)怎么查都查不到真實(shí)數(shù)據(jù)。寫(xiě)側(cè)靠對(duì)象和規(guī)則班級(jí)可以復(fù)用真實(shí)班級(jí)信息這樣容量、狀態(tài)這些屬性才是真的但訂單、購(gòu)物車(chē)這類(lèi)寫(xiě)數(shù)據(jù)必須帶壓測(cè)標(biāo)識(shí)續(xù)報(bào)規(guī)則和優(yōu)惠規(guī)則通過(guò)標(biāo)識(shí)改寫(xiě)為「當(dāng)前時(shí)刻有效」的規(guī)則集讓壓測(cè)數(shù)據(jù)能正常走完業(yè)務(wù)流轉(zhuǎn)同時(shí)又不觸碰真實(shí)規(guī)則的時(shí)間窗口和名額限制。為什么不干脆建一套獨(dú)立影子庫(kù)成本高而且仿真度反而下降——影子庫(kù)的索引、數(shù)據(jù)量、慢查詢(xún)特征都和生產(chǎn)不一樣壓出來(lái)的結(jié)論沒(méi)法直接用。用標(biāo)識(shí)做邏輯隔離配合任務(wù)結(jié)束后的定向清洗通常是性?xún)r(jià)比最高的方案。前提是標(biāo)識(shí)透?jìng)鞅仨汄?yàn)證過(guò)不能只靠代碼 review 拍胸脯。3.3 壓測(cè)數(shù)據(jù)構(gòu)造與清洗回收的完整閉環(huán)壓測(cè)數(shù)據(jù)按三層準(zhǔn)備。基元數(shù)據(jù)是登錄賬號(hào)和學(xué)員方案里維護(hù)了一個(gè)數(shù)萬(wàn)級(jí)的測(cè)試賬號(hào)池由平臺(tái)按項(xiàng)目統(tǒng)一分配和回收業(yè)務(wù)型數(shù)據(jù)是班級(jí)、續(xù)報(bào)規(guī)則、優(yōu)惠規(guī)則班級(jí)支持一鍵構(gòu)造規(guī)則按標(biāo)識(shí)指定時(shí)間段生效鏈路數(shù)據(jù)則由基礎(chǔ)數(shù)據(jù)和業(yè)務(wù)規(guī)則模擬真實(shí)操作生成支持調(diào)度中心一鍵或定時(shí)觸發(fā)。-- 壓測(cè)任務(wù)結(jié)束后的數(shù)據(jù)回收三板斧刪業(yè)務(wù)數(shù)據(jù)、解綁賬號(hào)、回寫(xiě)賬號(hào)池 DELETE FROM order_item WHERE pressure_flag 1 AND created_at NOW() - INTERVAL 7 days; DELETE FROM cart WHERE pressure_flag 1; UPDATE account_pool SET status idle, bound_student_id NULL, released_at NOW() WHERE batch_no pressure_q1 AND status in_use;順序不能反。先刪業(yè)務(wù)數(shù)據(jù)再解綁賬號(hào)否則賬號(hào)先回池、舊數(shù)據(jù)還在下一輪壓測(cè)就可能讀到臟購(gòu)物車(chē)pressure_flag 1這個(gè)條件必須走索引否則一次清理能掃全表。回收還要考慮異常路徑任務(wù)中途掛掉清理任務(wù)得由調(diào)度中心兜底觸發(fā)不能指望人工發(fā)現(xiàn)。方案里通常會(huì)給賬號(hào)池設(shè)計(jì)狀態(tài)機(jī)idle / in_use / dirty / recycling任何一步失敗都能定位到卡在哪個(gè)狀態(tài)。4. 負(fù)載建模與自動(dòng)化基線把一次性壓測(cè)變成每周跑的任務(wù)一次壓測(cè)報(bào)告的說(shuō)服力有限真正有價(jià)值的是基線同一場(chǎng)景、同一壓力模型、同一數(shù)據(jù)分布每周或者每個(gè)版本跑一次指標(biāo)一偏就報(bào)警。這樣性能問(wèn)題從「上線后才發(fā)現(xiàn)」變成「合并前就發(fā)現(xiàn)」擴(kuò)容決策也有了數(shù)據(jù)支撐而不是等到窗口期前拍腦袋加機(jī)器。4.1 并發(fā)配比表怎么從日志和訂單里推出來(lái)壓力模型不是估出來(lái)的是算出來(lái)的。第一步拉核心鏈路各接口的日志峰值和占比定位鏈路覆蓋范圍和業(yè)務(wù)并發(fā)點(diǎn)第二步用調(diào)用量和抓包確認(rèn)上下游調(diào)用關(guān)系找出真正的并發(fā)點(diǎn)在哪一層第三步從窗口期訂單明細(xì)里統(tǒng)計(jì)報(bào)班量占比把數(shù)據(jù)分布和并發(fā)配比同時(shí)對(duì)齊真實(shí)流量第四步如果有條件全量拉取參與窗口期的真實(shí)加購(gòu)數(shù)據(jù)做一次瞬時(shí)并發(fā)評(píng)估這份數(shù)據(jù)對(duì)擴(kuò)容方案的參考價(jià)值最高。壓測(cè)場(chǎng)景并發(fā)占比目標(biāo) TPS 占比數(shù)據(jù)特征單班續(xù)報(bào)主流程55%58%學(xué)員報(bào) 1~5 個(gè)班占主體多班批量續(xù)報(bào)25%22%學(xué)員報(bào) 6~10 個(gè)班規(guī)則校驗(yàn)更重長(zhǎng)尾學(xué)員續(xù)報(bào)12%13%報(bào) 11~30 個(gè)班單請(qǐng)求耗時(shí)最長(zhǎng)購(gòu)物車(chē)加購(gòu)與結(jié)算8%7%基于真實(shí)加購(gòu)數(shù)據(jù)回放占比之間要有解釋力為什么長(zhǎng)尾場(chǎng)景只占 12% 的并發(fā)卻給了 13% 的 TPS因?yàn)樗膯握?qǐng)求耗時(shí)更長(zhǎng)占用的處理資源更多。這張表是壓測(cè)方案里最該被追問(wèn)的東西答辯時(shí)評(píng)委只要問(wèn)一句「這個(gè)比例怎么來(lái)的」你能不能報(bào)出日志統(tǒng)計(jì)口徑和訂單統(tǒng)計(jì)口徑基本就決定了方案的 credibility。4.2 基線任務(wù)的四段式流程基線任務(wù)通常拆成四段用調(diào)度中心串起來(lái)支持手動(dòng)和定時(shí)兩種觸發(fā)方式。# 基線任務(wù)編排構(gòu)造 - 試運(yùn)行 - 預(yù)熱 - 正式壓測(cè) - 對(duì)比通知 task_run() { step1_build_data # 按分布自動(dòng)構(gòu)造壓測(cè)數(shù)據(jù)產(chǎn)出批次號(hào) step2_smoke_run # 小流量試運(yùn)行驗(yàn)證鏈路連通與數(shù)據(jù)可用 step3_preheat # 數(shù)據(jù)預(yù)熱把熱點(diǎn)數(shù)據(jù)提前加載進(jìn)緩存 step4_baseline_run # 正式基線壓測(cè)固定 TPS 與時(shí)長(zhǎng) step5_compare_and_notify # 與上一輪基線對(duì)比超閾值告警 }第二步最容易被跳過(guò)也最不該跳。壓測(cè)場(chǎng)景復(fù)雜數(shù)據(jù)構(gòu)造完不等于數(shù)據(jù)可用賬號(hào)可能被上一輪占著沒(méi)釋放班級(jí)可能名額已滿(mǎn)規(guī)則可能已經(jīng)過(guò)期。試運(yùn)行用低流量把整條鏈路走一遍幾秒鐘就能發(fā)現(xiàn)「鏈路不通」和「數(shù)據(jù)失效」這兩類(lèi)問(wèn)題比正式壓測(cè)跑到一半大量報(bào)錯(cuò)強(qiáng)得多。第三步的預(yù)熱可以自定義也可以省略但如果你的業(yè)務(wù)有大量本地緩存省掉預(yù)熱會(huì)讓第一輪基線的數(shù)字明顯偏低。4.3 壓測(cè)平臺(tái)的最小功能集自建壓測(cè)平臺(tái)不需要一上來(lái)就做大而全先把跑通閉環(huán)的最小功能集做出來(lái)剩下的按需長(zhǎng)。模塊最小功能驗(yàn)收口徑腳本管理支持 HTTP/HTTPS在線創(chuàng)建與調(diào)試腳本新建到首次調(diào)試成功不超過(guò) 10 分鐘數(shù)據(jù)構(gòu)造一鍵生成基元數(shù)據(jù)與業(yè)務(wù)數(shù)據(jù)構(gòu)造失敗可重試產(chǎn)出批次號(hào)可追溯壓測(cè)建模場(chǎng)景、并發(fā)配比、目標(biāo) TPS 可配置同一場(chǎng)景配置可復(fù)制生成新版本施壓機(jī)管理統(tǒng)一注冊(cè)、心跳、任務(wù)分發(fā)施壓機(jī)掉線能自動(dòng)剔除且告警過(guò)程監(jiān)控實(shí)時(shí)指標(biāo)看板、閾值預(yù)警、熔斷觸發(fā)熔斷后 30 秒內(nèi)停止施壓結(jié)果歸檔報(bào)表聚合、基線庫(kù)、歷史對(duì)比任意兩輪結(jié)果可按場(chǎng)景對(duì)比任務(wù)調(diào)度基線任務(wù)定時(shí)執(zhí)行、結(jié)果通知支持郵件與即時(shí)消息兩類(lèi)通知其中熔斷這一條最容易被砍掉但它是后悔藥壓測(cè)過(guò)程中如果真實(shí)業(yè)務(wù)指標(biāo)出現(xiàn)異常核心接口錯(cuò)誤率飆升、數(shù)據(jù)庫(kù)連接數(shù)打滿(mǎn)系統(tǒng)要能自動(dòng)停止施壓。沒(méi)有這個(gè)開(kāi)關(guān)一次壓測(cè)可能直接把生產(chǎn)拖垮這個(gè)責(zé)任沒(méi)人擔(dān)得起。5. 避坑與排查壓測(cè)里最容易翻車(chē)的五類(lèi)問(wèn)題壓測(cè)方案寫(xiě)得再漂亮落地時(shí)總有幾個(gè)坑等著。下面五條是按「現(xiàn)象 → 原因 → 解決」整理的都是實(shí)際項(xiàng)目里反復(fù)出現(xiàn)的問(wèn)題提前知道能省掉大半天排查。5.1 數(shù)據(jù)與隔離類(lèi)看不見(jiàn)的臟數(shù)據(jù)最傷人現(xiàn)象一壓測(cè)跑完之后生產(chǎn)報(bào)表里的訂單量莫名多了一批客服反饋有用戶(hù)看到不屬于自己的購(gòu)物車(chē)。原因基本可以鎖定在標(biāo)識(shí)丟失。壓測(cè)標(biāo)識(shí)只在入口層打了異步任務(wù)、線程池、消息消費(fèi)這幾個(gè)環(huán)節(jié)沒(méi)有透?jìng)鲗?dǎo)致部分寫(xiě)操作按生產(chǎn)流量處理直接落進(jìn)了真實(shí)表。解決分三步一是把標(biāo)識(shí)透?jìng)髯龀煽蚣芗?jí)能力RPC 隱式參數(shù)、消息屬性、線程池包裝統(tǒng)一收口業(yè)務(wù)代碼不手寫(xiě)二是加一條回歸用例用壓測(cè)標(biāo)識(shí)發(fā)起請(qǐng)求斷言鏈路上每個(gè)節(jié)點(diǎn)的日志里都帶標(biāo)識(shí)三是清理任務(wù)改為按標(biāo)識(shí)定向刪除而不是按時(shí)間范圍模糊刪避免誤傷?,F(xiàn)象二壓測(cè)結(jié)果非常好TPS 達(dá)標(biāo)、p99 很漂亮但線上窗口期一開(kāi)就崩。多半是數(shù)據(jù)構(gòu)造偷懶了。用平均分布造數(shù)據(jù)每個(gè)賬號(hào)關(guān)聯(lián)的對(duì)象數(shù)量差不多鏈路上逐條校驗(yàn)、逐條計(jì)算的開(kāi)銷(xiāo)被攤平最耗時(shí)的長(zhǎng)尾路徑根本沒(méi)被觸發(fā)。解決方法是回到訂單明細(xì)統(tǒng)計(jì)真實(shí)的對(duì)象關(guān)聯(lián)分布按分位數(shù)構(gòu)造數(shù)據(jù)至少保證 5% 的請(qǐng)求落在長(zhǎng)尾區(qū)間。這類(lèi)問(wèn)題的排查有個(gè)技巧壓測(cè)結(jié)束后看耗時(shí)分布的偏度如果 p99 和 p50 差距很小先懷疑數(shù)據(jù)太均勻?,F(xiàn)象三第二周跑同一個(gè)基線任務(wù)指標(biāo)突然變差但代碼一行沒(méi)改。大概率是上一輪的數(shù)據(jù)沒(méi)清干凈。賬號(hào)沒(méi)解綁、購(gòu)物車(chē)還有舊數(shù)據(jù)、優(yōu)惠規(guī)則命中了過(guò)期配置都會(huì)讓第二輪的結(jié)果失真。解決是把清理做成任務(wù)的前置步驟而不是后置步驟每次開(kāi)跑前先對(duì)賬號(hào)池做一次全量校驗(yàn)狀態(tài)不是 idle 的一律回滾或剔除業(yè)務(wù)數(shù)據(jù)按批次號(hào)刪除不按時(shí)間刪規(guī)則改寫(xiě)帶上批次標(biāo)識(shí)避免不同批次互相污染。5.2 負(fù)載與環(huán)境類(lèi)瓶頸會(huì)搬家現(xiàn)象四線下壓測(cè)顯示應(yīng)用層 CPU 打滿(mǎn)、數(shù)據(jù)庫(kù)很閑于是結(jié)論是「應(yīng)用需要擴(kuò)容」線上實(shí)際是先扛不住數(shù)據(jù)庫(kù)。這是等比例壓縮只壓了一半的典型后果。應(yīng)用節(jié)點(diǎn)從 200 臺(tái)縮到 20 臺(tái)數(shù)據(jù)庫(kù)和緩存卻沒(méi)按同比例縮或者縮了實(shí)例數(shù)但沒(méi)調(diào)連接池上限瓶頸位置自然錯(cuò)位。解決方法是維護(hù)一張折算清單應(yīng)用、數(shù)據(jù)庫(kù)、緩存、網(wǎng)關(guān)、消息隊(duì)列逐項(xiàng)對(duì)照每項(xiàng)都要標(biāo)注「縮了多少、對(duì)應(yīng)參數(shù)改了什么」壓測(cè)前先用單機(jī)小流量校準(zhǔn)一次確認(rèn)各層資源利用率的關(guān)系與線上一致再上正式壓力?,F(xiàn)象五壓測(cè)一開(kāi)始的三十秒 p99 高得離譜之后突然變好報(bào)告不知道該怎么寫(xiě)。這是預(yù)熱不足加上 thinktime 設(shè)置不當(dāng)。JIT 編譯、連接池建立、本地緩存加載都需要時(shí)間一開(kāi)始的全速?zèng)_擊會(huì)把這些冷啟動(dòng)成本放大成假瓶頸反過(guò)來(lái)thinktime 設(shè)成 0 會(huì)讓每個(gè)虛擬用戶(hù)全速發(fā)請(qǐng)求壓出來(lái)的 TPS 虛高線上根本達(dá)不到。解決是固定預(yù)熱 5 到 10 分鐘預(yù)熱期的指標(biāo)單獨(dú)統(tǒng)計(jì)、不混進(jìn)正式結(jié)果thinktime 按真實(shí)用戶(hù)操作間隔設(shè)通常在幾百毫秒量級(jí)集合點(diǎn)只在驗(yàn)證瞬時(shí)并發(fā)時(shí)打開(kāi)常規(guī)基線一律關(guān)閉。6. 方案怎么驗(yàn)收答辯前必須能自證的四個(gè)交付物壓測(cè)方案和普通功能方案不一樣它的產(chǎn)出不是代碼是「結(jié)論 證據(jù)」。評(píng)審和答辯時(shí)被追問(wèn)的從來(lái)不是「你用了什么工具」而是「你憑什么說(shuō)這個(gè)結(jié)論可信」。所以驗(yàn)收前先把四份交付物備齊每份都要能獨(dú)立回答一個(gè)問(wèn)題。交付物回答的問(wèn)題驗(yàn)收口徑壓測(cè)模型說(shuō)明四個(gè)仿真度分別做到什么程度每個(gè)維度有可量化參數(shù)缺失項(xiàng)寫(xiě)明原因與影響隔離方案與驗(yàn)證記錄壓測(cè)數(shù)據(jù)會(huì)不會(huì)污染生產(chǎn)有標(biāo)識(shí)透?jìng)骰貧w用例的通過(guò)記錄有清理演練結(jié)果數(shù)據(jù)構(gòu)造與回收清單數(shù)據(jù)從哪來(lái)、跑完去哪了分布比例有統(tǒng)計(jì)來(lái)源回收腳本有執(zhí)行日志基線任務(wù)與對(duì)比報(bào)告性能是否穩(wěn)定、退化在哪至少兩輪同口徑對(duì)比指標(biāo)口徑一致、波動(dòng)可解釋答辯時(shí)最常被追問(wèn)的三個(gè)點(diǎn)提前想好答案。第一「為什么不用線下單接口壓測(cè)數(shù)據(jù)」——因?yàn)閱谓涌跓o(wú)法體現(xiàn)鏈路放大效應(yīng)和資源競(jìng)爭(zhēng)要能舉出自己鏈路里某個(gè)接口在串聯(lián)后耗時(shí)翻倍的例子。第二「壓測(cè)標(biāo)識(shí)會(huì)不會(huì)漏」——不要回答「不會(huì)漏」要回答「怎么發(fā)現(xiàn)漏」比如每個(gè)節(jié)點(diǎn)必須打標(biāo)、定時(shí)抽樣比對(duì)壓測(cè)請(qǐng)求數(shù)與應(yīng)用側(cè)命中數(shù)是否一致。第三「基線對(duì)比看哪個(gè)指標(biāo)」——答 p99 和錯(cuò)誤率平均值只作參考因?yàn)槠骄禃?huì)把長(zhǎng)尾藏起來(lái)而窗口期最先崩的就是長(zhǎng)尾。我自己的習(xí)慣是壓測(cè)正式開(kāi)跑前強(qiáng)制走一遍「標(biāo)識(shí)透?jìng)骰貧w 數(shù)據(jù)回收演練」兩件事各花不到十分鐘但能把后面最難受的兩類(lèi)事故擋在門(mén)外。這套流程第一次做會(huì)覺(jué)得繁瑣做上三輪就會(huì)變成肌肉記憶。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷六月色播| 成人 在线 日韩| 99热在线播放| 激情五月com| 综合久久久婷| 4438国产免费看| 操逼视频网址| 五月天开心网| 丁香 久久| 激情五月综合免费| 九九黄色网| 九九丁香社区欧美激情| 99性视频| 五月婷婷中文字幕| 91偷拍视频| 五月天激情视频五月天| 影音先锋 91工厂| 成年人夜夜喷水| 婷婷在线五月综合| 99人妻碰碰久久久禁片| 免费做A爰片77777| 年轻的妺妺伦理HD中文| 亚洲免费看片| 日韩999| 色五月激情五月天| 欧美人妻一区二区| 婷婷丁香激情综合色情| 五月婷婷影| 激情五月综合色婷婷| 天天操无码| 99热色综合| 色婷婷五月综合| 丁香五月天婷婷中文字幕| 五月丁香视频在线观看| 亚洲五月天伊人| 九九色影视| 五月亭大香蕉| 99热久久日本| 黄网免费看| 久操干| 玖玖伊人网| 激情婷婷五月黑人| 婷婷五月天视频在线观看| 第四色激情网| 人人舔人人色人人高潮| 日韩六十路91性交电影| 激情色情五月天| 日韩婷婷五月天| 激情婷婷五六月天| 日日肏夜夜干| 亚洲丁香婷婷丁香五月天激情| 天天夜夜六月丁香五月婷婷老师| 日韩五月丁香| 色啪综合| 国产69久久久欧美黑人A片| 六月婷婷综合| 开心五月色婷婷综合开心网| 操操熟女| 色五月综合网| 五月天色在线| www.久久爱.com| 丁香玖玖视频大全| 97色色色色| 91一起操| 婷婷亚洲激情在线观看视频| 久久人妻高清中文| 婷婷色五月开心五月| www.婷婷.com| 高清无码入口| 69热91天堂| 五月天丁香婷婷久久九| 九九久久五月天| 狠狠干五月天| 九九碰九九爱97| 五月婷在线| 欧美大片免费观看| 色女人久久| 日本色天堂| 丁香婷婷性爱| 99综合色| 狠狠操综合| 五月天婷婷激情| 婷婷综合五月| 久久五月情| 综合久久久| 亚洲色情久久| ′久久99一| 香蕉综合在线| 97色色在线视频| 五月丁香综合影院| 中文字幕无码AV| 碰久久精品w| 色5月婷婷色| 这里只有精品日韩精品| www.五月天婷婷| 丁香五月中文字幕| 97色一二三| 久9精品视频| 在线VA视频| 操啊操av| 色五月激情网| 亚欧州精品视频| 性小说五月天| 色情五月婷婷| 97久久精品| 久久a热| 五月婷婷玖玖综合玖玖爱| 高清成人综合| 日屌日日操日日色| www99精品日韩| 99视频在线播放大全| 激情六月下句是什么| 日屌日日操日日色| 97操资源婷婷| 免费99情趣网视频| 婷婷亚洲天堂| 国产avapp 网| 日本天堂免费99| 丁香五月五婷| 成人国产欧美大片一区| 五月天激情综合网俺也去| 九九热手机在线视频| 久久激情综合| 9久热在线视频精品| α久久| 97人人操| 182TV亚洲| 天天色官网| 99久久久| 精品无码色| 婷婷丁香九月| 九色自拍| 日韩婷婷| 婷婷五月天丁香花| 色婷婷五月天天天天天| 色婷婷丁香五月| 99资源在线视频| 天天拍夜夜爽| 五月天开心色色网| 狠狠草综合网| 欧美成综合在线观看| 丁香五月婷婷丫| 五月色婷婷影院| 五月色丁香婷婷综合| 色97综合婷婷天天色| 99五月丁香丁| 丁香六月婷婷综合| 天天做天天要天天爱| 狠狠久久婷五月| 六月婷婷网| 这里精品| 久久综合中文字幕| 人人爱国产| 五月婷综合| 色婷婷久久久| 五月丁香啪啪网| 国产99热| 成 人片 黄 色 大 片| 精品一二三区视频立| 99热这| 99日韩| 亚洲永久免费| 久久国产精品乱子伦_靑青草…| 国产成人99久久亚洲综合精品| 天天色天天射天天日| 激情四射婷婷| 99性视频| 国产精品激情五月天色婷婷| 吊色AV男人的天堂| 国产亚洲99久久精品| 色婷婷丁香六月| 丁香啪啪| 五月婷婷视频ab| 超碰cap| 一级操逼内射在线视频| Www99热| 久久9视频| 在线观看的av| 色五月综合网| www.99热精品| 久久xx| 色综合网综合| 五月天综合久久| 操人91| 五月综合婷婷开心网| 97精品人人A片免费看| 99热精品一| 五月激情久久| 九九精品免费| 青青草成人网| 久久6这里只有精品| 日本色99网站| 9久久精品| 五月婷婷丁香五月亚洲色| 婷婷综合性爱网| 五月天婷婷激情在线色图| 99色| 精品热青草| 色色色色色色色色色色色色色97| 五月丁香六月婷婷综合网| 97婷婷丁香五月综合| 99狠狠| 五月天激情国产综合婷婷婷| 色五婷婷在线视频| 五月丁香成人版| 狠狠色噜噜狠狠| 噜噜视频| 大香蕉天堂| 婷婷五月俺要去| 9999综合99综合人| 五月天婷婷婷| 五月丁香六月激情综合| 日本精品99| 国熟女视频| 精品99在线看| 免费操超碰| 人人播| 色狠久| www.色婷婷| 国产综合丁香五月天| 青青草激情网| 色色五月天丁香| 婷婷五月激情欧美大胆视频| 第四色五月激情网| 91久久久久久久久18| 丁香婷婷五月激情四射网| 五月伊人网| 人人摸人人干人人做| 婷婷激情小说网| 四射综合网| 超碰成人公开| 99re热视频这里只精品| 日日干日日| 97九色视频| 婷婷五月天成人综合网| 婷婷五月丁香色情| 六月丁香婷婷网| 五月丁香色色网| 丁香婷婷婷五月综合色情| 亚洲色无码A片一区二区麻豆| 激情九月综合| 九九热99热| 色色色综合网| 激情小说在线视频| 婷婷丁香五月亚洲17cao| 婷婷五月天免费视频在线观看| 五月丁香亭亭成人电影| 五月停停直播| sewuyue第四色| 人人澡天天色天天做| 国产av基地| www.97干视频| 激情久久综合| 狠狠搞五月天| av 一区三区四区| 婷婷四色五月| AV伊人青草丁香六月| 秋霞成人毛片一级A片| 欧美日韩国产一区二区| 97狠狠色| 国产精品大香蕉| 91视频一起草| 思思精品视频| 亚洲成av人影院| 国产精产国品一二三在观看| 亚洲精品V天堂中文字幕| 国产3p露脸普通话对白| 五月婷婷激情在线| 色色婷婷丁香五月天| 光棍影院日韩精品| 色综合色| 情涩婷婷五月天| 五月婷婷自拍视频| 色久女| 五月天久久综合| 任我肏| 99这里只有精品| 天天插天天干| 一区二区传媒视频| 99热国产| 亚洲综合婷婷六月丁香五月| 五月丁香婷婷导航视频| 五月婷婷丁香在线| 九色亚洲| 久久久五月天| 99久久九九| 九九热在线观看视频| 久久草中文日韩欧美| 婷婷伊人綜合中文字幕| 深夜婷婷 丁香| 9色操| 丁香五月激情棕合| 嫩草综合网| 日日操天天| 亚洲激情综合| 国产99久久久国产精品免费看| 亚洲午夜国产成人电影VA国产欧…| www.99久久久久99| 亚洲色激婷| 久色国产| 婷婷丁香六月| 丁香花操逼| 丁香久久| 播五月丁香三月婷婷| 在线另类| 激情五月天福利| 狠狠色综合网| av操一操| 中文字幕成人| 国产老熟妇亲子乱对白| WWW,婷婷,COM| 91碰碰碰| 久久激情五月天| 色狠狠伊人久久五月丁香| 色色欧美色色| 五月婷婷无码| 色欲天天综合| 涩涩涩五月天| 五月婷婷影视| 99这里只有免费的精品| 日本91在线| 色九四色| 日韩激情婷婷五月天| 五月欧美丁香在线观看| WWW色五月| 久操福利| 精品人妻伦一二三区久久| 五月天激情婷婷| OUMEIRIHANCHENGREN| 久久一热免费视频| 99精品在线播放| 国产探花一片区| 激情五月天综合网站网站网站| 五月天综合激情网| 亚洲mm免费| 久久视频这里都是精品| 思思精品视频| 五月天婷婷综合久久| 俺去也五月天| 久久激情婷婷| 久热视频这里只有精品| 热思思九九| 在线国产精品色| 五月天操逼网| 色综合天堂| 五月天婷婷丁香社区| 婷婷激情六月| 午夜色色色极品视频| 人人操日| 91九色精品熟女内射| 五月丁香婷婷爱| 日本色色视频| 综合五月天完整| 婷婷五月花.97| 爱草视频在线观看| 国产一区二区av免费| 99久热这里有精品| 色五月天婷婷| 欧美日本不卡黄色片| 日本www五月婷婷| 日本久久网| 丁香六月狠狠干| 极品另类| 超碰猛烈的性猛交| 99久久久免费| www.狠狠干| 亚洲人人操| 激情五月综合免费| 沈娜娜av| 日本WWW九九九| 久99在线视频| 嫩草AV久久伊人妇女超级A| 综合欧美五月婷婷| 性爱网五月婷婷| 玖久精品视频9| 超极99精品| 五月丁香六月婷婷亚洲视频| 大香AV| 五月婷婷天堂| 夜夜人妻五月天| 俺也去色| 色情五月婷婷| 97av在线视频| 婷婷五月天天| 久久视频婷婷| 天天做天天视天天谢| 乱岳熟女50岁| 偷偷操99| 亚洲色色图片| av人人操| 婷婷亚洲色| www.夜夜夜| 99@久久@99精品视频| 丁香五月乱中文字幕| 亚洲色图在线视频| 91一起操| 久久婷婷六月综合| 激情五月天色| 亚洲一区二区 成人网站戴套| 精品99在线观看| 五月婷婷干干干| 农村熟妇高潮精品A片| 欧洲第一久色| 激情五月天婷婷图| 激情婷婷护士激情| 色噜噜婷婷| 婷婷 亚洲图片 丁香| 丁香六月婷婷激情| 色五月综合| 99re这里只有精品视频了| av在线免费网站 | www.五月天婷婷| 婷婷伊人网| 热91久| 96丁香六月婷婷蜜桃综合久久| 五六月婷婷| 久久综合九色综合88i| 99ri国产在线| 在线观看中文字幕| 激情合网婷婷| 狠狠色色| 日本婷久久| 激情文学综合婷婷五月天丁香花| 五月天婷婷在线观看| 婷婷五月噜噜| www.日日日.com| 26uuu精品一区二区| 婷婷丁香社区| 99热一区| 超碰操网| 色婷婷超碰| 天天夜夜六月丁香五月婷婷老师| 人妻性爱| 男女99免费视频| www.玖玖婷婷在线| 狠狠操狠狠色| 97在线观看| 另类图片天天影视在线观看| 99狠狠| 五月天激情啪啪| 操操操av| site:pzdcoin.com| 日本久久高清| 久久精品五月天| www.亚洲激情.com| 婷婷最新地址| 中文字幕在线aⅴ免费观看| 丁香五月天堂| 婷婷性爱网| 99热这里只有精品8| 激情婷婷另类| 亚洲 小说 欧美 激情 另类| 色97综合婷婷天天色| 色婷久久| 亚洲va日| 婷婷色色综合激情| 99热首页在线30| 五月情丁香色| 成人婷婷深爱综合网| 人人草公开操| 插插插色综合网| 色婷婷婷婷| 色综合婷婷| 日韩人妻在线观看| 伊人91| 五月丁香啪啪激情| 99热这里只有精品22| www.色综合.com| www.91在线观看| 成人丁香色| 久久多色| 狠狠色综合网| 欧美日本韩国亚洲| 一区无码| 9l视频自拍9l视频自拍九色学生| 五月丁香啪啪啪综合网| 综合激情五月四射婷婷| www.夜夜夜| 中文字幕丁香五月| 99re这里只有精品视频了| 色婷婷丁香五月综合| 99er精品视频| 久99在线视频| 亚洲精品亚洲人成人网| 婷婷五月性感| 欧美WW在线网| 噜噜噜噜噜久| 婷婷五月天a| 婷婷色色欧美| 色婷婷色99国产综合精品| 开心五月激情网| 五月天国产| 一点色成人网| 啪啪东京热| www.黄色片-久久成人国产精品在线播放-999AV| 射琪琪| 91成人品| A网在线欧洲| 亚洲色频| 激情综合色| 婷婷丁香色五月天| 五月婷婷亚洲| 五月天播播综合| 欧美综合五月丁香六月婷| 婷婷五月婷| 久色网| 日本操天堂| 91在线看免费 九九九九| 97操在线视频| 五月涩涩网| 97色操| 极品少妇XXXX精品少妇偷拍| 九九re视频在线视频| 97婷婷狠狠| 色五月丁香一区在线| 久久狠狠干| 色五月 五月婷婷| www.色欲丁香婷婷| 人人色人人摸人人看| 99热的无码| 久久婷婷五月丁香网| 男同91| www.91在线观看| 人人射av| 五月色网| 久热伊人在91| 开心五月婷婷激情网| 噜噜操操| 狠狠色综合久久久久| 99色色热热| 丁香五月婷婷色情综合| 白人荫道BBWBBB大荫道| 操碰91| 狠狠做婷婷| 丰满女老板BD高清A片| 天堂综合久久| 99这里有精品视频视频| 成人午夜天| 97在线视频人妻九色| 日日爱699| 免费观看的av| 色综合婷婷| 丁香五月激情五月开心五月| 在线观看免费人成视频无码| 天天爽爽日日做做| 少妇性按摩无码中文A片| 国产SUV精品一区二区6| 夜夜躁狠狠 | 婷婷不卡基地| 丁香五月第四色88| 亚洲亚洲人成综合网络| 久婷婷五月激情| 91人人爽狠狠狠| 97操| 久久婷婷五月天蜜桃| 开心色色五月天综合| 亚洲激情图文小说| 久热免费视频| 五月婷婷丁香啪啪| 激情综合五月| 99在线er热| 99热碰碰热| 中文字幕,综合,91| 99精品一二三四视频| 伊人狠狠色婷婷综合丁香一区| 大地资源色婷婷视频在线| 国产乱妇无乱码大黄AA片| 一起草无码视频| 色屌丝中文字幕| 香蕉综合在线| 久久五月天婷婷| 人人爱操| 婷婷五月天色色| 婷婷五月天播| 伊人在线视频| 天天xxxxxx天天日| 99热www| 六月丁香婷婷综合在线| 色情五月天。| 欧美99| 亚洲 综合中文| 久久激情视频| 六月丁香激情婷婷| 国产44页| 操一区| 久久66er久久| 亚洲蜜桃精久久久久久久久久久久| 停停色综合伊人| 少妇真实被内射视频三四区| www五月天激情com| 97婷婷在线| 亚洲综合久| 欧美天天爽| 日韩性爱AV| 99热中文字幕久久| www98日本小时间到了| 婷婷伊人綜合中文字幕小说| 婷婷五月天色综合翘| 97碰碰九九视频| 亚洲va欧美va天堂v国产综合| 天堂网色色| 久久新地址| 狠狠色综合777| 久久中文网| 五月天激情国产综合婷婷| 九月综合| 情欲禁地| 婷婷五月天在线观看| 欧美日本VA| 九九婷婷激情综合网| 无码动漫av| 成人视频九九| 欧美啪啪网| 色婷婷丁香五月| 亚洲精品久久久久久久久久吃药| 日韩av在线免费观看| 99热超碰| 婷婷五月天福利| 激情色中文| 婷婷天天五月天| 99婷婷| 婷婷 月 丁香| 一区二区中文字幕| 激情图片久久| 日本三级成人秘书精品片| 日本婷婷五月天| WWW.激情| 97性视频| 97伦色婷婷| 综合色播| 蜜臀av粉嫩av懂色av| 国产综合激情五月久久| 五月激情综合网| 果冻传媒A片一二三区| 青青草激情网| 91超级碰在线| 五月天 另类图片| 五月婷婷在线视频免费观看| 五月丁香婷婷激情影院欧美| 大香蕉视频99| 成人中文网| 丁香婷婷色五月| 五月婷婷六月色| 亚洲激情五月丁香久久久久| 久久中文人妻系列| 亚洲在线操| 亚洲中文AV网站| 六月丁香五月婷婷| 夜夜撸夜夜骑| 国产免费AV在线| www,天天干| 亚洲99在线| 丁香六月狠狠| 99热福利| 久久99精品九九久久久婷婷| 91精品久久久久久久久| 伊人大蕉香| 婷婷五月丁香青青草在线| 欧美色五月| 日韩AV大全| 九九五月天| 国产精品岛国片在线观看免费| 九九在线热九九在线热99热| 777影视理论片大全在线观看| 99免费在线| 综合久久99| 色五月影视| 天天干天天爽天天操| 激情宗合网激情五月天| 婷婷在线免费| 五月丁香操亭亭网| 婷婷综合五月天亚洲综合| 性生活视频98791| 九九久久视频| 99成人免费热视频| 99热这里有精力| 亚洲色爱综合| 另类 在线| 9久热在线视频精品| 久99久在线| 99碰网站| 26uuu国自产精品| 99色综合网| 怕怕av| 26uuuavcom| 色婷婷狠狠色| 日韩色五月| a久久| 97碰| 国产精品18久久久| 黄色片avv| 第1影院之五月婷婷| 免费AV在线| 色九区| 这里只有在线精品| 丁香五月婷婷手机| 天天操中文字幕| 日日干天天| 噼里啪啦完整版中文在线观看| 色色色色丁香| 狠狠爱婷婷丁香| 超碰国产在线| 人人看人人草人人摸| 国产精品久久久海的味道| 99A级片| 五月激情啪啪| 国产性爱色| 丁香婷婷大香蕉| 欧美婷婷五月激情| 日韩aaa| 操一操干一干| 婷婷天堂综合网| 婷婷99视频精品| 狠狠va| 五月丁香婷婷免费视频| 色五月综合网| 丁香天堂夜| 伊人五月天日日夜夜久久久天天| 激情久久网 | 激情五月婷婷综合| 亚洲色婷婷色| 第四色五月激情网| 在线可以看的av网址| 色婷婷AV久久久久久久| 亚洲色婷婷| 黄色国久久| 亚洲精品国产setv| 久久香蕉婷婷五月天| 日本激情综合| 天天操夜夜操| 97婷婷五月| 五月开心婷婷极品激情| WWW.色婷婷.COM| 99久久6| 国产99久久久国产精品免费看| 婷婷五月丁香激情| 欧美五月丁香在线| 色婷婷五月在线| WWW.桔色成人.COM| 99精品网| 99re热在线视频观看| 婷婷丁香五月激情图片| 丁香五月欧美午夜视频| 五月成人丁香av91| 日本不卡中文字幕| 色情一区二区播放| 97人人操人人干| 婷婷丁香综合在线| 99亚洲大片精品永久在线观看| 久久这里只精品| 激情五月天综合网| 人妻激情在线| 五月婷婷九月婷婷九月婷婷| 这里只有精品2| 激情五月婷婷色色| 26uuu国产色| 香蕉久久国产AV一区二区| 影音 五月 婷婷 久久| 婷婷在线观看五月天在线视频| 国产色色色色| 国产又粗又大又爽又黄| 五月丁香激情啪啪| 色婷婷小说网| 久热爱大香蕉在线蜜臀悦色| 色五月开心五月激情五月| 日韩1区2区| 97丁香视频| 日日操夜夜爽天天天| 另类激情综合| 五月天丁香综合久久国产| 亚洲操b| 九九热青草| 成人片久久网站| 五月天综合久久| 日韩成人无码片| www激情五月天| 成人AV在线网站| 国产免费一区二区在线A片视频| 综合一区二区三区| 99久在线精品99re5热视频| 欧美日韩婷婷五月天| 男人天堂伊人五月丁香| 色99视频| 9.1综合网| 99色热| 五月开心婷婷极品激情| 五月婷婷黄色| 五月婷久久| 五月丁香好婷婷A片网| 丁香五月影视| 亚洲色夜| 怡红院 久久| 狠狠综合久久| 毛片新网地| www.婷婷五月| 草草操操| 亚洲激情综合| 丁香五月婷婷色五月| 大地资源色婷婷视频在线| 成人.在线日韩| 综合六月激情婷婷| 乱精品一区字幕二区| 三级三久久线久久99久目本WW| 91久久久久久| 国产av影片| 丁香五月婷婷网| 五月婷婷激情性爱| 丁香六月婷婷色XXXXX| 成人AV播放| 开心激情播播五月天| 色婷婷AV在线| 色婷婷网| 国熟女视频| 雪千夏麻豆| 激情啪啪五月| 色999;丁香五月| 99∨VTV| 五月天色网站| 五月丁香久久婷| 色综合com| 无码九九| 91嫩草国产线观看亚洲一区二区| 天堂草在线观看| 亚洲成人av在线播放| 91seav| 99热免费网站| 99久久婷婷综合| 婷婷色婷婷| 蜜桃婷婷五月| 成人龟情网丁香五月| www,com,五月色色| 青草网在线观看| 国产九月婷婷| 久热黄色| 97香蕉碰碰人妻国产欧美| 少妇水多A片太爽了| 99热这里只有精品在线播放| 日本久久天堂| 热思思九九| 婷婷六月激情| 久久伊人日日夜夜| 99久在线观看| 少妇性按摩无码中文A片| EEUSS鲁片一区二区三区| 婷婷丁香五月天综合AV| 国产成人综合网| 99在线免费观看| 色婷婷五月综合| 成人丁香五月| 91九色国产| 久草婷婷视频| 色色色色热| 久久亚洲天堂| 色情五月天se| 狼人久草| 熟妇国产| 国产真人做爰视频免费| 桃色五月天| 成人短视频在线观看| 婷婷五月丁香综合桃花色网| 久久HD| 五月天综合在线观看视频| 久久永久网址| 99九九热在线观看| 91综合视频丁香| 激情婷婷五月天| 色婷婷亚洲精品天天综| 欧美久久五月婷婷| 九九色大香蕉| 久草五月婷| 熟妇无码乱子成人精品| 九九婷婷网五月天| 久热无码| 色婷婷成人做爰A片免费看网站 | 五月色婷婷综合| 99色热视频在线| 欧美综合五月丁香六月婷| 婷婷五月色综合| 99热青青草原| 久9热视频| 1级欧美日韩| 色久婷婷五月| 婷婷综合视频| 色婷婷激情Av久久久| 婷婷丁香九月| 真实亲子乱子伦高清在线观看| 97av在线视频| 婷婷伊人网| 色亭亭五月天丁香综合AV - 百度 - 百度| 1024亚洲无码| 天天天天天天天干| AV中文在线| 久久99大全| 色婷婷裸体色性在线| 国产精品久久欧美久久一区| 婷婷激情综合| 操逼巨乳91| 日韩啪啪自拍| 亚洲另类噜噜| 色色五月婷婷狠狠| 亚洲AAA| 激情五月天综合| 97色色婷婷五月天| 五月丁香色婷婷色| 色婷婷色| 五月婷婷在线视频观看| 91狼友视频在线观看| 五月花婷婷最新| 99综合网| 五月天激情网图片 - 百度| www.91色| 性色播| 婷婷九月色| 色色五月天婷婷| 九九色综合九九色| 超碰人人草| 99热久| 久热久色| 六月婷婷激情| 情婷婷五月天在线| 五月婷婷基地| 五月天色婷婷av| av国产精品| 久久99久久99精品免视看婷婷| 图片区 小说区 区 亚洲五月| 久久综合激情五月天| 婷婷六月天| 五月天婷婷色紫薇阁| 欧美成人猛片AAAAAAA| 色五月综合| 丁香五月AV| 亚洲五月天天| www.9操| 999影院成人在线影院| 婷婷五月激情综合网| 日本色爽| 精品99在线看| 99综合视频| 激情五月综合色婷婷| 精品久久穴| 九九热视频精品| 丁香九月激情久久| 欧美精品999| 人人操Av| 91 欧美| 婷婷五月天开心网| 一起草无码| 99爱精品| 色综合久久伊伊婷婷五月| 久久综合五月情| 婷婷色在线视频| 色婷婷香蕉| 丁香五月花| 五月丁香基地| www.91婷婷| 久久婷婷五月综合| 囯产精品一品二区三区| 91亚洲天堂| 91精品久久久久久| 丁香六月婷婷综合网| 超91在线视频| 日韩黄黄| ss99热| 丁香六月综合激| 久久综合婷婷| 婷婷六月伊人| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 高清免费在线视频| 91热久久| 五月丁香色婷婷基地| 日本全黄一级999| 色色色色五月| 欧美va| AV色婷婷| 婷婷色影音天| 囯产精品久久欠久久久久久九大| 丁香六月婷婷一区| 啪啪日本欧美| 日本三级大片| 五月婷婷综合激情| 亚洲第二AV| 五月香婷婷| 天天日,天天射,天天舔| 丁香六月婷婷激情综合| 九一牛视频探花| 91chinese在线| 色99热| 91精品丝袜久久久久久| 婷婷黄色网| 久久曰曰| 五月天综合视频| 九九九九九无码| 九月丁香欧美综合| 八戒青柠影视剧在线观看| 丁香五月影院| 日本色婷婷综合| 9热在线观看| 一本色道久久88综合日韩精品| 五月婷婷成人| 这里只有精品视频一区| 色播综合| 99热在线观看99| 97碰在线视频| 啪啪操超碰| 岛国av电影网站| 五月色色色| 久热9热| 成人做爰高潮A片免费视频| 色色色综合网| 久久婷婷丁香六月天| 丁香五月色色| 免费AV在线网址| 尤物一区二区| 天天精品视频免费观看| 91无码高清| 狠狠狠人妻| jiqingtaose五月天| 99在线视频女女视频| 欧美性生交A片免费看| 午夜丁香婷婷| 99色色网| 99愛国产| 91大屁股| 涩综合在线 | 97caop| 日日天天干| 99热综合网| 色色色99| 中国激情网| 婷婷激情啪啪| 五月天六月丁香| 99精品自拍| 狠狠人妻色综合| 日本人妻操| 日韩有码一区| 日本色99网站| 久久久亚洲精品一区二区三区浴池| 婷婷五月天福利| 99久久6| 色五月丁香伊人五月| 人人看人人摸人人| 婷婷 亚洲图片 丁香| 99 频99热国里只有精品| 午夜婷婷| 激情九月综合| 操一区| 九九热这里只有精品7| 影音先锋毛片网站| 99亚洲精美视频在线观看| 伊人99久久| 九九XX视频| 久久成人亚洲欧美电影| 激情婷婷狠狠干综合| 天天草女人| WWW色五月| 91919191919久久成人视频| 国产做爰视频免费播放| 夜夜操加勒比| 五月天网址在线刘玥| 丁香六月婷婷缴情欧美| 超碰在线91| 少妇高潮呻吟A片免费看软件| 亚洲A片成人无码久久精品青桔| 亚洲高清在线| 少妇高潮呻吟A片免费看软件| 亚洲精品V天堂中文字幕| 丰满老熟妇BBBBB搡BBB| 国产精品久久久久9999小说| 婷婷丁香九色| 性色九九| 99热一本久道| 久久久精品AV| 综合大香蕉| 精品国产va久久久久| 亚洲思思热久| 成人欧美一区二区三区在线观看| 亚洲日韩26uuu| 欧美综合在线五月天色婷婷| www.丁香五月| 亚洲天堂aaaa| 思思热在线| 久久婷婷五月天懂色| 综合婷婷| 丰满少妇猛烈A片免费看观看| 99riAV成人在线视频| 97色视频网| 色色五月婷婷久久| 99在线观看视频免费| 怡红院院久久| 丁香五月六月激情久久| 97极品在线| 亚洲婷婷五月天| 欧美交换配乱吟粗大25P| 青青久久五月天丁香婷婷| 射久久丁香五月| 91大神操美女| 久热这里只有精品在线观看 | 91丨九色丨大屁股| 激情综合网激情五月婷婷| 97伦乱| www.黄色片-久久成人国产精品在线播放-999AV | 成人永久免费视频在线观看| 99热情这里只有精品在线播放| 一本久久亚洲五月婷婷| 色 色 色综合com| 婷婷六月久久综合导航| 桃色成人网| 色五月中文字幕| 五月开心婷婷网| 99热日本| 久久综合影院 | 日日舔夜夜操| 91人人爽狠狠狠| 最近中文字幕大全免费版在线 | 香蕉操亚洲| 久久6这里只有精品| 婷婷五月天免费视频| 99热一区| 三级片AAA久久久AAA久久久AAA | 中文AV网站| 综合久久综合久久| va婷婷在线| 九九热免费视频| 色婷婷导航| 亚州第一A片| 亚洲激情99| 丁香六月欧美| 99激情| 成人中文字幕在线| 婷婷色五月亚洲| 丁香婷婷色色| 色九九综合色| 亚洲情色一区| 丁香婷婷色六月| 色99色| 婷婷久久色| 国产视频久色| 色综合久久44| 亚洲宗合激情| www.狠狠| 天天色视频| 久久一级AV| 色伊人婷婷| 婷婷开心激情五月激情网| 另类小说五月天| 大香蕉娱乐| 久久草婷婷丁香网站| 直接看的AV| 亚洲黄色av网站| 思思久久96热在精品国产,| 激情久久久久| 亚洲成人AV一区在线观看| 婷婷成人在线| 久久色情| 99视频在线观看网址| 丁香五月天激情AV| 五月丁香六月色| 91色在线| 中国激情网| 色综合久久之分久久| 狠狠色丁香五月婷巨| 亚洲精品色| 五月丁香亭亭A片| 很很干在线视频| 婷婷久久久| WWW99热| 五月天开心网| 激情婷婷99| 97色色色色色色色色色色色色色| 五月婷婷激情| 亚洲人妻AV| 婷婷在线视频| 国产精品岛国片在线观看免费| 天天影视色综合网| 97精品人人A片免费看| 性色人人爽| 性色播| 思思热视频| 99热天堂| 热久久这里只有精品| 六月丁香婷婷综合影院| 久色欧美| 无码少妇高潮喷水A片免费| 女性自慰系列第五页| jiZZdr| 久久99草五月婷婷| 久久久久久丁香五月| 国产av一区二区三区| 久久国产性爱A V| 日本九九九九| site:minyis.com| 久操热| 色色色色热热| 日日夜夜天天| 99亚洲综合| 国产亚洲精品久久久久久郑州 | 婷婷伊人综合中文字幕| 婷婷五月色综合| w婷婷五月婷婷w| 欧美日比视频| 亚洲成人网站在线播放| 国产97色在线 | 日韩| 久久天堂网| 久久与婷婷| 五月丁香久久综合| 日本五月婷婷| 老司机午夜福利视频金瓶梅| www.99热视频| 六月丁香啪| 怡红院AV亚洲一区二区三区H| 99热九九这里只有精品10| 色婷婷五月天| 天天天添天天操| 97超美国视频在线观看| 丁香丝袜五月| 婷婷丁香色性爱| 久久五月激情综合| 五月天激情小说| 五月天成人免费视频| 五月综合激情图片| 婷婷99狠狠躁天天久久久九九九| 五月社区婷婷激情| 五月天婷婷色综合| 人妻久久久久久| 丁香五月婷婷激情网| 丁香五月天激情视频| 欧美综合婷婷欧美综| 亚洲av另类在线观看| 丁香五月六月| 99精品在线观看视频| 天天操夜夜操| www,婷婷五月天,com| 综合五月丁香97| 欧日韩成人| 欧美美女国产日韩一区二区久| 婷婷久久色五月婷婷久久久| 夜夜操天天爽| 婷婷综合日本| 婷婷色色五月天| 激情五月婷婷在线区| 思思re最新视频| 亚洲操B| 狠狠搞五月天| 欧美 色婷婷| 欧美婷婷成人| 99热超碰在线| 五月天sesese| 丁香六月激情四射| 激情内射人妻1区2区3区| 天天操天天操天天操| 亚洲久艹| 欧美婷婷五月丁香| 色情播放| 色色五月丁香婷婷综合| 91操人| 六月丁香五月激情婷婷| www.综合久久.com| 人人摸人人| 夜丁香五月婷婷| 99碰碰| 超碰一区二区| 久超超碰| 激情综合网,婷婷五月天| 91日日日| 丁香婷婷十月| 黑人无码一区|