免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Sentinel底層原理與生產(chǎn)實(shí)踐:從配置到滑動窗口與規(guī)則持久化

Sentinel底層原理與生產(chǎn)實(shí)踐:從配置到滑動窗口與規(guī)則持久化 提到Sentinel很多同學(xué)第一反應(yīng)是限流熔斷組件但真正到要接入項目的時候又容易被一堆概念繞暈資源、規(guī)則、Slot鏈、滑動窗口、控制臺推送……這套東西要是沒搞懂底層機(jī)制配置半天不生效生產(chǎn)環(huán)境一壓測就原形畢露。這篇文章把我自己從“會用注解”到“能看懂源碼鏈路”這段時間踩過的坑、梳理清楚的關(guān)鍵點(diǎn)完整整理出來。適用的讀者比較明確已經(jīng)在用或者準(zhǔn)備用Sentinel做流量治理的Java后端開發(fā)尤其是微服務(wù)架構(gòu)剛起步、接口偶發(fā)性抖動、想引入限流但不知道從哪下手的團(tuán)隊。我會先從配置流程講起再深入到底層實(shí)現(xiàn)原理這一次盡量把“為什么這樣配置”和“運(yùn)行時到底發(fā)生了什么”串起來講而不是貼一堆官方文檔。1. 先搞清楚Sentinel解決什么問題1.1 三個核心場景直擊痛點(diǎn)Sentinel的核心能力概括起來就三塊流量控制、熔斷降級、系統(tǒng)負(fù)載保護(hù)。聽起來很抽象實(shí)際遇到的問題是具體的。流量控制對應(yīng)的是突發(fā)流量把服務(wù)打掛的問題。比如某個活動頁面零點(diǎn)上線瞬間涌入的請求是平時的幾十倍數(shù)據(jù)庫連接池和下游服務(wù)根本沒有喘息機(jī)會。Sentinel做的不是單純限制QPS數(shù)字而是根據(jù)你定義好的閾值和策略把超過閾值的流量擋在業(yè)務(wù)邏輯之前保護(hù)入口鏈路不被打穿。熔斷降級對應(yīng)的是下游依賴出問題時的“雪崩”傳導(dǎo)。比如訂單服務(wù)調(diào)用了庫存服務(wù)庫存服務(wù)GC停頓三秒訂單服務(wù)的線程就大批堆積堆積的線程又占滿Tomcat線程池緊接著整個訂單服務(wù)也假死。Sentinel通過慢調(diào)用比例、異常比例這些指標(biāo)判斷下游是否處于不健康狀態(tài)一旦觸發(fā)就快速返回兜底結(jié)果不再去請求異常的依賴。系統(tǒng)負(fù)載保護(hù)更偏向整機(jī)維度不是只看單個接口的QPS而是結(jié)合CPU使用率、系統(tǒng)Load、平均RT這些機(jī)器級指標(biāo)做兜底。這一點(diǎn)在很多網(wǎng)關(guān)場景特別有用后端機(jī)器已經(jīng)高負(fù)載了即使每個接口都沒達(dá)到流控閾值也應(yīng)該主動削峰。三條能力各有適用場景但它們的底層都是“統(tǒng)計 規(guī)則判斷”理解這一點(diǎn)后面的機(jī)制就好懂很多。1.2 資源和規(guī)則理解配置的最小單元Sentinel整個模型可以壓縮成兩個詞資源和規(guī)則。資源是你要保護(hù)的目標(biāo)規(guī)則是定義怎么保護(hù)。資源在代碼里通常是一個方法、一個接口、或者一段業(yè)務(wù)邏輯。手動埋點(diǎn)時用SphU.entry(someResource)創(chuàng)建入口用注解SentinelResource(someResource)也可以起到類似效果。規(guī)則則通過Rule對象描述比如FlowRule描述流控規(guī)則、DegradeRule描述熔斷規(guī)則、AuthorityRule描述黑白名單規(guī)則。配置規(guī)則的本質(zhì)就是把“資源”和“限制條件”關(guān)聯(lián)起來。我剛開始接觸時有個誤區(qū)以為只要在控制臺配了規(guī)則代碼里不用做任何改動就自動生效。實(shí)際上資源埋點(diǎn)才是前提控制臺規(guī)則只是告訴Sentinel“對這個已埋點(diǎn)的資源做什么限制”。如果代碼里根本沒對某接口埋點(diǎn)控制臺配再多規(guī)則也是空轉(zhuǎn)。1.3 Sentinel和其他限流組件的本質(zhì)差異和Hystrix這類線程隔離方案比Sentinel的差異很直觀。Hystrix用線程池隔離來保護(hù)依賴每個依賴分配固定線程數(shù)超了直接拒絕代價是每一個下游調(diào)用都要跨線程切換線程開銷很大。Sentinel走的是統(tǒng)計流量再加規(guī)則判斷的路線不額外創(chuàng)建線程池請求仍然走原始調(diào)用線程只是在入口處做了計數(shù)器判斷性能開銷要小得多。Resilience4j是另一種輕量級方案它的滑動窗口和熔斷器也做得不錯但規(guī)則管理和控制臺體驗比Sentinel弱一些。實(shí)際業(yè)務(wù)中Sentinel的優(yōu)勢主要體現(xiàn)在幾方面細(xì)粒度的實(shí)時監(jiān)控數(shù)據(jù)、豐富的流控效果快速失敗、Warm Up、排隊等待、與微服務(wù)體系的控制臺聯(lián)動。這些不是單純一個算法庫能提供的屬于完整的治理方案。2. 最小可用配置十分鐘接入哨兵2.1 引入依賴和初始化接入Sentinel的第一步是引入依賴。以最常見的Spring Boot項目為例Maven里加上對應(yīng)依賴即可。如果你是Spring Cloud Alibaba體系可以直接引spring-cloud-starter-alibaba-sentinel會連自動配置一起帶進(jìn)來如果是純Spring Boot項目引sentinel-core和sentinel-transport-simple-http也夠用。dependency groupIdcom.alibaba.csp/groupId artifactIdsentinel-core/artifactId version1.8.6/version /dependency !-- 控制臺通信依賴接入dashboard時需要 -- dependency groupIdcom.alibaba.csp/groupId artifactIdsentinel-transport-simple-http/artifactId version1.8.6/version /dependency初始化代碼很少Sentinel提供了SPI機(jī)制大多數(shù)組件會自動加載。如果是在非Spring環(huán)境里使用手動調(diào)用一下InitExecutor.doInit()也可以強(qiáng)制觸發(fā)初始化。這個階段最容易忽略的是配置project.name所有接入控制臺的客戶端都會用這個名字上報不設(shè)置的話控制臺的“機(jī)器列表”里會看到一個默認(rèn)名多個應(yīng)用混在一起很難排查。2.2 用注解和API手動埋點(diǎn)接入后第一件事不是配規(guī)則而是決定在哪里做資源埋點(diǎn)。注解方式最推薦在關(guān)鍵業(yè)務(wù)方法上使用直觀同時便于維護(hù)SentinelResource(value createOrder, blockHandler handleBlock) public Order createOrder(OrderRequest request) { // 核心業(yè)務(wù)邏輯 } public Order handleBlock(OrderRequest request, BlockException ex) { // 被限流或熔斷后的兜底邏輯 return Order.fallback(); }注意blockHandler方法的簽名必須和原方法一致且多一個BlockException參數(shù)。這里有個很容易踩的坑如果不寫blockHandler接口被限流后直接把異常拋給上層用戶看到的就是500錯誤而不是一個優(yōu)雅的降級提示。平時我看到不少項目過度依賴SentinelResource所有方法都加注解。其實(shí)有些場景適合手動埋點(diǎn)比如被調(diào)用的第三方SDK方法不好加注解時可以用SphU直接包一層try (Entry entry SphU.entry(cacheGet)) { return cache.get(key); } catch (BlockException ex) { return getFromBackup(key); }埋點(diǎn)要在真實(shí)的熱點(diǎn)路徑上比如查詢接口入口、秒殺下單入口、數(shù)據(jù)庫寫入前而不是在鏈路末端打個沒意義的標(biāo)記。2.3 三種規(guī)則配置方式規(guī)則配置有硬編碼、通過控制臺推送、通過外部數(shù)據(jù)源拉取三種常見方式。硬編碼方式適合本地驗證和測試直接代碼里創(chuàng)建FlowRuleFlowRule rule new FlowRule(); rule.setResource(createOrder); rule.setGrade(RuleConstant.FLOW_GRADE_QPS); rule.setCount(100); FlowRuleManager.loadRules(Collections.singletonList(rule));loadRules一調(diào)用規(guī)則立刻內(nèi)存生效不需要重啟。但生產(chǎn)環(huán)境千萬別這么做每次發(fā)版改規(guī)則都要改代碼而且規(guī)則只存在本地內(nèi)存應(yīng)用重啟規(guī)則就沒了這是硬編碼最大的局限??刂婆_推送方式指在Dashboard頁面新增流控規(guī)則通過簡單HTTP接口下發(fā)到客戶端內(nèi)存里。好處是可視化壞處是同樣不持久化應(yīng)用重啟后規(guī)則丟失需要重新推一遍。更致命的是多臺實(shí)例時控制臺會向每臺客戶端分別推送如果有一臺實(shí)例網(wǎng)絡(luò)抖動沒收到該實(shí)例規(guī)則就跟其他實(shí)例不一致。所以生產(chǎn)環(huán)境只用控制臺推規(guī)則等于給自己埋雷。外部數(shù)據(jù)源方式是把規(guī)則放到注冊中心或配置中心客戶端通過DataSource自動監(jiān)聽變化。這是生產(chǎn)環(huán)境推薦方案具體做法下一章展開。2.4 控制臺的安裝與客戶端接入Sentinel控制臺是個獨(dú)立的Web應(yīng)用官方給出的啟動方式很直接java -Dserver.port8080 \ -Dcsp.sentinel.dashboard.serverlocalhost:8080 \ -Dproject.namesentinel-dashboard \ -jar sentinel-dashboard.jarcsp.sentinel.dashboard.server對控制臺本身來說是注冊到哪個服務(wù)端默認(rèn)指向自己即可。啟動成功后訪問localhost:8080默認(rèn)賬號密碼都是sentinel??蛻舳私尤肟刂婆_時必須指定控制臺地址和應(yīng)用名java -Dcsp.sentinel.dashboard.serverlocalhost:8080 \ -Dproject.nameorder-service \ -jar order-service.jar如果是在Spring Boot的application.properties里配置對應(yīng)是這樣spring.cloud.sentinel.transport.dashboardlocalhost:8080 spring.application.nameorder-service客戶端接入后不會立即出現(xiàn)在控制臺必須等某個Sentinel資源第一次被訪問產(chǎn)生了統(tǒng)計數(shù)據(jù)客戶端才會上報心跳和指標(biāo)。我第一次部署時在控制臺等機(jī)器列表一直不出現(xiàn)后來臨時調(diào)了一下接口才發(fā)現(xiàn)是“懶加載”機(jī)制。3. 規(guī)則持久化與動態(tài)推送3.1 為啥規(guī)則老丟很多團(tuán)隊用控制臺配置完規(guī)則后遇到過一個詭異現(xiàn)象規(guī)則當(dāng)時是生效的但應(yīng)用一重啟規(guī)則全部消失還得重新配置。原因就是上一章說的控制臺默認(rèn)模式是把規(guī)則推給客戶端內(nèi)存并沒有落到任何持久化存儲。Sentinel的FlowRuleManager.loadRules只負(fù)責(zé)更新內(nèi)存中的規(guī)則集合它本身沒有“保存到數(shù)據(jù)庫”的邏輯。這種設(shè)計在線上的問題不止重啟丟規(guī)則。假設(shè)訂單服務(wù)部署了10臺機(jī)器你在控制臺把下單接口的閾值從100改到200控制臺會向每臺機(jī)器的內(nèi)存分別推送新規(guī)則。只要其中一臺推送失敗它留在舊值整個集群的流控閾值就是不均勻的流量調(diào)度隨機(jī)到這臺機(jī)器時表現(xiàn)會和別的不一樣。3.2 DataSource機(jī)制解析Sentinel為了解決規(guī)則來源問題抽象出了DataSource接口它負(fù)責(zé)從外部存儲讀取規(guī)則并把變更推送給對應(yīng)RuleManager。核心流程是一個外部源配置中心或數(shù)據(jù)庫保存規(guī)則內(nèi)容格式通常是JSON字符串。DataSource定時拉取或者訂閱變更事件。拿到內(nèi)容后通過Converter轉(zhuǎn)換成規(guī)則列表。調(diào)用FlowRuleManager.register2Property(property)或DegradeRuleManager.register2Property(property)把規(guī)則送入對應(yīng)的規(guī)則管理器。讀到這里你會發(fā)現(xiàn)DataSource只是解決了“規(guī)則從哪里加載”的問題至于你怎么往配置中心寫規(guī)則可以手動寫、可以用控制臺改造后寫、也可以寫個腳本定時同步。常見可用的數(shù)據(jù)源有Nacos、Zookeeper、Apollo、Etcd核心思想都一樣配置中心是規(guī)則唯一權(quán)威來源。3.3 基于Nacos的規(guī)則持久化實(shí)例以Nacos作為配置中心做一個最簡單的流控規(guī)則持久化。先引入擴(kuò)展依賴dependency groupIdcom.alibaba.csp/groupId artifactIdsentinel-datasource-nacos/artifactId version1.8.6/version /dependencySpring Boot項目里配置數(shù)據(jù)源BeanConfiguration public class SentinelNacosConfig { Bean public FlowRuleDataSource flowRuleDataSource() { String rule [\n {\n \resource\: \createOrder\,\n \grade\: 1,\n \count\: 100,\n \limitApp\: \default\\n }\n ]; return new FlowRuleDataSource(localhost:8848, sentinel-group, order-create-flow-rules, new NacosConverter()); } private static class NacosConverter implements ConverterString, ListFlowRule { Override public ListFlowRule convert(String source) { return JSON.parseArray(source, FlowRule.class); } } }配置完之后應(yīng)用啟動時會自動從Nacos拉取規(guī)則后續(xù)Nacos配置變更也會被監(jiān)聽并熱更新。注意幾個參數(shù)dataId對應(yīng)Nacos配置IDgroup對應(yīng)Nacos分組grade為1表示QPS維度0表示并發(fā)線程數(shù)維度容易配反。實(shí)際生產(chǎn)環(huán)境里我建議把規(guī)則配置放在獨(dú)立的配置文件中不同環(huán)境用不同dataId分段例如order-service-flow-dev、order-service-flow-prod避免測試環(huán)境改閾值影響到生產(chǎn)。3.4 生產(chǎn)環(huán)境規(guī)則治理建議規(guī)則持久化只是第一步規(guī)則治理牽扯到更細(xì)的問題。規(guī)則變更要遵循可追溯原則。每一次修改閾值都算一次變更最好有記錄誰改的、什么時候改的、從多少改到多少??刂婆_本身日志比較弱可以通過改造數(shù)據(jù)源的寫入端統(tǒng)一走公司的配置中心變更審計這樣出問題時能查得到。規(guī)則發(fā)布要關(guān)注生效范圍。Nacos配置更新后所有客戶端實(shí)例會同時收到新規(guī)則。如果新閾值設(shè)置得太激進(jìn)比如從1000改成100全量實(shí)例瞬間收緊流量接口可用性可能大幅下降。穩(wěn)妥的做法是先改一臺實(shí)例的規(guī)則做灰度驗證穩(wěn)定后再推全局。還要區(qū)分“業(yè)務(wù)規(guī)則”和“治理規(guī)則”。限流閾值往往和業(yè)務(wù)容量評估、壓測結(jié)果強(qiáng)相關(guān)不是運(yùn)維憑空填一個數(shù)。每隔一段時間需要根據(jù)峰值流量回放壓測看當(dāng)前閾值是否合理避免閾值定得太高起不到保護(hù)作用或者定得太低誤傷正常流量。4. 底層原理資源與Slot鏈的協(xié)作4.1 默認(rèn)鏈路從入口到最終攔截Sentinel的底層核心是一個責(zé)任鏈模式叫ProcessorSlotChain。每個資源在第一次訪問時會構(gòu)建一條獨(dú)立的Slot鏈后續(xù)所有經(jīng)過該資源的流量都會在這條鏈上依次過一遍。一條默認(rèn)鏈路包含的主要Slot按順序是NodeSelectorSlot負(fù)責(zé)為當(dāng)前資源創(chuàng)建DefaultNode并把調(diào)用樹上下文綁到當(dāng)前入口。ClusterBuilderSlot負(fù)責(zé)創(chuàng)建ClusterNode用于統(tǒng)計整個資源粒度的全局?jǐn)?shù)據(jù)。StatisticSlot最核心的統(tǒng)計實(shí)例負(fù)責(zé)把請求的通過數(shù)、拒絕數(shù)、RT數(shù)據(jù)寫入滑動窗口。AuthoritySlot做黑白名單校驗。SystemSlot做系統(tǒng)負(fù)載保護(hù)。FlowSlot根據(jù)限流規(guī)則判斷是否需要拒絕。DegradeSlot根據(jù)熔斷規(guī)則判斷當(dāng)前資源是否處于熔斷狀態(tài)。我最早看這個鏈時很疑惑為什么統(tǒng)計放在最前面規(guī)則判斷放在后面。后來一想就通了規(guī)則判斷需要依賴統(tǒng)計數(shù)據(jù)所以先讓StatisticSlot把本次請求寫入統(tǒng)計窗口隨后FlowSlot讀取窗口數(shù)據(jù)時就能計算當(dāng)前QPS是否超限。如果超限拋出BlockException請求在鏈上被攔截如果正常請求繼續(xù)向下走最終進(jìn)入真實(shí)業(yè)務(wù)邏輯。這個設(shè)計還有一個精妙之處StatisticSlot在任何規(guī)則判斷之前都會把原始數(shù)據(jù)采集下來所以即使某個規(guī)則沒觸發(fā)控制臺依然能看到實(shí)時指標(biāo)。整個鏈路像流水線上的傳感器加閘機(jī)傳感器先記錄流量閘機(jī)再決定放不放行。4.2 統(tǒng)計數(shù)據(jù)的滑動窗口實(shí)現(xiàn)Sentinel統(tǒng)計的核心不是簡單計數(shù)器而是一個滑動窗口。具體實(shí)現(xiàn)類是LeapArray它內(nèi)部維護(hù)一個環(huán)形數(shù)組數(shù)組每個元素就是一個窗口桶WindowWrap。每個窗口桶里保存了該時間窗口內(nèi)統(tǒng)計到的總請求數(shù)、總RT、成功數(shù)、異常數(shù)等指標(biāo)。在默認(rèn)秒級統(tǒng)計場景下Sentinel把1秒劃分成2個500毫秒的桶數(shù)組長度也按這個粒度初始化。當(dāng)時間推進(jìn)到新的桶周期時會復(fù)用或覆蓋舊桶數(shù)據(jù)。這樣做的直接好處是QPS計算不需要額外加鎖讀當(dāng)前時間所在桶的計數(shù)除以窗口跨度即可。相比傳統(tǒng)的整秒固定窗口滑動窗口能明顯緩解臨界問題——固定窗口在秒邊界切換瞬間可能出現(xiàn)兩倍流量穿透滑動窗口把粒度細(xì)化統(tǒng)計更連續(xù)。值得注意的是規(guī)則里的閾值比較是通過ClusterNode的指標(biāo)計算的不是單機(jī)DefaultNode。這意味著即使在多線程并發(fā)下統(tǒng)計也能拿到整個應(yīng)用內(nèi)該資源的總流量。int windowLength 500; // 500ms一個桶 int sampleCount 2; // 1s內(nèi)2個桶 long currentQps node.passQps(); // 統(tǒng)計通過QPS4.3 節(jié)點(diǎn)模型DefaultNode與ClusterNode節(jié)點(diǎn)模型是理解Sentinel統(tǒng)計隔離性的關(guān)鍵。每個資源在每次請求入口處會創(chuàng)建DefaultNode它歸屬于當(dāng)前調(diào)用鏈上下文。更準(zhǔn)確地說同一個資源的DefaultNode在相同Context下是同一個實(shí)例在不同Context下是不同的實(shí)例。ClusterNode則是資源維度的全局節(jié)點(diǎn)和應(yīng)用入口無關(guān)。FlowSlot做限流判斷時用的是ClusterNode的統(tǒng)計值因為限流關(guān)心的是這個資源總共過來了多少流量而不是某個上游或某個調(diào)用關(guān)系單獨(dú)給了多少流量。我自己寫代碼時有一個習(xí)慣如果發(fā)現(xiàn)需要對某個上游來源單獨(dú)限流比如只限制某個內(nèi)部系統(tǒng)請求這個接口的頻率那就需要配合AuthoritySlot或者自定義origin白名單邏輯而不是單純依賴默認(rèn)的ClusterNode統(tǒng)計。5. 限流算法的內(nèi)核與配置取舍5.1 滑動窗口計數(shù)模型Sentinel的默認(rèn)限流基于滑動窗口計數(shù)它的判斷邏輯很簡單讀取當(dāng)前滑動窗口內(nèi)已經(jīng)通過的請求數(shù)如果加上當(dāng)前這個請求會超過閾值就拒絕。舉個例子閾值QPS100當(dāng)前500ms桶里已經(jīng)通過80個請求這時新請求進(jìn)來判斷通過總數(shù)如果即將超過100就攔截。但注意讀到的不是嚴(yán)格的1秒整窗口而是最近若干個桶的區(qū)間。窗口劃分得越細(xì)統(tǒng)計越平滑但計算也越重。Sentinel秒級統(tǒng)計默認(rèn)2個桶分鐘級統(tǒng)計默認(rèn)60個桶各有各的用途?;瑒哟翱诘膯栴}在于它不是一個基于排隊論的平滑算法流量短時脈沖仍可能瞬時超過閾值只是不會像固定窗口那樣在窗口翻新瞬間出現(xiàn)雙倍量級的問題。對于絕大多數(shù)接口限流場景這個精度已經(jīng)足夠。5.2 三種流控效果怎么選配置FlowRule時controlBehavior字段決定了流量超過閾值后的行為??焖偈∈悄J(rèn)模式超過閾值直接拋出BlockException在注解場景下進(jìn)入blockHandler。適合大多數(shù)業(yè)務(wù)接口對調(diào)用方來說語義清晰服務(wù)忙請重試。Warm Up模式適合處理冷系統(tǒng)啟動場景。比如配置了1000 QPS系統(tǒng)剛剛啟動時不會讓流量一下子全上來而是從一個較小的值默認(rèn)是閾值的1/3逐漸增長到1000 QPS。我經(jīng)常用在需要預(yù)熱的場景比如頻繁使用Java JIT、連接池剛建立等這個模式能有效避免冷啟動瞬間被打滿。排隊等待模式本質(zhì)上是漏桶算法的實(shí)現(xiàn)。請求超閾值后不直接拒絕而是讓它在隊列里等待以固定的速率放行。適合應(yīng)對突發(fā)性質(zhì)的流量比如消息任務(wù)偶發(fā)大批量執(zhí)行、定時任務(wù)集中跑批不適合實(shí)時在線接口請求延遲會明顯變大。FlowRule rule new FlowRule(); rule.setResource(batchJob); rule.setGrade(RuleConstant.FLOW_GRADE_QPS); rule.setCount(50); rule.setControlBehavior(RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER); rule.setMaxQueueingTimeMs(500);這個例子里超出的請求最多等500毫秒如果等待超時還是沒獲得放行直接拒絕。5.3 熔斷降級的狀態(tài)機(jī)與恢復(fù)策略熔斷降級和限流最大區(qū)別在于它關(guān)注的是“被調(diào)用方是否健康”而不是“調(diào)用方有多少流量”。Sentinel的熔斷狀態(tài)有三個CLOSED關(guān)閉、OPEN打開、HALF_OPEN半開。初始狀態(tài)是CLOSED一切正常。當(dāng)統(tǒng)計周期內(nèi)慢調(diào)用比例或異常比例達(dá)到閾值熔斷器切換到OPEN接下來所有請求直接走降級邏輯不再真實(shí)調(diào)用下游。OPEN狀態(tài)持續(xù)timeWindow毫秒后自動進(jìn)入HALF_OPEN半開狀態(tài)此時放行少量探測請求如果探測請求成功熔斷器回到CLOSED如果還失敗重新回到OPEN。我這里有一個配置經(jīng)驗慢調(diào)用比例閾值不能只看平均值要結(jié)合TP99來定。假如TP99本身是200ms你把最大RT定成100ms那幾乎所有請求都會被判成慢調(diào)用接口稍微波動一下直接熔斷恢復(fù)后馬上又熔斷像個開關(guān)一樣反復(fù)橫跳。初始配置寧愿寬松一點(diǎn)先觸發(fā)了再逐步收緊。DegradeRule degradeRule new DegradeRule(); degradeRule.setResource(getUserInfo); degradeRule.setGrade(RuleConstant.DEGRADE_GRADE_RT); degradeRule.setCount(200); // 最大RT 200ms degradeRule.setTimeWindow(10); // 熔斷10秒 degradeRule.setMinRequestAmount(5); // 至少5個請求才觸發(fā)統(tǒng)計 degradeRule.setStatIntervalMs(1000);minRequestAmount這個參數(shù)容易忽略但非常重要。請求量太少的時候統(tǒng)計樣本沒有統(tǒng)計意義可能一個慢請求就讓整個接口熔斷。加這個參數(shù)等于要求“至少積累這么多樣本才能下結(jié)論”。5.4 熱點(diǎn)參數(shù)與系統(tǒng)自適應(yīng)限流常規(guī)流控只針對資源整體熱點(diǎn)參數(shù)限流則細(xì)化到參數(shù)值維度。比如同一個商品查詢接口全網(wǎng)熱賣商品和普通商品的流量天差地別你希望針對商品ID做精細(xì)化限流某個熱門商品ID最多每秒查20次其他商品最多每秒查200次。這時需要用ParamFlowRule指定參數(shù)索引位置。系統(tǒng)自適應(yīng)規(guī)則相對更“大而全”它不會去區(qū)分具體資源而是全局生效。典型配置包括CPU使用率閾值、系統(tǒng)Load閾值、平均RT閾值、入口總QPS閾值、線程數(shù)閾值。其中系統(tǒng)Load的保護(hù)在Linux下才真正可靠因為要讀系統(tǒng)負(fù)載文件Windows下會退化為不生效。這套規(guī)則特別適合做入口網(wǎng)關(guān)的兜底保護(hù)比如整個網(wǎng)關(guān)的入口QPS先設(shè)置一個總量閾值其次再通過每條業(yè)務(wù)線自己的流控規(guī)則細(xì)化形成兩層保護(hù)。優(yōu)先級上系統(tǒng)規(guī)則在最前面防止整機(jī)資源被打滿業(yè)務(wù)規(guī)則在后面做更精準(zhǔn)的接口級控制。6. 常見問題速查與踩坑排雷6.1 規(guī)則不生效怎么查這是出現(xiàn)頻率最高的問題。第一步先確認(rèn)資源名是否一致。控制臺配置里寫的資源名必須和代碼埋點(diǎn)里的value一模一樣一個字符差都不行。很多人控制臺里寫的是接口路徑/order/create代碼里注解寫的是createOrder看起來像是同一個接口但Sentinel只認(rèn)字符串字面量對不上就是不生效。第二步確認(rèn)是否真的訪問了資源。Sentinel是懶加載的沒有流量經(jīng)過埋點(diǎn)控制臺就不會有該資源的統(tǒng)計信息規(guī)則自然不會被觸發(fā)。檢查機(jī)器列表里是否能看到應(yīng)用如果看不到說明客戶端跟控制臺心跳都不通更談不上規(guī)則下發(fā)了。第三步看是否有異常被吞掉。比如SentinelResource搭配了兜底方法但兜底方法內(nèi)部被try-catch吃掉了你看到的可能就是接口正常返回掩蓋了限流發(fā)生的事實(shí)。最好在兜底方法里加日志把BlockException的類型打出來快速定位是流控、熔斷、還是系統(tǒng)保護(hù)觸發(fā)的。6.2 監(jiān)控數(shù)據(jù)與預(yù)期不符常見表現(xiàn)是控制臺看到的QPS和壓測工具統(tǒng)計的TPS對不上。一方面Sentinel控制臺顯示的QPS是經(jīng)過埋點(diǎn)資源統(tǒng)計的如果埋點(diǎn)位置在網(wǎng)關(guān)之后那就統(tǒng)計不到網(wǎng)關(guān)前的流量另一方面控制臺指標(biāo)是客戶端定時上報的本身有秒級延遲不是實(shí)時精確值。更隱蔽的一個坑是多個實(shí)例的統(tǒng)計隔離。如果應(yīng)用部署了多臺機(jī)器控制臺上顯示的是單臺機(jī)器的指標(biāo)不是說所有實(shí)例聚合后的總量。你給單機(jī)配額100 QPS兩臺機(jī)器就是200 QPS總?cè)肟诹髁窟@在容量規(guī)劃時要算清楚。如果發(fā)現(xiàn)壓測流量被限流了但指標(biāo)沒明顯異??梢钥紤]是不是有Warm Up規(guī)則存在一開始流量被壓低一段時間后才恢復(fù)也可能是maxQueueingTimeMs設(shè)置過小大量請求排無可排直接拒絕但統(tǒng)計數(shù)據(jù)里排隊時間看著正常。6.3 性能開銷和依賴沖突Sentinel本身的性能開銷主要集中在統(tǒng)計寫入上由于滑動窗口數(shù)據(jù)結(jié)構(gòu)是預(yù)分配數(shù)組加原子更新正常情況下單次統(tǒng)計耗時很短暫不會成為瓶頸。但如果你的業(yè)務(wù)本身QPS已經(jīng)特別高每個請求又埋了非常多資源點(diǎn)統(tǒng)計和Slot鏈遍歷的開銷會成倍增加。這種時候要合理控制埋點(diǎn)粒度盡量在入口處和關(guān)鍵依賴處埋點(diǎn)不要層層埋點(diǎn)。依賴沖突常見于同時引入老版本Sentinel和應(yīng)用自帶的fastjson或jackson版本不一致導(dǎo)致反序列化規(guī)則JSON報錯。排查方法很簡單看到Converter轉(zhuǎn)ListFlowRule異常時多數(shù)是JSON庫沖突調(diào)整版本或者用自定義轉(zhuǎn)換器處理。還有一類問題是控制臺版本和客戶端版本不一致。Dashboard版本過舊客戶端用新版本注冊時可能出現(xiàn)協(xié)議不兼容反饋到現(xiàn)象上是機(jī)器列表不顯示、規(guī)則推不進(jìn)去。我建議客戶端和Dashboard盡量保持同一個主版本升級時先升控制臺再升客戶端。6.4 一套推薦的配置落地順序根據(jù)我接入多個項目的經(jīng)驗生產(chǎn)落地不要一上來就堆規(guī)則。建議按這個順序推進(jìn)先做好資源埋點(diǎn)梳理核心接口和熱點(diǎn)場景保證所有需要治理的入口都有明確的資源名。然后部署控制臺拿到基礎(chǔ)監(jiān)控數(shù)據(jù)搞清每個接口的真實(shí)QPS、RT、異常率基線。有了基線之后再配限流規(guī)則閾值設(shè)為基線峰值的1.2到1.5倍先寬松后收緊。最后再逐步補(bǔ)充熔斷規(guī)則、熱點(diǎn)參數(shù)規(guī)則和系統(tǒng)規(guī)則每加一條規(guī)則都要觀察一段時間看觸發(fā)頻率和業(yè)務(wù)影響。規(guī)則之間也會互相作用比如入口QPS規(guī)則和慢調(diào)用熔斷規(guī)則同時存在時出現(xiàn)流量突增入口限流先攔掉一批熔斷統(tǒng)計到的請求數(shù)可能不足以觸發(fā)熔斷。這種時候要結(jié)合監(jiān)控日志看整個鏈路而不是盯著某一條規(guī)則調(diào)參。接入Sentinel這件事難點(diǎn)從來不在寫幾行配置而在于你能否回答出“每個閾值為什么是這個數(shù)”“每一類規(guī)則到底在保護(hù)哪個薄弱點(diǎn)”。先把底層原理摸清楚配置只是順?biāo)浦鄣氖隆W詈筇醾€建議所有限流規(guī)則定義完畢之后花半天時間做一輪全鏈路壓測讓規(guī)則在真實(shí)流量下多跑一會兒這會暴露很多控制臺圖表看不出來的問題。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
成人免费超碰| site:xiongshengzz.com| 蜜臀嫩草| 婷婷六月综合在线| 玖玖视频福利| www.婷婷六月天| 96精品成人无码A片观看金桔| av性爱在线| 成人av在线网站| 成人片黄网站色大片免费毛片| 综合色色色| 天天婷婷综合| 欧美日韩91| 久久九九在线视频| 婷婷综合性爱网| 五月婷婷在线丁香| 97久久视频| 中文超碰视在线| 超碰在线99| www一区二区三区| 日日日,com| 日本综合久久| 五月婷婷中文网| 久久久激情视频| 狠狠干,狠狠操| 丁香五月 综合| 97操在线资源| 久久加勒比| 色情终和网| 九九色影视| 色婷婷丁香| 综合逼五月激情婷婷| 激情AV在线| 六月婷婷日| 大香蕉久| 乱精品一区字幕二区| 97性视频| 99热新网址| 这里只有精品网站| 九色色| 思思99热这里只有精品| 婷婷五月成人| 九九热视频精品2| 丁香激情五月| 五月丁香啪综合| 黄色av高清| 日本欧美成人片AAAA| 少妇高潮一区二区三区99欧美| 日韩在线aaa| 五月天快乐开心激情网| 五月丁香婷婷综合激情基地| 丁香五月宝贝激情网| 色五月激情视频在线综合| 五月婷婷婷丁香播| 激情六月婷婷| 久久女婷| 丁香婷婷射| 久久香蕉网| 日本欧美国产| 欧美va精品va老师va| 五月丁香999| 99人妻碰碰碰久久久久视| 精品九九久久| 人妻久热| 免费成人va| 99九九久久| 国产成人在线精品| 4399在线观看免费高清电视剧| 久久性视频| AV在线中文| 99re久久| 免费试看小视频 99| 深爱婷婷色| 婷婷综合五月激情| 99国产在线| 婷婷五月天在线观看免费| 天天射夜夜骑| 成人亚洲精品| 日韩成人无码| 日本色色网站| 精品无码色| 99久热这里有精品| 色色AV色色色东莞| www.色婷婷| 国产伦亲子伦亲子视频观看| 97久操| 天天操天天曰天天射| 六月久久婷婷| 五月丁香婷婷激情| 久久作爱| 天天操天天国产三级片处女学生妹| 五月天大香蕉视频| 五月婷婷六月丁香激情深爱| 在热视频精品| 亚洲六月婷婷| 色色婷婷丁香五月天| 精品99在线| 色婷婷丁香五月| 最近中文字幕2019视频1| WWW.婷婷| 婷婷丁香综合色AV| 蜜臀A∨在线水帘洞| 天天AV导航网| 色婷婷国产精品综合在线观看| 久久九九爽| 久久久网站| 欧美情色电影一区二区| 超碰亚洲天堂| 激情六月色| 久久这里只有精品99| 五月丁香婷婷钟和色图| 久久五月天大美女| 大香蕉99热| 五月综合色| 爆乳熟女-区二区三区| 久久五月婷婷丁香| 思思w99| 五月丁香啪啪网| 激情六月婷婷| 国产成人高清| 激情六月婷| 成人看片网站| 国产婷婷五月天| 色网站99| 精品久久99| www.com在线操视频免费观看| 久久色婷婷| 夜夜撸日日骑| 激情5月婷婷| 玖玖在线视| 婷婷中文字幕版| 操日视频| 中文av网| 色吊操色妞| 激情com| 色五月婷婷基地| 国产精品扒开腿做爽爽爽A片唱戏| 丁香狠狠操| 婷婷九月激情网| 91要啪| 97se在线视频| 天天日夜夜爽。| 99热最新| 99 这里只有精品| 91精品91久久久中77777| 一本到不卡高清DVD| 五月丁香怕啪啪| 开心五月激情网| 久综合4| 26uuu欧美日韩| 99综合自拍| 一本色道久久综合狠狠躁一二三| 99视频一区| 亚洲日本韩国| 婷婷五月天日日日干干干| 91精品久久久久| 天堂色色色| 九九九九这里只有精品| 无码yw| 亚洲最大激情无码| 亚洲天堂大香蕉| 久久婷婷丁香花综合网| 99热这里只有精品18| 五月综合视频| 天天干天天干天天干天天干天天干天天| 我爱大香蕉| 久草五月| yazhoujiqingav| 午夜不卡成人一区二区| 九九热内射| 久热这里只有精品视频6| 色婷婷久久| 97天堂| 99综合视频| 婷婷五月天天天日日夜夜| 国产操碰| 丁香五月日本| 丁香五月很很肏| 天天狠狠干| 丁香婷婷六月| 色99在线观看| 狠狠操天天操| 色婷婷精| 亚洲热久久| av中文在线| 天天爱天天操| 人妻精品久久久久久久| 999久久久国产精品| 超碰在线中文字幕| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | 开心五月综合激情网| 玖玖午夜视频| 丁香月五月天婷婷久久| 91视频久久久| 国产成人精品一区二区三区视频 | 操碰91| 思思热在线观看| 婷婷天天综合| 深夜男女福利刺激影院一区完整| 亚洲六月综合激情久久下卡| 丁香六月婷婷综合| 五月色网| 久久五月丁香伊人青草| 97碰成超视频免费视频| 白人荫道BBWBBB大荫道| 日韩 中文 欧美| 丁香婷婷激情五月| 亭亭色色五月天| A片试看120分钟做受图片| 五月天另类图片| 99热自拍| 91偷拍视频| 69超碰在线| 激情五月天色色网| 国产免费一区二区三区三州老师F1F1.CC| 性爱先锋AV| 五月婷婷六月奇米网丁香| 97se在线视频| 狠狠爱青青草| 免费做A爰片77777| 九九综合| 色噜噜狠狠色综合网| 丁香 婷婷五月| 激情爱爱网站超大免费| 九月婷婷综合在线| 五月丁香婷婷狠狠操| 91天天操天天干天天射| 成人一级片| 99热这里只有精品2024| 久久五月天激情视频| 成年人夜夜喷水| 综合网精品99| 狠狠干.com| 九九热AV| 中字幕视频在线永久在线观看免费| 五月丁香婷婷免费视频| 丁香五月亚洲| 天天日夜夜拍| 五月天com| 亚洲婷婷乱乱丁香| 婷婷色激情五月天| 97色色色色色| 四月丁香五月婷婷久久| 九九在线精点品| 26uuu另类亚洲欧美日本一| 国产AV一区二区三区日韩| 五月丁香激情综合| 99热这里只有精品22| 99久视频| 在线观看av网站| 五月亭亭直播| 超碰猛烈的性猛交| 欧美丁香婷婷五月| 99无码视频| 日本色婷婷| 国产亚洲在线观看| 日日夜夜狠狠| 碰超亚洲| 丁香六月婷婷综合啪啪| 97碰碰人人| 97碰久久| 99这里只有免费的小视频在线观看| 成人午夜无码视频| 婷婷色无码| 99热思思在线观看| 丁香六月天色婷婷| 九九热国产| 天天热夜夜操| 色99网站| 色婷婷五月天| 丁香操逼| 久综合网| 五月丁香六月婷婷手机无线| 狠狠色噜噜狠狠狠狠综合| 五月天婷婷在线视频| 亚洲五月婷婷| 婷婷伊人| 日本人妻操| 丁香五月婷婷天堂大香蕉| 182TV大香蕉| 91精品又长又大又粗又爽又猛| 五月99久久| 六月色播| 丁香六月天婷婷开心综合| 色色五月婷婷丁香| 国产精品电影| 五月丁香狠狠爱婷婷综合| 中文网婷婷字幕婷| 青青草a在线| 丁香社区婷婷五月| 久久久com| 五月网站| 九月丁香网婷婷| 欧美激情-区二区三区| 九九偷拍网| 日韩成人AV在线| 激情五月丁香色婷婷| 狠狠五月综合在线| 热久久99热欧美国产亚洲| 五月婷婷丁香六月| 2017人人操| www,8050,午夜三级| 精品九九视频| 99无码视频| 无码人妻丰满熟妇奶水区码| 色狠狠色综合久久久绯色AⅤ影视| 丁香六月天婷婷在线| av五月天婷婷丁香| 黄桃AV无码免费一区二区三区| 色亭亭丁香五月天| 久色视频首页| 丁香六月啪| 5月丁香美女影院| 激情99| 伊人六月丁香婷婷| 午夜丁香婷婷| 久久精品婷婷五月丁香| 久热播这里只有精品| 超碰免费人人| 婷婷久久内射| 日日狠狠久久偷偷四色综合免费 | 91操人| wwwC0maV五月花| 久久婷婷五月综合| WWW.桔色成人.COM| 99视频在线观看视频| 五月开心婷婷极品激情| 一本色道久久综合狠狠躁小说| 99热在这里只有精品| 天天综合网~91| 九九五月天| 婷婷五月天电影在线| 久久婷婷五月天激情四射| 五月激情综合网| 9999综合99综合人| 内射丰满人妻| 婷婷色中文字幕| 色色色五月| 天天日人人| 中文字幕,综合,91| 日本一级淫| 夜夜资源站| 五月婷婷激情综合拍| 五月天婷婷在线播放| 91九色成人原创视频| 伦乱美欧| a在线观看| 日本久久99久久| 五月丁香色婷婷综合| 色吧五月婷婷| 亚洲成人网在线观看| 91久久婷婷人人澡草 | 五月婷婷开心深| 九九婷婷综合| 亚洲人妻Av| 操逼综合网| 国产精品国产VA片国产| 欧美顶级少妇做爰HD| 99在线视频播放| 久久性爱视频网站| 99日本精品视频热| 夜夜 操无码| 97色婷婷在线观看| 我去色色网五雨天| 久久亚洲无码| 超碰高清在线| 婷婷五月综合久久中文字幕| 4399人妻无码久久久| 香蕉中文在线| 9l视频自拍9l九色9l成人| www.com在线操视频免费观看| 天天粽合合合合| 五月丁香香蕉| 色久婷婷网| 天天综合网站| 天天干天天操天天上| 内射爽无广熟女亚洲| 日韩草草草草草草草草草草草草| 久久精彩视频| 色情五月天首页| 亚洲视频在线观看| 十月丁香九月婷婷综合| 99碰视频| 五月婷婷影| 丁香色色网| 久久综合丁香激情五月| XXXX岛国| 香蕉99网| 成人亚洲精品| 激情综合色五月六月婷婷| 精品一二三区久久AAA片| 天天操夜夜肏| 9有码中文| 五月丁香色色| 五月六月丁香婷婷在线观看| 1级欧美日韩| 激情六月日韩| 久久9久| 狠狠五月天| 亚洲熟妇AV乱码在线观看| 六月米奇色综合| 在线视频婷婷| 99婷婷国产最新视频| 婷婷五月天成人网| 丁香操逼| 人妻AV在线| 色播播之激情五月婷婷| 五月婷天堂视频| 久久新地址| 五月天婷亚洲天综合网综合| 九九综合五月欧美| 99爱在线视频| 亚洲第一综合| 婷婷色五月偷拍| 影音先锋AV资源男人站| 综合久久婷婷| 色女伊人| 亚洲俩性性爱图片久久第六页| 激情小说色五月| 可以看的av| 99rewww| 婷婷五月丁香激情图片| 免费亚洲婷婷| 成人va视频| 久久色五月天| 九九精品热播| 天堂在线伊久| 91精品久久久久久77777| 婷婷五月天激情五月天| 久鲁鲁色网| 丁香天堂夜| www久久99| 激情影院丁香五月| 婷婷色丁香五月| 99操视频| 蜜桃婷婷狠狠久久| 超碰自拍天堂| 久久五月天激情| 婷婷天堂综合| 六月丁香狠狠爱| 精品亚洲国产成AV人片传媒| 91大神操美女| 噜噜狠狠色| 玖玖精品视频99| 一区二区成人电影| 色涩影院六月丁香| 国产九月婷婷| 日本一級黃色一級片| 午夜丁香婷婷| 欧美 日韩 成人 在线| 五月婷婷网五月在线| 九九热只有这里精品| 51XX嘿嘿午夜无码| 沈娜娜av| 色欲五月丁香| 五月Huangsewang| www.激情五月| 五月婷婷无码| 玖玖精品视频| 婷婷五月色激情欧美激情| 色五月丁香五月天| 天天日本夜夜谢| 日韩人妻操逼视频| 五月丁香龟婷婷| 婷婷五月天男人影院色色网| 五月天精品视频| 色婷婷裸体色性在线| 精品皮股午夜AV| 这里只有精品在线看| 精品皮股午夜AV| 五月天久久丁香| 一级操逼内射在线视频| 色色A| 色婷婷在线视频| 思思久久精品| 超碰在线成人| 五月激情综合网| 亚洲激情久久| 人人摸人人干| 久超超碰| 91免费在线视频6| 青青草日本亚洲| 久久视频在线| 九九激情综合| 国产亚洲精品AAAAAAA片| 蜜桃人妻无码AV天堂三区 | 96人人操人人操人人| 五月天色婷伊人| 婷婷五月精品在线| 激情小说婷婷| 久久香蕉影院| 五月天堂六月丁香亚州中文字幕久久| 国产性爱一级| 天天色综合色| 成人va视频| 啊v视频在线观看| 激情综合五月天| 成人免费黄色短视频| 婷婷久久婷婷色五月| 精品99在线看| 天天撸夜夜爽| 91九色|疯狂|高潮|对白|| 精品婷婷| 99久免费视频| 亚洲色色爱| 色婷婷久综合久久一本国产AV| 超碰97干| 色网五月婷婷| 九色婷婷| 玖玖资源站中文| 久久九九爽| 无码人妻丰满熟妇奶水区码| 91狠狠综合网| www,婷婷| 女人高潮内射99精品| 激情婷婷综合网| 五月天激情站| 99久超碰| 五月天色软件| 激情五月图| 色婷婷久久综合中文久久一本| 婷婷的99视频网站| 在线一起草av| 丁香五月日本| 婷婷五月丁香香蕉| 色婷久| 五月婷婷在线网站| 五月丁香六月婷婷久久| 99热一本久道| 婷婷六月天激情影院| 99人妻碰碰碰久久久久禁片| 激情碰碰碰| 99热国产在| 精品99在线观看| 超碰av在| 婷婷五月天激情在线观看| 丝袜激情网| 99精品久久久久久久久| 99re这里有精品手机在线| 天天干天天操天天拍| 无码一级片| 精品成人无码A片观看香草视频| 色五月激情综合网| 伊人玖玖精品| 五月天 婷 欧美亚洲| 国产99久| 俺去啦综合网| 狠狠色噜噜狠| 丁香婷五月| 99这里有精品视频| 五月婷婷无码| 天天综合网在线| 超碰91av| 99亚州综合精品成人网| 丁香色色网| 九九色综合网| 99九九热在线观看| 色五月婷婷中文字幕| 久久综合婷婷五月| 99精品国产在热久久婷婷| 婷婷日韩| 日本色视| 国产日韩av片| 色丁香久久| 99热青青草| 婷婷五月天激情综合| 金品在线视频99| 五月人妻婷婷视频| 91ncm视频| 亚洲成人无码网站| 九九热99视频| 亚洲综合五月天婷婷丁香| 五月天激情黄色小说在线观看| 成人网站免费在线播放| 九九99久久| 丁香五月Av| 久久99热只有精品| 中国丰满熟女A片免费观| 亚洲综合色丁香五月天| 人妻有码乱操| 97操碰在线视频| 色婷丁香| 国产精品久久久久久久久久久久| 国产色五月婷婷| 北条麻妃伊人| 五月丁香无码| 大波美女VA网站| 99色在线观看视频者| 第五色色色婷婷| 国产av基地| 五月天色综合| 久狠日av| 五月激情综合网| AV大香蕉| 色五月激情| 色婷婷婷婷| 99热精品在线在线| 狠狠干综合网| 亚洲日韩国产黑丝黑丝AVAV一区二区三区| 午夜69成人做爰视频| 天天五月情| 99热亚洲精品| 免费无码毛片一区二区A片| 五月中旬婷婷丁香六| 成人在线日韩欧美| 国产乱子轮XXX农村| 五月深爱网| www.99久| 狠狠色噜噜狠狠狠狠狠色综合久久| 26uuu成人网| 人人澡玖玖一| 蜜桃五月天| 可以直接看的AV| 91人人操人人爱| 欧美日韩成人在线| 美女妹子后射视频网站在线观看| 综合激情五月婷婷| 久久精品国产一区二区三区四区| 丁香五月亚洲| 99色在线视频观看| www.久久久久久久久久.com| 综合啪啪| 美女美女美女三级色天天天天天| 天天插天天射天天干| 91丨九色丨东北熟女| 少妇人妻综合色6699| 天天综合网91| av在线婷婷| 91se在线视频| 日日夜夜小色哥| 99爱99操| www,婷婷,com| 色综合色色色| 九九热最新| 思思热99er在线视频| 激情国产五月| 婷婷色五月激情| 夜夜骑天天操| 色五月五月丁香| 丁香婷婷五月天激情四射| 少妇性按摩无码中文A片| 久久综合首页| 天天色天天爱天天爱天天爱y| 六月丁香深深爱综合网| 丁香五月婷婷色偷偷| 99热热九九| 91趴趴| 日产精品久久久久久久蜜臀| 外国碰视频网站97| 天天日天天爱天天噪| 丁香六月婷婷开心| 激情中文在线| 啪啪色激情五月天| 国产五月视频| 99热综合| 第四色五月天| 五月丁香啪啪综合| 久久五月天色| 婷婷五月丁香久久| 婷婷5月天av| 99精品激情| 视频一二区| 五月婷婷综合色啪首页| 99热在线观看| 1000部毛片A片免费观看| 婷婷99中文字幕| 天天骑天天操| 五月丁香中文字幕| 五月天久久丁香| 人妻肉射免费观看| 丁香八月综合激情| 人妻内射麻豆视频| 第四色五月激情网| 色五月xxx| 久久免费精品小视频| 99re久热只有精品6在线直播.com| 人人操9| 尤物一区二区| 97超美国视频在线观看| 久久婷婷六月综合国际| 春色激情| 九九热内射| 殴美97色| 日韩免费99| 中文在线成人| 97se视频在线| 超碰在线免费| 亚洲超碰在线| 九九热这里有精品视频| 色丁香五月婷婷婷| 99爱欧美| 丁香六月婷婷色XXXX| 五月开心啪啪| 色婷婷色五月天| 直接看的AV| 九九热在线精品视频| 婷婷在线视频| 激情色播| 另类少妇人与禽zOZZ0性伦| 少妇做爰免费视看片| 国产精品涩涩涩视频网站| 国产古装妇女野外A片| 色www久视频| 美女被操一区二区| 第四色网婷婷| 婷婷综合另类小说| 五月天成人手机在线视频| 色五月天在线| 伊人婷婷五月天| 97超碰综合| 五月天激情国产综合婷婷婷| 热99玖玖99玖玖99九九| 91丨九色丨老农村| 26uuu欧美日韩| ss99热| 色婷婷精品| 任你爽精品免费视频6| 亚洲99热| 五月天丁香婷婷久久九| 激情婷婷九月| 久久黄色免费视频| 久久色五月天综合网| 天天天天干| 天天干天天拍| 中文字幕高清av| 中美日韩成人在线| 欧美亚洲婷婷五月| 99综合一区| 国产AV一区二区三区最新精品| 五月婷婷综合色啪首页| 欧美色婷婷| 五月精品免费XXX| 丁香五月手机在线| 亚洲黄色网址| 九九黄色网| 色婷婷基地| 97碰在线视频| 成人毛片在线免费观看| 99久久成人| 日韩人妻在线观看| 嫩模草| 99热这里在线精品| 人人摸人人干| 婷婷五月性感| 婷婷色五月噜噜| 激情综合五| 日韩黄在免| 99精品在线观看| 思思热99热| 中字幕视频在线永久在线观看免费| 人人搡人人| 99久久99热这里只有精品| 婷婷丁香成人| 欧美人人超级碰| 6080av| 99亚州综合精品成人网| 91啪啪啪啪| 热99re| 超碰九色| 丁香五月综合| 99噜噜| www.一起草av| 日日夜夜小色哥| 五月婷婷综合在线| 日本三级黄色大片| 98永久精品| 激情碰碰碰| 欧美97p| 国精产品一区一区三区免费视频 | 无码九九| 亚洲午夜av| 五月丁香少妇| 欧美丁香五月夫妻天| 婷婷五月天成人视频| 五月激情开心婷婷| 欧美婷婷| 久婷婷五月激情| 99热在线只有精品| 九九色婷婷| 操日本三片99| 激情五月天开心总和网| 色五月丁香A欧美com| 五月婷婷成人网首页| 天天干天天做| 亚洲综合字幕色色| 激情六月婷婷| 九九性爱网| 丁香婷婷九月| 五月丁香激情怕怕| 五月亭亭六月天| 五月激情五月丁香| 国产精品国产成人国产三级 | 色综合com| 伊人五月天综合网| 超碰人妻在线| 五月花婷婷最新| 色www99| 亚洲婷婷欧美婷婷| 爱久综合| 99免费视频| www色中色综合| A1片久久| 综合久久99| 色色婷五月天| 色碰97| 婷婷99中文字幕| 六月婷婷之青青草| 99久久婷婷国产综合精品电影| 噜噜色噜噜网| 婷色五月天| 色婷婷丁香| 久99在线| 六月激情久久| 九九色图| 成人超碰网| 伊人五月天| 天天综合网、天天综合色 | 婷婷五月色| 99re最新地址| 大香蕉网站,大香蕉综合| 五月婷婷六月丁香| 综合五月婷婷| 五月丁香久人妻中文| 九久久婷婷| 夜夜大香蕉婷婷丁香| 69堂午夜视频最新地址| 亚洲视频另类| 色综合五月| 婷婷五月天色| 思思视频久久| CAOBIBI| 91碰碰| 丁香婷婷激情| 婷婷丁香五月激情中文字幕版| 久久日韩婷婷五月| 成功精品影院| 无码色| 天天日夜夜草进麻麻的子宫| 久久99综合网| Aaa久久| 欧美激情综合| 淑女丝袜bi操逼123| 色色热99| 色99在线观看| 婷婷五月天性爱视频| 色色色欧美| 91凹凸在线| www.色五月天.com| 狠狠香婷婷五月| 在线资源av-超碰中文在线-成人AV| 大学生高潮无套内谢视频| 偷偷操99| 无码色色| 五月天伊人日日噜影片AV| 粉嫩av懂色av蜜臀av熟妇| 天堂网亚洲色图| 中文字幕按摩做爰| 五月丁香香蕉| 日日操夜夜爽| 欧美成人精品老美女噜噜噜| 9999热精品在线免费播放| 草一草avb| 综合激情在线观看| www.色欲丁香婷婷| 99视频| 国产精品美女| 久久久999精品| 亚洲成人五月| 丁香五月天在线观看| 婷婷丁香五月欧美人| 色婷婷内射| 九月影院義母在线播放| 亚洲综合另类| 噜噜狠狠色综合久| 九九综合88| 啪啪视频99| 久久综合66| 激情九九六月激情免费视频| 丁香五月成人社区| 午夜天堂一区人妻| 五月丁香啪啪| 狠狠干狠狠色| 99无码精品| 色爱综合网| 色五月婷婷网| 久久婷婷色| 日韩视频女神99| 91在线观看www| 第四色婷婷五月| 亚州美女| 99高级会所久久| 欧美日韩aaa| 色五月综合网| 色婷婷综合网站| 久久婷婷综合基地| 99ri精品在线| 操日视频| 97色在线观看视频| 97电影99热| 天天干,夜夜爽| 玖玖爱导航| 日日操夜夜爽| 性热视频99精品| 成人va视频| 色五月婷婷大香蕉| 激情婷婷久久| 伊人五月婷婷| 激情综合婷婷| 91狠狠综合久久久| 九九这里都是精品| www.99热日韩.com| 亚洲综合五月天婷婷丁香| 性五月激情| 五月丁香六月婷| 天天操夜夜夜夜爽| 婷婷在线视频| 亚洲 无码 中文字幕 中出| Blackedraw视频一区二区| 日本在线噜噜| 国产三级在线播放| 欧美va在线观看| 丁香五月欧美色综合| 丁香五月天激情综合| 1024婷婷综合久久五月天| 色噜噜97视频在线观看| 婷婷四色五月| 99热精品在线| 思思久久96热在精品国产,| 欧美A级成人婬片免费看理论| 六月丁香好婷婷| 热久久这里只有三级视频| 久久这里只有精品8| www.综合久久.com| 高清视频一区| 深爱五月综合网| 五月开心播播网| WWW,五月| 久久婷婷五月丁香网| 亚洲精品大片| 丁香六月婷婷综合网| 真实的国产乱XXXX在线91| 五月天另类小说| 黄色成人网站在线播放| 俺去也五月天| 天天添天天摸天天天天做| 丁香婷婷综合影院| 日本一级一片免费视频| 婷婷五月天激情四射五月天激情| 亚洲精品V天堂中文字幕| 日本久久爱| 婷婷丁香九月| 精品影院| 日本成人噜噜噜| 丁香九月婷婷| 万月丁香狠狠爱| 五月天久久网站| 五月天激情播播网| 五月婷在线| 色五月婷婷中文字幕在线观看 | 国产精品美女| 丁香六月激情国产| 亚洲激情网| 亚洲丁香花五月丁香花| 99性感视频| 成人av观看| 国产精自产拍久久久久久蜜 | 丁香六月婷婷综合| 日韩精品二三区| 婷婷伊人网| 亚洲精品久久久久久久久久吃药| 九九视频在线观看| 婷婷五月天中文字幕.| 欧美色一级色| 亚卅毛片| 六月丁香啪啪| www.久久色.com| 日韩AAAAA| 怡红院精品视频久久久久久久久| yellow视频在线观看91| 韩国中文字幕91| www.99热在线| 日本成人噜噜噜噜噜| 九九99偷拍视频| 激情六月婷婷| 丁香五月成人网| 狠狠色丁香综合| 激情 婷婷| AAA久久久| 国产毛片欧美毛片久久久| 开心婷婷中文字慕| 91操片| 亚洲在线成人| www.五月天激情| 色综合久久久无码中文字幕999| 99精品国产在热久久| 亚洲愉拍99热成人精品| 亚洲成人无码免费| 国产成人99久久亚洲综合精品| 9色婷婷| 婷婷亚洲五月丁香综合在线| 色五月婷婷色| 干亚洲天堂| 99re久久| 欧美日韩一a.无| 99网| 91久热| 天天爽天天日| 开心六月丁香五月婷婷| 99日本精品视频热| 丁香激情综合| 激情网五夜婷婷| 色色色色色色色色综合网| 婷婷六月天天| 五月婷婷在线综合| 激情综合亚洲| 五月丁香六月婷婷精品| 草草视频91| 午夜丁香婷婷| 男人的天堂五月丁香| 婷婷五月丁香性爱| 午夜婷婷六月天| 99热爆在线| 伊人五月天日日夜夜久久久天天| 欧美日韩一区二区三区四区| 美女天天艹人人爽| 免费无码毛片一区二区A片| 美女婷婷六月色| 婷婷大香焦| 婷婷深爱五月| 五月天久久网站| 色综合九九| 久久网站观看免费欧洲国产| 色综合天天| 九九亚洲小视频| 日本eVa一区=区视频| 一區四區歐美日韓| 五月婷婷丁香91| 中国激情网| 亚洲殴洲精品Av在线| 国产精品人人妻人人爽| 亚洲av无码精品色午夜| 午夜爱爱爱成人| 99精品综合| 五月天色丁香| 日日操夜夜操无码免费| 色婷婷网| 成人超碰AV| 国产精品色情AAAAA片软件| 成人色色视频| 丁香五月天狠狠操| 久热黄色| 九九热在视频| 超碰天堂网| 日日爽日日| 免费婷婷| 欧美交换配乱吟粗大25P| 久久在这里有精品| 色五月色开心开心五月| 香蕉人在线香蕉人在线 | 99热在线精品播放| 久热这里| 五月丁香龟婷婷| 亭亭五月基地在线| 开心婷婷五月| 久久66精品| 人操人| 久婷婷婷| 五月丁香综合久久| 黄色av网站在线免费播放| 色在线99| 啪啪婷婷五月天激情| 丁香五月婷婷av影院| 大香蕉久久婷婷精品综合| 欧日美女Va| 婷婷影院A成人| 综合XX网| 六月丁香婷婷网| 婷婷五月丁香四射| 婷婷色网| 激情深爱综合网| 五月天之色情综合网| www.激情| 久久99热在线观看| 色99亚洲| 一级性感毛片| 色色综合网站| 五月丁香综合激情| 97五月天婷婷午夜| 伊人久久中文网| 夜精品无码A片一区二区蜜桃| 99热这里只有免费精品| 九九视频免费| 久久玖玖综合| 五月天婷婷色色| 天天弄天天操| 5月丁香六月情| 97婷婷狠狠| H亚洲| 日本狠狠干| 亚洲天天操| 狠狠婷婷爱| 变态另类9| 另类图片五月天激情| 六月丁香五月婷婷| 五月丁香色综合| 丁香5月婷婷| 99热网站| 色噜噜狠狠色综合网| 婷婷成人av| 五月丁香色综合| 欧美三级欧美一级| 丁香五月成人社区| 五月婷深深爱激情网| 丝袜人妻| 免费看无码视频A级| yw国产AV| 99热9| 久机视频这只有精品| 天天操夜夜操| 婷婷五月色亚洲| 色天天久婷婷| 丁香婷婷综合激情五月色,开心五月丁香花综合网,激情综合五月亚洲婷婷,五月天 | 国产激情视频在线观看| 97超碰在线免费观看| 婷婷五月精品中文字幕| 一根材五月婷成人| 99热情这里只有精品在线播放| 18久久| 二区成人视频| 黄色国久久| 日日操夜夜擼| 五月婷婷五月天| 亚洲九区| 久久五月视频| 99热精品在线| 夜夜撸日日操| 丁香六月婷婷综合| 久久伊人日日夜夜| 亚洲激情网站无码| 69堂午夜视频最新地址| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 五月丁香婷婷基地| 激情六月天婷婷| 超碰人人操| 久久伦乱| 狠狠色成人影片| 天天日天天色| 九九干视频| 天堂网啪啪| 久婷婷色| 色五月天激情| 丁香五月婷久久| 97碰啪啪| 深爱五月激情| 亚洲精品无码一区二区| 亚洲亚洲人成综合网络| 中文字幕人成乱码在线观看| 亚洲精品V天堂中文字幕| A片试看120分钟做受图片| 99热这里有精品| 99在线精品免费视频| 超碰色热| 91热久| 97碰成超视频免费视频| 色五月五月婷婷| 久久伊人大香蕉| 亚洲午夜视频| 婷婷九月丁香| 久久婷婷丁香五月一二三| 爱草视频在线观看| 色情激情五月| 五月天涩涩| 婷婷久久综| 亚洲天堂色色| 色婷婷小说| 1级欧美日韩| 天天综合网~91综合网| 国产免费AV网站| 6月丁香婷婷激情| 夜夜操天天爽| AA久久| 色色射| 91日在线视频| 日韩色久| 99这里只有免费的小视频在线观看| 婷婷一本和五月丁香| 色播五月丁香| 97热视频| 色色色五月天婷婷| 亚洲成人色五月婷婷综合| 日韩成人精品中文字幕| 日韩婷婷| 久久精品国产AV一区二区三区 | 蜜臀av 粉嫩av 懂色av| 日本色色影片| 色五月婷婷综合在线| 激情综合青草| 五月花激情| 91碰| 欧美性生交A片免费看| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 五月色综合| 亚洲色99综合天堂| 九九五月天| 五月天综合缴情网网站0| 久久人妻www| 日本狠狠色| 综合超碰熟| 五月丁香婷婷爱激情综合网| 欧美成人五月天| 色吧五月婷婷| 亭亭丁香97| 色五月婷婷婷婷婷婷婷婷婷婷| 成人性爱精品视频| 狠狠色综合网站久久久久| 色五月美女| 婷婷操逼| 丁香五月综合在线观看| 99热97| 99热九九在线| 丁香五月婷婷久久久| 五月天婷婷激情小说电影| 97人人干| 涩综合网| 综合五月激情| 丁香五月天视频| 亭亭五月基地在线| 能看的AV网站| 9久久久久久久久久久| 99re资源在线视频导航| 色婷婷五月天中文字幕| 久久婷婷五月天蜜桃| 日日夜夜天天| 色5月婷婷色| 丁香五月综合AV在线| 51精品国自产在线| 国产成人综合在线| 99热在这里只有精品| 国外亚洲成AV人片在线观看| 思思热天天看| www婷婷| AV片在线观看| 狠色狠色狠色狠色狠色网| 国产午夜一区二区三区| 98色丁香五月婷婷综合网| 五月丁香六月停停| 六月丁香啪啪| 超碰在线91| 五月天六月婷| www.金莲av| 丁香五月婷婷成人综合| 五月开心久久| 婷婷久久亚洲| 五月婷婷片| 色综合99色| 丁香婷婷伊人| 少妇性BBB搡BBB爽爽爽视頻| 丁香五月综合| 婷婷综合色| 91操在线视频| 色综合久久99色| 久久R激情| 精品综合五月| 亚洲中字AV电影在线网站| 69午夜成人影片| AA片在线观看视频在线播放|