免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

從模糊代號到運行系統(tǒng):自研輕量資源監(jiān)控工具rea的完整實踐

從模糊代號到運行系統(tǒng):自研輕量資源監(jiān)控工具rea的完整實踐 很多朋友看到rea這個標(biāo)題時大概率會以為打錯了字或者覺得這是某個庫的縮寫。我要先坦白一件事——它最初真沒有什么標(biāo)準(zhǔn)全稱只是某天我在終端里隨手敲的三個字母用來命名一個空目錄。后來這個目錄慢慢長成了一個完整的資源效率分析工具Resource Efficiency Analyzer內(nèi)部代號縮寫就是rea專門負(fù)責(zé)采集服務(wù)器的CPU、內(nèi)存、磁盤與網(wǎng)絡(luò)指標(biāo)再把這些數(shù)據(jù)整理成實時看板幫我從被動救火式運維變成主動觀察式管理。這篇文章就把一個模糊標(biāo)題如何變成一個可運行系統(tǒng)的完整過程寫出來適合手里有個想法、但還沒想清楚架構(gòu)的開發(fā)者參考也適合那些想自建一套輕量監(jiān)控體系、又不想直接套用重型全家桶的朋友。1. 先給 rea 一個定義從模糊代號到明確需求1.1 代號背后的真實需求別再讓服務(wù)器走在下線邊緣見過凌晨兩點的告警郵件嗎說的不是那種CPU 忽高忽低再觀察一下的假警報而是磁盤使用率沖到 98%數(shù)據(jù)庫進(jìn)程直接崩掉然后你在睡夢中被電話叫起來瞇著眼睛查哪張表把空間吃光了。我經(jīng)歷過幾次這種場景之后決定不能再靠感覺運維了。我需要一個工具能持續(xù)地告訴我每一臺機器的資源消耗長什么樣不是事后翻日志而是事前能看到趨勢。rea 的第一個需求就這么定下來了采集多臺服務(wù)器的系統(tǒng)資源指標(biāo)存入數(shù)據(jù)庫用圖表展示歷史趨勢。聽起來很簡單但里面藏了幾個硬約束。一是采集不能太影響業(yè)務(wù)agent 本身要輕二是數(shù)據(jù)量會持續(xù)增長存儲和查詢得接得住三是展示要讓人能快速定位問題不能打開看板還要等十幾秒。給項目起代號的時候我壓根沒花心思。rea 就是 resource efficiency analyzer 的縮寫順手打的也沒打算對外發(fā)布。但正式動手前我給自己寫了一段項目說明用最低的運維成本記錄基礎(chǔ)設(shè)施的資源水位讓趨勢可見、異??刹椤_@段話后來幫我擋掉了不少需求膨脹的沖動誰再說順便加個 XX 功能我就把這段話翻出來給他看。1.2 誰是它的目標(biāo)用戶我為什么不做成通用監(jiān)控平臺市面上的監(jiān)控平臺很多從老牌開源方案到商業(yè)全家桶隨便挑一個都能用。但我做 rea目標(biāo)用戶從一開始就只有兩類一個是我自己另一個是和我類似的小團(tuán)隊——機器數(shù)量在 5 到 30 臺之間沒有專職運維預(yù)算有限又不想為了看幾個指標(biāo)把整套重型框架搬回家。自研的邊界一定要劃清楚。我不追求覆蓋所有監(jiān)控場景也不打算做高可用集群。rea 要解決的是 80% 的常見問題機器負(fù)載有沒有異常、內(nèi)存是不是長期吃緊、磁盤大概還有多少天會被寫滿、網(wǎng)絡(luò)流量是不是有突發(fā)。至于分布式鏈路追蹤、日志檢索、APM 這類能力那是另外的戰(zhàn)場硬塞進(jìn)來只會讓項目失焦。而且自建這條路有個隱形好處整個系統(tǒng)從采集到展示都是自己寫的每個環(huán)節(jié)都清楚出了問題不會像黑盒一樣無從下手。公司里如果買了商業(yè)產(chǎn)品排障時只能提工單用開源方案遇到不滿足的場景得讀源碼改插件。而 rea 是我自己的我想讓它支持什么業(yè)務(wù)指標(biāo)直接加一個字段就行這種掌控感用錢買不到。2. 技術(shù)方案怎么定三層結(jié)構(gòu)是小項目的保命符2.1 為什么第一反應(yīng)不是全家桶監(jiān)控系統(tǒng)有現(xiàn)成的開源監(jiān)控組合可用為什么要自己寫這個問題我在動手前認(rèn)真回答過自己。最直接的原因是學(xué)習(xí)成本。全家桶方案確實強大但它的學(xué)習(xí)曲線很陡配置項非常多默認(rèn)參數(shù)不一定適合你的場景踩坑時要在告警規(guī)則、服務(wù)發(fā)現(xiàn)、模板變量之間來回排查。我見過不少團(tuán)隊把監(jiān)控系統(tǒng)裝起來了結(jié)果沒人會配告警閾值最后變成一個昂貴的圖表庫。另一個原因是業(yè)務(wù)指標(biāo)接入的靈活性。系統(tǒng)監(jiān)控指標(biāo)可以用現(xiàn)成方案采集但業(yè)務(wù)指標(biāo)比如某個核心接口的響應(yīng)時間、某條消息隊列的積壓數(shù)量、今天新增的訂單量這些需要業(yè)務(wù)代碼主動上報。與其在自研系統(tǒng)之外再接一套上報通道不如把 rea 做成一個通用的指標(biāo)接收器無論是系統(tǒng)數(shù)據(jù)還是業(yè)務(wù)數(shù)據(jù)只要按約定格式推過來就能落庫、查詢、展示。當(dāng)然現(xiàn)成方案也有它的價值。我并沒有完全否定它只是在 rea 這個特定項目里我希望它足夠輕、足夠可控。如果哪天機器規(guī)模漲到上百臺需要服務(wù)發(fā)現(xiàn)、自動告警、多租戶隔離這些能力到時候再評估遷移也不遲。先解決眼前的問題不為了未來可能的規(guī)模提前背上復(fù)雜度的包袱。2.2 前后端與存儲選型的一個參考組合rea 的技術(shù)棧沒有用花哨的新框架全是經(jīng)得起時間考驗的組合。前端選了 Vue3 加 TypeScript用 Vite 做構(gòu)建工具圖表庫用 ECharts。后端用 Python 的 FastAPI接口寫起來快性能也夠用。存儲這塊是重頭戲選的是 TimescaleDB跑在 PostgreSQL 之上既保留關(guān)系數(shù)據(jù)庫的熟悉感又針對時序數(shù)據(jù)做了專門優(yōu)化。選擇依據(jù)其實很務(wù)實環(huán)節(jié)選型核心理由前端框架Vue3 TypeScript Vite組件化清晰類型安全開發(fā)效率高圖表庫ECharts折線圖、面積圖開箱即用大數(shù)據(jù)量渲染有內(nèi)置優(yōu)化后端框架Python FastAPI異步支持好自動生成接口文檔開發(fā)速度快數(shù)據(jù)存儲TimescaleDB原生支持時序表分區(qū)壓縮率高SQL 查詢降低成本部署方式Docker Compose Nginx一套命令拉起全部依賴適合小規(guī)模場景為什么不用 MySQL 或者 MongoDBMySQL 存時序數(shù)據(jù)不是不行但數(shù)據(jù)量上來后按時間范圍刪除舊數(shù)據(jù)、按時間窗口聚合這些操作都會變得別扭。MongoDB 文檔模型靈活但聚合查詢寫起來不如 SQL 直觀而且對時間序列的壓縮能力幾乎沒有。TimescaleDB 本質(zhì)上還是 SQL我可以用熟悉的 JOIN 和 GROUP BY同時獲得自動分區(qū)和壓縮帶來的性能紅利這是它最打動我的地方。2.3 一次架構(gòu)的簡化-膨脹-再簡化很多個人項目死在想得太多上rea 也不例外。最初畫架構(gòu)圖的時候我列了一堆組件消息隊列緩沖采集流量流處理引擎做實時聚合NoSQL 存原始數(shù)據(jù)寬表存聚合數(shù)據(jù)再配一套 Redis 做緩存前端還要考慮 WebSocket 推送。畫完之后自己看著都害怕這哪是個人工具這是照著大型互聯(lián)網(wǎng)公司的基礎(chǔ)設(shè)施在搭。后來我做了個減法把架構(gòu)壓縮成三條鏈路采集器定時把指標(biāo) POST 到后端接口后端寫入數(shù)據(jù)庫前端通過查詢接口取數(shù)繪圖。中間的消息隊列和流處理全部去掉理由是數(shù)據(jù)量沒有大到需要異步削峰的程度一臺采集器 10 秒上報一次20 臺機器也就每秒兩條請求FastAPI 處理這點請求綽綽有余。這個砍需求的過程讓我學(xué)到一點小項目最值錢的優(yōu)勢就是簡單任何你覺得以后可能用得上的組件都先記在文檔里而不是裝進(jìn)代碼里。真到了需要消息隊列的那天再把它加進(jìn)來而不是一開始就為想象中的人流量修一條十車道的高速公路。3. 核心鏈路落地采集、寫入、查詢、展示一個都不能少3.1 數(shù)據(jù)表設(shè)計時序數(shù)據(jù)的第一課rea 落地的第一個關(guān)鍵環(huán)節(jié)是數(shù)據(jù)庫表結(jié)構(gòu)。時序數(shù)據(jù)的特點是寫多讀少、數(shù)據(jù)只追加、舊數(shù)據(jù)需要定期清理所以表結(jié)構(gòu)不能照搬普通業(yè)務(wù)表。我建的第一張表是主機資源指標(biāo)表核心字段包括采集時間、主機名、CPU 使用率、內(nèi)存使用率、磁盤使用率、網(wǎng)絡(luò)流入量、網(wǎng)絡(luò)流出量以及一個 JSONB 類型的擴展字段。建表語句如下CREATE TABLE host_metrics ( time TIMESTAMPTZ NOT NULL, host TEXT NOT NULL, cpu_usage DOUBLE PRECISION, mem_usage DOUBLE PRECISION, disk_usage DOUBLE PRECISION, net_in BIGINT, net_out BIGINT, tags JSONB DEFAULT {} ); SELECT create_hypertable(host_metrics, by_range, time);這里有幾個設(shè)計細(xì)節(jié)值得展開說一下。第一個是為什么用TIMESTAMPTZ而不是TIMESTAMP。時序數(shù)據(jù)最怕時區(qū)混亂如果用不帶時區(qū)的TIMESTAMP采集器從不同時區(qū)的機器上報數(shù)據(jù)時時間軸會錯位。統(tǒng)一用帶時區(qū)的類型所有時間都按 UTC 存儲展示層再按用戶時區(qū)轉(zhuǎn)換這是最不容易出錯的方案。第二個是為什么保留一個tags字段。單臺機器的指標(biāo)字段是固定的但業(yè)務(wù)上可能想給不同機器打標(biāo)簽比如區(qū)分線上環(huán)境、測試環(huán)境或者標(biāo)注機器所屬的可用區(qū)。把這些維度塞進(jìn)單獨的列會很死板放在 JSONB 里就靈活多了查詢時用tags-env就能做過濾。第三個是為什么time和host不加聯(lián)合主鍵。剛開始我也習(xí)慣性地想加后來實測發(fā)現(xiàn)唯一約束會嚴(yán)重拖慢寫入速度時序數(shù)據(jù)本身就帶有時間戳這個天然標(biāo)識重復(fù)數(shù)據(jù)靠應(yīng)用層去重就夠了數(shù)據(jù)庫層的唯一性約束在這里性價比很低。3.2 寫一個不添亂的采集器采集器是 rea 的神經(jīng)末梢它要足夠輕不能給被監(jiān)控的機器添亂。我用 Python 的 psutil 庫實現(xiàn)資源采集這個庫的優(yōu)勢是跨平臺、接口穩(wěn)定、文檔全Linux 和 Windows 都能跑對個人項目來說覆蓋面足夠了。核心采集邏輯比較直接import socket import time import requests import psutil INTERVAL 10 ENDPOINT http://rea-server:8080/api/metrics def collect_once(): return { host: socket.gethostname(), cpu_usage: psutil.cpu_percent(interval1), mem_usage: psutil.virtual_memory().percent, disk_usage: psutil.disk_usage(/).percent, net_in: psutil.net_io_counters().bytes_recv, net_out: psutil.net_io_counters().bytes_sent, ts: int(time.time()) } while True: try: data collect_once() requests.post(ENDPOINT, jsondata, timeout3) except Exception as exc: log_to_file(freport failed: {exc}) time.sleep(INTERVAL)代碼看著簡單但有幾個細(xì)節(jié)如果處理不好后續(xù)會相當(dāng)難受。第一個是cpu_percent的interval參數(shù)。psutil.cpu_percent(interval0)是絕大多數(shù)初學(xué)者的寫法結(jié)果往往返回 0因為第一次調(diào)用沒有歷史采樣數(shù)據(jù)。代碼里傳interval1含義是阻塞 1 秒、計算這 1 秒內(nèi)的平均使用率這樣第一次拿到的值就是可信的。當(dāng)然這 1 秒阻塞是可以接受的畢竟采集頻率本來就不高。第二個是網(wǎng)絡(luò)流量讀的是累積值而不是速率。bytes_recv和bytes_sent是從開機以來的累計字節(jié)數(shù)存到數(shù)據(jù)庫里之后繪圖時要用當(dāng)前值減去上一時刻值再除以時間間隔才能得到平均速率。我可以選擇在采集器里先把速率算好也可以把累積值存下來交給查詢端計算。我選了后者理由是想保留最原始的計數(shù)這樣即使后來想調(diào)整時間窗口也能靈活重算。第三個是采集器不需要花哨的并發(fā)能力單線程循環(huán)加異常隔離就足夠了。上傳失敗不能影響采集日志要寫到文件而不是控制臺不然服務(wù)跑起來之后根本看不到報錯。啟動之后先用一次cpu_percent(None)做預(yù)熱避免第一次上報的數(shù)據(jù)點失真這也是容易忽略的小坑。3.3 服務(wù)端接口別讓單條寫入拖垮寫入性能后端接口是整個鏈路的中轉(zhuǎn)站它要同時面對兩個問題來自多臺采集器的持續(xù)寫入請求以及來自前端的時間范圍查詢請求。寫入接口的寫法一定要考慮批量處理。最直觀的做法是每收到一條數(shù)據(jù)就 INSERT 一條但這樣做數(shù)據(jù)庫壓力會大連接頻繁開關(guān)TPS 一口就被壓死了。我采用的方案是內(nèi)存隊列加定時 flush。接口收到指標(biāo)后先把數(shù)據(jù)放進(jìn)一個線程安全的隊列后臺任務(wù)每隔 5 秒或者隊列累積到 500 條時統(tǒng)一執(zhí)行批量插入。這樣數(shù)據(jù)庫每次操作面對的是一批數(shù)據(jù)寫入吞吐量能差出一個數(shù)量級。下面是簡化后的核心結(jié)構(gòu)import asyncio import asyncpg from fastapi import FastAPI app FastAPI() _batch [] async def flush_batch(): if not _batch: return records _batch[:] _batch.clear() async with pool.acquire() as conn: await conn.executemany( INSERT INTO host_metrics (time, host, cpu_usage, mem_usage, disk_usage, net_in, net_out, tags) VALUES ($1, $2, $3, $4, $5, $6, $7, $8) , records ) app.post(/api/metrics) async def receive_metrics(item: MetricItem): _batch.append(( datetime.fromtimestamp(item.ts, tztimezone.utc), item.host, item.cpu_usage, item.mem_usage, item.disk_usage, item.net_in, item.net_out, json.dumps(item.tags) )) if len(_batch) 500: await flush_batch() return {status: ok}這個設(shè)計的關(guān)鍵不只是批量還包括失敗重試和容量控制。如果后臺 flush 任務(wù)拋異常不能把隊列里已有的數(shù)據(jù)丟掉要記錄日志并保留備份否則會出現(xiàn)看板缺數(shù)據(jù)的詭異現(xiàn)象。隊列本身也需要一個上限比如最大 5000 條超過上限的請求先返回錯誤而不是無限堆積內(nèi)存否則采集器一旦異常大量上報后端的進(jìn)程內(nèi)存會被撐爆這時候反而需要采集端主動降頻。3.4 查詢與前端看板如何讓頁面不卡數(shù)據(jù)寫進(jìn)去之后查詢接口要能支持時間范圍、主機過濾、指標(biāo)選擇這些常見條件。最關(guān)鍵的一個優(yōu)化是降采樣。一張時序表里如果存了數(shù)十萬條數(shù)據(jù)前端小屏幕根本畫不下強行渲染只會讓頁面卡死。SQL 層用time_bucket函數(shù)把秒級數(shù)據(jù)聚合成分鐘級或小時級數(shù)據(jù)曲線既平滑又輕量這才是正確姿勢。一個典型的趨勢查詢是這樣的SELECT time_bucket(1 minute, time) AS bucket, host, avg(cpu_usage) AS cpu_avg, max(cpu_usage) AS cpu_max FROM host_metrics WHERE host $1 AND time $2 AND time $3 GROUP BY bucket, host ORDER BY bucket;前端看圖只關(guān)心大體趨勢分鐘級均值足夠用了。如果用戶想看某個瞬間的精確值再加一個下鉆接口返回原始明細(xì)數(shù)據(jù)這樣的兩級策略兼顧體驗和性能。前端看板用的是 Vue3 加 ECharts。整體布局分三塊頂部是時間范圍選擇器左側(cè)是主機列表中間是多個指標(biāo)折線圖。主機列表支持多選選中的每臺機器用不同顏色區(qū)分時間范圍改變后所有圖表聯(lián)動刷新。實現(xiàn)聯(lián)動時有一個并發(fā)問題要注意多個請求同時發(fā)出返回順序可能不一致后返回的舊數(shù)據(jù)不能覆蓋新數(shù)據(jù)。我用請求序號做了一層校驗只渲染最后一次發(fā)起的請求結(jié)果這個細(xì)節(jié)花了我一晚上才定位到。4. 部署細(xì)節(jié)與踩坑實錄rea 從本機跑到服務(wù)器的過程4.1 Docker Compose 一鍵拉起整套環(huán)境rea 的部署目標(biāo)是一臺 2C4G 的云服務(wù)器所有組件用 Docker Compose 管理。這個選擇意味著環(huán)境依賴被全部封進(jìn)容器換機器、重新部署都很從容不用在一臺新服務(wù)器上手動裝 Python、Node、PostgreSQL也避免版本不一致的問題。docker-compose.yml 的骨架如下version: 3.8 services: timescaledb: image: timescale/timescaledb:latest-pg16 environment: POSTGRES_PASSWORD: rea_db_pass POSTGRES_DB: rea volumes: - rea_db_data:/var/lib/postgresql/data ports: - 5432:5432 rea-server: build: ./server environment: DATABASE_URL: postgresql://postgres:rea_db_passtimescaledb:5432/rea depends_on: - timescaledb ports: - 8080:8080 rea-web: build: ./web ports: - 80:80 depends_on: - rea-server volumes: rea_db_data:容器化部署里有幾個容易踩的點。第一個是數(shù)據(jù)庫數(shù)據(jù)卷必須單獨掛載否則容器一刪數(shù)據(jù)全沒。第二個是容器之間通信用服務(wù)名而不是 IP因為每次重建容器 IP 都可能變而timescaledb這個服務(wù)名在 Compose 網(wǎng)絡(luò)內(nèi)是穩(wěn)定的。第三個是整個鏈路的前端與后端分離部署前端服務(wù)不僅負(fù)責(zé)提供靜態(tài)頁面還要用 Nginx 反向代理后端接口這樣頁面里的請求地址可以統(tǒng)一寫相對路徑避免瀏覽器跨域問題。4.2 我踩過的四個坑每一個都是性能殺手rea 從能跑變成好跑的過程中我踩了不少坑撿四個印象最深的分享出來。第一個是唯一約束拖垮寫入性能。開始建表時我習(xí)慣性地加了PRIMARY KEY (host, time)想著防止重復(fù)數(shù)據(jù)結(jié)果寫入一壓測TPS 只有幾百完全不是 TimescaleDB 該有的水平。去掉唯一約束之后寫入吞吐直接翻了幾倍。時序場景下重復(fù)數(shù)據(jù)很少偶爾重復(fù)也可以容忍數(shù)據(jù)庫不應(yīng)為不可能發(fā)生的情況買單。第二個是時區(qū)混亂導(dǎo)致曲線偏移八小時。采集器上報的是 UTC 時間前端 ECharts 默認(rèn)按瀏覽器本地時間格式化看起來所有曲線都平移了一段。折騰了半天才發(fā)現(xiàn)是時區(qū)問題?,F(xiàn)在我的原則是通信全程用時間戳展示層轉(zhuǎn)成用戶本地時間數(shù)據(jù)庫里統(tǒng)一存 UTC三層各管一段絕不混用。第三個是cpu_percent首次調(diào)用返回 0。這個問題說起來有點可笑但新手真的會碰到。psutil 的 CPU 使用率計算依賴前后兩次調(diào)用之間的差值第一次調(diào)用沒有基準(zhǔn)直接返回 0。在采集器啟動后先做一次預(yù)熱調(diào)用問題就消失了。第四個是前端圖表一次性拉全量數(shù)據(jù)導(dǎo)致瀏覽器崩潰。最初我沒做降采樣一次查 7 天秒級數(shù)據(jù)幾萬甚至十幾萬個點ECharts 直接卡成幻燈片。后來改成time_bucket降采樣加 ECharts 自帶的sampling: lttb圖表不卡了加載速度也快了。在數(shù)據(jù)可視化里聰明地丟棄細(xì)節(jié)比死磕完整性重要得多。4.3 常見問題速查表把日常運行中出現(xiàn)過的問題整理成一張速查表方便自己排查也方便后來者現(xiàn)象可能原因處理方式看板長時間沒有新數(shù)據(jù)采集器進(jìn)程掛了或網(wǎng)絡(luò)不通檢查采集器日志telnet 測試接口連通性數(shù)據(jù)庫磁盤快速增長保留策略未配置舊數(shù)據(jù)無限堆積添加定時任務(wù)刪除超期數(shù)據(jù)圖表曲線出現(xiàn)缺口批量寫入失敗且無重試檢查后端日志確認(rèn) flush 隊列是否丟失數(shù)據(jù)跨天數(shù)據(jù)時間軸錯亂采集端時區(qū)與數(shù)據(jù)庫不一致統(tǒng)一用 UTC 時間戳展示層再做時區(qū)轉(zhuǎn)換多臺機器曲線顏色重復(fù)前端只按主機名取色主機名過短改用主機列表的索引作為顏色區(qū)分依據(jù)查詢接口響應(yīng)越來越慢沒有按時間范圍建立索引確保time列有索引查詢盡量帶時間下推條件5. 給 rea 留出的后路從監(jiān)控工具變成分析平臺5.1 告警、預(yù)測、權(quán)限優(yōu)先級怎么排rea 目前已經(jīng)能穩(wěn)定采集和展示了接下來要擴展的方向按優(yōu)先級排告警第一預(yù)測第二權(quán)限第三。告警最好做因為數(shù)據(jù)已經(jīng)有了只需要在后端加一個定時檢查任務(wù)對最近一分鐘的指標(biāo)做閾值判斷觸發(fā)條件時把消息推到通知渠道。這個功能能極大降低人肉盯看板的頻率算是對自由時間的解放。預(yù)測功能更有意思也更能體現(xiàn)數(shù)據(jù)分析的價值。比如磁盤使用率可以根據(jù)過去三十天的增長趨勢做線性擬合估算出按當(dāng)前速度還能用幾天。這種預(yù)測不需要復(fù)雜的機器學(xué)習(xí)模型最小二乘法就夠了但它的提醒效果比生硬的閾值告警好得多讓人有充分的緩沖時間去清理或擴容。權(quán)限這塊暫時不急因為目前只有我自己在看。但如果未來某個團(tuán)隊要用多用戶體系就必須考慮了。我的思路是在 API 層面加一層 Token 鑒權(quán)前端每個請求帶上身份標(biāo)識后端按用戶維度限制可見的主機范圍。暫時不需要引入完整的關(guān)系權(quán)限模型保持簡單等需求真的來了再細(xì)化。5.2 業(yè)務(wù)指標(biāo)接入后看板才真正有生命力系統(tǒng)資源指標(biāo)只能告訴你基礎(chǔ)設(shè)施健不健康但業(yè)務(wù)指標(biāo)才是決定要不要立刻起床的關(guān)鍵。rea 的上報接口是通用的這意味著業(yè)務(wù)代碼可以把關(guān)鍵指標(biāo)直接 POST 進(jìn)來和系統(tǒng)指標(biāo)存在同一張鏈路里看板就能把業(yè)務(wù)異常和資源異常對照著看。比如某個核心服務(wù)響應(yīng)時間突然上漲很可能是部署機器 CPU 被打滿導(dǎo)致的。只看業(yè)務(wù)指標(biāo)你只知道慢了只看 CPU 指標(biāo)你不知道它影響到什么。兩個維度疊加在一個時間軸上看因果關(guān)系就清晰多了。我的做法是給業(yè)務(wù)指標(biāo)加一個metric_type標(biāo)識字段系統(tǒng)指標(biāo)使用system業(yè)務(wù)指標(biāo)使用business查詢時既可以在同一張圖上疊加展示也可以按類型分開過濾。我在實際使用中還有一個體會是自研監(jiān)控最有價值的點不是省掉了采購成本而是在這個過程中建立的數(shù)據(jù)第一的觀念。當(dāng)你連續(xù)觀察了一段時間的曲線之后你會開始相信數(shù)據(jù)而不是直覺。以前我總覺得機器快不行了打開看板一看流量平穩(wěn)心里就踏實了有時候我感覺一切正常但曲線顯示內(nèi)存緩緩爬升反而能提前發(fā)現(xiàn)隱患。這種感覺用任何人都給你裝不上的監(jiān)控配方也換不來。最后再分享一個小技巧如果你也想做類似的項目名字叫什么并不重要哪怕像我一樣隨手敲三個字母也行。重要的是從第一天開始就把數(shù)據(jù)模型當(dāng)成地基來打采集頻率、存儲格式、時間精度這些基礎(chǔ)決策一旦定了后面很難改改一次就牽一發(fā)動全身。先把地基打穩(wěn)再慢慢加樓層。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲成人在线播放| 琪琪色网在线| 婷婷丁香综合| 看黄的网站18禁| 五月天开心色色网| 九九色精品| www激情com| 亚洲色综合| 4399无码视频二区| 亚洲无AV在线中文字幕| 色色激情五月天| dingxiangtingtingliuyue| 婷婷五月色情| 久久国产高潮白浆免费观看99| 国产婷婷综合| 亚洲另类视频| 五月婷婷综合在线视频小说| 无码人妻一区二区三区四区| 久久色五月| 国产在线网| www久| 亚洲综合狠狠艹| 7超碰自拍| 天天做天天爱天天高潮| 六月婷婷开心| 狠狠xx| 国产夫妻操逼内射视频| 婷五月丁香俺| 亚洲av网站| 色色丁香色五月| 国产精品激情AV久久久青桔| 777精品久无码人妻蜜桃| 99男人的天堂| 色五月天丁香婷婷| 97人人超| 五月天婷婷视频小说| 激情影院内射| 色综合色欲综合天天免费 | 丁香五月停停av| 99久久婷婷| 碰碰碰91| 九九99热| 天天搡日日搡aaaaⅩ| 九月丁香婷婷网| 五月婷色| 精品久热| 狠狠干综合| 91综合在线| 丁香久久综合| 九九爱这里只有精品| 色玖玖爱| 五月网激情| www.婷婷六月天| www.五月丁香| 久久人人看| 欧美色九| 五月丁香激情综合啪啪| 五月Huangsewang| 欧美六月| 六月丁香久久| 丰满少妇猛烈A片免费看观看| 人人操91| 色婷久久| 中文字幕丰满孑伦无码专区| 99精品综合在线| 狠狠干综合| 国产午夜一区二区三区| 99精色| 婷婷五月天久久久| 国产婷婷色综合AV蜜臀AV | 婷婷久久五月| 日韩精品色| 另类激情五月| 噜啊噜在线| 99色色视频| 思思热精品在线| 成人va在线播放| 天天综合精品| 婷婷五月激情网| 人人操AV| 婷婷色偷拍| 婷婷五月天网址| 激情床戏| 小视频一区| 狠狠狠人妻| 婷婷五月天在线观看免费 | 色你久久| 五月婷婷丁香五月亚洲色| 99在线观看精彩视频| 五六月婷婷| 五月丁香久久网| 九色1区视频在线| 大学生高潮无套内谢视频| 国产毛多水多女人A片| 婷婷久热| 青青操成人福利| 久久免费操| www.yw尤物| 久久久久亚洲A∨成人乱码电影| 欧美婷婷五月激情| 国产97色在线 | 日韩| 激情视频综合| 玖玖色综合色| 深夜男女福利刺激影院一区| 天天日夜夜帕| 婷婷性爱网| 日日干日日| 丁香五月婷婷社区| 狠狠舔| 五月四色婷婷| 激情久久久| 丁香五月婷婷图片综合| 九九色热| 久久激情五月婷婷| 99ER热精品视频| 五月天婷婷激情四射综合| 婷婷情色五月天| 天天噜天天爱| 91viP在线看| 成人丁香五月天| 丁香五月成人| 婷婷成人AV| 插逼综合网| 国产六月婷婷| 99热久| 婷婷丁香六月天激情四射网| 国产精品五月丁香| 五月丁香色色网| 丁香8月手机综合| 五月天天堂久久| 五月丁香五月天现场视频| 五月天激情久久| 欧洲色| 九九www| 五月色情婷婷开心五月色情| 99热免| 久综合4| 婷婷色播婷婷| 91狠狠综合网| 久久五月天网| 26uuu欧美日本| 99综合视频| 99青青草99| WWW.天天日| 天天干天干| 欧美人与性动交CCOO| 无码橾| 岛国资源网| 色综合色五月| 久久婷婷五月综合色奶水99啪| 天天日天天操天天干| 天天天天天天操| 超碰97色| 99精品视频网| 色婷久| 66精品成人免费网站在线观看| 狠狠操狠狠| 久久婷婷国产| 超碰在线视屏| 91九色在线| 天天做天天爽| 综合伊人久久| 伊人玖玖网| txt五月激情四射网综合俺也来了| 夜夜天天天天天干天天爽| 激情五月综合| 日日噜人人人做人| www狠狠| 色色五月天婷婷| 五月激情小说| 色域五月婷婷丁香| www.99热这里只有精品| 五月婷丁香花| 五月丁香六月婷| 五月丁香成人网| 九九青草热| 五月婷婷六月丁香玖玖玫瑰91| 99这里只有精彩视频| 强辱丰满人妻HD中文字幕| 91五月天| 日产精品久久久久久久蜜臀| 天天草天天日| 丁香久久激情俄| 九月丁香五月婷婷| 91xxxx九色| 色五月丁香伊人| 亚洲色图五月丁香五月婷婷| 亚洲欧洲中文日韩久久AV乱码| 热婷婷在线视频| 第四色五月天| 久久免费9| 男女99免费视频| 色色五月丁香| 国产精品久久久久久喷浆| 天天操天天操| 9 9热这里有精品| 五月天四色房丁香亭亭| 九九AV在线| 久操大香蕉| 色五月婷婷婷婷婷婷婷婷婷婷| a网站免费观看| 九九亚洲视频| 香蕉AV777XXX色综合一区| 成人做爰A片免费看网站找不到了| 激情婷婷六月天| 丁香九月综合| 91人无码久久久久久| 婷婷淫淫狠狠六月| 99色区| 老师的粉嫩小又紧水又多A片视频| 五月丁香六月婷婷综合网| 国产伦亲子伦亲子视频观看| 可以直接看的av| 丁香婷婷六月天| 丁香五月激情网| 丁香五月天婷婷中文| 丁香婷婷五月天成人| 丁香色婷婷五月天| 五月婷婷与六月丁香图片激情| 精品一二三区久久AAA片| 五月激情天天干| 日本婷婷在线| 狠狠插.com| 五月婷婷深深爱| AV在线资源| 夜精品无码A片一区二区蜜桃| 丁香九月婷婷色| www.97干视频| 夜夜嗨一区二区三区直播内容| 开心激情五月天网| 色婷婷五月丁香在线观看| 亚洲人成播放网站| 天天综合网站| 五月色综合| 丁香婷婷五月天校园春色| 热日韩欧美| 丁香五月成人| 色情五月天婷婷| 色欲九区| 久久久久五月丁香| 狠狠CAO日日穞夜夜穞AV| 日韩三级高清无码| 99视频精品全部免费观看| 色色丁香五月| 久久综合五月天激情小说网站| 日本一级一片免费视频| 五月婷婷色男女| 青青草原亚洲久| 九九热中文| 六月丁香五月激情网| 久9热视频| 国产精品第一国产精品| 97天堂| 日本在线噜噜| 五月婷婷香蕉| 这里只有精彩小视频视频网站| 日本高清不卡免费一区二区三区| 无码99| 激情综合网五月| 麻豆123区| 情色五月天网站| 国产精品涩涩涩视频网站| 亚洲精品99| 欧美色色色| 97久久久| 综合久久97| 在线综合啪| 五月丁香激情啪啪| 99热综合网| 超碰猛烈的性猛交| 天天天天天天操| 色婷五月天网站| 五月丁香日本一抹本| 98色丁香五月婷婷综合网| 国产特级毛片AAAAAAA高清| 影音先锋一区二区三区| 亚洲综合无码| 91干视频| 97干欧美| 欧美性二区| 日hao1区| 任你日热视频| 久久精品天| 超碰人人摸人人操| 五月丁香婷婷五月色| 色色色色综合| WWW.99热| 伊人五月综合网| 国产精品成人AV在线| 天天摸天天做天天爱天天爽| 强伦轩人妻一区二区电影| 五月久久亚洲| 中文字幕 久久9999| 三区激情四射av| 99热大全在线观看| 婷婷久久视频| 开心五月色婷| 这里只有精品视频一区| 国产资源91在线| 丁香5月啪啪| 色天天久婷婷| 五月天激情.com| 丁香五月天激情AV| 色五月激情婷婷| 天天爽天天干天天| 六月婷婷色综合| 九九re精品视频在线观看| 色婷婷AV在线| 丁香六月婷婷综合| 色婷婷丁香五月高清在线| 六月丁香五月婷婷首页| 我要射综合| 99精品久久久久久久婷婷久久| 久久五月丁香综合17C| 色色婷五月天| 亚洲天堂aaa| 婷婷五月婷婷五月天| 综合另类视频| 99操视频| 成人国产欧美大片一区| 91se视频| 婷婷中文字幕网| 91九色中文字幕女在线观看| 综合五月草 | 五月婷婷激情色情网| 久色成人| 五月天婷婷在线播放免费| 午夜五月天| 可以免费观看的av| 五月天桃色深爱网| 五月丁香久久久| 亚洲视频在线观看区| 99精品超在线播放| 国产日批视频免费播放| 天天操夜夜爱| AV在线免费播放| 色五月婷婷久久| 五月丁香啪| 色香欲综合| www开心激情网| 婷婷婷婷婷开心无码播放| 婷婷五月色情| 无码99| 婷婷最新地址| 六月丁香大香蕉| 人妻九九九九| 五月WWW| 欧美激情综合色丁香婷婷五月天| 久久婷婷丁香| 五月激情丁香啪啪| 色丁香婷婷| 日日想日日夜日日操| 五月婷六月| 色色操| www婷婷色| 2016日日夜夜操| 热久久成人| 亚州操人在线视频| 色区久久| 色人久夂| 97韩国久久电影院| 丁香五月天堂网| 狠狠综合久久综合| 超碰AAAAAAV| 色五月成人| 国产精品色色| 91婷婷丁香| 亚洲人人操BD| 亚洲综合色婷婷| 另类图片五月天婷婷| 九九热色视频| 操九色| 亚洲精品久久久久久久久久飞鱼| 国产精品人妻欲求不满| 26uuu欧美日本| 婷婷丁香熟妇综合网| 久人人操| 婷婷综合六月| 八戒青柠影视剧在线观看| 9 99免费视频| 五月激激激情综合网| 丁香激情五月| 激情综合九月| 另类激情首页| 日逼影音先锋男人资源站| 操碰97| 狠狠搞狠狠操| 中文字幕综合色| 国内婷婷丁香社区在线播放| 色~性~乱~伦~噜| 丁香花五月天婷婷成人社区| 狠狠擼综合| 91婷婷丁香| 蜜桃婷婷狠狠久久综合| 深爱1激情网| 专区无日本视频高清8| 91婷婷色五月| 日韩av在线电影| 色五月开心久久网| 婷婷五月成人系列| 色综久久久| 五月丁香六月婷婷综合免| 色婷婷导航| 久99精品视频| 狠狠草狠狠草| 国产第99页| 亚洲啪| 婷色五月天| www.婷婷亚洲基地| 丁香婷婷成人网| 在线播放人妻| 嫩BBB槡BBBB搡BBBB视频| 婷婷丁香五月综合| 五月婷婷婷综合网| av电影在线播放| 激情合网婷婷| 大伊香蕉精品视频在线| 色高清无码视频| 五月丁香狠狠爱| 青草网在线观看| 激情五月综合网最新| 性爱网六月丁香| 丁香五月天天高清在线| 激情国产五月| 激情婷婷五月社区| 99热久久日本| 色99热| 日本女人久久| 五月婷在线| 婷婷操逼| 中文字幕无码人妻少妇免费视频 | 大香蕉婷婷丁香| 五月丁香六月婷婷姐| 91性人人| 婷婷五月天色| 色色永久| 伊人激情综合| 五月天婷婷AV| 久久婷婷影院| 亚洲亚洲人成综合网络| 天天色综合网1| 丁香六月亚洲| 亚洲国产成人在线| 99视频久久免费视频| www.五月天| 五月天婷爱综合| 91九色 熟| 天天操综合网站| 婷婷六月久久| 99精品免费| 69热91天堂| 91小黄书网址在线观看| 探花搜索结果 - 黄上黄| 五月丁香六月婷婷成人电影| 激情婷婷丁香五月天小说| 五月天激情网图片| 五月天六月婷婷| 综合性爱网| 日日夜夜狠狠| 26uuu另类| 91疯狂操操操操| 另类视频在线| 婷婷五月天成人基地| 毛v一区二区视频| 色欲av伊人久久大香线蕉影院| 色婷婷五月天亚洲| 婷婷性爱综合| 国产成人网址| 99热综合在线| 国产99久久久国产精品免费看| 丁香六月天婷婷开心综合| 日韩综合久| 99这里有精品视频| 五月色亚洲| 任你草| 日本在线播放97| 国产成人AV在线播放| 婷婷五月天最新综合你懂的 | 五月丁香六月婷婷啪啪| 五月视频日本免费观看| 亚洲色婷婷五月天| 国产日韩精品SUV| www天天色天天射| 99免费成人网| www.五月天色色色| 五月丁香色欲| 26uuu日韩| 久久久久久人妻久久久久久久久久人妻久久久 | 五月天影院婷婷在线观看| 在线观看亚洲AV| 丁香六月综合激情| 亚洲AV综合在线观看| 婷婷综合激情五月综合| 丁香五月婷婷狠狠色| 九月停停| 一本道在线电影| 女人天堂AV| 亚洲AAAA网| 久久婷色| 丁香五月婷婷欧美激情-中文天堂最新版在线观看 | 久久99草五月婷婷| 麻豆AV一区二区三区| 九热免费视频| 九九综合网色全集 | 五月青青草综合| 丁香五月激情啪| 91精品刘玥| www.五月天婷婷| 99热在线观看免费| 九九久久99| Www.sesese丁香| 丁香五月成人网| 夜色综合网| 激情六月婷| www.99热国产| 99re热精品视频国| 91狠狠综合久久| 中文字幕成人影视| 99视频在线啪| 九一九九黄色| 色九四色| 色综色网| 久久91久久精品久久| 色五月亚洲| 婷婷中文字幕| 色墦五月丁香| 97人人干人人操| 激情五月色婷婷| av五月天婷婷丁香| 天天干天天操| 九九热这里只有精品在线观看| 五月色情婷婷开心五月色情| www.99热最新视频8| jiqingtaose五月天| 91九色小视频| 婷婷五月天大香蕉在线视频观看| 97操碰人免费| www.婷婷五月.com| 天天日日| 婷久久综合| 久久3级片| 亚洲黄网在线| 久热9热| 久久ri精品视频| 日韩精品无码99| 操逼123网| 国产美女精品| 亚洲五月婷婷在线| 国产热精品| 五月婷婷插一插| 日日射天天射| 开心激情播播五月天| 99热这里只有精品在线播放 | 99精品7| 五月天夜夜爱夜夜操| 激情开心五月亚洲| 婷婷社区五月天| 国产婷婷综合| 激情网五月天| 欧洲MV日韩MV国产| 4399在线观看免费高清毛片| 4399欧美另类视频| 97干97色| 色婷婷在线播放| 另类视频在线| 情欲综合网| 丁香色五月婷婷91桃色| 激情五月天在线免费美女视频| 激情www| 婷婷丁香人妻天天| 国产综合婷婷| 五月天激情国产综合婷婷婷| 97亚洲视频在线| 人妻在线观看视频| www.91在线观看| 这里只有精品视频222| 成人婷婷色五月天| 啪啪小说五月天| 久久激情五月婷婷| 亚洲妇女熟BBW| 超碰人人在线观看| 色玖玖爱| 丁香婷婷五色月| 日本五月天激情| 丁香婷婷丁香五月欧美人| 2025年最新亚洲在线欧美| 日本九婷婷| 丁香婷婷五月色成人网站| 欧美色色色色色| 亚洲色就是色色色| 日本97在线视频| 九九热10| 丁香六月综合激情| 天天综合网站| 99视频91| 婷婷综合五月激情| 丁香五月婷婷亚洲色图| 狠狠干无码| 内射 无码 伊人| 操操国产| 国产精品成人av在线观看春天| 99riAv1国产在线观看| 五月丁香影院| 色yeye欧美| 欧美性二区| 五月婷婷六月少妇激情| 热久久这里只有精品| 丁香色五月AV在线| 五月激情另类| 五月天开心网| 青青久在线视频免费观看| 五月天丁香婷婷久久九| 激情五月天色| 美欧成人视频| 亚洲另类在线观看| 超碰色婷婷| 久久深爱激情网| 国产色色视频| 九九综舍久久| 激情网五月婷婷| 五月丁香啪啪网| 色99无码| 五月天婷婷色播综合在线| 五月婷婷亚洲色视频| 国产AV一区二区三区最新精品 | 人妻VideOssS人妻| 欧美色五月| 另类激情码| 人妻VideOssS人妻| 中文字幕无码人妻少妇免费视频| 热996精品在线观看| 精品国产人人爱人人| 色欲久久久久久综合网综合网| 玖玖婷婷色欲| 99久久99热| 九九久久综合| 丁香 久久| 久久aaa| 91黄操| 亚洲天堂婷婷丁香| 丁香婷婷六月婷婷六月婷婷六月婷婷| 色色五月天婷婷丁香| 综合久久十三| 亚洲激情淫网| 天天操天天曰| 婷婷五月花| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 99久久网站| 天天操天天插| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 婷婷五月天在线一区| seav天堂| 五月天激情日色在线| 五月婷婷六月色| 九九热这里只有精品556| 91人妻人人做人碰人人爽九色| 丁香五月黄色| 色五月丁香六月婷婷| 国产高清av黄色看片| 五月天免费色| 免费无码毛片一区二区A片| 丁香婷最新动态| 久久婷婷五月草视频在线播放| 五月丁香激情综合| 五月婷婷偷| 五月丁香六月激情| 深爱五月激情网| 91啪啪视频| av婷婷丁香 六月| 五月婷婷欧美| 久热9| 97色色色| 久久五月婷综合网| 丁香色婷婷色手机免费在线| 婷婷丁香五月综合| 色婷婷超碰| 操操国产| 色婷婷六月天| www.色窝| 99色人| 五月婷婷六月丁香激情| www91在线| 久久久激情视频| 就要爱综合| 日产精品一线二线三线芒果| 五月婷在线色视频| 月丁香久久久| 色欲天天综合| 伊人五月婷婷| 天堂在线伊久| 天天人人人人人人人人人人人| 五月天久久www| 亚洲综合激情五月久久| 天天做天天爰天天爽天天无遮挡| 青吴乐视频| 亚洲成人中心| 久久精典| 丁香六月在线| 六月婷五月丁香| 九 九九九AV| 原琪琪色影院| 热久久99视频| 丁香五月成人自拍| 亭亭色色五月天| 这里只有精品,日韩视频| www.99视频| 大香蕉五月婷婷| 亚洲人妻av伦理| 色J香五月天| 午夜成人AV在线| 日本猛少妇色XXXXX猛叫| 99在这里有精品| 91色九| 久久免费精彩视频| 99精品无码网站| 久久99大全| 日本色天堂| 99惹精品视频| 丁香花五月天激情| 91性交在线播放| 亚洲色图五月丁香| 26uuuu精品一区二区| 亚洲AV无码影院| 五月天久久久| 这里只有精品视频在线| 五月天激日本色情在线| 成人一区在线观看| 久久久天堂国产精品女人| 久久人妻系列| 色婷婷久久| 日韩久久日| www久久久久久久97| 伊人丁香婷婷东京| 久久9久| 日本丰满久久| www.zbzhongsen.com| 亚洲中文乱字字幕在线永久| 婷婷五月天无码熟女| 日本免费91| 久久人妻少妇嫩草AV| 99综合| 五月丁香在线婷婷蜜桃| 99ri在线观看视频| 9999热精品| 日本熟妇乱妇熟色A片蜜桃| 五月天 婷 欧美亚洲| 欧美综合在线五月天色婷婷| 99热啪啪| 人人搡人人| 五月婷婷丁香五月| 色99色| 天天做天天爱天天玩夜夜爽| 久婷婷五月激情| 一区二区乱码视频| 五月婷婷亚洲色图| 丁香婷婷五月色综合| 99热这里只有精品在线| 五月丁香六月成人| 久久久免费精彩视频| 这里只有精品视频看看| 熟女婷婷网站一婷婷五月一丁香婷婷一婷婷激情网 | 色九月激情综合网| 91chinese在线| 免费97碰碰| 综合久久99| 99热精品在线播放| 色狠狠999综合| 色亭亭五月天丁香综合AV - 百度 - 百度| 久久之人妻| 久99视频在线观看| 五月天激情网址| 欧美婷婷综合| 丁香五月婷婷总啪啪| 99国产在线精品视频| 97干在线视频| 97香蕉碰碰人妻国产欧美| 九九性爱网| 丁香成人五月天| 五月丁香网中文字幕| 日本本土色网第一区| 丁香六月婷婷久久综合八月| 大香蕉520| 丁香五月色色| 久久五月网| 五月丁香六月婷婷的女人| 热久免费视频9| 丁香五夜激情四射夜夜夜| 丁香五月婷婷激情四射深爱激情| 久久精品国产精品| 在线看九一V图片| 爱99干99| 欧美大肥婆大肥BBBBB| 成人片在线播放| 婷婷丁香在线| 久久激情五月婷婷| 26uuu日韩| 色婷婷综合网站| 亚洲激情在线| 亚洲精品V天堂中文字幕| 少妇高潮呻吟A片免费看软件| 99综合免费视频| 99精品无码| 少妇搡BBBB搡BBB搡毛茸茸| 色135综合网| 亚洲综合激情五月久久| 狠狠操狠狠| 欧美性生交XXXXX无码小说| 免费观看全黄做爰的视频| 666555。COm毛片| 日产精品一线二线三线芒果| 婷婷五月天综合亚洲| 久久久久视剧HD| www激情网站| 熟女激情网| 婷丁五月| 婷婷五月六月丁香综合| 五区毛片七区毛片| 人人草人人爱手机视频看看| 日本熟女二区| 五月婷婷av| 99.N在线视频| 狠狠色丁香| 极品人妻VIDEOSSS人妻| 中文字幕丰满乱孑伦无码专区 | 亚洲AV无码一区二| 久久女婷| 天天开心AV色综合婷婷五月天| www.久久久久久久久久久| 五月天激情久久| 激情丁香婷婷六月天| 97久久香草精品视频| 婷婷丁香五月高清| 久青草影院| 色色色成人网| 天天草女人| 狠狠情色| 99亚洲综合| 天天插天天插天天插| 吉澤明步Av一區二區| 九九九九综合| 国产精品成人AV在线观看春天| 九九精品碰| 一级黄色影片| 色婷婷五月天天天干天天操天天爽| 五月色色激情网| 大香蕉九九| 色婷婷香蕉在线| 亚洲熟女色| 五月色丁香国产在线视频| 天天插综合网| 国外亚洲成AV人片在线观看| 久久99精品久久久久久青青AR| 91精品91久久久中77777| 天天 日综合| 超碰高清在线| 日本久久高清| 五月天大香蕉av| Av九九| 六月丁香激情婷婷| 伊人久久大香网| 香蕉婷婷五月| 99re热在线视频| 欧美激情综合色综合| 国产激情久久久| www.亚洲激情.com| 久久丁香婷婷五月天| 亚洲VA在线| 伊人99热| 色色综合五月| 都市激情五月婷婷综合| 91成人电影| 一本色道久久综合狠狠躁一二三| 色婷婷免费观看| 色狠狠综合| 91热在线| 色婷婷五月天激情综合| 九九综合九九| 亚洲电影中文字幕| 五月天激情四射| 婷婷五月天99| 九月婷婷色色| 五月天另类小说久久小说网| 五月婷婷偷| 91色色色18| 狠狠 久久| 午夜九九电影| 婷婷五月天开心网| 丁香五月无码| 夜夜躁爽日日| 婷婷开心五月| 九九九九操逼| 人妻久久婷婷| 人人操AV| 色开心五月婷婷丁香HD| 国产精品五月丁香| 婷婷丁香五月亚洲| 夜夜久久综合网| 99视频网| 五月综合激情| 第四色激情网| 亚洲av成人在线| 丁香五月婷婷天激情| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 久久机热这里只有| 中文字幕成人| 99碰网站| 丁香五月开心五月激情| 天天日天天久久青青| 亚洲综合新99视频| 五月丁香五月综合欧美| 久久精品视频99| www激情婷婷com| 婷婷99狠| 婷婷五月天成人网站| 丁香五月大香蕉在线99| 五月丁香婷婷激情在线| 亚洲精品V天堂中文字幕| 五月婷五月婷伊人伊人五月婷| 伊人激情啪啪| 欧美在线看| 六月婷婷激情图片| 大香AV| 国产激情综合五月久久| 色婷婷综合电影| 激情www| 91天堂网综合| 噜噜在线| 婷婷九月综合| 五月激情婷婷播播开心| 日亚二欧美| 色色色婷婷五月| 丁香色五月AV在线| 婷婷五月综合体验看| 超碰av天堂| 日本精品99网站| 色五月综合激情| 26uuu在线观看| 99视频精品视频| 人与禽A片啪啪| 影音先锋人妻出差| 男人的天堂99| 丁香五月婷婷基地| 97久久草草超级碰碰碰| 五月天丁香成人社| 国产一级片| 五月丁香婷婷色| 婷婷丁香视频在线观看免费 | 五月久久丁香| 日日操日日撸| 婷婷五月天激情综合| 人人摸人人摸| 视频免费精品免费精品免费精品免费精品免费精品免费精品免费99 | 婷婷性爱| 丁香婷婷综合激情五月色| 操逼在线视频| 六月激情网| 婷婷自拍| 成人在线网| 99久久国产宗和精品1上映| 欧洲电影在线观看免费版英语版 | 99免费偷拍视频| 色欲婷婷五月天| 色亚洲无码| 亚洲视频99| 色五月五月丁香| 亚洲综合五月天婷婷| 婷婷激情啪啪| 99热插| 大香蕉五月丁香| 99久久a线观| 五六月婷婷久久| 婷婷五月激情欧美| 久草大| 专区无日本视频高清8| 99热6精品| 丁香成人五月天| wwwav大香蕉| 久久天堂| 国产成人VA| 欧美三级级99久久| 中文字幕黄色片| 99er久久| 欧美影院婷婷| 激情五月天天| 国产成人av在线播放| 丁香五月老师| 超级碰碰碰久久网站| 五月丁香六月香香蕉| 日日做天天操夜夜爽| 久9免费视频| 欧美成人AAA片一区国产精品| 婷婷六月啪啪| 精品无码色| 爆乳熟女-区二区三区| 婷婷性福五月天| 婷婷丁香午夜综合影视| 女人天堂久久| 成人中文网| 91精品在线看| 国产阿姨日皮艹逼内射视频| 丁香五婷| 国产古装妇女野外A片| 色五月色图| 国产裸舞福利资源在线视频| 大香蕉狠狠爱主页| 欧美在线干| 日本99色| 五月综合婷婷久久在线| 99色色爰| 激情婷婷丁香色五月| 欧美顶级少妇做爰HD| 久久婷丁香五月| 丁香六月亚洲综合| 深爱丁香网| 成人永久免费视频在线观看| 色综合综合综合| 99热丁香| 婷婷日日夜夜| 五月天婷婷六月激情网| 六月丁香婷婷色狠狠久久| 这里只有精品免费视频在线观看| 操日本三片99| 香港九九六区八区99| 色婷婷基地| 丁香五月婷婷综合网| 婷婷色五月综合丁香| 国产精品视频免费看| 婷婷天堂伊人| 中文字幕乱码亚洲精品一区| 玖玖综合网| www.俺去也com| 婷婷日| 五月丁香六月在线欧美| 男人的天堂五月丁香| 日本波多野结衣视频| 天天干夜夜谢| www,色婷婷| 99热这里只有精品热| 成人在线网| 91久久五月天| 久久丁香综合香蕉| 日韩精品AV一区二区三区| 亚洲天天| 五月婷色色| 婷婷丁香亚洲色综合91| 丁香六月五月天| 很很操很很操| 丁香六月婷婷缴情欧美| 婷婷五月综合激情| 91热在线| 99日本在线| www,setingting| 天堂久久丁香| 男同91 | 色综合偷拍| 色情五月| 2013AV天堂| www.com.色色| 狠狠综合色网| 无码A片一区二区免费| 日韩 mm 不卡| 97操男人的天堂| 国产乱人偷精品人妻A片| 欧美 日韩 成人在线| 日本久久人| 91丨九色丨熟女|老版| 98色花堂98t.R| 激情五月天小说| www.五月婷婷久久.com| 天天干-天天日| 亚洲AAAA网| 婷婷五月色综合| 激情婷婷内射| 久久婷婷婷婷伊人| 九九无码视屏| 天天日天天爽夜夜爽| 色色五月天丁香婷婷| 91碰视频| 五月婷婷啪啪| 国产伦亲子伦亲子视频观看 | 激情播丁香| 激情综合网 激情五月天| 婷婷无码视频| 俺去也五月天婷婷| 婷婷性爱网| 色99色| 国产美女无遮挡裸体毛片A片| 国产成人精品一区二三区熟女在线| 婷婷在线网| 婷婷丁香五月天色色| 丁香婷婷超碰| 超碰人人色| 丁香五月婷婷狠狠色| 五月丁香六月欧美综合| 狠狠五月天婷婷| 午夜精品777| 天天日夜夜帕| 91色噜噜狠狠狠狠色综合| 天天插天天插天天插天天插| 成人视频网| 日本久碰| 九九精品少妇| 97操碰视频| peg 2区三区四区的| A网在线欧洲| 色五月大| av在线资源| 色五月综合网| 日本网站久久| 久99视频在线观看| 9操在线| 丁香五月婷婷丫| 五月丁香六月婷婷久久久综合| 色婷婷综合影院| 婷婷丁香六月| 激情网五月天| 69凹凸成人综合网| 五月婷婷婷| 激情婷婷色小说| 手机免费福利视频| 亚洲AV成人在线| 久久人人做人人妻人人玩精品va| 蜜桃婷婷狠狠久久综合| 91婷婷丁香五月天免费视频网站| 色婷五月天网站| 狠狠99| 精品影院| Www.久久| 婷婷九色| 91久久久久久久久久久| 国产精品色一哟哟| 亚洲丁香五月天视频| 狠狠干狠狠干| 激情国产五月| 天天插天天玩天天干| 玖玖资源站蜜臀| 三级三久久线久久99久目本WW| 日韩AV无码影片| 996热re视频精品视频| 婷婷综合激情五月中文字幕| 久久精品视频在这里有| 色综合久久888| 东北黄色一级| 桃色激情婷婷伊人网| 六月婷婷啪啪| 婷婷五月天VI| 欧美日韩91| 九热在线这里有精品6| 热成人网| 五月婷婷色| 色婷婷综合综合网| 亚洲婷婷激情888精品久| 99热这里| 久热伊人| www.91在线观看| 天天日天天日天天搞| 97色色色| 蜜臀av粉嫩av懂色av| 五月天色综合服务平台| 亚洲中文乱字字幕在线永久| 99re6在线视频精品免费| 日韩操啪| 99热这里有精品24| 26uuu精品一区二区| 999久久久国产精品| 9这里只有精品| 操逼六区| 99热中文字幕久久| www.99色| 色吧五月| 亚洲午夜一区二区| 丁香五月婷婷影院| 99热这里只有精品13| 天天插天天插| 婷婷色啪| 激情小说在线视频| 日本全黄一级999| 第四色色六月色综合| 97人凄人人操人人爽| 97人妻碰碰碰久久| 99热在线免费观看精品| 91日韩在线| 综合色99| 99这里只有精| 最近中文字幕2019视频1| 99er免费在线观看| 天天做天天爱天天爽| 婷婷在线视频| av在线观看免费| 激情图片婷婷| 色久女| 99热亚洲| 99热资源在线| 婷婷久久内射| 色私五月婷婷| 色色五月丁香婷婷| 激情综合网址| 99ri精品| 亚洲综合色网| 日韩影院三级| 99操视频| 伊人春天av| 激情影院丁香五月| 日本色99| 色色网站| 久久婷婷青草五月天| 综合网亚洲| 色色婷婷丁香| 久久a热| 狠狠五月天婷婷| 亚洲妇女熟BBW| 五月丁香久久综合精品| 久久婷婷丁香花综合网| 久热视频这里只有精品68| 日操熟女| www.久久av.com| 丁香五月婷婷影院| 9月色婷婷| 9色在线| 婷婷久久精品| www久| 在线观看国产高清视频免费网站| 激情二色月| 激情婷婷狠狠干综合| 国产无套精品一区二区| 五月婷婷色啪| 91色综合网| 亚洲天堂热| 农村熟妇高潮精品A片| 五月婷深深爱激情网| 99综合成人视频在线观看| 四月婷婷五月丁香| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 五月六月丁香激情| 91大神操美女| 日本三级韩三级99久久| 色 免费网站视频| 久色精品| 欧美色五月| www.综合久久| 婷婷丁香五月综合| 五月天欧美 另类小说| 丁香婷婷老司机久操| 91成人电影| 久久视频66| 人妻免费网站| 久久久久网站| 五月丁香五月丁香| 婷婷中文字幕网站| 久热91精品| 安息电影在线观看完整版| 久久38视频| 大香蕉99| 五月婷婷亚洲综合网| 亚洲无码你懂的| 婷婷综合激情| 色色性爱视频| 五月开心婷婷网| 91黄色五月天视频| 九九热av| 伊人干练久| 婷婷五月丁香香蕉| 极品人妻VIDEOSSS人妻| 天天肏高清在线| ...婷婷国产成人亚洲日韩| 激情五月丁香五月综合|