免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

夜鶯監(jiān)控Nightingale:從告警到時序數(shù)據(jù)的運維監(jiān)控實踐

夜鶯監(jiān)控Nightingale:從告警到時序數(shù)據(jù)的運維監(jiān)控實踐 1. 項目概述夜鶯監(jiān)控到底是什么如果你維護(hù)過幾百臺機(jī)器又被某個傳統(tǒng)監(jiān)控平臺按著頭皮做告警規(guī)則大概率體會過這種糾結(jié)數(shù)據(jù)確實能收到但告警一多就產(chǎn)生疲勞規(guī)則寫起來費勁想按團(tuán)隊隔離數(shù)據(jù)發(fā)現(xiàn)大家都在一個大池子里通知渠道還固定得死死的想接個企業(yè)微信都要研究半天。夜鶯監(jiān)控Nightingale這套開源系統(tǒng)正是沖著這些歷史遺留問題來的。它最早由滴滴出行開源核心代碼用 Go 編寫現(xiàn)在掛在 CNCF 沙盒項目里定位是覆蓋“采集、存儲、告警、通知”全鏈路的大規(guī)模監(jiān)控平臺同時原生兼容 Prometheus 生態(tài)。你完全可以把它理解成一套更貼合團(tuán)隊協(xié)作、更適合企業(yè)級落地的現(xiàn)代化監(jiān)控作戰(zhàn)平臺。這套系統(tǒng)適合誰如果你是運維工程師、SRE、平臺開發(fā)或者在維護(hù)幾十臺以上服務(wù)器、一堆容器化應(yīng)用又對 Zabbix 的復(fù)雜配置和 Prometheus 的分散組件感到頭疼夜鶯值得你花一個下午認(rèn)真試試。它不是一個只停留在 demo 層面的玩具而是大量生產(chǎn)環(huán)境驗證過的項目。我身邊不少團(tuán)隊都是先用 Zabbix 頂著規(guī)模上來了以后逐步把業(yè)務(wù)組往夜鶯遷移。下面我會從架構(gòu)、部署、告警生命周期、與 Zabbix 的選型對比、常見問題這幾個維度把整個項目拆開講透。1.1 夜鶯的定位與核心價值夜鶯的核心設(shè)計目標(biāo)我總結(jié)下來就是三個詞大規(guī)模、多租戶、高可用。傳統(tǒng)監(jiān)控系統(tǒng)在幾千臺機(jī)器、幾千萬條時間序列面前往往會遇到數(shù)據(jù)庫瓶頸、告警卡頓、規(guī)則評估超時這類問題。夜鶯從一開始就按超大規(guī)模場景設(shè)計底層指標(biāo)存儲直接對接時序數(shù)據(jù)庫而不是把所有數(shù)據(jù)塞進(jìn)關(guān)系型數(shù)據(jù)庫里硬扛。這意味著你的監(jiān)控容量天花板被大幅抬高擴(kuò)容也變成了一件相對自然的事情。多租戶是夜鶯區(qū)別于很多開源監(jiān)控系統(tǒng)的重要特性。它用“業(yè)務(wù)組”Business Group做資源隔離不同團(tuán)隊各自管理自己的機(jī)器、采集器、告警規(guī)則互相不干擾。這個設(shè)計在大型公司里極其重要。以前用一臺 Zabbix 管全公司DBA 想看數(shù)據(jù)庫的監(jiān)控運維想看主機(jī)的監(jiān)控網(wǎng)絡(luò)組想看交換機(jī)的監(jiān)控所有人擠在同一個界面里權(quán)限不好控制告警通知也容易亂。夜鶯里天然地把這些拆開每個業(yè)務(wù)組是一個獨立工作空間從權(quán)限到告警再到通知渠道都可以各自獨立配置。另外一個值得說的點是它對云原生環(huán)境的包容度。夜鶯的指標(biāo)模型和 Prometheus 對齊支持 PromQL這意味著你在 Kubernetes 里用的那些 exporter、ServiceMonitor 概念都能順滑地和夜鶯銜接。很多 K8s 集群已經(jīng)在跑 Prometheus夜鶯可以扮演統(tǒng)一告警中心的角色把多個 Prometheus 的數(shù)據(jù)匯聚起來做集中告警和通知分派而不是逼你把原有采集體系推倒重來。1.2 系統(tǒng)架構(gòu)與關(guān)鍵組件夜鶯的整體架構(gòu)可以分成四層采集層、服務(wù)層、存儲層、告警通知層。采集層負(fù)責(zé)從機(jī)器、中間件、應(yīng)用里拿指標(biāo)服務(wù)層負(fù)責(zé)接收數(shù)據(jù)、維護(hù)元數(shù)據(jù)、處理 API 請求存儲層負(fù)責(zé)指標(biāo)數(shù)據(jù)落盤和元數(shù)據(jù)記錄告警通知層負(fù)責(zé)規(guī)則評估、事件生成、消息推送。理解了這個分層后面部署和排錯就順了。采集層官方主推 Categraf 采集器它是一個用 Go 寫的輕量 agent支持大量內(nèi)置插件可以采集 CPU、內(nèi)存、磁盤、進(jìn)程、端口、MySQL、Redis、Kafka 等常見對象。同時夜鶯也兼容 Telegraf、grafana-agent以及各種 Prometheus exporter。服務(wù)層最新版本的服務(wù)端是一個統(tǒng)一進(jìn)程包含 webapi、server、告警引擎等模塊部署上比早期版本簡單很多。元數(shù)據(jù)存 MySQL緩存走 Redis。存儲層指標(biāo)數(shù)據(jù)本身不存 MySQL而是通過遠(yuǎn)程寫入的方式寫進(jìn)時序數(shù)據(jù)庫。官方推薦 VictoriaMetrics也可以用 Prometheus、Mimir 等兼容的時序存儲。告警通知層內(nèi)部告警引擎基于 PromQL 做規(guī)則評估事件產(chǎn)生后通過內(nèi)置的通知渠道分發(fā)給企業(yè)微信、釘釘、飛書、郵件、webhook 等。這里我要特別強(qiáng)調(diào)一句“元數(shù)據(jù)和指標(biāo)數(shù)據(jù)分離”的重要意義。很多人在初次接觸夜鶯時會習(xí)慣性以為它和 Zabbix 一樣把所有監(jiān)控歷史都放在 MySQL 里。實際上表格設(shè)計完全不是這套思路。MySQL 只存機(jī)器列表、業(yè)務(wù)組、用戶、告警規(guī)則、通知記錄這類結(jié)構(gòu)化信息而真正的指標(biāo)曲線數(shù)據(jù)全部進(jìn)入時序數(shù)據(jù)庫。這套設(shè)計直接決定了它能支持幾十億條時間序列而不會像早期 Zabbix 那樣在數(shù)據(jù)量一大時明顯變慢。2. 核心功能拆解從采數(shù)到告警通知2.1 指標(biāo)采集Categraf、Telegraf 與 Prometheus 生態(tài)夜鶯的采集策略我總結(jié)了四個字“兼容并包”。最省心的方式是直接部署 Categraf。它是一個二進(jìn)制 agent部署完以后先去夜鶯頁面生成一個采集器 token把 token 填進(jìn) Categraf 配置文件的 HTTP 地址里它就會自動向夜鶯上報機(jī)器信息和指標(biāo)數(shù)據(jù)。Categraf 的配置非常直白比如你要監(jiān)控 MySQL就在conf/input.mysql/mysql.toml里填上實例地址、賬號、密碼然后啟用插件采集器重啟后數(shù)據(jù)就會出現(xiàn)在夜鶯的指標(biāo)視圖里。我在實際項目里用得最多的反而是另一個組合服務(wù)已經(jīng)暴露了 Prometheus 指標(biāo)接口比如 Spring Boot 的 Actuator、Nginx Exporter、Node Exporter 這類夜鶯提供了“抓取”功能可以直接配置 URL 去拉取這些指標(biāo)不需要再裝 Categraf。這種拉模式很適合監(jiān)控那些不想被安裝 agent 的中間件或云服務(wù)。再加上 Categraf 本身也支持 prometheus 抓取插件兩邊一配合基本能覆蓋所有常見采集場景。有些場景需要推送指標(biāo)比如短生命周期任務(wù)、業(yè)務(wù)自定義指標(biāo)。夜鶯也支持通過 remote write 協(xié)議直接寫入指標(biāo)數(shù)據(jù)。換句話說你的應(yīng)用只要往指定 HTTP 接口推一段 Prometheus 格式的數(shù)據(jù)即可完全不用關(guān)心服務(wù)端內(nèi)部如何處理。2.2 告警引擎與規(guī)則設(shè)計告警是夜鶯的重頭戲也是我從 Zabbix 遷移過來后感受最深的部分。Zabbix 的觸發(fā)器表達(dá)式寫起來需要記一套獨立的語法說實話遷移和學(xué)習(xí)成本都不小。夜鶯直接用 PromQL 寫告警規(guī)則凡是接觸過 Prometheus 的人都能很快上手。更通用一點說PromQL 是整個云原生可觀測性領(lǐng)域的通用語言你用熟了以后不只在夜鶯里能寫在 VictoriaMetrics、Mimir 里也能寫技能是可平移的。夜鶯的告警規(guī)則支持兩種模式一種是對機(jī)器/業(yè)務(wù)組的“主機(jī)指標(biāo)告警”適合 CPU、內(nèi)存、磁盤這類以機(jī)器為維度的監(jiān)控另一種是“自定義指標(biāo)告警”直接寫 PromQL適合應(yīng)用類指標(biāo)、K8s 指標(biāo)這類更靈活的查詢。規(guī)則里可以設(shè)置持續(xù)時長、執(zhí)行頻率、告警級別、通知對象還可以關(guān)聯(lián)通知模板。我在生產(chǎn)環(huán)境里踩過一個很重要的坑告警規(guī)則里的持續(xù)時長不是越短越好。比如 CPU 使用率超過 95% 持續(xù) 1 分鐘就觸發(fā)告警看起來很及時其實很容易被瞬時峰值轟炸。我一般會設(shè)置成持續(xù) 5 到 10 分鐘并且配合“恢復(fù)通知”功能讓告警在恢復(fù)后自動通知一次。這樣既不會漏掉真實故障也不會制造太多噪音。這個經(jīng)驗放在 Zabbix 里同樣成立只不過 Zabbix 的觸發(fā)器里對這種持續(xù)時間表達(dá)得稍微隱晦一些。2.3 通知渠道與降噪企業(yè)微信、釘釘、飛書告警通知渠道決定了故障響應(yīng)效率。夜鶯內(nèi)置了多種通知渠道其中企業(yè)微信通知是國內(nèi)團(tuán)隊用得最多的。配置方式并不復(fù)雜你需要先在企業(yè)微信管理后臺創(chuàng)建一個自建應(yīng)用拿到企業(yè) IDCorpID、應(yīng)用 AgentId、應(yīng)用 Secret然后在夜鶯的“通知配置”里新建一個企業(yè)微信渠道把這三個信息填進(jìn)去保存后發(fā)一條測試消息驗證即可。我額外建議做兩件降噪優(yōu)化。第一按告警級別分渠道發(fā)送例如 P0 告警發(fā)到專門的故障響應(yīng)群P2 告警只發(fā)郵件或者在工作日報里匯總。第二利用夜鶯的“靜默”功能在維護(hù)窗口、發(fā)版期設(shè)置定時靜默避免半夜因為例行變更觸發(fā)的告警把值班同事嚇醒。很多人前期不重視降噪結(jié)果告警渠道接入后群里全是刷屏消息沒人愿意看。這不是渠道的問題是使用姿勢的問題。3. 從零部署一套夜鶯監(jiān)控3.1 部署方式選型與資源規(guī)劃夜鶯最新的部署方式我建議直接采用官方提供的 Docker Compose 編排。一條命令拉起來整套環(huán)境省去手工安裝 MySQL、Redis、VictoriaMetrics 的麻煩。二進(jìn)制包部署方式依然存在適合那些需要把夜鶯打進(jìn)公司內(nèi)部自動化運維體系的場景。資源規(guī)劃方面我給出一個經(jīng)驗值如果監(jiān)控規(guī)模在 100 臺機(jī)器以內(nèi)4 核 8G 內(nèi)存的虛機(jī)完全夠用500 臺機(jī)器左右推薦 8 核 16G超過 1000 臺就建議把 MySQL、VictoriaMetrics、夜鶯服務(wù)端拆開部署。這里最容易被低估的是磁盤性能指標(biāo)寫入對磁盤 IOPS 要求較高有條件盡量用 SSD或者給 VictoriaMetrics 單獨掛數(shù)據(jù)盤避免和系統(tǒng)盤搶 IO。3.2 快速安裝實操我以 Docker Compose 方式為例操作步驟非常直接。先裝好 Docker 和 docker-compose 插件然后拉取官方倉庫里的部署目錄執(zhí)行docker-compose up -d把整套環(huán)境啟動起來。等待一分鐘左右打開瀏覽器訪問http://服務(wù)器IP:17000看到的就是夜鶯登錄頁。默認(rèn)賬號是root默認(rèn)密碼是root.2020這里我必須強(qiáng)調(diào)一句登錄后第一件事就是改密碼并且建議關(guān)閉默認(rèn)賬號新建自己的管理員用戶。這套系統(tǒng)暴露在公網(wǎng)以后默認(rèn)口令很容易被掃描器利用屬于絕對的低級風(fēng)險。啟動完成后你在頁面里會看到“業(yè)務(wù)組”的概念。先創(chuàng)建自己的業(yè)務(wù)組然后進(jìn)入業(yè)務(wù)組創(chuàng)建采集器 token。這個 token 就是 Categraf 連接夜鶯服務(wù)端的身份憑證和 Zabbix 里的主動注冊密碼作用類似。3.3 接入第一個監(jiān)控目標(biāo)這里我用一臺 Linux 服務(wù)器舉例子。下載 Categraf 二進(jìn)制包解壓后修改conf/config.toml把 HTTP 地址改成http://夜鶯服務(wù)器IP:17000再把剛才創(chuàng)建的 token 填進(jìn)去。啟動 Categraf 進(jìn)程幾秒鐘后回到夜鶯頁面在“機(jī)器列表”里就能看到這臺宿主機(jī)的注冊信息同時 CPU、內(nèi)存、磁盤這些基礎(chǔ)指標(biāo)已經(jīng)開始上報。如果你要監(jiān)控的是 MySQL在 Categraf 的 input.mysql 目錄下配置連接信息并啟用插件然后重啟 Categraf。通常一分鐘內(nèi)夜鶯的“即時查詢”里就能查到mysql_up這類指標(biāo)。這里有個排查技巧數(shù)據(jù)沒出現(xiàn)時先別急著懷疑服務(wù)端直接在 Categraf 機(jī)器上手動執(zhí)行一次采集器看報表有沒有報錯這個步驟能快速定位是連接問題還是配置問題。4. 告警生命周期管理從觸發(fā)到解決4.1 告警的觸發(fā)、恢復(fù)與自動消除原理很多從 Zabbix 遷移過來的朋友第一次看到夜鶯的告警列表都會迷惑為什么這個主機(jī)的指標(biāo)明明已經(jīng)恢復(fù)正常告警還沒自動消失這里要先理解夜鶯的告警生命周期模型。一個告警事件會經(jīng)歷“觸發(fā)中 - 已觸發(fā) - 已恢復(fù)/已解決”這幾個狀態(tài)。當(dāng)指標(biāo)滿足規(guī)則條件時事件被創(chuàng)建并產(chǎn)生通知此時狀態(tài)是“已觸發(fā)”當(dāng)指標(biāo)恢復(fù)到正常值并且滿足規(guī)則里設(shè)置的恢復(fù)條件時事件才會進(jìn)入“已恢復(fù)”狀態(tài)。Zabbix 里有一個很直觀的“主機(jī)問題已解決”的展示邏輯問題恢復(fù)后前面會打上綠色的勾。夜鶯的思路其實是一樣的只是它的恢復(fù)狀態(tài)不會默認(rèn)從列表里移除而是作為歷史事件保留下來。這樣設(shè)計的好處是保留了完整的告警審計鏈路事后復(fù)盤時可以很清楚地看到這個告警什么時候開始、什么時候恢復(fù)、通知發(fā)給了誰。所以不要用“Zabbix 會自動變成綠色”的固有印象來套夜鶯你得適應(yīng)它的狀態(tài)流轉(zhuǎn)。4.2 手動消除告警的幾種正確姿勢如果你確實遇到了“告警恢復(fù)后還掛在列表里”或“某些告警需要人工介入處理后才能關(guān)閉”的場景夜鶯提供了很多手動操作手段。處理單個告警在告警事件詳情頁可以對事件執(zhí)行“關(guān)閉/標(biāo)記解決”操作相當(dāng)于人工確認(rèn)這個事件已經(jīng)處理完畢。靜默指定對象如果某臺機(jī)器正在進(jìn)行重裝系統(tǒng)、硬件維修等操作不想因為這些操作引發(fā)噪音告警可以創(chuàng)建一個屏蔽規(guī)則設(shè)置起始結(jié)束時間到點自動解除。屏蔽整個規(guī)則當(dāng)某個業(yè)務(wù)組正在進(jìn)行大版本變更預(yù)計會長時間觸發(fā)多條規(guī)則時可以直接把相關(guān)告警規(guī)則暫停或加全局靜默避免告警風(fēng)暴。我的經(jīng)驗是手動消除只能作為應(yīng)急手段不要養(yǎng)成“用手點掉”的習(xí)慣。真正要靠的是把告警規(guī)則、恢復(fù)條件和靜默策略設(shè)計好讓系統(tǒng)在常態(tài)下能自己閉環(huán)。手動操作太多總有一天會漏掉一條真正重要的告警。4.3 夜鶯企業(yè)微信通知配置全過程企業(yè)微信通知我前面簡單提過這里把完整流程拆開。登錄夜鶯后進(jìn)入“通知配置”新建一個“企業(yè)微信”渠道。企業(yè)微信管理后臺需要你創(chuàng)建一個自建應(yīng)用記錄下 CorpID企業(yè) ID、AgentId、Secret。在夜鶯渠道配置里填好這些參數(shù)后保存并測試發(fā)送。測試消息會通過企業(yè)微信應(yīng)用推送到你綁定的成員賬戶里。這里要注意一個細(xì)節(jié)企業(yè)微信應(yīng)用默認(rèn)只能向應(yīng)用可見范圍內(nèi)的成員發(fā)送消息。如果測試沒收到優(yōu)先檢查企業(yè)微信應(yīng)用的可見范圍是否包含了接收人。另外告警通知的接收人需要和企業(yè)微信里的賬號對應(yīng)上夜鶯通過手機(jī)號或者賬號 ID 做映射如果接收人配置對不上通知就會靜默失敗。我一般建議單獨建一個“監(jiān)控告警”企業(yè)微信群把告警機(jī)器人拉進(jìn)群再用群機(jī)器人 webhook 的方式作為消息通道。這種方式比直接推送企業(yè)微信應(yīng)用消息更適合值班場景因為所有相關(guān)同事都在同一個群里共享故障上下文響應(yīng)協(xié)作更方便。5. 夜鶯 vs Zabbix要不要遷移5.1 核心能力對比這個問題幾乎每個用 Zabbix 的團(tuán)隊都會問。我把兩者的關(guān)鍵差異整理成一張表你可以對照自己的情況判斷。對比項Zabbix夜鶯架構(gòu)ServerProxyAgent數(shù)據(jù)庫驅(qū)動采集器服務(wù)端時序數(shù)據(jù)庫存儲分離指標(biāo)存儲MySQL/PostgreSQL 為主歷史數(shù)據(jù)摘要VictoriaMetrics/Prometheus 等時序庫告警語法專屬觸發(fā)器表達(dá)式PromQL云原生通用語言多租戶較弱主要靠主機(jī)組和權(quán)限業(yè)務(wù)組機(jī)制天然隔離適合多團(tuán)隊采集生態(tài)Agent 為主插件豐富Categraf、Telegraf、Exporter 全兼容云原生需要額外適配原生對齊 K8s/Prometheus 生態(tài)告警通知媒介類型豐富但配置較繁瑣內(nèi)置企業(yè)微信、釘釘、飛書、webhook 等二次開發(fā)自帶 API 但整體偏重Go 體系較輕組件可替換這張表充分體現(xiàn)了夜鶯的“現(xiàn)代感”。不是說 Zabbix 不好它依然是很多傳統(tǒng)企業(yè)網(wǎng)絡(luò)設(shè)備、服務(wù)器監(jiān)控場景里的可靠選擇只是在指標(biāo)規(guī)模、告警靈活度、多團(tuán)隊協(xié)作這幾個維度夜鶯的設(shè)計更貼合當(dāng)下基礎(chǔ)設(shè)施的形態(tài)。5.2 什么情況建議遷移我總結(jié)了幾類適合遷移的典型場景。第一服務(wù)器規(guī)模上千且指標(biāo)量持續(xù)增長Zabbix 的數(shù)據(jù)庫開始成為瓶頸歷史數(shù)據(jù)的查詢越來越卡。第二K8s 容器集群越來越多需要和 Prometheus 生態(tài)深度打通Zabbix 對云原生支持始終差一些意思。第三公司內(nèi)部有多個開發(fā)團(tuán)隊各自需要獨立的監(jiān)控和告警視圖夜鶯的業(yè)務(wù)組機(jī)制能省下大量權(quán)限管控時間。反過來如果團(tuán)隊對 Zabbix 非常熟悉機(jī)器規(guī)模也不大遷移帶來的收益就沒那么明顯。監(jiān)控系統(tǒng)的價值在于穩(wěn)定和熟悉不必為了“趕時髦”去做大規(guī)模替換。我見過不少團(tuán)隊遷移失敗原因不是夜鶯不好用而是部門慣性太大規(guī)則遷移又沒做好最后兩套系統(tǒng)并行維護(hù)反而增加了負(fù)擔(dān)。5.3 從 Zabbix 到夜鶯的遷移平滑方案如果你決定遷移我建議不要搞“大爆炸”切換。比較穩(wěn)妥的做法是先用邊緣業(yè)務(wù)組做試點把一部分非核心服務(wù)器用 Categraf 采集起來和 Zabbix 并行運行一段時間。確認(rèn)告警規(guī)則評估結(jié)果和 Zabbix 基本一致后再逐步擴(kuò)大范圍。歷史數(shù)據(jù)遷移這塊我個人建議止損。Zabbix 里積累的歷史曲線數(shù)據(jù)遷移到夜鶯后格式和語義都不同強(qiáng)行遷移代價很大。通常保留近期 30 天的指標(biāo)數(shù)據(jù)供趨勢參考就夠了更早的數(shù)據(jù)直接歸檔。告警規(guī)則方面可以把 Zabbix 的觸發(fā)器逐條翻譯成 PromQL。這個過程會比較痛苦但值得用心梳理一次很多觸發(fā)器其實已經(jīng)過時了趁著遷移做一次規(guī)則瘦身比純平移效果更好。6. 常見問題速查與避坑手冊6.1 高頻問題排查我把實際運維夜鶯過程中遇到的典型問題整理成速查表方便你遇到情況時快速對照?,F(xiàn)象可能原因排查思路Categraf 上報后機(jī)器列表無數(shù)據(jù)token 錯誤或 HTTP 地址不通檢查 config.toml確認(rèn)能 ping 通服務(wù)端 17000 端口指標(biāo)有數(shù)據(jù)但告警不觸發(fā)規(guī)則里查詢的指標(biāo)名/標(biāo)簽不匹配在即時查詢里手動執(zhí)行 PromQL確認(rèn)結(jié)果非空企業(yè)微信通知收不到可見范圍未包含接收人檢查企業(yè)微信應(yīng)用可見范圍測試發(fā)送告警恢復(fù)后仍顯示未解決恢復(fù)條件配置不正確檢查規(guī)則的恢復(fù)通知配置確認(rèn)恢復(fù)表達(dá)式正確頁面查詢歷史數(shù)據(jù)很慢時序庫磁盤 IO 不足或存儲空間緊張檢查 VictoriaMetrics 磁盤指標(biāo)考慮擴(kuò)容服務(wù)端重啟后數(shù)據(jù)斷點采集器本地緩沖未生效確認(rèn) Categraf 是否開啟了寫入緩沖功能另外一個常見誤區(qū)是很多人把夜鶯當(dāng)作一臺普通的 Web 應(yīng)用來看忽略了時序數(shù)據(jù)庫的運維。VictoriaMetrics 的存儲目錄會持續(xù)增長你需要關(guān)注磁盤空間的告警設(shè)置數(shù)據(jù)保留策略。夜鶯默認(rèn)情況下會以遠(yuǎn)程寫入的方式不斷向時序庫寫入指標(biāo)一旦磁盤寫滿整個監(jiān)控都會停擺這個問題比服務(wù)端本身的故障更隱蔽。6.2 實戰(zhàn)經(jīng)驗筆記關(guān)于告警規(guī)則編寫我強(qiáng)烈建議先做一段時間的“靜默運行”。規(guī)則創(chuàng)建后不開啟通知只產(chǎn)生告警事件持續(xù)觀察一兩天確認(rèn)告警頻率合理、沒有大量重復(fù)事件后再打開通知。這個習(xí)慣能避免很多因為規(guī)則設(shè)計不當(dāng)導(dǎo)致的告警風(fēng)暴也是我從多次教訓(xùn)里總結(jié)出來的。另一個經(jīng)驗是關(guān)于告警恢復(fù)通知的。很多人覺得恢復(fù)通知無所謂實際上它很重要。值班同事收到一條告警后會很自然地等待恢復(fù)消息來關(guān)閉工單。如果只有觸發(fā)通知沒有恢復(fù)通知值班人員就得反復(fù)刷新面板確認(rèn)狀態(tài)。夜鶯里開啟恢復(fù)通知后整條告警鏈路就完整了觸發(fā)、通知、恢復(fù)、再通知整個過程不需要人工介入去確認(rèn)。還有一點權(quán)限和賬號體系最好在剛開始就規(guī)劃好。夜鶯支持本地賬號也支持對接 LDAP/OAuth。如果公司已經(jīng)有統(tǒng)一登錄直接對接別給每個運維同事單獨開一堆賬號。賬號不及時回收和權(quán)限過寬是監(jiān)控系統(tǒng)里最容易出安全問題的環(huán)節(jié)這一點我建議所有團(tuán)隊都重視起來。7. 場景延伸監(jiān)控系統(tǒng)如何支撐低空與邊緣場景7.1 低空監(jiān)控對基礎(chǔ)設(shè)施的訴求最近“低空監(jiān)控系統(tǒng)”這個詞熱度很高無人機(jī)、低空飛行器、城市治理相關(guān)的監(jiān)控需求明顯增多。但很多人的第一反應(yīng)是低空監(jiān)控等于雷達(dá)和攝像頭這套專門系統(tǒng)其實這類系統(tǒng)背后同樣需要一套扎實的基礎(chǔ)設(shè)施監(jiān)控。無人機(jī)機(jī)巢的電池健康、飛控系統(tǒng)的 CPU 負(fù)載、通訊鏈路的信號強(qiáng)度、邊緣網(wǎng)關(guān)的網(wǎng)絡(luò)穩(wěn)定性這些數(shù)據(jù)都要被持續(xù)采集和告警。這個場景對監(jiān)控系統(tǒng)提出了幾個要求采集端部署輕量、能跑在邊緣小設(shè)備上數(shù)據(jù)量可能不大但需要統(tǒng)一管理告警要及時推送到維護(hù)人員的手機(jī)上。這些恰好是夜鶯這類現(xiàn)代化監(jiān)控系統(tǒng)的強(qiáng)項。Categraf 采集器非常輕量可以跑在只有 512M 內(nèi)存的邊緣網(wǎng)關(guān)或工業(yè)盒子上采集到的指標(biāo)通過標(biāo)準(zhǔn)協(xié)議傳到中心端再通過企業(yè)微信、釘釘?shù)惹腊迅婢平o現(xiàn)場維護(hù)團(tuán)隊。7.2 基于夜鶯擴(kuò)展邊緣監(jiān)控的路線如果你要設(shè)計一套低空飛行器基礎(chǔ)設(shè)施監(jiān)控方案可以參考這個思路所有機(jī)巢和無人機(jī)接入點部署 Categraf采集系統(tǒng)級指標(biāo)CPU、內(nèi)存、磁盤、進(jìn)程狀態(tài)和業(yè)務(wù)級指標(biāo)設(shè)備電量、充電狀態(tài)、信號強(qiáng)度、任務(wù)狀態(tài)通過夜鶯統(tǒng)一展示在一張業(yè)務(wù)組的監(jiān)控面板上針對關(guān)鍵指標(biāo)配置告警規(guī)則。例如當(dāng)某個機(jī)巢的電池溫度持續(xù)高于閾值或者通訊鏈路丟包率持續(xù)升高夜鶯的告警引擎會立刻觸發(fā)企業(yè)微信通知值班人員可以在手機(jī)上看到具體是哪個點位、什么指標(biāo)、多少數(shù)值再決定是否需要遠(yuǎn)程重啟或安排現(xiàn)場處理。這套模式不僅適用于低空監(jiān)控也適用于一切邊緣節(jié)點、IoT 設(shè)備、移動基站等分布式基礎(chǔ)設(shè)施場景。還有一個小建議邊緣設(shè)備的網(wǎng)絡(luò)經(jīng)常不穩(wěn)定Categraf 本地最好開啟磁盤緩沖網(wǎng)絡(luò)恢復(fù)后數(shù)據(jù)能自動補(bǔ)傳不會因為斷網(wǎng)導(dǎo)致指標(biāo)出現(xiàn)空洞。夜鶯對斷點補(bǔ)傳的支持雖然不是特別花哨但應(yīng)付邊緣網(wǎng)絡(luò)抖動場景已經(jīng)夠用了。實際部署時我建議邊緣端和中心端之間盡量建立一條低延遲鏈路否則數(shù)據(jù)延遲會很影響告警的實時性。最后再分享一個我個人的體會。監(jiān)控系統(tǒng)這種東西剛開始接觸時很容易被各種概念和組件帶偏總覺得功能越多越好、圖表越花哨越好。真正用下來幾年我的標(biāo)準(zhǔn)反而越來越樸素數(shù)據(jù)能不能穩(wěn)定采集、告警能不能在需要的時候準(zhǔn)確定位、通知能不能到該到的人手里。夜鶯在這三點上做得相當(dāng)扎實它沒有過多炫技而是把大規(guī)模監(jiān)控里的各種臟活累活安排得明明白白。如果你一直在為 Zabbix 的擴(kuò)展性發(fā)愁或者厭倦了拼湊一堆開源組件來搭建監(jiān)控平臺不妨從今天這個部署實操開始給它一個機(jī)會也給自己一個更省心的運維方案。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷涩涩五月天| 四月婷婷五月色综合| 五月激情网站| 日韩成人无码人妻| 五月婷婷激情在线| 大学生高潮无套内谢视频| 久久99网站| 中文字幕 码精品视频网站| 91vip在线观看| 嫩草AV久久伊人妇女超级A| 色亚洲视频| 五月婷婷五月色| 婷婷五月天堂网| 校园春色亚洲色| 中文字幕激情综合| 九九热视频精品| 98色花堂98t.R| 一本色道久久综合狠狠躁小说| 天天操天天爱天天日| 69人人操人人爽| 四色永久成人网站| 粉嫩av蜜桃av蜜臀av| 五月情四婷婷| 26UUU一区二区| 熟妇天天综合| www.婷婷激情网.com| 婷婷五月色播放| 激情小说五月欧美亚洲丁香| 色色成人網| 97五月久久丁香婷婷| 国产精品扒开腿做爽爽爽A片唱戏| 99热久久这里只有精品2010| 丁香六月激情综合啪啪| 狠狠色噜噜狠狠狠888了| www.91久久| 香蕉久久国产AV一区二区| 在线观看婷婷5月| 五月丁香激情欧洲啪啪| 天天视频亚洲| 久久深爱激情网| 久久99久久99精品免视看婷婷| 激情九月丁香婷婷| 九九艹女| 97人妻人人| 丁香五月天AV在线| 天堂网色婷婷| 激情久久综合| 婷婷丁香五另类网站| 久草热久草在线视频| 人妻av在线| 91人人人人人人人| 五月婷狠狠| 国产av天堂| 丁香婷婷五月天激情四射| 婷婷涩涩五月天| 久久婷婷六月综合资源| 深爱五月亚洲| 美女主播野战视步页| 天天爽爽日日做做| 婷婷激情五月天亚洲综合| 婷婷爱在线观看| 婷婷五月天av| 九九这里有精品视频| 91碰碰| 五月丁香啪综合| 久久久欧美精品sm网站| 亚洲欧美婷婷五月色综合| 久久性爱视频| 婷婷亚洲丁香五月| 久久玖玖综合| 公的粗大挺进了我的密道| 狠狠丁香| 久久婷婷丁香花综合网| 色情婷婷。| 亚洲综合婷婷五月| 日本va欧美va欧美| 色五月六月| 99热国产| 一二区成人电影| 久久免费操| 色天天综合天天综合频道。| 五月天成人小说| 婷婷四色五月| 九九中文色色| 婷婷天天插天天爱| 亚洲成人网站在线播放| 成人在线观看国产| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 九九综合| 开心五月深爱五月丁香五月激情五月| 色久五月天| 婷婷五月激情六月| 69精品人人人人人人人人人| 久天综合| 第四色五月天| 色综合播放| 涩五月丁香| 婷婷五月天首页| 五月丁香六月玩女人| 9久久久久久久久久久| 国产精产国品一二三在观看| 9l视频自拍九色9l视频在线观看| 武则天精品久久| 99超在线| 天天插天天爽| 日本91在线| 五月丁香婷婷六月天| 五月丁香激情综合网| 99久久这里只有精品| 热婷婷av| 51精品国内探花| 婷婷91| 亚洲情a| 大香蕉520| 九九Y精品热播| 丁香五月婷婷久久综合激情网 | 99久精品视频| 日本色色视频| 热婷婷久| 五月丁香狠狠爱婷婷综合| 色婷婷亚洲在线观看| 色五月首页| 99热亚洲精品66| 99无码视频| 激情婷婷22月间| 六月伊人婷婷| 韩国真做片在线观看| 丁香五月先锋| 96精品久久久久久久久| 97超级碰碰碰| 婷婷色啪| 久综合网| 色色色色网站| 91操色| 亚洲综合1024| 九九香蕉网| 欧美黄色韩日网| 春色激情第四色| 婷婷五月色天| 亚洲色五月天在线| 大伊香蕉精品视频在线 | 亚洲精品白浆高清久久久久久| 日韩黄色电影| 超碰超碰在线| 久久久人妻不卡| 精品成人在线观看| 婷婷丁香射射| 夫妇交换刺激做爰| 亚洲色激情| 五月日韩中文字幕| 天天干天天干天天操| 久久婷婷综合五月| 精品色色| 色五月婷婷天天干| 久久精品熟女亚洲AV麻豆| 久久成人综合五月天| 五月丁香成人网| 色八月婷婷| 99色1| 人人草人人舔| AV色婷婷| 天天撸天天干天天插| 色欲一区二区三区精品A片| 精a品a视a频| 婷婷天堂站| 123草逼网| 天天色粽合合合合合合合| 99久免费视频| 亚洲无码色| 激情99热| 亚州精品成人片| 99热在线只有精品| 亚洲人妻av| 亚洲色综合| 久久99热这里只有精品23| 在线观看国产高清视频免费网站| 2w在线视频| 日本eVa一区=区视频| 99小视频在线观看| 狠狠色色| 婷婷五月天激情五月天网站| 久久电影4399| 久久久天堂国产精品女人| 婷婷九月丁香久久| 99在线精品视频| 丁香六月婷婷色XXXXX| Xx色综合| 欧美一线视频| 国产人妻777人伦精品HD| 丁香五月综合福利视频导航| 日本视频不卡123区| 五月婷婷二月丁香| 深情六月婷婷综合久久| 热久69| 99热精品在线播放| 丁香五月天色婷婷| 五月婷婷成人w| 日韩AV在线电影| 丁香五月婷婷亚洲综合精品| 欧美97p| 色久影院| 极品五月天| av婷婷丁香 六月| 99丁香婷婷综合网| 天天操人人干| 五月天婷综合| 欧美啄木乌丝袜人妻系列| 91精产品自偷自偷综合| 无码字幕中文| 蜜桃成语时李时珍 免费| 无码网站视频| 色综合网综合| 婷婷5月天激情综合| 婷婷国产五月天17c| 亚洲天堂热| 色XX综合网| 日韩99色| 五月丁香婷婷福利| 五月天婷婷色色| 五月婷婷 自拍| 99热这里只有精品在线| 亚洲精品视频在线播放| 欧美日韩123| 婷婷色av| 欧美VA在线观看| bbwcuckold精品熟妇| 91视频精品99| 五月丁香啪啪激情| 婷婷在线精品| 欧美激情综合五月色丁香| 色婷婷五月影视| 97sese婷婷| 成人.在线日韩| 五月停亭六月,六月停亭的英语| 丁香丁香激情网| 99色中文| 婷婷激情在线| 丁香五月天激情综合| www.五月天婷婷姐姐| 99热只有精品综合| 人妻久久久久久久久妻久久久久久久久 | 五月丁香色色网| 丁香六月婷婷| 婷婷五月六| 五月天婷婷色小说| 99精品无码网站| 热热久久精品视频| 六月婷婷影院| 久久婷婷六月综合| 久久久久久久人妻| 97精品在线| 无码髙清| 极品少妇XXXX精品少妇偷拍| 五月婷婷AV| 久久人人妻| 开心五月天激情| 一本大道熟女人妻中文字幕在线 | 色播综合| 丁香婷婷精品视频| 午夜 外网 精品 在线| 26UUU一区二区| 色九区| 五月丁香另类图片| www.激情在线| 丁香五月亚洲婷婷| 色五月天婷婷| 国产精品久久..4399| 伊人网碰碰| 99九九在线视频| 激情小说婷婷| 深爱综合网| 婷婷视频网| 中文字幕丰满孑伦无码专区 | 91啪啪视频| 99亚洲视频| 成人av免费观看| 99日韩| 中文成人在线| 婷婷激情在线| 直接看的AV| 婷婷五月综合激情| 色色综合网www| 超级久久久| 九九偷拍网| 99热综合色图| 思思热在线视频观看精品| 欧美黑人巨大猛烈cuckold| 婷婷丁香基地在线| 激情综合五月丁香| 级人人91| 99ri在线| 无码人妻一区| 欧美精品99久久久| 97超级碰碰碰| 人人人人人人人人人草| 人人草人人爱| 夜夜操加勒比| 欧美熟女99| 久久久er热| 六月久久狠狠| 99色热| 97色色视频| www.婷婷五月天.com| 丁香婷婷综合激情五月色| 婷婷九九色| 九九久久99精品免费观看www| 开心婷婷中文字慕| 久久激情五月婷婷| 伊人丁香在线| 婷婷五月天视频免费在线观看| WWW.色婷婷.COM| 色婷婷五月天小说网| 五月丁香五月综合欧美| 国产在线aaa片一区二区99| 97在线天堂| 久久久www| 婷婷之六月丁香| 噜噜干日本| 久草婷婷在线| 婷婷五月丁香高清无码| 久久xx| 婷婷97C| 电影《战争与艾拉》免费观看| 五月丁香婷婷激情澎湃四射| 最近中文字幕2019视频1| 97婷婷在线| 久久人妻熟女一区二区| 99热 这里只有精品 国产 日韩| 久久九精品| 丁香五月天堂| 另类视频综合| 欧美色色色色色| 丁香花五月天社区| 99在线亚洲| 99国产精品久久久久久久久久久 | 久久er99热精品一区二区| 丁香六月婷婷开心婷婷网| 婷婷六月插屄激情| 久久精品国产一区二区三区四区 | 99热午夜精品| 激情综合五月.....| 婷婷色中文字幕| 日本久久9| 丁香婷婷六月在线资源观看| 中文字幕不卡网站| 五月丁香激情欧洲啪啪| 五月婷婷电影院| 亚洲 精品 综合 精品| 99re思思热在线视频| 亚洲综合五月| 97极品在线| 色噜噜五月天| 欧美色97| 狠狠干综合| 亚洲在线综合| 99热这里只有精品1| 九九色色网| 天天肏天天肏天天肏| AV在线二十六页| 噜噜色婷婷| 涩婷婷视频快播人妻| 99热这里只有精品2| jiujiuxiangjiaowang| 婷婷丁香五月天亚洲| 色婷婷成人色网| 99精品网站| 五月婷婷爽爽爽| 国熟女视频| 色欧美一级| 色青五月天| 好叼操在线观看| 五月丁香激情欧洲啪啪| 色婷婷五月影院| 97人妻碰碰碰久| av网址在线| 久久色情| 色婷婷综合久久| 综合五月激情网| 激情玖玖综合网| 99免费| 91久久综合亚洲噜噜成人在线| 99热这里只有精品8| 97丁香五月| 亚洲综合激情五月久久| 开心五月色婷婷综合开心网| 97干视频在线| 精品一二三区久久AAA片| 激情黄色五月天| 人人操婷婷| 色欲久久久久久综合网综合网| 2016日日夜夜操| 久久女婷| 五月综合色播播丁香婷婷| 99在线综合视频| 婷婷无码视频| 亚洲五月天婷婷在线| 五月婷婷六月丁香首页| 亚洲第一视频 久久| 免费观看2018www黄色操逼网站| A久久| 日韩另类| 99在线播放| 99色在线视频| 五月天亚洲色| 色婷婷4| 亚洲成人无码免费| 天天做天天爱天天高潮| 色五月五月天色婷婷色五月| 婷婷色五月亚洲| 91婷婷五月丁香碰| 成人.在线日韩| 色五月五月婷婷| 天天做天天爱天天爽在| 亚洲啪啪视频| 青青草Avb在线| 99热这里只有精品免费| 丁香六月婷婷色播| 亚洲人妻五月丁香婷婷| 综合激情开心五月| 丁香婷婷性爱| 一级二级色大片| 黄桃AV无码免费一区二区三区| 五月天停停日日| 婷婷色五月激情| 日日夜夜婷婷| 婷婷爱婷婷| 狠狠舔| 日本毛片内射| 久综合九综合99| 久久久久人妻| 久久久www| www99热| 337p午夜影院| 777久久综合视频 | 综合五月激情| 五月天影院婷婷在线观看| 亚洲av网站| 丁香五月九九| 五月丁香中文婷婷中文| 欧美日韩中国| 色色色五月| 日韩无码AV电影网站| 婷婷五月天电影网| 激情色播| 色五月激情婷婷| 欧美性爱五月天| 夜夜爽天天日| 啪啪东京热| 欧美色激情四射| 天天日天天插| 五月天另类激情在线| 五月婷婷熟女| 91精品久久久久久久| 69色婷婷| 五月丁香亭亭操逼| 大香蕉婷婷丁香视频在线| 天天日天天摸| 欧洲亚洲午夜| 日本高清久久| 国产精品色色| 亚洲乱码日产精品BD在线观看| 丁香色色网| 色婷婷88| 婷婷中文字幕| 日韩一区二区A片免费观看| www.夜夜| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 六月色丁香中文字幕| 久久91久久精品久久| 亚洲操人| 欧美大片| 伊人激情综合| 99热热这里只精品996小说| 五月色亚洲| 色女人久久| 国产免费一区二区三区三州老师F1F1.CC | 丁香五月黄色| 九九色影视| 婷婷五月激情网站| 久久这里99| 小视频久久久aaa| 婷婷色5月激情网| 思思热AV| 欧美精品999| 91久操| 国产成人综合网| 老妇六区| 色在线99| 激情五月婷婷网在线观看| 天天干天天干天天干天天干天天干天天干天天| 99re这里只有精品视频了| 久久五月天婷婷| 精品久久9| 99热成人| 天天日天天操心| 色色五月婷| 成人做爰A片免费看网站找不到了 国产露脸150部国语对白 | 9一精品视频观看| 五月间天堂综合| 色五月网址| 午夜爱爱爱成人| 激情小说婷婷五月| 亚洲中文乱字字幕在线永久| 婷婷伊人五月丁香天堂网| 色呦呦免费观看| 婷婷中文字幕版| 日韩aaaaa| 五月天婷婷成人网| 五月天婷婷色色网| 丁香五月成人在线| 丁香五月在线| 91精品久| 婷婷丁香五月久久| 日韩性视频| 色九九中文字幕| 天天摸天天肏| 丁香婷婷噜噜| 日产精品一线二线三线芒果| 91avse| 九九热视频免费观看| 黄色一级影片| 五月天婷婷无码视频| 久久九九热视频| 久热精彩视频98| 午夜色色色极品视频| 亚艹艹| 99热精品免费| 黄色三级日本| www.婷婷五月| 狼人伊人天堂| ji'qing'luan'ren'lun| 亚洲色99| 九九久久五月天综合伊人| 色播婷婷五月天| 狠狠操狠狠插| 91精品国产91久久久久青草| 五月天婷婷丁香| 人妻熟女一区二区AV| 久久性爱视频| 激情综合五月天| 一区二区传媒视频| 婷婷草| 夫妇交换刺激做爰| 欧洲激情五月天婷婷| 五月丁香婷婷久久| 伊人狠狠丁香婷婷综合尤物| 性综合网| 91啪啪啪啪| 玖玖热视频| 婷婷五月天视频免费在线观看| 成人午夜天| 大香蕉五月丁香| 激情色色色| 婷婷丁香久久网| 婷婷综合网伊人| 白人荫道BBWBBB大荫道| 婷婷黄色五月天在线视频| 久久激情五月婷婷| 狠狠色噜噜狠狠色噜噜噜999| 国产这里只有精品| 热久久色| 99免费热视频在线| 99精品久久久久久久婷婷| 另类激情五月| 久热伊人| 丁香五月影院| 激情五月婷婷欧美极品| 欧美情色电影一区二区| 婷婷色Av| 99婷婷综合| 免费观看的婷婷五月视频在线| 激情五月天婷婷播播久久综合91| 26uuu激情五月天| 日韩成人无码| 五月丁香做爱视频| 少妇婷婷五月天| 日本一毛片| 4399在线日本A片| 亚洲亚洲激情| 色婷青青| 婷婷色五月婷| 精品思思久久| 免费无码毛片一区二区A片 | 91一起操| 五月色丁香综合| 成人做爰A片免费看视频| 激情网站综合五月天| 深夜婷婷 丁香| 婷婷五月另类网站| 色欲丁香| 成人草榴视频| www,色婷婷| 99热国品免费| 亚洲美女裸体被操在线观看| 欧美日韩成人在线网站| 另类色网| 亚洲AV永久无码影院黑人| 97热在线精品| 5月婷婷6月丁香aV| 婷婷色情五月| 91狠狠色丁香婷婷综合久久精品| 狠狠干伊人| 久久WW| 日产精品一线二线三线芒果| 婷婷六月天激情| 五月婷色| 婷婷五月天网| 99,色| 欧美成人AAA片一区国产精品| 啪啪色激情五月天| 五月精品99综合| 在线视频另类| www.丁香黄色五月天人与| 艹天天射| 亚洲电影在线观看| 欧美97色| 婷婷丁香五月综合网上| 99热这里只有精品268| 久99在线| 色婷婷色99国产综合精品| 成人五月天视频播放| 97香蕉碰碰人妻国产欧美| 少妇人妻人伦A片| 狠狠色五月天| 五月开心激情网| 色婷婷狠狠| 国产亚洲成人综合| 三年高清大片免费观看国语| 五月丁香婷婷在线| 五月天另类小说| 欧美va国产va| 91久久久久久久久久久| 94干大香蕉| 少妇性按摩无码中文A片| 4438激情网| 战争与艾拉电影免费观看| 九九久久综合| 日韩在线视频网站| 天天插天天插天天插| 有码人妻久久| 九九热a| 婷婷娌伦网| 伊人99久久| 婷婷综合激情| 色色丁香| 99在线69| 色情久久久| WWW.婷婷| 国产免费一区二区三州老师F1…… | www. 五月. com| 婷婷五月天亚洲丁香| 99r久久这里只有精品| 婷婷激情五月天在线视频| 色五月婷婷av| 超碰在线观看9| 18av天堂| 区区久久妻| 99ri视频在线观看| 日本色色视频| 90色免费视频| 色呦呦在线| 亚洲综合色成丁香五月色| 桃色五月天| 亚洲色婷婷色| 丁香五月激情天AV无码| 丁香五月天网站| 香蕉久久六月| 粉嫩av蜜桃av蜜臀av| 超碰91在线| 久久婷婷五月天蜜桃| 日本五月婷| se影音资源在线观看| 色色丁香激情五月| 丁香五月激情在线| 这里只有精品视频免费在线观看| VA婷婷亚洲| 九九热思思热| 亚洲欧美999| 色婷婷综合视频| 久狠狠| 日本九婷婷| 五月婷婷中文字幕| 五月激情六月宗合| 色婷婷激情| 日韩综合成人| 人妻中文av| 14色综合婷婷| 天天 青草 制服丝袜 在线| 五月丁色AV| 激情 婷婷 丁香五月天| 啪啪小说五月天| 99在线免费视频| 激情五月天影院| 精品一二三区久久AAA片| 国产,欧美,学生妹,视频| 伊人99久久| 99日本黄站| 天天操比比| 国产亚洲成AV人片在线观黄桃| 日日做A爰片久久毛片A片英语| 思思久久99热只有频精品66| 色丁香五月婷婷综合久久| 91色在线| ji'qing'luan'ren'lun| 一级黄色尤物综合视频手机在线观看| 激情亚洲网| 色一情一乱一乱一区91Av| 免费看欧美成人A片无码| 亚洲精品另类| 五月婷婷在线丁香| 大陆肏屄视频| 色九九综合| 成人五月天综合网| www.久久爱.com| 婷婷丁香五另类网站| 五月婷婷在线视频观看| 夜夜撸日日操| 丁香五月天堂网AV| 夜夜躁狠狠| 国产亚洲色婷婷久久99精品91| 99操碰| 亚洲岛国电影| 激情婷婷丁香五月天小说| 99热日韩| 67194国产| 久色五月天| 五月花成人网| 五月色网| 激情五月天第四色| 狠狠色狠狠鲁| 99这里只有| 97人人操人人| 亚洲美女裸体被操在线观看| 97亚洲色 torrent magnet| 一级黄色尤物综合视频手机在线观看| 免费亚洲婷婷中文字幕| 激情超碰网| 色五月丁香一区在线| 色玖玖导航| 婷婷五月激情综合网| 色视频2025| 69久久99精品久久久久婷婷| AV网在线观看| 亚洲、热| 99热精品在线观看| 激情五月天色色| 五月丁香六月激情在线| 丁香伍月婷电影全集| 思思视频这里是精品| 丁香五月天网站| 丁香五月成人丝袜| 日本九九热| 亚洲精品V天堂中文字幕| 三级三久久线久久99久目本WW| 五月天激情亚洲| 九月丁香婷婷基地| 九九草热在线观看| 国产精品国产成人国产三级| 欧洲毛片基地c区| 色婷另类| www99久久| 色五月婷婷在线| 国产亚洲99久久精品熟女| 久久婷婷五月草视频| 欧美激情综合色综合啪啪五月| 六月丁香大香蕉| 日本色久| 色噜噜狠狠色综合日日| 欧美人人操| 五月婷中文字幕| 超碰色婷婷| 五月综合久久| 激情图片99| 中文字幕激情综合| 91凹凸在线| 99激情在线| 九九热中文| 99热精品在线播放| 思思热这里只有精品视频666| 婷婷色五月开心五月| 五月婷婷草| 色婷婷偷拍| 97干网站| 国产午夜一区二区三区| 五月丁香六月婷婷亚洲天堂网站| 亚洲精品视频在线播放| 丁香六月婷婷综合| 六月丁香五月婷婷| 婷婷五月天亚洲色| 五月刺激丁香月综合| 激情www| 婷婷终合色图| 婷婷在线精品| 人人爽在线视频综合网| 久草婷婷网| www.成人婷婷综合| 综合色吧| www,天天干| 婷婷五月天日逼| 久9热插入| 伊人色综合久久久| 天天五月丁香五月| 日韩成人影片网站| 精品久久这里热66| 色色色五月婷婷| 亚洲欧洲自拍图片专区五月天| 色综合99| 开心激情网五月| 另类伊人婷婷| 狠狠干综合| 婷婷六月五月| 99re久久| 亚洲av另类在线观看| 六月婷婷啪啪| 婷婷激情五月天网站| 久久免费少妇高潮99精品| 99热免费观看| 五月天综合缴情网网站0| 天天日色情| 婷婷97碰碰| 狠狠做五月婷婷| 欧美日韩日韩成人| 婷婷五月花| 激情99在线视频| 97人人草| 99精品丰满| 这里只有精品免费视频| 天天色综合图片| 91操碰| 色色丁香婷婷五月天| 啊V视频在线观看| 人人干Av| 欧美极品999| 久色大香蕉| 99热| 五月天婷婷AV| 99热在线观看亚洲区| 九九色逼| 激情五月天婷婷色色色色色色色色色色色 | 婷综合| 九九艹女| 国产毛片精品一区二区色欲黄A片| 五月婷婷婷婷婷婷艺术| 久久久久久激情| 丁香婷婷久| 久久婷婷伊人| 久久婷婷91| 五月丁香六月激情综合欧美| eeuus五月婷| 色9月| 伊人婷婷福利网| 大香蕉啪啪网| 超碰免费人人| 亚洲综合99| 五月天激情婷婷丁香| 国产色色在线| 亚洲欧洲国产精品| 黄色短视频在线观看| 国产毛片精品一区二区色欲黄A片| 少妇人妻人伦A片| 99色 色| 一个色的综合| 99热这里只有99| 五月婷婷中文字幕| 操逼巨乳91| 玖玖玖婷婷婷| 色欲AVV| 777米奇影视第四色| 99亚州综合精品成人网| 91碰| 成人网在线视频| 婷婷五月精品中文字幕| 嫩草视频。| 五月天丁香婷婷久久九| 色一情一乱一伦一区二区三区| 亚洲热久久| 色吧综合网| 91人人爽狠狠狠| 超碰资源在线| 色五月丁香五月| 99热69| 中文超碰视在线| 五月婷婷色在线| 国产精品久久久久久久久久| 伊人婷婷五月天| 激情五月天影院| 色色丁香| 思思re99视频在线观看| 日韩九九| 亚洲综合另类| 五月丁香久久| 激情又色又爽又黄的A片| 最近中文字幕大全免费版在线| 91人人网| 六月婷婷激情图片| 99热综合| 91丨九色丨东北熟女| 中字幕视频在线永久在线观看免费 | 99热大全在线观看| 色噜噜97视频在线观看| 丁香五月婷婷亚洲色图| 4399在线观看免费高清电视剧| 婷婷趴趴| 黄色五月婷婷| 丁香五月天激情网址| 日日噜狠狠色综| 欧洲激情五月天| 99热这里只有精品一区| 五月天综合婷婷| 五月亭亭开心网| 婷婷五月激情欧美| 国产色色网址网站| 五月丁香激情综合欧美| 久久久区区一久久久久久| 狠狠搞亚洲| 激情综合一| 久久丁香五月天| 99热久久这里只有精品| 色狠狠婷婷| 99热99在线精品| 伊人久久婷婷| 五月丁香天堂网婷婷| 79色色| 96精品久久久久久久久| 综合五月婷婷| 九九色黄色| 日韩成人无码人妻| 狠狠干2007| 狠狠摸狠狠摸| www.99热| 五月丁香色色色| 91婷婷色五月| 丁香亚洲婷婷五月| 色五月综合资源推荐| 婷婷激情社区| 99国产99| 99爱爱| 99热亚洲精品66| 六月丁香av| 风流少妇A片一区二区蜜桃| 热久91| 影音先锋按摩| 丁香六月色婷婷综合| 另类激情五月| 五月天婷婷综合色| 99热这里只有精品1025| 婷婷激情5月| 五月丁香婷婷综合久久| 日本一级黄色片。| 日日干天天射| 国产婷婷五月天| 精品乱码久久久久| 91综合色噜噜| 国产精品噜噜在线视频| 亚洲欧美婷婷五月色综合| 免费无码毛片一区二区A片| 久9视频免费播放| 亚洲五月天综合| 色婷婷狠狠干| 日日天天干| 成人做爰高潮A片免费视频| 色婷婷91| 婷婷色色网| 婷婷久久色| 色五月婷婷1| 99热精品9| 激情综合婷婷| 大香蕉99| 婷婷深爱五月| 五月婷婷综合激情小说| 丁香五月天偷拍| 久久婷婷五月天激情| 久久丁香综合香蕉| 国产伊人五月天| 开心五月综合激情网| 97超碰色| 五月天激情中文字幕| 日日夜夜天天| 色综合网址| 久久精品人妻| 99久久婷婷国产综合亚洲| 狠狠人人| 亚洲va成人va成人va在线观看| 免费看片在线观看| 亚洲激情综合五月婷婷啪啪| 97人人干| 狠狠色丁香综合| 天天插天天插天天插天天插| 99色在线观看视频| 深爱激情综合网| 日本色超碰| 另类视频丁香五月| 天天碰夜夜操| 亚洲女婷婷五月基地综合久久久| av色色国产| 97操操操| 亚洲成人AV在线观看| 婷婷五月天精品| 丁香色婷婷| 9在线9在线婷婷在线国产| 婷婷中文字暮| 久草婷妨| 婷婷色5月激情网| 三日本无码| 亚洲色综合性| 9999热在线| 综合色色色色色色| 日本操B片| 婷婷激情五月天激情| 激情综合九月| 激情亚洲婷婷| 欧美色99| 色婷婷综合网| 五月婷婷色播| 久er7久热| 国产成人精品亚洲线观看| WwW天天干| 婷婷五月在线影院| 情婷婷五月天| 婷婷五月六月| 色婷婷综合亚洲| 99激情在线| 99爱视频在线观看| 久久aaa| 人人爽网| 五月丁香中文| 色九月欧美| 久久只有18视频| 五月天激情网图片 - 百度| 国产成人精品一区二区三区视频| 99精品这里只有免费视频 | 天天干天天日蜜臀av| 久久久精品人妻录| 丁香五月最新网址| 丁香六月啪| 欧美久久五月婷婷| 操精品9| 99∨VTV| 大香蕉婷婷| 亚洲亚洲人成综合网络| 天天婷婷色六月| 欧美人久久| 亚洲激情四射| 91精品综合久久久久久五月丁香 | 99这里只有精品视频在线| 香蕉AV777XXX色综合一区| 91精品久久久久久综合五月天| 91趴趴| 丁香五月成人网| 综合久久五月| 五月激情网站| 97色碰| 青草五月天| 激情五月开心五月在线视频| httpwww色com日本| 亚洲成人一区| 99热777| 色色爽爽天天| 亚洲色图欧美色图日本视频| 日韩成人无码人妻| 丁香六月激情综合| 99亚州综合精品成人网| 激情图片亚洲| 综久久久| 五月婷婷丁香六月| 婷婷五月天激情电影小说| 99成人网一区| 狠狠狠狠青草| 99热91| 九九成人视频| 啪啪婷婷五月天激情| 五月天激情啪啪| 少妇高潮呻吟A片免费看软件 | xxxx五月| www.97干视频| 嫩草极品| 九九综合精品| 91wwmm导航| 伊人五月天男人的天堂在线| 婷婷色五月天色| 欧美成人AAA片一区国产精品| 俺去也综合| 婷婷五月天激情视频| 大香蕉五月天婷婷| 日本英国美国欧美亚洲国产精亚洲日韩精品在线观看 | 激情网婷婷婷| 人人操91| 99热大| 乱精品一区字幕二区| 91色色色| 九九热视频在线观看| 天天久久综合| 欧美va精品va老师va| 在线观看亚洲AV| 婷婷视频在线碰| 久久99综合| 99日韩| 天天在线XXX| 开心激情站婷婷五月天| 色情·com| 99热偷拍| 激情视频91| 久热天堂| 人人操超碰| 爱久久小说下载网| 成人在线视频网| 色综合久久久久| 日本九九视频| 婷婷五月天视频亚洲| 六月色丁香中文字幕| 综合久久8| 丁香五月激情图片婷婷| 大地9中文在线观看免费高清| 啪啪 综合网| 丁香五月偷拍| 激情五月丁香六月| 五月天色婷婷基地| 99精品网站| 内射丰满人妻| 超碰精品手机在线| 开心激情色婷婷五月天| 色性综合| 欧韩性爱| 亚洲色婷婷| 激情深爱五月婷婷| 99热最新精品| 99噜噜噜在线播放| 在线观看五月婷婷网| 精品思思久久| 欧美噜噜久久久XXX| 青青草原中文字幕| 欧美噜噜噜草| 人人爽人人射-美女久久久久久久久久-成人AV| 九九99精品视频| 色综合综合色| 欧亚洲在线高清视频| 噜噜噜噜噜在线| 激情综合五月激情| 狠狠色丁婷婷日日,伊人激情综合网| 婷婷丁香五月亚洲欧美| 五月开心婷婷极品激情| 婷婷五月亚洲激情| 色国产五月| 91小黄书网址在线观看| 这里只有精品视频一区| 五月激激激情综合网| 亚洲色优| 欧美大香蕉视频| 亚洲精品亚洲人成人网| 99热这里有精品| 天天色情站| 久久婷婷七月丁香| 69精品人妻不卡视频| 99玖玖在线视频| 99 r热| 六月丁香五月激情网| www.激情五月天| 色五月大| 婷婷五月天小说网| 色狠狠色噜噜AV天堂五区| 激情五月天。| 五月婷婷综合社区| 五月天婷婷色色| 99热在这里只有免费精品| 欧美综合激情五月天| 色婷婷色99国产综合精品| 综合色图区| 日本色婷婷| 大香蕉视频婷婷| 成人电影AV在线观看| 五月天丁香六月综合| 激情 婷婷 丁香五月天| 天天日天天草| 日日噜噜夜夜狠狠久久丁香五月| 伊人无码高清| 婷婷五月综合网激情| 淫视馆aV二区一区| 午夜不卡成人一区二区| 99热色精品| 婷婷五月天社区| 7777久久亚洲中文字幕| 婷婷九月亚洲| 亚洲免费观看高清完整版AV线| 韩国19 主播内部福利vip免费播放| 一区二区免费看| 欧美成人热| 五月婷婷之婷婷| 99热婷婷| 色五月婷婷五月天激情综合| 玖玖爱伊人| 丁香激情综合| 九九RE视频在线精品| 国产色五月| 99这里只有| 日本高清不卡免费一区二区三区| 亚洲最大在线| 99久久综合精品五月天| 色九网| 丁香婷婷五月激情四射网| 激情五月天婷婷| 色五月激情五月天| 色色色综合| 久久婷婷五月天激情四射| 情情五月天色| 久操大| 丁香9月婷婷| 九九这里只这里只有精品| 色婷婷综合影院| 国产婷伊人| 五月婷婷干干干| 五月色丁香| 亚洲黄网AV| 天天综合网、天天综合色 | 操操操B| 99视频内射三四| 久久精品人妻| 亚洲欧美综合7777色亭亭| 丁香综合婷婷开心激情网| 99热亚洲| 天天肏天天舔AV| 人人摸人人射| 九九色婷婷| 67194成I人在线观看线路1 | 婷婷五月天久久| 丁香九色不卡aaa| 手机看片日日做夜夜| 久机视频这只有精品| 综合性爱网| 天天五月天综合网址| 亚洲天堂婷婷丁香| 成人精品一区二区三区四区五区| 中文成人在线| 微拍92| 激情五月天小说视频| 久久久久人妻| 日木狠狠干| 五月天综合视频| 91成人视频| www.婷婷.com| 丁香五月婷婷大香蕉| av中文网站| 婷婷干| 日日操天天爽| 久热精品免费视频4| 人妻久久久久久久久妻久久久久| 涩综合婷婷| 99操逼| 色色色综合网| 久久婷五月天| 天天狠狠夜夜狠狠2023| 99人人干| 99热在线只有精品| 色婷婷丁香五月| 九九视频在线| 性色播| 国产又黄又爽又色的免费| 日韩五月婷婷| 中文字幕无码人妻少妇免费视频| 99re66热这里只有精品| 九九这里有精品| 久久久久久久丁香五月天婷婷| www.超碰在线| 色情综合网| www.夜夜| 97热超碰| 五月天桃色深爱网|