免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Docker Compose批量部署MySQL主從集群:1分鐘搭建10套復(fù)制環(huán)境

Docker Compose批量部署MySQL主從集群:1分鐘搭建10套復(fù)制環(huán)境 1. 先搞清楚我們要搭的東西到底是什么先說結(jié)論這個標(biāo)題一點也不夸張但“1分鐘”是有前提的鏡像提前拉好、腳本寫好了剩下的啟動和驗證就是幾十秒的事。我用一套基于 Docker Compose 封裝的批量部署腳本在一臺 8 核 16G 的機器上同時拉起 10 套 MySQL 主從集群從執(zhí)行命令到SHOW SLAVE STATUS全部顯示W(wǎng)aiting for source to send event整個流程不超過 1 分鐘。這套方案我不是第一次用了前前后后踩了不少坑今天把這套東西拆開講清楚。1.1 主從復(fù)制到底在復(fù)制什么MySQL 主從復(fù)制嚴(yán)格說復(fù)制的是 binlog二進制日志里的邏輯事件流。主庫把數(shù)據(jù)變更按順序?qū)戇M binlog從庫通過 IO 線程把主庫 binlog 拉到本地 relay log中繼日志再由 SQL 線程回放 relay log最終讓從庫的數(shù)據(jù)追上主庫。整個鏈路看似簡單但涉及三張關(guān)鍵的角色表主庫的 dump 線程負(fù)責(zé)把 binlog 事件推送給從庫的 IO 線程。從庫的 IO 線程負(fù)責(zé)連接主庫請求 binlog 并寫入 relay log。從庫的 SQL 線程負(fù)責(zé)讀取 relay log 并逐個執(zhí)行事件。記住這個模型后面所有排查都是圍繞這三條線展開的。我搭 10 套集群時最依賴的一個狀態(tài)字段就是Slave_IO_Running和Slave_SQL_Running這兩個字段同時為Yes基本說明復(fù)制鏈路是通的。如果 IO 線程卡住大概率是網(wǎng)絡(luò)、賬號權(quán)限或者 server-id 沖突如果 SQL 線程卡住大概率是主從數(shù)據(jù)不一致或者 relay log 損壞。復(fù)制模式上8.0 和 5.7 我選的是 GTID 模式也就是全局事務(wù)標(biāo)識符。GTID 是server_uuid:transaction_id的組合每個事務(wù)在主庫上產(chǎn)生唯一編號從庫可以通過 GTID 自動定位復(fù)制位點不需要再關(guān)心binlog file和binlog position這兩個老參數(shù)。對于批量部署 10 套集群的場景GTID 最大的意義是讓初始化更加自動化腳本里可以少處理很多“主庫位點變化”的邊界問題。如果你還在用老的MASTER_LOG_FILEMASTER_LOG_POS方式搭建少量實例沒問題但批量搞的時候就容易翻車因為主庫一旦有額外寫入位點就會漂移。1.2 主從集群能解決什么解決不了什么用主從不是為了“看著專業(yè)”它的核心價值有三塊讀寫分離、容災(zāi)冗余、分析隔離。讀寫分離的場景最直觀主庫承接寫流量從庫承接讀流量應(yīng)用層按需切換數(shù)據(jù)源能明顯降低主庫負(fù)載。容災(zāi)冗余是指主庫出現(xiàn)硬件故障后可以手動或通過高可用組件把從庫提升為新主庫減少不可用時間。分析隔離則是在從庫上跑公司里那些重量級查詢、報表任務(wù)、備份操作避免它們擠占主庫的 CPU 和 IO。但它不是萬能的有幾個誤區(qū)必須說清楚。第一主從復(fù)制不是同步復(fù)制默認(rèn)是異步的主庫提交事務(wù)后不等從庫確認(rèn)就返回成功所以從庫數(shù)據(jù)天然存在延遲。延遲高的時候你讀從庫會讀到舊數(shù)據(jù)這個必須靠業(yè)務(wù)層容忍或者中間件做分片策略。第二主從不能解決數(shù)據(jù)一致性問題如果主從數(shù)據(jù)已經(jīng)不一致復(fù)制鏈路直接報錯停擺不是自動修復(fù)。第三GTID 雖然自動化程度高但反向切換從庫提升為主庫后再恢復(fù)原主庫時要注意事務(wù)沖突不能簡單重連了事。1.3 為什么我選 Docker Compose 而不是裸機安裝很多人一看“10 套主從集群”第一反應(yīng)是一臺物理機裝 20 個 MySQL 實例路徑、端口、配置要改到懷疑人生。確實如果用傳統(tǒng)方式在 Linux 上通過二進制包部署 10 套主從光是規(guī)劃目錄、編譯參數(shù)、啟動腳本就能折騰一天這個過程沒必要重復(fù)驗證。用 Docker Compose 的好處在于每個容器就是一個隔離的 MySQL 實例端口映射、數(shù)據(jù)目錄、配置文件都可以通過編排文件聲明環(huán)境一致性極高。不管底層是 CentOS、Ubuntu 還是 Rocky只要 Docker 環(huán)境正常容器里的行為是一致的。這對批量復(fù)現(xiàn)主從場景極其重要尤其適合我這種經(jīng)常要測運維工具、中間件、面試題里各種“主從切換”邏輯的人。不過我如實說一句Compose 不是萬金油。生產(chǎn)環(huán)境的主從集群往往要結(jié)合 Orchestrator、MHA、ProxySQL 等組件Docker Compose 更多是開發(fā)環(huán)境、測試環(huán)境、壓測環(huán)境的利器。但如果你想把“主從原理”驗證透、把日常巡檢腳本跑通、把面試?yán)锬切┲鲝墓收蠄鼍皬?fù)現(xiàn)出來這套方案是最快路徑。2. 環(huán)境準(zhǔn)備與資源評估別上來就盲目拉二十個容器2.1 資源規(guī)劃和端口設(shè)計是第一步10 套主從集群意味著 20 個 MySQL 容器實例。分配資源之前先想清楚每套集群是“真跑業(yè)務(wù)”還是“模擬場景”。如果只是模擬主從復(fù)制、驗證配置、測試讀寫分離每個容器內(nèi)存限制在 256M~512M 即可CPU 限制在 0.5~1 核即可。如果是壓測那就不能這么摳建議單實例至少 1G 內(nèi)存和 1.5 核起步。我用的機器是 8 核 16G給 20 個容器每實例分配了 512M 內(nèi)存限制CPU 不加硬限制磁盤用 SSD。啟動后整體內(nèi)存占用在 10G 左右留了余量給宿主機和 docker daemon。這里有個很關(guān)鍵的思路資源限制一定要在 Compose 里聲明。不限制的話20 個 MySQL 會按照 innodb_buffer_pool_size 默認(rèn)值瘋狂搶內(nèi)存我的默認(rèn)配置是 128M沒有顯式調(diào)大但容器本身沒有 cgroup 限制時宿主機很容易被吃滿。端口規(guī)劃上傳統(tǒng)做法是給不同實例分配不同的宿主機端口。10 套主從我劃分為集群編號主庫宿主機端口從庫宿主機端口容器內(nèi)部端口固定為1133061330733062134061340733063135061350733064136061360733065137061370733066138061380733067139061390733068140061400733069141061410733061014206142073306端口選擇從 13306 起步是為了避開常規(guī)的 3306、3307也不跟宿主機已有服務(wù)沖突。這里唯一要牢記的是容器內(nèi)部和外部端口不能混淆。連接主庫或從庫時用的是宿主機 IP 加映射端口而 MySQL 配置文件里的 server 相關(guān)參數(shù)和數(shù)據(jù)目錄都在容器內(nèi)部視角。2.2 Docker 與 Compose 插件裝錯版本會吃大虧先說宿主機系統(tǒng)。我在 Rocky Linux 9 和 Ubuntu 22.04 上都驗證過這套流程核心要求是 Docker Engine 版本不低于 20.10Compose 插件正??捎谩0惭b Docker 的步驟不再贅述重點提醒幾個容易出問題的地方。第一docker compose命令和老的docker-compose是兩套東西。新版 Docker Engine 推薦用docker compose帶空格作為子命令它是一個 Go 編寫的獨立二進制插件。老項目里常見的docker-compose由 Python 寫成新版本 Docker 環(huán)境下經(jīng)常出現(xiàn)兼容性問題尤其是version字段廢棄后老命令會給你報奇怪的格式錯誤。我要不是為了兼容舊腳本絕不用docker-compose。實際操作中我用的是docker compose version檢查版本確保輸出里有Docker Compose version v2.x。第二運行 Docker 服務(wù)的用戶要加入 docker 用戶組否則每次都要 sudo。批量操作 20 個容器時命令數(shù)量非常多如果每次都要 sudo 超時重新輸入密碼那 1 分鐘搭建就是個笑話。建議直接sudo usermod -aG docker $USER newgrp docker第三磁盤空間問題。MySQL 官方鏡像本身不算大但容器一旦初始化數(shù)據(jù)目錄很容易膨脹。10 套集群即使每套只有幾十 MB 的初始化數(shù)據(jù)加上 binlog、redo log、undo log總量也是可觀的。我建議宿主機的/var/lib/docker分區(qū)至少預(yù)留 30G 可用空間否則 MySQL 8.0 啟動后會因為磁盤空間不足報各種神鬼莫測的錯比如InnoDB: Operating system error number 28。2.3 鏡像選型鎖定版本不要用 latest鏡像標(biāo)簽是這次實操里最容易陰溝翻船的地方。很多人圖省事直接用mysql:latest這是大忌。latest標(biāo)簽會跟隨官方更新飄移今天拉下來是 8.0.36明天變 8.0.38行為可能發(fā)生變化尤其在認(rèn)證插件、默認(rèn)字符集、參數(shù)默認(rèn)值上不同小版本的差異真的能坑到你懷疑人生。我選的是mysql:8.0.36官方鏡像鎖死在 Dockerfile 層面。為什么不選 5.7因為 MySQL 5.7 已經(jīng)停止更新8.0 在性能、安全性、GTID 支持方面都更主流。8.0 的默認(rèn)認(rèn)證插件是caching_sha2_password這一點在配置從庫連接主庫時要特別注意后面我會詳解。如果你有歷史包袱必須用 5.7那也請鎖死m(xù)ysql:5.7.44不要用5.7標(biāo)簽。鏡像最好提前手動拉好這一步對“1分鐘”貢獻最大docker pull mysql:8.0.36不要以為隨便找臺機器現(xiàn)拉也能 1 分鐘搞定國內(nèi)鏡像源高峰期一個接近 100MB 的鏡像拉取時間能讓你直接破防。提前備好鏡像后面的操作才真正是讀秒級別的。3. 一分鐘搭建的關(guān)鍵批量生成 Compose 配置3.1 設(shè)計思路寫一份模板用一個變量驅(qū)動 10 套純手工寫 20 個 service 段是愚蠢且低效的。我的做法是準(zhǔn)備一個小的 shell 腳本gen_cluster.sh通過一個循環(huán)變量生成完整的docker-compose.yml。腳本不復(fù)雜但對格式極其敏感尤其是 YAML 縮進少一個空格容器編排階段就會報錯。腳本核心邏輯是定義一個要生成的集群數(shù)量比如CLUSTER_NUM10。定義一個基礎(chǔ)端口比如BASE_PORT13306。循環(huán)生成每個集群的主從兩個 service 段。拼接生成docker-compose.yml文件。這里的核心點是每個主庫的server_id必須全局唯一。MySQL 復(fù)制協(xié)議中從庫連接主庫時會以 server-id 標(biāo)識自己如果兩個從庫用了相同的 server-id主庫會踢掉舊連接導(dǎo)致其中一個從庫頻繁斷連。我在批量生成時把 server_id 設(shè)計為“集群編號2-1”是主庫“集群編號2”是從庫這樣 10 套集群的 server_id 分別為 1 到 20兩兩集群之間完全不沖突。3.2 批量生成 docker-compose.yml 的代碼實現(xiàn)下面是實際跑通過的腳本我簡化了部分注釋保留了核心邏輯。腳本內(nèi)容本身可以直接抄但請你先理解每一步再運行#!/bin/bash CLUSTER_NUM10 BASE_PORT13306 MYSQL_ROOT_PASSWORDRoot123456 REPL_USERrepl_user REPL_PASSWORDRepl123456 OUT_FILEdocker-compose.yml cat $OUT_FILE EOF services: EOF for ((i1; iCLUSTER_NUM; i)); do MASTER_PORT$((BASE_PORT (i-1)*2)) SLAVE_PORT$((MASTER_PORT 1)) MASTER_ID$((i*2 - 1)) SLAVE_ID$((i*2)) cat $OUT_FILE EOF mysql-master-${i}: image: mysql:8.0.36 container_name: mysql-master-${i} restart: unless-stopped ports: - ${MASTER_PORT}:3306 environment: MYSQL_ROOT_PASSWORD: ${MYSQL_ROOT_PASSWORD} command: - --server-id${MASTER_ID} - --log-binmysql-bin - --gtid_modeON - --enforce_gtid_consistencyON - --binlog_formatROW - --default_authentication_pluginmysql_native_password volumes: - mysql-master-${i}-data:/var/lib/mysql networks: mysql-cluster-net: ipv4_address: 172.28.${i}.10 mysql-slave-${i}: image: mysql:8.0.36 container_name: mysql-slave-${i} restart: unless-stopped depends_on: - mysql-master-${i} ports: - ${SLAVE_PORT}:3306 environment: MYSQL_ROOT_PASSWORD: ${MYSQL_ROOT_PASSWORD} command: - --server-id${SLAVE_ID} - --gtid_modeON - --enforce_gtid_consistencyON - --read_onlyON - --super_read_onlyON volumes: - mysql-slave-${i}-data:/var/lib/mysql networks: mysql-cluster-net: ipv4_address: 172.28.${i}.20 EOF done cat $OUT_FILE EOF volumes: EOF for ((i1; iCLUSTER_NUM; i)); do cat $OUT_FILE EOF mysql-master-${i}-data: name: mysql-master-${i}-data mysql-slave-${i}-data: name: mysql-slave-${i}-data EOF done cat $OUT_FILE EOF networks: mysql-cluster-net: driver: bridge ipam: config: - subnet: 172.28.0.0/16 EOF echo Generated $OUT_FILE with $CLUSTER_NUM clusters這里有一個必須注意的細節(jié)MySQL 8.0 官方鏡像中默認(rèn)認(rèn)證插件是 caching_sha2_password我在主庫命令中顯式指定了--default_authentication_pluginmysql_native_password。原因是復(fù)制賬號在老認(rèn)證插件下更容易被兼容適配雖然 8.0 本身支持 caching_sha2_password但客戶端驅(qū)動和中間件五花八門一不小心就報Authentication plugin caching_sha2_password cannot be loaded。如果目標(biāo)是生產(chǎn)環(huán)境且客戶端版本明確支持可以不用這個參數(shù)但批量測試場景我建議加上省掉一大片兼容性麻煩。網(wǎng)絡(luò)方面我給每套集群分配了獨立網(wǎng)段172.28.${i}.0/24主庫固定172.28.${i}.10從庫固定172.28.${i}.20。這樣主從之間的通訊地址不需要依賴 DNS 解析也不容易因為容器重建導(dǎo)致 IP 變化。這種規(guī)劃對于批量管理非常友好后期寫巡檢腳本時直接按 IP 遍歷即可。3.3 啟動容器的一個坑IPv4 子網(wǎng)不能鋪太大執(zhí)行docker compose up -d前我特意把 network 子網(wǎng)限制在172.28.0.0/16而不是默認(rèn)的橋接網(wǎng)絡(luò)。很多人直接省略 network 配置讓 Compose 自己創(chuàng)建默認(rèn)網(wǎng)絡(luò)也能跑但默認(rèn)網(wǎng)絡(luò)不支持指定靜態(tài) IP而且不同項目之間的網(wǎng)絡(luò)隔離不夠徹底。當(dāng)你有 10 套集群同時起時默認(rèn)網(wǎng)絡(luò)會把它們?nèi)糠旁谕粋€網(wǎng)段將來做網(wǎng)絡(luò)策略限制時你根本沒法區(qū)分。子網(wǎng)不能鋪太大還有另一個原因預(yù)留子網(wǎng)沖突。172.28.0.0/16這個網(wǎng)段如果和公司局域網(wǎng)沖突容器通信就會異常。我在一個客戶的服務(wù)器上就遇到過他們的內(nèi)網(wǎng)恰好占了 172.28.0.0/16Docker 自動分配的網(wǎng)段一啟動就把公司網(wǎng)絡(luò)搞懵了。所以部署前先查一下當(dāng)前機器上已有的 docker 網(wǎng)絡(luò)docker network ls如果有其他項目已經(jīng)占了類似網(wǎng)段就換一個不沖突的比如172.29.0.0/16或 10.88.0.0/16。3.4 啟動命令與快速驗證鏡像準(zhǔn)備好、配置文件生成好后啟動命令只有一行docker compose up -d在 10 套集群規(guī)模下第一次啟動需要初始化數(shù)據(jù)目錄通常會等一會兒。但如果你的數(shù)據(jù)卷是全新的、鏡像已緩存、磁盤是 SSD實測從執(zhí)行命令到 20 個容器全部顯示Up大約 40 秒到 1 分鐘。這也是標(biāo)題“1分鐘搭建10套MySQL主從集群”這句話的真正來源——它指的是容器全部正常啟動而不是把復(fù)制鏈路也初始化完。容器啟動后先用一個命令檢查全局狀態(tài)docker compose ps --format table {{.Name}}\t{{.Status}}\t{{.Ports}}這個輸出會顯示每個容器的狀態(tài)。如果你看到某個容器反復(fù) restart大概率是 MySQL 初始化失敗。此時去看對應(yīng)容器日志docker logs mysql-master-1 --tail 50最常見的失敗原因有兩個一是掛載的 volume 權(quán)限問題容器內(nèi) mysql 用戶無法寫入數(shù)據(jù)目錄二是配置文件或其他參數(shù)沖突導(dǎo)致 MySQL 無法完成初始化。前者在官方鏡像中相對少見后者通常和 my.cnf 里配了 Compose 命令行中重復(fù)的參數(shù)有關(guān)。還有一點要提醒不要看到 20 個容器都 Up 就以為萬事大吉。MySQL 容器對外表現(xiàn)為 Up內(nèi)部可能還在進行初始化。需要在容器內(nèi)實際執(zhí)行mysqladmin ping確認(rèn)。批量檢查時可以用一行循環(huán)for i in $(seq 1 10); do docker exec mysql-master-$i mysqladmin ping -h127.0.0.1 -uroot -pRoot123456 2/dev/null docker exec mysql-slave-$i mysqladmin ping -h127.0.0.1 -uroot -pRoot123456 2/dev/null done全部返回mysqld is alive后容器層才算就緒。4. 復(fù)制鏈路的初始化與驗證十套集群一起搞定4.1 在主庫創(chuàng)建復(fù)制賬號并授權(quán)容器全部啟動后剩下就是配置復(fù)制鏈路。自動化的思路是寫一個初始化腳本依次對 10 套集群執(zhí)行。但在此之前我先手動對第一套集群做一遍完整流程確保每一步命令正確然后再批量執(zhí)行。這個習(xí)慣能幫你少踩很多雷尤其是 SQL 寫錯時你只需要改一次腳本而不是在 20 個容器里逐個補救。先在主庫創(chuàng)建復(fù)制專用賬號。這個賬號在從庫連接主庫時使用必須具備REPLICATION SLAVE權(quán)限8.0 里對應(yīng)REPLICATION SLAVE。在主庫執(zhí)行CREATE USER repl_user% IDENTIFIED WITH mysql_native_password BY Repl123456; GRANT REPLICATION SLAVE ON *.* TO repl_user%; FLUSH PRIVILEGES;賬號權(quán)限最小化是鐵律。不要圖省事直接給repl_user授予 ALL PRIVILEGES 或者 SUPER 權(quán)限復(fù)制鏈路只需要 REPLICATION 相關(guān)權(quán)限多余的權(quán)限只會增加安全事故風(fēng)險。順便提一句如果你的業(yè)務(wù)要配置級聯(lián)復(fù)制那才需要給中繼主庫額外權(quán)限而普通主從場景不必。接著確認(rèn)主庫當(dāng)前的 GTID 狀態(tài)。GTID 模式下不再需要獲取 File 和 Position但需要確保gtid_mode已開啟并且enforce_gtid_consistency生效??梢詧?zhí)行SHOW VARIABLES LIKE gtid_mode; SHOW MASTER STATUS\G;在 GTID 模式下SHOW MASTER STATUS返回的File和Position字段已經(jīng)不再用于啟動復(fù)制而是看Executed_Gtid_Set。這個值會記錄已經(jīng)執(zhí)行過的 GTID 集合從庫啟動復(fù)制時只需要知道從哪個 GTID 開始即可。4.2 從庫執(zhí)行 CHANGE MASTER TO 并啟動復(fù)制從庫上執(zhí)行的語句如下我以集群 1 的從庫連接集群 1 的主庫為例CHANGE MASTER TO MASTER_HOST172.28.1.10, MASTER_PORT3306, MASTER_USERrepl_user, MASTER_PASSWORDRepl123456, MASTER_AUTO_POSITION1; START SLAVE;注意MASTER_AUTO_POSITION1這一行是 GTID 模式的核心。它告訴從庫不要再監(jiān)聽 File 和 Position改用 GTID 自動定位到主庫的 binlog 位置。如果不加這個參數(shù)MySQL 默認(rèn)會認(rèn)為你要用老協(xié)議直接報錯或者無法正確同步。從庫的MASTER_HOST用的是容器內(nèi)部網(wǎng)絡(luò)地址不是宿主機的映射端口地址。這一點很重要它體現(xiàn)的是“容器間通信”與“宿主機訪問”兩個視角。如果你在宿主機上用mysql -h127.0.0.1 -P13307去連從庫那意味著你在走宿主機端口映射但從庫內(nèi)部連接主庫時它處于容器網(wǎng)絡(luò)里必須用容器 IP 或容器服務(wù)名。第二套到第十套集群的復(fù)制鏈路原理完全一樣只是 IP 變化。對于批量操作我寫了一個init_replication.sh核心是在每套集群的主庫創(chuàng)建賬號然后到從庫執(zhí)行 CHANGE MASTER TO 和 START SLAVE。注意腳本里要捕獲每個步驟的返回值任何一個從庫啟動失敗都不能靜默忽略。4.3 驗證復(fù)制狀態(tài)三個字段決定成敗配置完復(fù)制后驗證是必不可少的一步。在每套集群的從庫上執(zhí)行SHOW SLAVE STATUS\G;最需要關(guān)注的字段如下表字段正常值異常含義Slave_IO_RunningYesIO 線程未運行連接主庫失敗Slave_SQL_RunningYesSQL 線程未運行回放 relay log 出錯Seconds_Behind_Master0 或接近 0數(shù)值持續(xù)增大代表從庫延遲嚴(yán)重Last_IO_Error空有內(nèi)容則代表網(wǎng)絡(luò)或認(rèn)證問題Last_SQL_Error空有內(nèi)容則代表回放出錯Retrieved_Gtid_Set非空從庫尚未拉到任何 GTID 時為空第一次搭建時我遇到過Slave_IO_Running一直是Connecting的情況最開始以為是網(wǎng)絡(luò)問題后來才發(fā)現(xiàn)是復(fù)制賬號密碼寫錯了Last_IO_Error里明確提示Access denied for user repl_user。所以只要看到 IO 線程不是 Yes第一件事就看Last_IO_Error不要瞎猜。驗證全部通過后還可以做一次實際的寫入測試。在集群 1 主庫建一張表插入數(shù)據(jù)然后從庫查詢-- 主庫執(zhí)行 CREATE DATABASE test_db; USE test_db; CREATE TABLE t1 (id INT PRIMARY KEY, name VARCHAR(20)); INSERT INTO t1 VALUES (1, hello); -- 從庫查詢 USE test_db; SELECT * FROM t1;如果從庫能查到1|hello說明 binlog 事件通過 dump - IO - SQL 全鏈路回放成功這套主從就是活的。這一步最有說服力比任何狀態(tài)字段都真實。4.4 批量驗證腳本的思路手動查 10 套集群的狀態(tài)太浪費時間我封裝了一個驗證腳本邏輯很簡單對每個從庫循環(huán)執(zhí)行SHOW SLAVE STATUS用 grep 或 awk 抓關(guān)鍵字段把所有異常實例匯總輸出。for i in $(seq 1 10); do docker exec mysql-slave-$i mysql -uroot -pRoot123456 -e SHOW SLAVE STATUS\G 2/dev/null | grep -E Slave_IO_Running|Slave_SQL_Running|Seconds_Behind_Master | tr \n echo - cluster $i slave done沒驗證之前你可能不知道批量腳本最大的價值是什么。當(dāng)你手動執(zhí)行了二十遍 CHANGE MASTER TO 后你會發(fā)現(xiàn)任何可以“重復(fù)做”的操作都值得寫成腳本。5. 常見問題與排查策略這四十個容器讓我踩遍了坑說實話我第一次寫這套腳本時并沒有一次通過前后折騰到凌晨。如果你照著上文操作大概率會踩到如下幾個問題我把它們按出現(xiàn)頻率從高到低排個序。5.1 Container 反復(fù)重啟數(shù)據(jù)卷權(quán)限出問題現(xiàn)象docker compose ps看到某些容器 STATUS 為Restarting日志里有Permission denied或Cant open the mysql.plugin table。原因數(shù)據(jù)卷目錄上的權(quán)限不對。官方鏡像在容器內(nèi)是以mysql用戶運行的如果宿主機掛載的目錄是 root 所有容器內(nèi)的 mysql 用戶沒有寫權(quán)限初始化直接失敗。解決辦法掛載卷時可以顯式指定:ZSELinux 環(huán)境或檢查目錄權(quán)限最穩(wěn)妥的是不掛宿主機目錄到/var/lib/mysql而是用 Docker named volume也就是上文腳本里做的volumes: mysql-master-${i}-data:/var/lib/mysql。Named volume 由 Docker 接管權(quán)限天然避開這個問題。5.2 從庫 IO 線程連接不上主庫總是在 Connecting這種問題我在新環(huán)境里遇到過好幾次。排查順序應(yīng)當(dāng)固定為檢查從庫與主庫的容器網(wǎng)絡(luò)連通性。進入從庫容器ping 主庫容器 IP。檢查主庫的復(fù)制賬號是否存在、密碼是否正確、host 是否允許遠程。賬號 host 必須覆蓋從庫來源 IP 對應(yīng)的范圍比如%。檢查主庫和從庫的 server_id 是否重復(fù)。如果從庫 1 的 server_id 和從庫 2 相同主庫會認(rèn)為連接沖突。檢查防火墻。這里說的是宿主機防火墻不是 Docker 內(nèi)防火墻。雖然容器間通信一般不受宿主機防火墻 影響但如果某些環(huán)境啟用了 docker 網(wǎng)橋規(guī)則就需要額外注意。把Last_IO_Error拿過來逐字讀是最重要的MySQL 在這條錯誤信息里提供了非常明確的提示。5.3 SQL 線程報錯主從數(shù)據(jù)不一致或 relay log 損壞現(xiàn)象Slave_SQL_RunningNoLast_SQL_Error里通常是 1062主鍵沖突或 1032記錄不存在。原因從庫上有人寫過數(shù)據(jù)或者主庫上某條 DDL/DML 在從庫執(zhí)行時因為表結(jié)構(gòu)差異失敗。處理方式如果數(shù)據(jù)不一致是測試環(huán)境可以直接重建復(fù)制鏈路。要最大程度保持從庫與原主庫一致需要在從庫上STOP SLAVE; RESET SLAVE ALL;然后重新 CHANGE MASTER TO。如果錯誤已經(jīng)發(fā)生且不影響大局也可以跳過該事務(wù)執(zhí)行SET GLOBAL sql_slave_skip_counter 1;再START SLAVE;但這是應(yīng)急手段生產(chǎn)中不建議濫用。5.4 認(rèn)證插件導(dǎo)致復(fù)制失敗這是 8.0 特有的坑。如果主庫沒設(shè)置default_authentication_pluginmysql_native_password同時從庫的賬號使用了caching_sha2_password連接時有一定概率需要 RSA 加密傳輸公鑰環(huán)境復(fù)雜時就會出現(xiàn)類似Authentication plugin caching_sha2_password reported error: Authentication requires secure connection的報錯。我在腳本里直接在主庫命令中植入mysql_native_password就是為了規(guī)避這層麻煩。如果你的業(yè)務(wù)環(huán)境強制要求caching_sha2_password那從庫做 CHANGE MASTER TO 時需要額外配置MASTER_SSL相關(guān)參數(shù)或者確保網(wǎng)絡(luò)傳輸本身是加密的。這個復(fù)雜度遠高于用 native password所以我建議測試環(huán)境或內(nèi)部環(huán)境統(tǒng)一用 mysql_native_password。5.5 容器能啟動但 mysql 命令報ERROR 2002 (HY000): Cant connect to local MySQL server through socket這個熱搜詞很多人搜到過。在 Docker 容器內(nèi)執(zhí)行mysql -uroot -p時默認(rèn)會嘗試連接/var/run/mysqld/mysqld.sock如果 socket 文件路徑不對就會報這個錯。解決辦法是顯式指定 TCP 方式連接mysql -h127.0.0.1 -P3306 -uroot -p在批量腳本里尤其要注意凡是給mysql客戶端傳-h參數(shù)就不要再依賴 socket 連接。因為容器內(nèi)部不僅 MySQL socket 路徑與宿主機隔離而且你可能還需要連接其他容器的 MySQL那本身就只能走 TCP。5.6 磁盤空間不足InnoDB 初始化失敗這是批量啟動 20 個容器后最常見的慢性病。剛開始一切正常跑幾輪數(shù)據(jù)寫入和刪除測試后宿主機磁盤被 binlog 吃滿。解決方案有兩個層面一是配置 MySQL 的 binlog 過期時間在容器啟動命令中加--binlog_expire_logs_seconds86400讓超過一天的 binlog 自動清理二是定時巡檢磁盤使用率尤其是 Docker 數(shù)據(jù)目錄。如果已經(jīng)出現(xiàn)InnoDB: Operating system error number 28立即清理懸空容器和未使用的鏡像刪除不必要的舊數(shù)據(jù)卷docker system df docker volume prune注意docker volume prune要小心它會刪掉所有未使用的 volume如果里面有舊數(shù)據(jù)想保留先做好確認(rèn)。6. 一點實操后的心得體會這套基于 Docker Compose 批量部署 10 套 MySQL 主從的方案我前后在兩個不同項目里驗證過一個用于主從故障演練一個用于中間件的讀寫分離測試。我的體會是Docker Compose 的最大價值不是“生產(chǎn)環(huán)境高可用”而是讓你用最低的成本把復(fù)雜的復(fù)制拓?fù)鋸南敕ㄗ兂涩F(xiàn)實反復(fù)驗證原理、排查問題、鍛煉操作手感。如果后續(xù)你還想繼續(xù)擴展可以在同一套網(wǎng)絡(luò)架構(gòu)里加入 MHA 或 Orchestrator 容器做主庫自動故障切換的演練也可以加一個 ProxySQL 容器把 10 套集群的從庫都掛到同一個讀寫分離入口測試只讀負(fù)載均衡還可以在集群里故意制造延遲觀察Seconds_Behind_Master的波動加深對半同步復(fù)制、異步復(fù)制差異的理解。最后分享一個小技巧批量場景下所有“一次性”的初始化操作都值得寫進腳本里但所有“探索性”的排查操作都建議先在單套集群上手工跑通。別急于追求自動化先把第一套集群的原理搞透再去批量化。我見過太多人直接拿別人腳本一把梭最后 20 個容器全都起來了卻根本不知道主從復(fù)制是怎么工作的出了問題連日志都不會看。這套東西上手快但真正值錢的是你對那三張線程表和幾個狀態(tài)字段的理解深度。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
69人人操人人爽| 亚洲婷婷基地| 香蕉久久国产AV一区二区| 婷婷五月无码| 91怕怕网| www99精品日韩| 五月婷在线| 亚洲综合激情五月久久| 亚洲成人在线五月天| 超碰97色| 超碰在线资源| 99精品网址| 日本欧美成人片AAAA| 日日色五月天| 久热9| 久99久视频精选| 久久与婷婷| 日本性激情色播| 久久婷婷五月综合| 五月婷婷丁香| 五月天啪啪| 操逼巨乳91| 久久无码成人| 婷婷五月色播天| 亚洲操人| www.超碰| 年轻的妺妺伦理HD中文| 亚洲综合视频网| 99视频只有这里精品| 另类图片激情五月| 99riAV国产精品视频| 国产毛片精品一区二区色欲黄A片| 色婷婷丁香特级性爱视频| 伊人五月天97| 久久久99婷婷久久久久久| 婷婷五月天基地| 丁香婷婷久久| 五月天婷婷久久视频| 五月综合影院| 六月综合婷婷开心伊人| 久久久久久综合五月婷婷| 99久久久久久| 久久久18| 天天肏屄夜夜爽| 狠狠久久婷五月| 操人精品| 99久在线精品99re8热| 99九九这里有免费视频| 欧美S码亚洲码精品M码| 婷婷五月天亚洲| 91干视频| 久久久噜噜噜久久人妻| 玖玖爱伊人| 亚洲成人无码网站| 天天爽天天| 人妻久久人妻久久第一区| se色99| 欧美在线骚货| 啄木鸟丝袜美女福利视频| 丁香五月婷婷久久久| 日韩国产在线免费观看| 99免费偷拍视频| 国产精品岛国片在线观看免费| 乱岳熟女50岁| 丁香色五月AV在线| 日日噜噜夜夜狠狠久久丁香六月| 全高清无码视頻| www一起操| 婷婷久久亚洲| 色综合色色| 天天综合精品| 五月天堂色色| 开心五月六月婷婷| 久狠日av| 成人AV免费观看| 99自拍视频| 综合网色| 九九在线精点品| 91九色精品熟女内射| 色久激情在线| 色碰碰| 天天骑天天操| 色婷婷无吗| 伊久久婷婷| 婷婷色导航| 天天操夜夜夜拍拍拍| 亚洲综合99| 71在线精品视频一区| yw.av| 玖玖色资源| 五月丁香啪啪| 九九精品热| 色五月综合在线| 噜噜噜狠狠色综合| 啪啪东京热| 亚洲综合婷婷| 天天日本夜夜谢| www.91久久| www.日韩艹| 成人电影丁香六月天| 襙逼网| 五月天婷婷激情在线色图| 四色五月婷婷在线观看| 成人av在线网址| 色色无码| 欧美 日韩 成人在线| 激情婷婷在线中文字幕| 天天搞夜夜叫| 激情综合99| 色五月网址| 婷婷新网址| 人人操日| 久久玖玖综合| 五月婷婷啪啪| 97日韩无套内| 欧美天天草人人草| 午夜九九九九九九九九九九九九九| 激情五月天网| 99天堂在线观看免费视频| 亚洲成人av在线观看| 韩国97天堂| 婷婷五月成人| 五月激情婷婷开心| 久久精品国产AV一区二区三区 | 91久久免费| 婷婷在线操| 五月婷婷六月激情| 丁香香蕉婷婷| 久久精品视频在这里有| 五月天色区| 色播播五月天| 国内自拍97在线| 六月丁香久久| 国产成人av在线| 免费在线观看av网站| 日本精品九九九| 六月婷婷狠狠| 99热精品在线| 国产在线6| 青青草原伊人网| 99色1| 色色色色综合网| 97久久香草精品视频| 天天日天天插| 91男同视频| 在线视频九色97| 婷婷丁香www视频日本韩国| 精品一二三区久久AAA片| 伊人碰碰碰| 少妇高潮一区二区三区99欧美| 欧美色97| 婷婷在线播放| 激情久久网| 日韩在线视频中文字幕| 婷婷五月电影院| 婷激情五月天视频导航| 激情五月无码| 婷婷五月天AV| 97在线精品| 狠狠精品干练久久久无码中文字幕| 开心五月天激情网| 99碰碰碰| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 久久激情天堂| 丁香五月婷婷深爱综合激情| 亚洲小说五月婷婷| 欧美xx激情视频在线观看| 激情网五月婷婷| www.婷婷五月| 五月丁香综合网| 丁香五月亚洲综合| 中文在线成人| 欧美性丁香色色五月天综合爱爱| 热久久精品视频网站| 婷婷伊人激情婷婷| 五月丁香六月色| 开心五月婷婷| 色婷婷久久久| 99精品免费| 五月丁香婷婷啪啪网| 变态 另类 在线 | 五月丁香色狠狠干大屄| 亚洲欧美999| 五月丁香综合| 日日操夜夜操中国无码| 婷婷五月AV| 日 日干 日日做| 九九亚洲| 99干免费视频| 九九精品片一| 中文色婷婷| www.色五月| 婷婷五月天综合久久| 国产成人av在线播放| 97人人干人人操| 久热只有这里有精品| www.五月天婷婷姐姐| 色五月亚洲开心网| 丁香六月综合激情| 成人片在线播放| 丁香五月婷在线| 色色丁香| 另类伊人婷婷| 五月丁香六月婷婷姐| 五月婷婷色| 精品一二三区久久AAA片 | 99热在线观看精品| 99在线精品视频| 丁香花色色网| 五月天成人综合| 国产暴力强伦轩1区二区小说| 色色亚洲| 激情小说五月天| 五月婷婷激情综合网 | 視频福利乱色| 色五狠狠| 天天色中文字幕女优AV| 亚洲激情五月天| 九色99视频| 精a品a视a频| 五月激情小说| 伊人久热91| 激情婷婷狠狠干| 午夜五月天| 在线伦子99热| 激情综合五月激情17| 人人干Av| 激情五月综合网| 亚洲天堂大香蕉| 丁香五月激情在线| 超爽内射| 激情五月色在线播放| 婷婷久久丁香五月| 五月激情婷婷国产精品久久久久久| 日本色频| 99免费| 99热99精品| 婷婷五月天激情电影小说| 婷婷亚洲天堂| 婷婷在线五月天观看| 五月丁香综合网| www网站在线观看| 日韩欧美四五区| 97碰在线视频| 五月婷在线影院| 亚洲人成色A777777在线观看| 欧美成人AAA片一区国产精品 | 黄色大片又大粗又爽| 99热九九在线| 婷婷五月天视频亚洲| 120分钟婬片免费看| 五月天堂色色| 99色在线| 婷婷久月| 亚洲精品视频在线| 婷婷五月综合在线视频| 五月丁香婷婷色| 婷婷五月播| 五月激情六月综合| 久久久久综合激动五月天| 熟女网站久久| 五月天激情综合在线| 欧美黄色韩日网| 亚洲欧洲小视频9| 五月激情小说网| 999九九九久久久99HD| 五月亚洲激情| 激情玖玖综合网| 婷婷开心激情五月激情网| 天天操天天插| 色婷五月丁香久亚洲| 大香蕉av在线| 色五月婷婷五月久久| 综合激情视频| 日日干日日s| 国产欧美性成人精品午夜| 入口五月婷婷六月香| 97性视频| 成人操呦av| 丁香五月欧美| 操操操www.com| 亚洲妇女熟BBW| 天天爽夜夜爽| 色碰碰| 五月丁香成人网| 五月天六月丁香| 江苏少妇性BBB搡BBB爽爽爽 | 小视频一区 | 日本少妇AA一级特黄大片| xfplayav在线| 99热热这里只精品996小说| 色五月影视| 人妻激情视频| www色婷婷| 婷婷五月天综合在线| 丁香六月开心| 久久精品一区二区三区四区| 这里只有精品99视频| 激情久久丁香| 99热国产这里只有| 五月丁香六月情婷婷久久| 丁香五月天91| 亚洲无码色| 中文字幕 码精品视频网站| 五月丁香婷婷中文| 深爱激情五月天婷婷网| 人人草成人视频| 亚洲无码播放| www.91五月| 五月丁香亚洲综合| 九九热10| 日本女人久久| 蜜臀久久99精品久久久久久酒店| 色国产五月| 亚洲精级| 九九热视频这里只有精品| 五月婷婷黄色| 亚洲AV电影美洲AV电影| 国産精品| 欧美狠狠地| 色综合久久44| #NAME?| 久久9久| 欧美日本一区二区三区| 欧美婷婷综合网| 色色色无码| 欧洲第一久色| 五月花综合网| 操日视频| AV操一操| 日本乱子人伦在线视频| 五月天婷婷成人| 久久九九视频网站| 99热综合色图| 9|在线观看视频| 五月丁香五月综合欧美| 这里只有精品久| www.久久久久久久| 色九月综合网| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 色吧综合网| 五月的色婷婷高潮| 99久久99热这里只有精品| 五月丁香六月激情综合| 日本久久精品| 五月婷婷开心色伊人| 丁香狠狠干| 97干在线| 台湾佬天天日丁香婷婷五月天| 色婷婷五月基地在线| 国产美女无遮挡裸体毛片A片| 五月天色在线| 99精品这里只有免费视频| 国产内射婷婷| 欧洲第一无人区观看| 五月婷导航| 婷婷,五月天,丁香,第一| 国产精产国品一二三在观看| 精品爆操| 欧美黄色韩日网| 米奇影视资源777狠狠色婷婷五月天激情网 | 亚洲操b| 亭亭五月丁香五月天激情| 激情五月天婷婷图| 久久性操| 中美月韩免费A片| 奇米四色五月天| 亚洲网综合在线| 97干在线| 亚洲人人操| 大香蕉手机视频| 99热免费| 婷婷丁香五月网| 丁香六月久| 色五月色综合| 亚洲九九99精品视频在线播放| 久久性刺激| 丁香婷婷五月人体| 久久人视频| 精品人妻伦九区久久AAA片| 99色在线观看视频| 最新va在线播放| 亚洲色网络| 婷婷五月天成人小说| 婷五月丁香俺| 美女亚洲五月丁香| 激情六月五月婷婷综合网| 婷婷五月丁香超碰| 人人干99| 婷婷在线播放av| 这里只有精品免费在线视频| 婷婷伊人75| 九色无码| 97综合在线| 中文字幕不卡+婷婷五月| 五月天丁香久久综合 | 久久婷婷丁香视频网| 国产XXXX搡XXXXX搡麻豆| 色狠狠综合网| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 91碰超| xx久久| 婷婷射图| 欧洲色色| 久久婷婷丁香花综合网| 777精品久无码人妻蜜桃| 色婷婷免费观看| 青青草原伊人网| 色婷婷狠狠18| 丁香婷婷五月天校园春色| 六月丁香激情| 超碰99久久| 狠狠丁香| 色五月婷婷五月久久| 久久这里有精品| 精品婷婷| 亚洲无AV在线中文字幕| 成人日韩欧美| 一本色道久久综合狠狠躁一二三| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 婷婷五月色| 丁香婷婷婷五月综合色情| A短视频免费在线观看| 日韩999| 国产精产国品一二三在观看| 久久久久久久人妻| 在线一起草av| 亚洲视频二区| www.五月激情.com| 五月激情综合美女久久| 婷婷五月中文在线视频| 欧美国产一区二区三区| 久热这里只有精品视频免费观看| 狠狠88综合久久久久噜噜噜| WWW丁香五月| 色情久久久| 79精品视频在线观看,| av五月天婷婷丁香| 五月丁香精品| 大香蕉久久视频久久视频| 热思思九九| 久久婷婷六月综合综合| 国内一级精品| 伊人五月久久| 在线网黄| 丁香婷婷成年| 五月丁香婷婷在线| 久久精品视频9| aaa久久| 日日干日日| 98热精品| 亚洲五月六丁香激情| 亚洲五月天天| 9999三级片| 99国产精品白浆在线观看免费 | ou洲色吧| 婷香五月网在线| 日屌日日操日日色| 五月天激情四射| 狠狠色中色| 99久在线精品99re8热| 久久这里只有精彩| 丁香五月六月| 午夜伊人大香蕉| 影音先锋一区二区三区| 亚洲久久视频| 激情小说在线视频| 国产性av| 丁香五月天无码AV| 激情五月天开心| 成人精品视频99在线观看免费| 婷婷五月天福利| 嫩草视频观看| 欧美久久婷婷| 性无码专区无码| 99热99美国在线观看| 五月婷色| 久久综合影院 | 五月天婷婷爱丁香中文字幕| 日本操逼九九九九58日本操逼| 欧美成人网99网| 久久婷婷五月天懂色| 天天干天天拍| 五月天色图| 五月婷婷六月丁香综合| 性爱视频久久| 99视频35精品视频在线观看| 岛国资源网| 五月丁香爱婷婷深深| 开心五月丁香婷婷| 久久99网址| 丁香5月啪啪| 五月婷婷综合激情网| 激情婷婷| 激情图片久久| 婷婷激情五月综合| 成人国产网站在线免费看| 在线伦子99热| 伊人五月成人| 综合色色五月| 很很干五月天| 亚洲经典三级| 综合亚洲五月天| 久久免费操| 天天透天天干| 日本色色色| 五月丁香人妻| 无码字幕中文| 色婷婷狠狠色| 少妇2做爰HD韩国电影| 亚洲热久| 天天狠狠六月婷丁香影院| 中文字幕在线日亚州9| 31色区视频免费看| 99热亚洲精品66| 99ER热精品视频| 开心丁五月| www.色五月| 色婷婷久久综合| 精品久热69| 成人AV网站在线| 91婷婷五月天嫩女| 婷婷自拍| 五月丁香六月婷婷激情网| 福利视频在线播放| 插插干干干色| 国产偷人爽久久久久久老妇APP | 久久丁香五月天| 激情国产五月| 色婷婷久久天天性爱| 天天操夜夜玩!| 亚洲V国产V欧美V久久久久久| 久久精品五月天| 热久精品| 99视频网址| 97超碰在线免费观看| 色呦呦在线| 亭亭五月天黑人2014| 99久久网站| 天天爽—爽| 久久久天堂国产精品女人| 99 re视频一区| 色婷婷免费观看| 日韩九区| 中文字幕在线免费观看视频| 亚洲操人| 日本色色色| 情婷婷五月天在线| 色综合99| 激情狠狠丁香月| 182tv992tv人之初午夜免费观看| 激情图片婷婷| 天堂网亚洲色图| 日本va欧美va国产激情| WWW色五月| 久久五月综合| 中文资源在线a| 丁香五月成人网| 婷婷五月天激情在线观看 | 成人va视频| 免费亚洲婷婷中文字幕| 九九热中文| 丁香五月激情六月欧亚激情综合导航| 女人高潮内射99精品| 九九色综合| 国产亚洲精品久久久久久牛牛| 大香蕉久久伊人婷婷五月丁香| 91九色熟女| 色很很96| 色色综合网。| 色婷婷操逼| 有码人妻久久| 五月丁香综合久久夜夜| 色99网| 武则天精品久久| 中文字幕人妻熟女在线| 五月开心六月婷婷在线播放网站| 欧美交换配乱吟粗大25P| www.激情在线| 啪啪色激情五月天| 26uuu精品一区二区| 丁香五月电影| 风流少妇A片一区二区蜜桃| WWW丁香五月| 思思久热6| 五月天激情av| 欧美婷婷丁香五月社区| 5五月综合网亚洲| 五月色婷婷综合| 婷婷操逼| 99这里有精品视频| 丁香五月婷婷色| 日韩超碰在线| 五月丁香婷婷伊人| 另类专区在线观看| www.丁香五月| 激情图片亚洲| 超级碰碰视频无码| 丁香五月激情综合| 99热这里| 欧美va| 99热在线中文字幕| 色五月天 丁香| 色婷婷丁香五月| 婷婷精品性性性性性性性| 99ER热精品视频| 99视频这里有精品| 白天AV月月| 26.uuu丁香五月婷婷| 91精品久久久久久久| 天天综合情| 超级碰碰99| 狠狠爱综合| 亚洲人人操| 超碰renrenai| 《诡秘之主》在线观看 | 颜射 精品性爱av| 欧美日韩123| 五月丁香六月综合图| 99re6久热只有精品6在线直播| 亚洲AV人人操| 99啪视频在线观看| 少妇人妻偷人精品无码视频新浪| 婷婷婷婷婷开心无码播放| 任你日视频| 玖玖热视频| 99rewww| 亚洲av网站在线观看| 丁香婷婷啪啪| 五月婷婷欧美| 99性爱视频| 丁香五月六月婷婷综合激情| a在线免费v| 久久成人亚洲欧美电影| 五月丁香婷婷综合网| 久久99久久99精品免视看婷婷| 99啪在线视频| 日韩中出视频| http:色情日本com| 婷婷中文字幕| www.五月丁香| 色5月婷婷| 婷婷六月综合基地| 五月成人网站| 五月婷在线播放| 嫩BBB槡BBBB搡BBBB视频| 日韩色久| 久久9热| 久久99免费视频网站| 99re在线观看| WWW五月| av婷婷丁香| 亚洲欧洲中文日韩久久AV乱码| www激情婷婷com| 丁香五月综合在线播放 | 久久在线视频只有这里有精品| 丁香六月综合| 99在线视频操999| 中文中文在线| 大色鬼综合| www.夜夜操| 婷婷五月影院| 极品五月天| 五月丁香| 91久久婷婷| 99视频在线观看网址| 噜噜色五月| 丁香九月婷婷| 婷婷精品视频| 人人草碰| 9超碰在线| 丁香五月婷婷亚洲另类| 97久久综合网| 婷婷九九色| 色九九九综合| 日韩无码人妻一区二区| 日本色99网站| 婷婷丁香婷婷97| 久久丁香九| 69人妻人人澡人人爽久久| 婷婷欠久少妇| 一起操最新网址| 九月婷婷激情久久| www,超碰| 亚洲中文av| 人人爽在线视频综合网| 97久久久久| 亚洲色9| 婷婷五月丁香六月伊人网| 亚洲AV综合在线观看| 久热精品在看| 婷婷网影院| 伊人三级激情| 91超碰九色| 五月天伊人久久久久| 99色热视频| 天天肏天天爽夜夜爽| 日本女va| 亚洲精品性色| 五月丁香性| av在线免费播放| 日本天天操| 色色三级视频| 伊人久久大香线蕉综合网站| Av免费网站在线| 丁香六月婷婷综合啪啪| 伦99热| 五月丁香综合啪啪| 337p午夜影院| 婷香五月激情视频| 九九综合久久| 色色色色丁香| 六月婷婷九月丁香| 都市激情蜜桃婷婷五月天| 婷婷五月综合在线| 天天综合情| 日逼免费视频| 丁香五月先锋| 六月丁丁香| 欧美成人一区二区三区在线视频 | 亚洲五月婷婷| 中文字幕精品无码一区二区| 91视屏在线观看com.wwwvv| 天天情天天狠天天透| 婷婷综合色| 伊人五月人妻精品| 五月丁香婷草| 国产精品日本一区二区在线播放| 国产看真人毛片爱做A片| 国产成人AV| 日本3级片一区2区| 久久与婷婷| 五月丁香六月情| 丁香五月激情网| 综合久久综合五月天婷婷| 狠狠色丁香乆乆| 人人操人人操919999| 婷婷五月花| 久久九九大香蕉电院| 六月婷婷狠狠做| 狠狠人妻色综合| 婷婷综合中文| 色播综合| 99无码黄色视频| 五月丁香综合网| 婷婷成人AV| 色五月五月丁香| 99久久久免费| 五月婷婷综合色啪首页| 九九色天堂| 亚州激情在线视频| 欧美在线ee日韩| 玖玖色综合网| 久久久精品色| 国外亚洲成AV人片在线观看| 99re资源在线视频导航| 999久久久国产精品| 婷婷久久亚洲| 亚洲无AV在线中文字幕| 精品人妻午夜一区二区三区四区 | 亚洲天堂AV免费片| 91久久精品无码一区二区三区| 高清无码视频网址| 色色婷婷色色| 99热精地址| 国产成人网站在线观看| 男人的天堂99| 538久久| 欧美一级色| 久热re在线视频| 天天肏天天插| 五月丁香六月激情| 黄网免费观看| 天天在线XXX| 午夜在线成人网站免费观看| 免费亚洲婷婷中文字幕| 精品99只有。| 色色操| 综合玖玖偷拍| 丁香五月婷婷色播艳门照| 亚洲愉拍99热成人精品| 久操人| www.sezonghe| 99re热视频这里只精品| h亚洲| 99热6色| Aaa久久| 春色激情第四色| 亚洲热视频| 91干视频| 五月天婷婷綜合院| 欧美网站视频4399| 婷婷社区五月天| 亚洲无码猫咪| 99在这里有精品| 色五月婷婷7777| 狠狠 婷婷| 婷婷操逼| 精品色情一区二区三区四区| 色综合色综合色综合色综合| 欧美色五月| 色视频2025| 婷婷五月丁香六月| 天天色月| 五月天激情婷婷| 婷婷五月天堂网| 这里只有精品免费视频| 在线91日韩| 直接看的AV| 婷婷性爱综合| 亭亭玉月丁香| 欧美色色色色色色| 91九色视频在线观看| 久久无码成人| 色综合网综合| 色色综合色| 久久婷婷五月综合色丁香花| 五月开心婷婷极品激情| 欧洲色色| 六月婷婷久久| 91热爆在线| 中文字幕婷婷9月天| 欧美激情-区二区三区| 国产成人AV在线播放| 色一色综合| 九九机热| WWW.久久.COM| 99视频一区| 91精品国产色猫| 另类激情综合| 91色在线| 大香蕉啪啪啪| 99热这里只有精品亚洲| 五月天丁香综合| 97福利视频| 亚洲成人综合在线| 视色综合| 99色视频免费在线规看| 五月天久久婷婷| 丁香六月婷婷综合麻豆| WWW、日本色丁香、co m| 丁香五月停停av| 亚洲小视频| 五月天色色色色色| 色99在线视频| 五月婷婷成人| 精品久久婷婷| 色色色综合网| 五月天欧美 另类小说| 操碰97| 婷婷色五月激情| 五月天激情美女久久| 亚洲avjiujiur91| 丁香五月天天久久综合小说| 天天天天天操| www色哟哟| 91丁香五月| 丁香六月婷婷久久综合八月| 思思热在线精品视频| 91久久久久久久久| 青柠影视免费高清电视剧| 国产欧美婷婷五月| av一区免费看| 欧美婷婷丁香五月社区| 91丨九色丨熟女| 天天天天干| 另类小说激情五月天| 久久久久久久久久婷婷| 狠狠插狠狠插| 日韩精品在线观看9| 亚洲天堂热| 亚洲99视频| 婷婷娌伦网| 婷婷五月天成人网| 五月婷婷激情四月| 超碰com| 日本精品人妻无码77777| 好吊丝aV| 久热亚洲| 性爱久久| 天天操天天插| 丁香五月天人体| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 91色综合网| 中文字幕乱码亚洲精品一区| www,婷婷五月天777me,com| 婷婷色五月综合| 九色PORNY自拍成人精彩视频| 超碰在线人人| 青草热视频这里只有精品| 国产精品18久久久| 五月天伊人网| 久久aaa| 97欧美在线| 99在线精品免费视频| 国产精品婷婷午夜在线观看| 99啪在线| 少妇性BBB搡BBB爽爽爽视頻| 色五月婷婷五月丁香五月| 日本全黄一级999| 丰满老熟妇BBBBB搡BBB| 热99精品视频| 欧美丁香婷婷天天操| 中文字幕有多少字| 97色婷| 日本色色色| 6月丁香婷婷激情| 91视频一起草| 久热精彩视频98| 精品色色| 99久久精品国产色欲| 色婷婷视频| 五月天丁香久久综合| 99爱视频| 都市激情小说婷婷| 五月网激情| 色狠狠综合网| 婷婷性爱综合| 久草丁香婷婷1024| 色婷婷www| 国产婷婷五月天| 欧洲精品欧洲情| 久久东京热婷婷五月| 天天干,夜夜爽| 91久久精品无码一区二区三区| 五月婷婷深深的爱| 激情九色| 丁J香六月首页| 精品人妻午夜一区二区三区四区| 亚洲中文乱字字幕在线永久| 99开心五月五月丁香激情| 99婷五月| 亚洲乱码精品久久久久..| 色J香五月天| 色综天天综合| 激情久久五月天| 中文字幕黄色电影网址| 性爱综合网| 中文字幕在线观看视频www| 天天干天天 亚洲| 激情美女五月天| 超碰9| 色 丁香婷婷| 久久久91| 激情五月婷| 偷拍九九五月丁香婷婷| 五月天激情国产综合婷婷婷| 婷婷五月六月丁香| 99视频这里有精品免费观看| 欧美激情丁香五月| 婷婷无码视频| 熟女网站久久| 丁香五月婷婷av| 婷婷九月在线| 丁香五月婷婷婷桃花影院| 色婷婷影视| 五月天另类激情在线| 丁香五月婷婷视频| 这里精品| 日日夜夜婷婷| 久久人妻www| 无码 色| 婷婷夜夜操| 婷婷五月天堂一本在线| 深爱五月婷婷开心中文字幕| 爆乳熟女一区二区三区爆乳| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 精品国产a| 肏日网在线看| 婷婷干六月综合旧址| 丁香五月影院| AV大香蕉| 国产精品久久欧美久久一区| 久久作爱| 中文字幕永久在线| jiZZdr| 五月香婷婷| 天天操天天插| 亚洲中文字幕在线观看| 激情五月婷婷网| 激情五月婷婷综合| 九九自拍网| 噜噜干日本| 婷婷在线视频| www.色99| 国产精产国品一二三在观看| 色色色色色色网| 亚洲五月婷婷| 日韩丰满少妇无码内射| 色色国产| 狠狠精品干练久久久无码中文字幕| 欧美日韩999| 亚洲激情av| 国产又色又爽又黄又免费| 色激情五月天| 粉嫩AV久久一区二区三区| 亚洲第一综合| 国产欧美日韩综合精品一区二区| 丁香五月天社区| 中文字幕精品无码一区二区| 婷婷丁香五月激情中文字幕版| 天天肏高清在线| 男人天堂AV在线一区二区| 天天色五月婷婷91久久久久久久| 亚洲亚洲人成综合网络| 少妇人妻偷人精品无码视频新浪| 五月婷婷六月丁香在线| 天天色播| 欧美三级A做爰在线观看| 99亚洲精品| 琪琪色网在线| 9超碰在线| 97人妻碰碰中文无码久热丝袜| 任你日视频| 激情五月开心五月在线视频| 色色色色热热| www色婷婷久久综合久色 | 欧洲激情五月天婷婷| 丁香五月网络网络| 国产精品A片| 免费视频无码| 天天弄天天操| 婷婷五月丁香国产| 久久综合丁香| 久久婷五月综合色| 色色亚洲视频| 狠狠干天天日| 亚韩精品视频1区| 久热AA| 婷婷丁香水多多视频| 亚洲五月天综合| 婷婷五月天无码| 激情五月丁香五月| 五月天婷婷婷| 97干欧美| 丁香五月色五月婷婷宗合| va亚洲中文在线| 中文字幕永久免费| 97久久久久久久久久久| 婷婷酒色网| 大香蕉婷婷丁香天堂AV| 久久er免费视频| 日韩爱操视频| 99亚洲精品视频| 色激情网| 丁香六月婷婷综情欧美| 日本色婷婷综合| 另类视频五月天| 九九碰九九爱97超碰| 久久97久久99久久综合欧美| 日本三级99人妇网站| 日韩av高清| 久操b网| 九九99久久| 成人无码精品1区2区3区免费看| 99久久九九视频| 毛片新网地| 精品少妇蜜臀91| 操91| 玖玖玖婷婷婷| 激情五月天开心网丁香无码| www.五月瑟| 狠狠干综合| 综合激情专区| 亚洲精| 激情综合五月| 色婷婷最新域名 | sS丁香五月婷婷| 久久 天天| 日韩乱轮AV| 国在线激情网| 香蕉人在线香蕉人在线 | 超碰人妻在线| 午夜福利8055| 午夜丁香六月婷| 婷婷色网站| 丁香五月天亚洲综合| 日本九九九九| 婷婷六月久久| 五月天小说激情| 久久婷婷五月天| 91 九色 入口| 色情五月天A片| 亚洲综合五月天| www.99久| 人人摸人人澡人人| 五月婷婷激情啪啪| 天天 日综合| 亚洲天天| 激情床戏| 激情综合激情综合| 丁香操逼| 五月丁香啪啪啪啪| 激情五月综合| 99精品在线| 欧美久久网| 色婷婷AⅤ| 色色cOm| 91在线就要啪| 久久黄色网扯| 婷婷五月天伊人| 五月天激情图片| 婷婷久久精品| 久99久视频精选| 婷婷激情六月天视频| 久久综合丁香激情五月| 丰滿爆乳一区二区三区| 五月丁香婷婷中文| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 大香蕉久久伊人婷婷五月丁香| 久久五月婷综合网| 天天干电影| 六月丁香久久| 大香蕉婷婷五月天| 激情人妻综合| 五月天社区婷婷丁香社区| 99热这里都是精品| 开心婷婷中文字慕| 99热.com| 超碰成人电影| 婷婷性爱影院| 五月婷中文字幕| 亚洲激情婷婷| 亚洲五月激情| 五月天婷婷色色网| 91青娱乐青青草| 五月丁香亭亭| 色娸娸综合网| 丁香婷婷九月| 生活片五区| 人人97碰| 日本久久高清| 婷婷综合五月| 婷婷在线播放av| 欧洲色色| 亚洲欧洲色色| 国产3p露脸普通话对白| 九九黄色网| 久久性爱视频网站| 五月丁香婷婷在线综合蜜桃| 日韩另类在线观看| 黄色AAAAAAA| 天天做天天爱| 操操自拍| 亚洲综合成人网| 亚洲国产精品成人免费一区久久久在线观看AAAA| 婷婷五月天AV| 婷婷五月天激情四射五月天激情| 欧美日比视频| 99自拍视频在线| 久久九九网| www久久久| renre人人操国产超碰在线| 日韩精品一区二区亚洲AV观看| 九九九九九九热| 丁香五月婷婷国产在线| 色色丁香| 五月婷婷色| 天天狠狠色| 日噜噜色| 久久玖玖综合| 男女99免费视频| www色色色com| 五月丁香婷婷伊人| 五月天堂色色| 丁香五月婷婷啪| 色爱亚洲| 亚洲综合婷婷| 九九RE视频在线精品| 久9热视频| 五月丁香婷婷啪啪| 激情婷婷综合| 五月天丁香婷婷久久九| 综合久久五月| OUMEIRIHANCHENGREN| 亚洲操b| 久久人人九| 99热| 亚洲激情网站| 手机旧版看人妻1025| 色五月婷婷大香蕉| 天天摸.天天mo| 色婷婷狠狠禁18久久| 婷婷五月婷婷五月| 婷婷久久图片| 色色亚洲五月天| 九九热九九| 爱久久小说下载网| 五月丁香婷婷基地| 国产欧美日韩性爱| 九色综合网| 五月激情小说| 青青热久久综合| 五月婷婷狠狠久久| 五月天啪啪| 婷婷五月天色综合| 99色热视频| 性生生活大片又黄又| 天天摸天天高潮天天爽| 日韩三十六页| 色玖玖综合网| 97色色色色色色色色色色色色色| 95精品区一区二| 日本天堂爱爱| 色播五月丁香综合| 六月丁香婷婷色狠狠久久| 精品久久久999| 色综合色欲综合天天免费| 五月婷婷综合激情小说| 婷婷激情五月色综合| 蜜臀99久久精品久久久久| 亚洲婷婷激情综合激情999精品| 91色操| 丁香婷婷九月在线| PORNY九色9l自拍视频成人| 天天久久人人| 任我肏视频精品| 九久9精品| 亚洲无码99| 五月花成人网| 天天综合五月| 热99玖玖99玖玖99九九| 噜噜色噜噜网| 五月天五月色婷婷综合| 欧美性生交xXxX久久久| 99热色在线精品| 亚洲区,视频区,视频区免费| 深爱激情五月天| 日韩精品一区二区亚洲AV观看 | 国产操碰| www.ywav| 99精品视频在线观看| 五月婷在线色视频| 日本色道视频网站| 99热很操老逼| 最近中文字幕大全免费版在线 | 天天操夜夜夜拍拍拍| 99爱在线| 丁香五月综合| 婷婷五月色惰| 五月天六月丁香| 99热99极品观看| 五月 婷 久| 国产精自产拍久久久久久蜜| 精品亚洲VA网站| 少妇激情五月婷婷| 超碰超碰在线| 天堂网色色| 黄色高清无码| 丁香五月AV| 九九色图| 久久这里只有精品热在99| 狠狠综合| 99色热综合| 精品一二三区久久AAA片| 激情五月色播五月| 伊人婷婷色激情丁香| 亚洲成人在线综合| 91色色色视频| 综合AV网| 婷婷五月丁香五月| 久久五月丁香| 天天综合色丁香| 色综合色色色| 色情综合网| 密桃激情五月天综合网|