免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

UOS服務(wù)器版部署Rancher避坑指南:Kubernetes管理平臺(tái)搭建

UOS服務(wù)器版部署Rancher避坑指南:Kubernetes管理平臺(tái)搭建 上個(gè)月接了個(gè)活兒某單位一臺(tái)基于UOS服務(wù)器版的機(jī)器要求把Rancher部署上去用來(lái)接管后面新建的Kubernetes集群。一開(kāi)始我覺(jué)得這不算難——Rancher官方文檔寫(xiě)得很清楚Docker跑一個(gè)容器就完事。但實(shí)際動(dòng)手后發(fā)現(xiàn)UOS這套系統(tǒng)和普通的Ubuntu、CentOS還是有些不一樣的地方從軟件源到內(nèi)核參數(shù)再到內(nèi)網(wǎng)證書(shū)處處有坑。這篇文章就把我踩過(guò)的坑和最終跑通的完整路徑整理出來(lái)給要在國(guó)產(chǎn)操作系統(tǒng)上部署Rancher的朋友做個(gè)參考。先說(shuō)明一下適合誰(shuí)看如果你需要在UOS上搭一個(gè)Kubernetes管理平臺(tái)、要給業(yè)務(wù)方提供可視化的集群管理界面或者正在做內(nèi)網(wǎng)離線交付這篇文章基本可以照著操作。文中涉及的命令我都盡量給出完整版和逐參數(shù)解釋不只會(huì)告訴你“怎么跑通”還會(huì)說(shuō)清楚“為什么這么配”。1. 為什么有人要在UOS上裝Rancher先看清這個(gè)組合的價(jià)值1.1 UOS和Rancher各自解決什么問(wèn)題UOS是國(guó)產(chǎn)Linux操作系統(tǒng)服務(wù)器版主要跑在政務(wù)、金融、教育這些對(duì)自主可控有要求的場(chǎng)景里。它底層基于Debian體系用apt管理軟件包所以很多Debian系的經(jīng)驗(yàn)可以直接遷移過(guò)來(lái)但又不完全一樣軟件源是自有的內(nèi)核版本相對(duì)保守默認(rèn)啟用的安全模塊也和社區(qū)版有差異。Rancher則是Kubernetes的圖形化管理平臺(tái)。裸K8s最大的問(wèn)題就是管理門(mén)檻高裝好了還要面對(duì)一堆YAML、證書(shū)、Node節(jié)點(diǎn)狀態(tài)業(yè)務(wù)方一看就頭大。Rancher把這些東西封裝成了網(wǎng)頁(yè)操作創(chuàng)建集群、導(dǎo)入集群、部署應(yīng)用、看監(jiān)控日志、做權(quán)限隔離都能點(diǎn)鼠標(biāo)完成。把Rancher部署在UOS上等于在國(guó)產(chǎn)化的基礎(chǔ)上補(bǔ)齊了容器編排的運(yùn)維能力這在很多信創(chuàng)項(xiàng)目里是剛需。1.2 我在實(shí)際中遇到的三種部署訴求接需求的時(shí)候?qū)Ψ讲](méi)有說(shuō)得很細(xì)我在現(xiàn)場(chǎng)梳理下來(lái)大致是三類第一類先在一臺(tái)UOS上把Rancher Server跑起來(lái)后面再慢慢納管其他集群第二類整機(jī)離線機(jī)器不能上外網(wǎng)所有鏡像都得拷進(jìn)去第三類要求提供可重復(fù)執(zhí)行的部署文檔方便以后換機(jī)器重新部署。這三種訴求對(duì)應(yīng)的路徑不太一樣。第一種最簡(jiǎn)單在線拉鏡像就行第二種要花大力氣解決鏡像搬運(yùn)和私有倉(cāng)庫(kù)的問(wèn)題第三種則要求整個(gè)流程腳本化、參數(shù)化。下面我會(huì)按線上環(huán)境為主線來(lái)講離線部分單獨(dú)開(kāi)一節(jié)因?yàn)槟鞘遣瓤幼疃嗟沫h(huán)節(jié)。2. 環(huán)境準(zhǔn)備版本核對(duì)、內(nèi)核參數(shù)與容器運(yùn)行時(shí)選型2.1 先跑三個(gè)命令確認(rèn)機(jī)器底子部署前千萬(wàn)別急著裝Docker先確認(rèn)三件事系統(tǒng)版本、內(nèi)核版本、架構(gòu)。UOS服務(wù)器版常見(jiàn)的是v20系列內(nèi)核一般在4.19左右架構(gòu)通常是x86_64也有不少ARM機(jī)器。用下面三條命令看cat /etc/os-release uname -r uname -m我遇到的那臺(tái)機(jī)器是x86_64內(nèi)核4.19跑Rancher 2.7系列完全沒(méi)問(wèn)題。需要注意一點(diǎn)如果你的Rancher版本很新比如2.9、2.10開(kāi)始的部分特性對(duì)內(nèi)核和容器運(yùn)行時(shí)版本有更高要求建議先去官方release note里核對(duì)一下最低內(nèi)核版本。4.19跑老一點(diǎn)但還在維護(hù)期的2.7.x是最穩(wěn)妥的搭配。另外磁盤(pán)規(guī)劃是個(gè)容易被忽略的環(huán)節(jié)。Rancher的數(shù)據(jù)全部寫(xiě)在/var/lib/rancher目錄下包括配置、證書(shū)、etcd快照等。我習(xí)慣把數(shù)據(jù)目錄單獨(dú)掛一塊盤(pán)或者至少確保這個(gè)分區(qū)剩余空間在20GB以上。容器日志、鏡像、下游集群的kubeconfig都會(huì)堆在上面真到磁盤(pán)寫(xiě)滿的時(shí)候Rancher的表現(xiàn)是各種莫名其妙的報(bào)錯(cuò)排查起來(lái)非常被動(dòng)。2.2 Docker還是containerd單節(jié)點(diǎn)場(chǎng)景的選擇邏輯容器運(yùn)行時(shí)選哪個(gè)很多人會(huì)糾結(jié)。Rancher Server本身是作為一個(gè)容器跑起來(lái)的官方最推薦的單節(jié)點(diǎn)部署方式就是用Docker啟動(dòng)Rancher容器如果你走K3s或者RKE2的路子那用的是containerd。單節(jié)點(diǎn)部署Rancher Server我建議直接用Docker理由很實(shí)際排障簡(jiǎn)單docker logs、docker inspect這些命令大家都熟升級(jí)就是換個(gè)鏡像重新起容器邏輯直白Docker的生態(tài)和文檔也最全。containerd不是不能用只是當(dāng)你只想快速把Rancher跑起來(lái)時(shí)沒(méi)必要多繞一層。UOS上裝Docker有兩條路一是直接apt裝軟件源里的版本優(yōu)點(diǎn)是命令簡(jiǎn)單缺點(diǎn)是版本經(jīng)常偏舊可能低于Rancher要求的最低版本二是下載官方靜態(tài)包手動(dòng)安裝優(yōu)點(diǎn)是最新、可控缺點(diǎn)是要自己處理systemd服務(wù)文件。我實(shí)際用的是離線deb包方式具體操作在下一節(jié)展開(kāi)。2.3 初始化系統(tǒng)參數(shù)swap、時(shí)間同步、文件句柄裝完Docker先別急著拉鏡像有幾個(gè)系統(tǒng)參數(shù)先改了不然后面K8s集群初始化的時(shí)候會(huì)翻車(chē)。第一swap建議關(guān)掉。Kubernetes默認(rèn)要求節(jié)點(diǎn)上的swap是關(guān)閉狀態(tài)雖然這個(gè)要求主要針對(duì)下游集群的節(jié)點(diǎn)但Rancher Server所在的機(jī)器順手也關(guān)了省得后面出幺蛾子swapoff -a sed -i s/.*swap.*/#/ /etc/fstab第二開(kāi)啟IPv4轉(zhuǎn)發(fā)。容器和Pod之間的流量依賴這個(gè)參數(shù)默認(rèn)可能是0echo net.ipv4.ip_forward 1 /etc/sysctl.conf sysctl -p第三時(shí)間同步必須做。Rancher和K8s之間的通信很依賴時(shí)間一致性證書(shū)校驗(yàn)、token校驗(yàn)全都建立在時(shí)間正確的前提上。UOS服務(wù)器版一般自帶chrony但很多內(nèi)網(wǎng)機(jī)器沒(méi)配好NTP源我見(jiàn)過(guò)因?yàn)闀r(shí)間差了五分鐘導(dǎo)致Rancher頁(yè)面能開(kāi)、下游集群怎么都注冊(cè)不上的情況。建議盡早確認(rèn)chronyc sources -v date如果時(shí)間不對(duì)配好NTP源然后用systemctl restart chronyd重啟服務(wù)。這一步成本最低卻是最容易埋雷的。3. Docker單節(jié)點(diǎn)部署Rancher Server命令級(jí)拆解3.1 安裝Docker的兩種路徑與源的選擇在線環(huán)境下UOS的默認(rèn)軟件源如果已經(jīng)收錄了docker.io有些版本確實(shí)有直接apt-get update apt-get install -y docker.io systemctl enable --now docker這個(gè)方式適合快速驗(yàn)證但版本可能只有20.10左右跑Rancher 2.6及以上夠用。如果你對(duì)版本有要求也可以添加Docker官方的apt源來(lái)裝docker-ce不過(guò)這要求機(jī)器能訪問(wèn)外網(wǎng)內(nèi)網(wǎng)環(huán)境就得走離線包了。離線裝Docker的辦法是在一臺(tái)能聯(lián)網(wǎng)的同架構(gòu)機(jī)器上下載docker-ce的deb包包括containerd.io、docker-ce-cli、docker-ce這幾個(gè)依賴然后拷貝到UOS上執(zhí)行dpkg -i containerd.io_*.deb docker-ce-cli_*.deb docker-ce_*.deb依賴不全會(huì)報(bào)錯(cuò)缺什么就用apt-get install -f補(bǔ)齊。裝完驗(yàn)證一下docker version systemctl status docker這里有個(gè)實(shí)操細(xì)節(jié)UOS默認(rèn)可能啟用了AppArmor如果后面容器啟動(dòng)行為異常先看一眼dmesg | grep -i apparmor有時(shí)候需要給Docker的systemd服務(wù)額外加上容器的profile配置。不過(guò)多數(shù)情況下Rancher容器不會(huì)撞上這個(gè)先有個(gè)印象就行。3.2 啟動(dòng)Rancher的標(biāo)準(zhǔn)命令逐參數(shù)說(shuō)明Docker就緒后核心就是這一條命令docker run -d \ --name rancher \ --restartunless-stopped \ -p 80:80 \ -p 443:443 \ -v /data/rancher:/var/lib/rancher \ rancher/rancher:v2.7.9我逐個(gè)拆一下參數(shù)你就不用來(lái)回翻文檔了--name rancher容器名字后面查看日志、停止、刪除都用它。--restartunless-stopped機(jī)器重啟后容器自動(dòng)拉起除非手動(dòng)stop這是生產(chǎn)環(huán)境必須加的。-p 80:80 -p 443:443把宿主機(jī)的80和443映射到容器內(nèi)。Rancher的UI默認(rèn)走44380端口的用途是做HTTP到HTTPS的跳轉(zhuǎn)。如果你的UOS機(jī)器上已經(jīng)裝了Nginx或其他Web服務(wù)占了80/443這里要改端口比如-p 8080:80 -p 8443:443但后面訪問(wèn)地址也要跟著變。-v /data/rancher:/var/lib/rancher數(shù)據(jù)持久化。宿主機(jī)目錄建議用絕對(duì)路徑我習(xí)慣單獨(dú)建/data/rancher而不是默認(rèn)的/var/lib/rancher因?yàn)橄到y(tǒng)盤(pán)空間往往緊張單獨(dú)掛數(shù)據(jù)盤(pán)更靈活。rancher/rancher:v2.7.9鏡像名加版本標(biāo)簽。最好不要直接用latest版本固定下來(lái)升級(jí)和回滾都清楚。有些教程會(huì)加--privileged我個(gè)人不建議單節(jié)點(diǎn)Rancher Server這么干權(quán)限給太寬了出安全問(wèn)題難交代。Rancher容器本身不需要特權(quán)模式就能正常工作。3.3 初始化流程與Server URL的意義容器起來(lái)之后先看日志確認(rèn)啟動(dòng)進(jìn)度docker logs -f rancher看到類似“Rancher has been provisioned”之類字樣說(shuō)明初始化得差不多了然后瀏覽器訪問(wèn)https://UOS服務(wù)器IP/。第一次打開(kāi)會(huì)要求設(shè)置admin密碼還會(huì)彈一個(gè)Rancher Server URL的配置項(xiàng)。這個(gè)Server URL非常關(guān)鍵。它會(huì)被寫(xiě)進(jìn)kubeconfig和集群agent的連接信息里下游集群全靠這個(gè)地址回調(diào)Rancher Server。內(nèi)網(wǎng)環(huán)境就填https://IP:443或者你規(guī)劃的域名別填localhost也別填一個(gè)別人訪問(wèn)不到的內(nèi)網(wǎng)地址。我見(jiàn)過(guò)一個(gè)人填了公網(wǎng)域名結(jié)果內(nèi)網(wǎng)解析不到整整排查了一下午。初始化完成后主界面能看到“Add Cluster”、“Import Existing”等入口。到這里單節(jié)點(diǎn)的Rancher Server就算立起來(lái)了。但如果你后續(xù)要納管集群建議先做一件事把Rancher的system default registry設(shè)置好否則后面導(dǎo)入新集群時(shí)每個(gè)節(jié)點(diǎn)還要單獨(dú)配鏡像加速非常痛苦。4. 內(nèi)網(wǎng)離線部署才是重頭戲鏡像搬運(yùn)與私有倉(cāng)庫(kù)配置4.1 離線鏡像包的導(dǎo)出與導(dǎo)入很多UOS部署環(huán)境是徹底離線的服務(wù)器不能訪問(wèn)Docker Hub這時(shí)候在線拉鏡像這條路直接堵死。我的做法分兩步找一臺(tái)能聯(lián)網(wǎng)的機(jī)器做中轉(zhuǎn)把需要的鏡像打成tar包再拷進(jìn)UOS用docker load導(dǎo)入。最簡(jiǎn)單的單鏡像搬運(yùn)# 有網(wǎng)機(jī)器上 docker pull rancher/rancher:v2.7.9 docker save -o rancher-v2.7.9.tar rancher/rancher:v2.7.9 # UOS機(jī)器上 docker load -i rancher-v2.7.9.tar但生產(chǎn)環(huán)境遠(yuǎn)不止一個(gè)鏡像。當(dāng)你用Rancher建集群時(shí)它要拉一堆系統(tǒng)組件鏡像比如rancher/mirrored-pause、rancher/mirrored-coredns-coredns、各種kube-proxy、etcd的鏡像。一個(gè)個(gè)手動(dòng)pull/save不現(xiàn)實(shí)。正確做法是使用Rancher官方維護(hù)的離線鏡像清單和腳本。具體思路是在有網(wǎng)機(jī)器上拉取Rancher代碼庫(kù)里的rancher-images.txt配合官方提供的save/load腳本把所有需要的鏡像都導(dǎo)出來(lái)。大致流程是# 有網(wǎng)機(jī)器上執(zhí)行 ./rancher-save-images.sh --image-list ./rancher-images.txt # 會(huì)生成 rancher-images.tar.gz 和 rancher-images.txt然后把這兩個(gè)文件拷貝到UOS上執(zhí)行./rancher-load-images.sh --image-list ./rancher-images.txt --images rancher-images.tar.gzload腳本會(huì)自動(dòng)逐個(gè)docker load你只需要等它跑完。這個(gè)方式我實(shí)測(cè)過(guò)雖然耗時(shí)久幾十個(gè)鏡像每個(gè)都要解壓但比手動(dòng)一個(gè)個(gè)拉靠譜太多。4.2 配置私有鏡像倉(cāng)庫(kù)與registry地址離線環(huán)境只把鏡像load到本地Docker是不夠的因?yàn)镽ancher創(chuàng)建下游集群時(shí)每個(gè)K8s節(jié)點(diǎn)默認(rèn)還是會(huì)去拉公共倉(cāng)庫(kù)的鏡像離線節(jié)點(diǎn)根本拉不到。正解是搭一個(gè)私有鏡像倉(cāng)庫(kù)Harbor或者簡(jiǎn)單的registry容器都行把所有鏡像推上去然后讓Rancher的默認(rèn)拉取地址指向它。在UOS上快速起一個(gè)registry容器docker run -d --name registry \ -p 5000:5000 \ -v /data/registry:/var/lib/registry \ registry:2然后把tar包里的鏡像重新打標(biāo)簽并推送docker tag rancher/rancher:v2.7.9 內(nèi)網(wǎng)IP:5000/rancher/rancher:v2.7.9 docker push 內(nèi)網(wǎng)IP:5000/rancher/rancher:v2.7.9配置Rancher默認(rèn)registry我習(xí)慣在啟動(dòng)容器時(shí)直接注入環(huán)境變量docker run -d --name rancher \ --restartunless-stopped \ -p 80:80 -p 443:443 \ -e CATTLE_SYSTEM_DEFAULT_REGISTRY內(nèi)網(wǎng)IP:5000 \ -v /data/rancher:/var/lib/rancher \ rancher/rancher:v2.7.9每個(gè)人的鏡像命名規(guī)范不同這個(gè)環(huán)境變量主要影響Rancher系統(tǒng)組件鏡像的拉取地址前綴。如果你的私有倉(cāng)庫(kù)上鏡像路徑不是標(biāo)準(zhǔn)的rancher/mirrored-xxx結(jié)構(gòu)就需要在創(chuàng)建集群的高級(jí)設(shè)置里單獨(dú)配置。實(shí)測(cè)下來(lái)最省心的還是保持私有倉(cāng)庫(kù)路徑和官方一致只改成帶IP的完整前綴。4.3 證書(shū)處理內(nèi)網(wǎng)HTTPS信任鏈怎么搭在線部署Rancher默認(rèn)會(huì)給自己簽一個(gè)自簽證書(shū)瀏覽器第一次訪問(wèn)會(huì)跳警告這個(gè)還能接受。但內(nèi)網(wǎng)場(chǎng)景通常有企業(yè)CA或者客戶強(qiáng)制要求用正式證書(shū)這時(shí)候必須在啟動(dòng)時(shí)掛載證書(shū)。方法是在啟動(dòng)Rancher容器時(shí)把證書(shū)和私鑰放到宿主機(jī)的/data/rancher-certs目錄下命名為tls.crt和tls.key然后掛載進(jìn)去docker run -d --name rancher \ --restartunless-stopped \ -p 80:80 -p 443:443 \ -v /data/rancher-certs:/etc/rancher/ssl \ -v /data/rancher:/var/lib/rancher \ rancher/rancher:v2.7.9Rancher會(huì)優(yōu)先讀取/etc/rancher/ssl下的證書(shū)不再使用自簽證書(shū)。這里有個(gè)坑證書(shū)的Common Name一定要和訪問(wèn)的地址匹配包括IP SAN或者域名SAN否則瀏覽器照樣報(bào)錯(cuò)下游集群的agent連接也會(huì)因?yàn)樽C書(shū)校驗(yàn)失敗而注冊(cè)不上。另一個(gè)容易被忽略的是如果用的是企業(yè)內(nèi)網(wǎng)CA簽發(fā)的證書(shū)客戶端機(jī)器上要信任這個(gè)CA。UOS上操作很簡(jiǎn)單cp your-ca.crt /usr/local/share/ca-certificates/ update-ca-certificates這樣本機(jī)的curl、容器、以及其他工具訪問(wèn)Rancher時(shí)就不會(huì)因?yàn)椤癱ertificate signed by unknown authority”而中斷。這個(gè)步驟在部署文檔里經(jīng)常被漏掉但線上環(huán)境幾乎必然遇到。5. UOS特有的坑一套完整排查鏈路5.1 現(xiàn)象一頁(yè)面能開(kāi)下游集群連不上癥狀很明確Rancher頁(yè)面正常打開(kāi)但導(dǎo)入一個(gè)新集群到一半就失敗agent Pod一直P(pán)ending或者CrashLoopBackOff。先別查Node從網(wǎng)絡(luò)鏈路看起。第一步確認(rèn)UOS的防火墻狀態(tài)systemctl status firewalld ufw statusUOS服務(wù)器版可能默認(rèn)啟用了ufw也可能沒(méi)有防火墻但有些定制鏡像會(huì)在iptables層面加了限制。最直接的辦法是看443端口是否確實(shí)在監(jiān)聽(tīng)ss -tlnp | grep -E 443|80 iptables -L -n | grep 443我遇到的情況是443端口監(jiān)聽(tīng)正常但iptables FORWARD鏈默認(rèn)DROP導(dǎo)致Rancher訪問(wèn)下游集群的Pod網(wǎng)絡(luò)時(shí)被丟包。這個(gè)坑在Debian系上很典型因?yàn)镈ocker會(huì)往iptables里加規(guī)則但FORWARD鏈的默認(rèn)策略可能還是DROP。臨時(shí)改法iptables -P FORWARD ACCEPT永久生效還是在/etc/sysctl.conf里確認(rèn)net.ipv4.ip_forward1并檢查ufw如果開(kāi)著得放行ufw allow 443/tcp。5.2 現(xiàn)象二Rancher容器反復(fù)重啟這個(gè)問(wèn)題我是在離線導(dǎo)入鏡像時(shí)踩到的。表現(xiàn)為docker ps看到容器狀態(tài)一直在restarting頁(yè)面打不開(kāi)docker logs報(bào)錯(cuò)信息又不明顯。從經(jīng)驗(yàn)看優(yōu)先查三件事一是數(shù)據(jù)卷權(quán)限/data/rancher目錄的所有者必須是root如果之前用別的用戶拷過(guò)數(shù)據(jù)目錄權(quán)限不對(duì)容器起來(lái)就會(huì)崩用chown -R root:root /data/rancher修正二是磁盤(pán)空間df -h看看是不是分區(qū)滿了etcd寫(xiě)入失敗時(shí)容器會(huì)不停重啟三是內(nèi)存是否夠用UOS上如果內(nèi)存小于4GB同時(shí)跑Rancher和其他服務(wù)很容易觸發(fā)OOMdmesg | tail或者journalctl -k | grep -i oom能看出來(lái)。我之前一次部署問(wèn)題就出在離線導(dǎo)入鏡像時(shí)磁盤(pán)被解壓后的鏡像塞滿Rancher容器寫(xiě)到一半磁盤(pán)滿直接OOM。清了/var/lib/docker下沒(méi)用的鏡像和Build緩存重啟Docker再起容器就好了。5.3 現(xiàn)象三時(shí)間不同步導(dǎo)致的證書(shū)報(bào)錯(cuò)癥狀是頁(yè)面偶爾能打開(kāi)但登錄后操作很容易報(bào)401、403或者下游集群的Pod報(bào)x509: certificate has expired or is not yet valid。很多人的第一反應(yīng)是證書(shū)過(guò)期了翻來(lái)覆去找原因結(jié)果發(fā)現(xiàn)系統(tǒng)時(shí)間慢了十分鐘。這在物理機(jī)和內(nèi)網(wǎng)虛擬機(jī)上特別常見(jiàn)CMOS電池沒(méi)電、NTP沒(méi)配通都可能導(dǎo)致時(shí)間漂移。我用一條命令確認(rèn)timedatectl status如果顯示NTP service: inactive或者時(shí)間跟實(shí)際差得遠(yuǎn)立刻配chronyapt-get install -y chrony systemctl enable --now chronyd chronyc makestep等時(shí)間校準(zhǔn)后再訪問(wèn)Rancher證書(shū)問(wèn)題通常就消失了。Rancher對(duì)時(shí)間異常其實(shí)挺敏感的因?yàn)檎麄€(gè)認(rèn)證體系都是基于時(shí)間戳簽發(fā)的token時(shí)間一歪頁(yè)面和你以為的都正常但后端校驗(yàn)就是不通過(guò)。6. 部署完怎么驗(yàn)收驗(yàn)證清單與日常運(yùn)維要點(diǎn)6.1 我的驗(yàn)收清單可直接抄每次部署完我都會(huì)按下面這張清單過(guò)一遍免得交付了才發(fā)現(xiàn)漏配置檢查項(xiàng)操作方式預(yù)期結(jié)果頁(yè)面可訪問(wèn)瀏覽器打開(kāi) https://UOS_IP/出現(xiàn)登錄頁(yè)無(wú)證書(shū)告警或已信任容器穩(wěn)定docker psrancher容器運(yùn)行中無(wú)restarting日志無(wú)異常docker logs rancher --since 10m無(wú)ERROR級(jí)別刷屏數(shù)據(jù)持久化ls /data/rancher能看到配置、證書(shū)、audit日志等目錄時(shí)間同步chronyc tracking顯示已同步時(shí)間偏差小于1秒轉(zhuǎn)發(fā)已開(kāi)啟sysctl net.ipv4.ip_forward輸出1Server URL可回訪在下游節(jié)點(diǎn)curl https://UOS_IP/healthz返回200或類似健康響應(yīng)創(chuàng)建測(cè)試集群頁(yè)面上新建一個(gè)自定義集群集群節(jié)點(diǎn)狀態(tài)Active重點(diǎn)說(shuō)一下/healthz這個(gè)健康檢查路徑Rancher會(huì)返回200在下游節(jié)點(diǎn)上先curl通再去做集群導(dǎo)入能提前攔截百分之八十的網(wǎng)絡(luò)問(wèn)題。6.2 備份與升級(jí)的幾個(gè)實(shí)用經(jīng)驗(yàn)Rancher的備份我推薦在頁(yè)面上裝rancher-backup這個(gè)應(yīng)用它能把Rancher的CRD配置、RBAC、證書(shū)這些打包成壓縮文件支持上傳到S3兼容存儲(chǔ)恢復(fù)的時(shí)候也方便。但UOS離線環(huán)境要先把這個(gè)應(yīng)用的鏡像搬到私有倉(cāng)庫(kù)不然裝不上。如果不想裝應(yīng)用最低成本的備份方式是直接打包數(shù)據(jù)目錄systemctl stop docker # 或者 docker stop rancher tar -czf rancher-backup-$(date %F).tar.gz /data/rancher systemctl start docker注意備份前要么停容器要么確保數(shù)據(jù)目錄沒(méi)有并發(fā)寫(xiě)入否則etcd相關(guān)的文件可能備份出一個(gè)半成品恢復(fù)時(shí)怎么都起不來(lái)。升級(jí)Rancher就三步pull新鏡像、刪掉舊容器保留數(shù)據(jù)卷、用同一套掛載參數(shù)起新容器。官方文檔有明確的升級(jí)路徑切記不要跨大版本跳級(jí)升級(jí)。我上次從2.7升到2.8是直接換鏡像起的數(shù)據(jù)完全保留頁(yè)面提示遷移完成整個(gè)過(guò)程半小時(shí)內(nèi)搞定。當(dāng)然前提是數(shù)據(jù)目錄掛載沒(méi)變、證書(shū)沒(méi)動(dòng)、端口沒(méi)改。還有一個(gè)日常運(yùn)維細(xì)節(jié)Rancher容器所在的主機(jī)名不要隨便改它的kubeconfig和生成的證書(shū)可能包含主機(jī)名信息改完hostname可能導(dǎo)致集群狀態(tài)異常。我在UOS上就遇到過(guò)改了/etc/hostname重啟后Rancher頁(yè)面雖然能開(kāi)但內(nèi)部有些校驗(yàn)開(kāi)始報(bào)不匹配。所以主機(jī)名這種東西部署前定好部署后別動(dòng)。最后分享一個(gè)我自己的習(xí)慣每次部署UOS上的Rancher我都會(huì)先在虛擬機(jī)里完整跑一遍流程把每一步命令的輸出記錄下來(lái)包括docker run的參數(shù)、證書(shū)的路徑、私有倉(cāng)庫(kù)的地址。等上了生產(chǎn)環(huán)境基本就是照著記錄復(fù)現(xiàn)一遍很少出意外。這個(gè)習(xí)慣幫我省了不少半夜值班的麻煩建議你也試試。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
视频1区2区| 久热99| 五月丁香激情综合久久| 丁香狠狠| 久久五月网| 五月丁香久久| 婷婷黄色| 五月天婷婷乱论小说| 成人深爱丁香五月| 久久9视频欧美| 激情网 久久| 国产免费AV在线| 五月丁香六月合| 色婷婷激情四射视频| 狠狠色成人影片| 婷婷激情综合色五月久久图片| 激情5月婷婷| 9久热| 在线看片h站| 另类图片激情五月| 久久久无码精品成人A片小说 | 欧美激情五月综合| 92久久| 亚洲中文AV| 免费视频99| 开心婷婷五月| 色色性爱视频| 99精品爱| 亚洲爱爱无码婷婷色五月| 久久3p| Aaa久久| 五月叮香啪| 欧美25p| 天天色色婷婷| 色 五月婷婷基地| 五月丁香啪啪网| 影音先锋 一区| 日B日潘金莲BB| 激情婷婷五月天| 中文字幕,综合,91| 天天天综合网| 思思久久99| 丁香五月在线观看综合| 99久久婷婷综合| 婷婷成人五月天| 丁香婷婷色色| 色五月在线观看| 久久五月天视频| 五月六月婷婷| 激情综合激情综合| 免费AV在线| 丁香成人色情五月天| 五月丁香好婷婷姑娘综合网| 婷婷激情五月综合基地| 色五月婷婷丁香婷婷| 亚洲思思热久| 亚洲色色爱| 色婷婷综合网| 青青热久久综合| 色色是色N一| 五月婷婷人人人操| 99热九九这里只有精品| Av性爱网| 天天草天天日| 激情六月婷婷| 色综合婷婷| 深夜男女福利刺激影院一区完整| 婷婷丁香五月综合| 1000部毛片A片免费观看| 99热超碰| 国外亚洲成AV人片在线观看| 综合久久综合五月天婷婷| 97超级碰| 久久久性爱网| 肏屄色播伊人97婷婷| 五月婷婷伊| 五月Huangsewang| 久久婷婷综合五月| 久综合| 51XX午夜影福利| 五月丁香久久网| 69精品人人人人| 色色色国产| 久久综合婷婷| 婷婷激情啪啪| 色婷婷六月天| 在线理论片| 亚洲超碰青涩| 九九九日本熟女| 色婷婷综合网| 欧美婷婷色五月| 欧美成人色婷婷| 成人综合视频在线| 国产精品A成V人在线播放 | 激情久久五月天| 五月婷五月婷伊人伊人五月婷| 免费九九热| 五月婷婷五月丁香综合| 天天爽天天摸人妻综合网| 99综合网| 老妇六区| 超碰AV在线| 五月婷婷综合激情| 超碰人人99| 婷婷基地爱| 欧亚成人A片一区二区| 黄色片avv| 性爱网六月丁香| 色色色色五月天| 五月婷婷色丁香| 婷婷天天婷婷天天澡| 情色五月天网站| 久久免费精彩视频| 我想看国产大学生口爆吞精的视频| 婷色五月天| 五月婷婷久久综合| 五月综合无码| 狠狠爱深色婷婷综合| 丁香九月激情久久| 蜜臀av在线成人电影| 99热这里有精品| 91丨九色丨大屁股| 日韩高清成人| 丁香六月无码播放| 亚洲视频99| 九九99精品免费播放| 97婷婷狠狠久久综合9色| 欧美色图45678| 可以免费看AV网站| 欧美搡BBBBB摔BBBBB| 97操男人的天堂| 丁香五月开心亚洲| 欧美色五月天| 日韩人妻AV在线| www999日韩精品| 久久人妻情侣| 婷婷五月天激情小说| 热婷婷久| 五月丁香婷爱在线| 伊人婷婷福利网| 97人人操人人爽| 日日舔夜夜操| 五月婷婷影视| 欧美一区二区三区不卡影视| 99九九精品| 第四色网婷婷| 久久久久这里只有精品| 九九色网| 激情婷婷五月天日本系列| 极品人妻VideOssS人妻| 国产熟女一区二区三区五月婷| 婷婷久久五月天亚洲欧美国产日韩在线观看 | 色色热| 九色无码| 99精品综合视频| 五月停性愛| 99这里只有精品视频免费| 丁香五月在线播放| 丁香五婷| 丁香婷婷五月综合| WWW·色色色·COM| 丁香五月六月综合激情| 91色涩| 九九视频这里只有精品| 99精品网址| 亚洲激情五月丁香久久久久| 欧洲电影在线观看免费版英语版| 久久五月天黄色五月天色网址| 天天日夜夜拍| 欧美三级黄色片久久| 丁香六月婷婷综合在线| 99riAV成人在线视频| 久久黄色免费视频| 99精品国产在热久久| 婷五月丁香俺| 五月婷婷五月天| 五月婷婷色色色| 97碰碰视频| 色五月中文字幕| 99er热精品视频| 五月丁香综合色婷婷| 欧洲色色| 激情六月天| 久久蜜臀婷婷| 操九色| 亚洲综合一区二区| 99热欧美在线观看| 丁香婷婷综合激情五月色| 久久99热免费| 免费三级黄色| 天天操婷婷| 丁香激情五月| 五月天激情小说网| 亚洲丁香网| 丰滿爆乳一区二区三区| 99色热| 日韩无码性爱| 三级三久久线久久99久目本WW| 99碰碰碰| 色五月色五天色情网| 激情久久肏屄视频| 丰满少妇猛烈A片免费看观看| 综合久色五月| 婷婷色狠狠| 亚洲婷婷五月天激情| 中文久久婷婷| 五月大香蕉| 天天操天天爽天天爱| 九九热视频在线观看| 色婷婷综合五月| 九色视频九色九色91jiuseshipin| 日日日日操| 婷婷五月天性爱视频| 噜噜狠狠色| 亚洲综合视频在线| 国产69久久久欧美黑人A片| 99热99这里有免费的精品| 五月婷婷色色网址| 色99视频| 99热99美国在线观看| 婷婷免费精品视频| 久热伊人9| 99热66| 深爱开心五月天| 精品少妇人妻AV无码专区偷人| 天天操狠狠操| 狠狠艹狠狠艹| 狠狠色狠狠色综合日日91| 五月天丁香成人| 第四色色六月色综合| 99riAV成人在线视频| 99色色| 久久婷婷成人视频| 狠狠色综合图片| 色综合丁香婷婷| 热这里只有精| 五月丁香六月综合基地| 婷婷五月天免费99| 久热超碰| 99热只有这里有精品| 激情五月天丁香| 国产高清视频91九九九久久久| 大香蕉五月天婷婷| 久久久久久久人妻| 性天天中文网| 五月激情婷婷播播网| 成人电影AV在线观看| 91性交在线播放| 秋霞A V毛片| 99惹精品视频| 五月天播播综合| 激情婷婷在线中文字幕| 久久一级免费黄色片| 91操操| 久操97| 青青草原福利在线| 色婷婷六月综合| 九九黄色网| 吾爱AV导航| 七月婷婷色香综合网| 久久99视频| 精品久久久久久久久久久久人妻| 久久五月人人摸| 五月丁香六月激情综合| 99少妇精品| 色婷婷成人做爰A片免费看网站| 色色婷婷丁香五月天| 青青草原99热| 日日肏夜夜干| 五月丁香日本片| 色色色色色综合| 做爰丰满少妇1313| 激情五月综合网| 99ri精品视频在线观看| 欧美日韩成人高清在线| 欧美日本另类| site:pnnrt.com| 色婷婷狠狠久久综合五月| 丁香六月AV| 丁香婷婷久久| 国产激情综合| 久热综合| 深夜男女福利刺激影院一区完整| 9久热在线视频精品| 婷婷伊人视婷婷婷| 婷婷玖玖丁香| 久久久久久久8| 日本97人人| 丁香五月花| 嫩草视频在线观看| 五月成人网站| 亚洲AV成人在线| 另类激情综合| 亚洲av骚货| 91热在线| 丁香五月激情综合| 一级黄色影片| 国产成人综合亚洲| 久99久视频精品| 国产肥白大熟妇BBBB视频| 五月丁香六月婷综合成人综合| 岛国av网站| 中文字幕AV在线| 成人版视频在线观看| a久久| 婷婷五月综合体验看| 五月婷婷中文| 色婷婷成人| 久久ab| 五月丁香黄色视频| 久草热8精品视频在线观看| 九九综合| 免费无码毛片一区二区A片 | 激情综合网 激情五月天| 千人斩操逼| 九九久久综合网站| 色色亚洲五月天| 天天干天天日天天操| 色五月天成人| 级情九色| 无码九九| 激情婷婷五月天在线观看| 色色色色色色综合| 五月婷丁香| 91精品久久久久| www.maotanji.com| 深爱五月婷婷| 伊人大香蕉毛片| yiqicaoav| 婷婷丁香五月色偷偷| 九洲一级A片| 五月丁香综合网色欲| 天天做天天双| 久久婷婷东京热大香樵| 婷婷五月激情四月综合| 五月天婷婷久久| 激情涩播| 六月色狠狠色| 天天拍天天操| 欧美极品999| 婷婷五月丁香五月综合网| AⅤ网站在线看| 日韩操人| 99re视频在线播放| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 成人在线视频网| www九九热| 91爱啪啪| 亚洲精品无码久久| 久久丁香五月| 99热这里只有精品3| 欧美三级A做爰在线观看| 欧美在线97| 激情五月天com| 狠狠干最新地址| 丁香综合伊人| 日产精品一线二线三线芒果| WWW色综合| 天天插天天插天天插天天插| 99热精品在线播放| 99亚州综合精品成人网| 99色综合网| 婷婷五月天堂| 日韩免费乱轮网站| 另类天堂| 很很干五月天| av在线免费播放观看| 婷婷综合五月天激情| av大香蕉| 婷婷五月偷拍| 日本英国美国欧美亚洲国产精亚洲日韩精品在线观看 | 99热青青草| 五月丁香六月综合激情网| 亚洲乱码日产精品BD| 秋霞三级影视资源| 欧洲MV日韩MV国产| 五月婷婷丁香色播网| 色吧婷婷五月亚洲| 涩婷婷五月天在线精品视频| 一月婷婷色色| 久久五月天综合| WWW.激情| 97干在线视频精品店| 婷婷丁香在线播放| 九九热99视频在线| 99色综合| 五月丁香另类网| 在线中文字幕免费视频| 亚洲在线综合| 桃色伊人在线| 婷婷综合国产| 亚洲成人网在线观看| 99热伊人| 丁香婷婷五月激情四射网| 色五月丁香伊人五月| 天堂色色色| 九九五月天| 久久久精品视频79| 丁香五月天久久| 婷婷五月激情视频| 色综合综合色| 成人国产网站在线免费看| 五月深爱网| 中文字幕综合色| 五月激情婷婷综合| 五月婷婷激情69| 五月丁香婷婷综合网色欲| 婷婷五月天综合网| 五月丁香色色网| 成人综合网站| 综合狠狠干| 色丁香五月婷婷婷| 久久伊人婷| www久久久| 婷婷丁香五月,狠狠综合| 日韩大片艹艹| 久久性爱视频| 久久 婷婷 五月天| 一区二区三区四区无码| 亚州色婷婷| 日本一级淫| 五月丁香婷婷俺| 亚洲AV免费在线| 色色精品色| 狠狠操狠狠爱| 激情婷婷人妻| 日韩青青| 久色资源| 变态另类9| 亚洲啪啪视频| 人人干天天舔| 人妻丰满精品一区二区A片| 婷婷五月天深爱| 9色91视频| 五月欧美色色五月| 六月激情网| 色色a| 色婷婷国产精品综合在线观看| 久色五月丁香视频| 97自拍99| 五月婷婷性爱| 色五月婷婷啪啪五月| 欧美综合五月天婷婷tin| 婷激情五月| 久久九九九九| 亚洲成人综合在线| 婷婷丁香五月天欧美| 一级AV片| 激情丁香五月天| 激情九月综合| 天天色情站| 成人中文网| 99视频热| 亚洲午夜电影| 99ER热精品视频| 女人天堂 AV| 天堂综合久| 激情综合网五月婷婷| 五月色情婷婷开心五月天| 亚洲成人AV高清字幕| 丁香六月激情网C0W| 98永久精品| 99久视频| 开心激情播播五月天| 婷婷自拍| 亚洲激情综合| 思思久久精品| 天天日人人| 抽插特写| 能直接看的av网站| 天天激情| 激情网第九色| 五月天丁香婷婷视频网址| 五月婷视频| 色情综合网| 欧州婷婷五月天综合| 丁香久久久| 男人天堂伊人五月丁香| 精品99在线观看| 色婷婷丁香五月| 亚洲成人噜噜| 五月丁香综合啪啪啪啪啪| 亚洲99精品九九在线| 91碰| 国产精品香蕉| 一根材五月婷成人| 国产av基地| 欧美日本韩国亚洲| 欧美成人A片AAA片在线播放 | 色婷视频| 99热这里只有精品免费| 久久久久综合激动五月天| 激情五月婷婷五月丁香五月开心五月| 五月婷婷综合网| 五月婷婷性爱网| 色五月婷婷网| 日本一级特黄大片AAAAA级| 五月婷婷成人w| 丁香久久综合| 视频久久9| 亚洲成人影视在线| 天天拍天天操| 久久五月激情| 女人天堂AV| 激情五月婷婷综合网| 99日本黄站| 1024在线视频| 狠狠精品干练久久久无码中文字幕 | 亚洲视色| 91成人看片| 久久五月婷| 久久受www免费人成| 草榴视频网| 99re66热这里只有精品| 丁香六月天婷婷开心综合| 99精品性爱| 综合色播| 99婷婷五月天激情| 欧美噜噜免费观看| 九色啦蜜臀| 五月天婷婷久久| 欧美性爱专区| 日韩精品一区二区亚洲AV观看| 天天想夜夜爽天天爽| 色高清无码视频| 狠狠爱婷婷| 无码少妇高潮喷水A片免费| 碰碰人人漕| 啪啪婷婷五月天激情| 亚洲国产99| 免费看欧美成人A片无码| 91精品丝袜久久久久久久久粉嫩| 成人必爱视| 99久久6| 日日夜夜天天| 91丁香色| 思思99精品视频在线观看| 色中色综合| 日本久久精品| 中文无码婷婷| 99爱视频| 日本97在线观看| 激情小说五月天社区丁香 | 极品另类| 91熟妇大香蕉| 日本AAAAAAAAAAAAAA片| 99激情视频| 视频久久9| 激情婷婷六月| 日韩黄在免| 九九伊人网| 伊人婷婷色| 久草婷妨| 中文在线视频久1| 熟女少妇内射日韩亚洲| 26UUU| 色婷婷五月综合在线| 婷婷五月天丁香久久| 久久香蕉婷婷五月天| 久久久久9999| 国产1区2区3区| 天天爽天天日| 综合激情在线观看| 久久怕怕视频| 综合九九日本| 婷婷的色色五月天| 久久免费丁香| 婷婷五月天综合网| 久99热在线观看| 99热九九热| 色五月婷婷丁香凹凸| 丁香五月日本| 一本久久婷婷| 五月综合精品| 久久久久五月丁香| 婷婷六月天激情| 久久狠婷婷| 激情五月色播五月| 色综合久久88| 六月丁香啪啪啪| 爆乳熟妇一区二区三区爆乳照片| 99A级片| 色欲久久久久久综合网综合网| 亚洲五月花| 久久婷婷夜| 日本色婷婷| 麻豆雪千夏| 丁香五月日韩| 九九热视频首页/这里只有精品| 五月天播播| 激情五月开心五月在线视频| 国产亚洲精品久久久久久郑州| 五月激情视频网| 国产肥白大熟妇BBBB视频| 亚洲五月婷天天操| 熟女人妻一区二区三区免费看| 五月婷丁香亚洲| 婷婷五月色亚洲| 开心五月综合激情网| 精品人妻久久久久久| 丁香五月花影院| 人妻激情在线| 男人天堂亚洲综合| 激情丁香五月婷婷| 五月天丁香久久综合 | 夜夜夜夜夜操| 天天拍天天操| www久久久久久久97| 日在线V视频在线播放| 丁香 久久| 91精品婷婷国产综合久久| 色综合77777| 丁香六月久久| 色婷婷色五月天| 五月天激情小说| 999久久久国产精品| 五月丁香婷婷久久| 久操人妻| 影音先锋91| 五月丁香久久久| 久热9| 一区操| 丁香五月天殴美激情| 久久五月激情综合| 五月天成人在线播放丁香| 色久天| 欧美性交一区二区三区| 日日想日日夜日日操| 五月丁香综合| 日韩黄色电影| 天天插,天天射| 丁香五月天啪啪| 玖玖国产视频一区| 9999三级片| 婷婷丁香黄色| 五月色俺婷婷| www免费在线视频| 久热超碰91| 东京热人妻一区二区三区在线| 996er在线观看| 日逼影音先锋AV男人资源站| 开心婷婷中文字幕| 99热国内| 97色片| 丁香五月大香蕉在线99| 色婷婷五月天偷拍| 婷婷97碰碰| 色狠狠色狠狠| 色五月丁香总合网| 思思热天天看| 99热综合色图| 狠狠色综合网站久久久久| 免费看欧美成人A片无码| 成人在线视频网| 这里只有精品视频99| 热这里只有精| 久久aaa| 9色在线| 99视频在线啪| 欧美三级大片AA在线看| av在线婷婷| 日本人妻伦在线中文字幕| 激情五月丁香社区| 久久婷婷五月综合色奶水99啪| 深爱五月日韩| 开心五月深爱五月婷| 丁香五月色播中文在线播放| 婷婷99狠狠躁天天躁| 欧美日韩成人在线观看| 啪啪五月综合| 亚洲激情.com| 狠狠狠狠狠草| 成年人99热| 夜夜骑福利资源| 最新精品视频99| 9999热精品在线免费播放| www,8050,午夜三级| 九九人人操| 九九99免费视频| 色综合九九色综合88| 色欧美影院| 狠狠情色| 九九热99视频在线| 色呦呦免费观看| 亚州操操| 九九伊人网| 五月天久久久| 日日想日日夜日日操| yazhou seshipin| 婷婷五日b| 99精品无码网站| 五月涩涩网| 五月丁香龟婷婷| av色色国产| 天天综合精品| 婷婷亚洲综合| 激情视频综合| 色5月婷婷| 国产AV一区二区三区最新精品| 欧美顶级少妇做爰HD| 亚洲av电影网站| 91人人爽人人操| 9l视频自拍九色9l视频在线观看| 亚洲sesesese| 五月天激情国产综合AV| 五月婷婷天| 九九色色网| 五月婷婷六月丁香| 国内自拍97在线| 亚洲欧美在线观看| AA片在线观看视频在线播放| 日本欧美成人片AAAA| 无码99| 成熟妇人A片免费看网站| 中国女人做爰A片| 久月久在线视频| 亚洲超级碰| 欧美婷婷六月丁香综合色连续高潮抽搐| 婷婷五月AA五月在线| 中国激情网| 天天干天干| 黄色片avv| 欧美久久网| 五月婷婷中文网| 婷婷五月天天天| 激情伊人五月天| 色情网综合| 综合色五月天| 午夜国产精品AV在线播放| 婷婷五月综激情| 婷婷成人基地| 狠狠久久婷婷| 色婷婷丁香五月高清在线| 99热在线观看精品免费| 中文字幕 码精品视频网站| av一区免费看| 色五月之第四色| 女人天堂AV| 国产亚洲av片| 久草久青福利| 淫视馆AV在线| AV在线二十六页| 五月婷五月婷伊人伊人五月婷| 色婷婷精品小视频| 99re热在线视频| 91婷婷丁香五月亚洲| www.97干视频| 久久99免费视频| 狠狠色婷婷7777久| 久久91久久91色欲精品| 丁香五月婷婷天激情| 久久综合性| 伊人久久中文网| 婷婷五月免费在线| 99热在这里只有精品| 五月久久网| 青草激情在线| 丁香九月婷婷| site:xmssd.com| 婷婷五月色综合| 五月婷九九草| 少妇人妻综合色6699| 综合五月天| 五月婷婷啪| 大香蕉网站,大香蕉综合| 色婷婷狠狠18yy| 亚洲成人电影aaaa| 97香蕉碰碰人妻国产欧美| 婷婷激情五月视频| 久久久久久久久人妻| 色色亚洲99com| wwccc久久久| 六月色色| 婷婷色五月亚洲| 婷婷五月天综合在线| 操逼视频一区| 曰曰久久| 五月婷婷激情久久| 国产性爱一级| 在线观看av网站| A久久| 99热精品超碰| 欧美成人精品A片免费一区99| 久久综合55| 人妻内射麻豆视频| 中文字幕在线免费看线人| 激情深爱综合| 天天操天天干天天日| 色综合色色| 99视频精品| 国产婷婷色五月| 天天搞天天爽| 激情五月天在线观看色婷婷| 久久婷婷视频| 激情五月天啪啪| 久久99热这里只有精品23| 久久性爱视频| 欧美天天综合网站上去吧| 三级三久久线久久99久目本WW| 色色操| 欧美激情综合色综合啪啪五月| 激情五月图| 青青青在线视频国产| 六月丁香婷婷网| 丁香亭亭激情四射| 2025天天日爽| 在线观看的av| 亚洲欧洲中文日韩久久AV乱码| 丁香久色| 中文字幕人妻一区二区| 亚洲综合另类| 99热永久在线观看| 色狠狠婷婷| AAAA网站| 9久视频| 国产偷人爽久久久久久老妇APP| 色10月婷婷视频| 免费观看全黄做爰的视频| 日日操人人操| 激情婷婷久久| 另类图片五月天| 深爱激情五月婷婷| 丁香婷婷性爱| 裸体做A爰片毛片A片免费| 色导航色婷婷五月天在线观看| 在线观看免费狠狠色丁香香综合| 九九色精品| 婷婷中文字幕版| 国产黄色av| 97人人干人人操| 激情开心五月亚洲| 91久久精品无码一区二区三区| 激情色色| www.婷婷五月| 激情五月天综合网站网站网站| 九色综合五月天婷五月| 婷婷五月天堂| 久久99热只有精品| 丁香五月天婷婷91| 99精彩视频| 日韩aaa| 五月丁香综合网色欲| 亚洲天堂青草| 婷婷五月天AV| 五月丁香网站| 国产日日夜夜操| 五月婷婷香蕉| 色婷婷色99国产综合精品| 亚洲性受XXXX五月丁香| 99久久久精品| 香蕉婷婷| 色狠狠色综合| 91狠狠色丁香| 五月天丁香久久综合| 大香蕉婷婷| 小视频久久久aaa| 精品成人在线观看| 婷婷五月天美女视频| 91热99| 久久五月婷婷视频| 国产精品第一国产精品| 嫩草视频在线观看| 色综合色色| 狠狠999| 五月婷婷开心亚洲无| 婷婷激情五月视频| 黄色热99| 欧美一级色| 精品久久9| 五月婷婷色播| 中文字幕婷婷五月天在线观看| 婷婷激情肏屄网| 99男人的天堂| 亚洲免费av观看| 精品国婬伦V无码久久久| 超碰av在线| 婷婷五月激情欧美| 五月久久婷婷天堂视频| 噜噜色com| 五月丁香激情婷婷综合| 日本精品。999| 国产一级片| 婷婷色五月丁香六月欧美啪| 丁香五月综合久久综合| 久艹久| 婷婷五月丁香99| 国产乱子轮XXX农村| 少妇AB又爽又紧无码网站| 婷婷激情小说| 亚洲va综合va国产va中文| 五月天婷婷影院| 丁香五月婷婷AV在线| 日日天天干| se影音资源在线观看| 九九婷婷五月天| 丁香五月激情综合啪啪| 欧洲综合色| 激情六月一二| 人人操人人爱丁香五月| 久久人妻久久| 五月天婷婷影院影院观看| 黄色笑话深爱激情网丁香五月婷婷啪啪啪啪啪 | 无码成人AAAAA毛片AI换脸| 久久人人妻| 狠狠干狠狠干| 香蕉AV777XXX色综合一区| 97综合在线| 三人荫蒂添的好舒服A片| 成人综合网站| 亚洲 在线 另类| ..真实国产乱子伦毛片 | 国产成人网站在线观看| 色丁香久久| 91超级碰| 九九热免费视频| 五月婷婷综合在线| 六月丁香婷婷爱| 大香AV| 婷婷伊人綜合中文字幕| 激情深爱综合| 激情五月开心五月在线视频| 第二色AⅤ| 狠狠操.COM| 色色亚洲五月天| 丁香五月婷婷AV| 婷婷色在线| 久久婷婷五月综合色欧美| 五月天婷婷基地| 亚洲传媒在线观看| 看全色黄大色大片| 六月色日韩| 开心五月深爱五月丁香五月激情五月| www.狠狠操| AV人人操| 人人爱操| 色欲五月丁香| 婷婷综合色五月天| 九月激情网| 亚洲欧洲中文日韩久久AV乱码| 九色激情| 超碰com| 中文字幕日韩无码制服诱或| 成人超碰Av| 五月丁香好婷婷A片网| 黄桃AV无码免费一区二区三区| 色婷婷在线电影| 影音先锋91| 狠狠狠人妻| 亚洲综合另类| 国产欧美日韩综合精品一区二区| WWW色色色COM| 99热这里只有99| 激情婷婷五月天日本系列| 九九热黄色| 9热成人在线视频| 在线日韩视频| 精品A√| 99久热这里只有精品| 久久五月天 91| 热中文字幕| 国产在这里只有精品| 久久这里只有精品99| 激情婷| 99超在线| www.99婷婷| 五月综合人妻| 性色人人爽| 亚洲激情另类| 国产熟妇的荡欲午夜视频| 久久九九玖玖| 综合五月激情网| 色99在线| 激情五月天综合网| www色婷婷com| 开心激情站| 色婷狠狠| 久久婷婷五月天激情唯美| 操97| 人人操女人| 天天成人丁香美女AV| 欧美99热| 97色婷婷五月天| 亚洲欧洲中文日韩久久AV乱码| 另类图片五月天| 色五月婷婷久久| 国产va视频| 五月婷婷丁香91| 婷婷五月丁香综合激情小说| 久久精品五月天| 免费99色| 五月婷婷六月丁香在线视频| 亚洲中字AV电影在线网站| 激情五月婷黄版| 亚洲最大在线| www,超碰| 欧美五月丁香| 狠狠色婷婷综合开心影视| 天色综合网站| A久久| 久久免费丁香| 天天天天操| 丁香五月天堂亚洲社区| 天天干天天干天天干天天干天天| 99色色视频| 五月丁香久久网| 婷婷中文字幕| 色婷婷五月天激情| 久久9精品| 国产在线黄色| 欧美久久网| 99久久久久久| 综合视频久久| 久操婷婷| 国产免费一区二区在线A片视频| 91九色精品女同系列| 丁香五月色五月| 久草九九| 超碰人人超碰| 久久五月激情| 这里只有精彩视频| 五月丁香六月激情综合网| 五月天婷婷在线视频| 色婷婷影院| h在线看免费版在线看| 欧美情月伍月天| 丰满人妻一区二区三区| 激情婷婷综合| 色婷婷很很十八禁| 日操夜撸| 超级碰碰碰碰视频| 99视频在线播放大全| 大香蕉Av在线| 99热99美国在线观看| 日韩人妻无码专区| 91狠狠色丁香婷婷综合久久精品| 精品人妻伦一二三区久久| 激情小说五月丁香在线视频观看视频| 久久久99精品免费观看| 丁香五月激情澎湃一区| 色婷婷电影网| 丁香五月婷婷乱| 免费视频无码| 丁香婷婷婷五月| 99人妻碰碰碰久久久久视| 99操视频| 99热久久这里只有精品| 黄网在线免费| 亚洲va在线∨a天堂va欧美va| 手机旧版看人妻1025| 婷婷色影院| 91大屁股| 欧美精品久| 天天干天天操天天拍| 色色色精品无码区| 亚洲天堂玖玖| 婷婷射丁香| 中文不卡一二三区| 婷婷激情五月天激情小说| 亚洲中文字幕av| 五月天开心色情网| 综合玖玖偷拍| 五月婷在线观看| 能直接看的AV网站| 综合五月丁香97| 丁香五月色| 亚洲精品激情| www.99婷婷| 五月开心播播网| 久久综合首页| 这里只有精品视频在线观看免费| 成人免费视频一区| www,com,五月色色| 9l视频自拍9l九色成人| 综合色色五月| 婷婷五月天最新综合你懂的| 任你爽视频| 激情五月天无人视频在线| 国产成人av在线播放| 91狼友视频网页更新| 五月婷婷激情综合av| 成人婷婷桔色| 色婷婷色综合久久精品V| 久久婷婷综合基地| 丁香五月婷婷综合视频| 五月99久久| 26uuu亚洲| 天天做天天摸| 色婷婷4| 2017狠狠干| 色约约视频一区二区三区四区五区 | 国产成人网| 激情婷婷护士激情| 国产亚洲精品久久久久久郑州| 久热只有精品| 色五月丁香五月激情五月激情| 一起草日本| 丰满老熟妇BBBBB搡BBB| 亚洲AV中文在线| 色婷婷激情五月天在线观看| 婷婷五月天色色| 久9免费视频| 久久激丁香| 婷婷综合五月天| 色婷婷大香蕉| 99久久精品网| 色波激情五月天| 激情综合色图| 色综合色婷色基地| 丁香五月激情图片婷婷| 五月色网| 操操自拍| 久久久久丁香婷婷五月天| 深爱五月中文字幕| 色五月丁香五月激情五月激情| 婷婷五月天综合亚洲| 五月丁香久久| 97精品综合| 人人操日| 亚洲国产色色| 五月婷婷婷婷婷| 五月丁香色婷婷熟女| 91九色视频| 五月丁香亭亭操逼| 亚洲一级AV在线免费播放| 丁香五月婷婷久久久| 国产熟妇乱子伦hd| 久久久天堂国产精品女人| a久久| 婷婷五月天色播| 9999久久久久| 91超碰人人操| 中文字幕AV在线播放| 波多野结衣AV无码Porn| 影音先锋 一区| 五月婷婷狠狠久久| 99日热在线视频| 精品日本视频444| 久久男人网婷婷| 大香蕉在线99热| 色色色九九九五月婷婷| 日韩人妻AV在线| 人妻视频一区而且二区| 啪啪五月婷婷| 丁香五月天社区婷婷| 午夜日韩久久久网站| 精品一区二区三区三区| 亚洲综合欧美色丁香婷婷888月图片| 六月婷婷综合网2| 综合玖玖偷拍| 激情婷婷五月天在线观看| 亚洲成人乱码av网站| 激情五月天啪啪| 亚洲精品国产精品乱码不99| 99久热| 天天插综合在线| 精品一二三区视频立| 亚洲舔观看| 玖玖资源站蜜臀| 日日懆天天懆| 91人人爽久久涩噜噜噜| 色综合伊人网| 色色丁香| 婷婷成人综合| 五月天啪啪啪| 久久婷婷丁香花综合网| 九九综合九色欧美狠狠| 五月天婷婷色色首页| 9精品视频在线| 国产亚洲在线| 99超碰人人| 婷婷五月色| 97婷婷丁香五月| 怡红院视频| 亚洲情色一区| 色五月丁香五月| 五月婷婷啪啪啪啪| 丁香六月婷婷激情| 日本WWW九九九| 99激情网| 99精品久久久久久久婷婷久久 | 色丁香久综合在线久综合在线观看| 激情婷婷啪啪| 婷婷五月综激情| 婷婷俺去也| 综合色99| 色五月婷婷丁香凹凸| 久久五月网| 开心亚洲久久开心| 色婷婷六月| 另类视频五月天| 色婷婷成人久久| 五月丁香激情啪啪| 夜夜夜叫天天天做| 五月婷婷色影院| 国产3p露脸普通话对白| 99人人看| 色五月aV| 天天日天天舔| 国产精品久久久久久喷浆| 五月天大香蕉AV| 婷婷五月天Av| 99热在线成人网站| 性爱视频99| 伊人超碰在线| 色玖玖| 五月丁香中文| 五月丁香综合| 欧美日韩婷婷五月天| 婷婷色色网| 久久色五月天激情小说| 99热综合| 4399在线观看免费高清黄色视频| 99热精品网| 啊V视频在线观看| 五月天婷婷Av| 色视频2025| 天天综合五月| 日操熟女| 亚洲色五月天在线| 五月天婷婷綜合院| 久久婷婷五月天大香蕉| 一区二区中文字幕| 六月婷婷色色色| 男人的天堂av俄罗斯热| 激情综合自拍五月婷婷色五月| 综合网啪| 伊人久久大香线蕉AV最新午夜| 激情丁香婷婷五月天| 欧美日韩成人在线观看| 91Chinese在线| 91丨九色丨白浆秘| 五月天婷婷激情| 激情人妻蜜夜系列区| 丁香五月 综合| 亚洲视频99| 婷婷狠狠操| 嫩BBB槡BBBB搡BBBB视频| 操人91| 99精品在线观看视频| 五月综合久久| 五月婷婷综合色啪首页| 婷婷丁香六月影视| 久久五月情| 色色网五月激情| 182.t午在线观看| 六月香五月婷| 少妇性BBB搡BBB爽爽爽电影| 六月丁香啪| 99热这里有精力| 综合久久8| 五月丁香美女| 这里只有精品视频| 五月天色导航婷婷资源婷婷| 丁香五月综合激情啪啪| 欧美月久久| 婷婷五月天伊人| 在线播放成人| 99久在线精品99re8热| 天堂成人A片永久免费网站| 色婷婷手机在线| 超碰人人色| 那里有AV网址| 欧美成人精品三区综合A片| 色五月开心婷婷| 啊v视频在线观看| 久久久久久久久久久久久久人妻视频|