免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

基于RKE的Rancher管理平臺(tái)遷移:備份恢復(fù)與下游集群重連

基于RKE的Rancher管理平臺(tái)遷移:備份恢復(fù)與下游集群重連 最近我把一套跑在RKE集群上的Rancher管理平臺(tái)從舊機(jī)器整體遷到了新環(huán)境。Rancher本身不復(fù)雜復(fù)雜的是它管理的一堆下游集群——每個(gè)下游集群里的agent都只認(rèn)原來(lái)的server-url和證書。遷移過(guò)程中先后經(jīng)歷了備份、恢復(fù)、agent重連、證書替換最后還要處理一堆歷史配置殘留。這篇文章把我這次基于RKE部署的Rancher管理平臺(tái)遷移的完整過(guò)程、關(guān)鍵命令和后來(lái)復(fù)盤出來(lái)的幾個(gè)坑都寫出來(lái)希望給要做同樣事情的人一個(gè)參考路徑。全文涉及Rancher版本與K8s版本的對(duì)齊、backup operator備份恢復(fù)、下游集群重連驗(yàn)證以及幾個(gè)我在遷移過(guò)程中踩過(guò)的典型問(wèn)題。1. 先想明白R(shí)KE架構(gòu)下Rancher遷移到底在遷什么1.1 RKE與Rancher的分工梳理RKERancher Kubernetes Engine是一個(gè)通過(guò)一條命令拉起Kubernetes集群的工具它用cluster.yml描述節(jié)點(diǎn)信息和集群配置執(zhí)行rke up后生成一套可用的K8s集群。而Rancher是跑在這套集群上的容器化應(yīng)用通過(guò)helm chart安裝到cattle-system命名空間用來(lái)管理它所在的local集群以及其他外部集群。這兩個(gè)層次一定要分清楚RKE負(fù)責(zé)“蓋房子”Rancher負(fù)責(zé)“住進(jìn)去做管理”。遷移的時(shí)候房子要重新蓋但里面的家具、賬本、住戶登記信息都要盡量原樣搬過(guò)去。這里的“賬本”主要就是Rancher在K8s里持久化的各種自定義資源CRD、configmap、secret、RBAC以及底層etcd中的狀態(tài)。1.2 為什么不能直接“打包拷貝”很多人第一次接觸Rancher遷移時(shí)會(huì)想Rancher不是一堆容器嗎把鏡像、數(shù)據(jù)目錄復(fù)制過(guò)去不就行了實(shí)際上Rancher管理平臺(tái)的狀態(tài)高度依賴Kubernetes的API對(duì)象和etcd它內(nèi)部還有多個(gè)controller通過(guò)watch機(jī)制同步信息。直接拷貝鏡像和靜態(tài)文件完全沒(méi)有意義因?yàn)镽ancher生成的密碼、token、私鑰存在secret里單獨(dú)復(fù)制一份出來(lái)并不代表可用對(duì)象之間的引用關(guān)系必須一起帶過(guò)去。下游集群通過(guò)agent和Rancher保持心跳agent里記錄的是server-url和證書信息單純復(fù)制會(huì)導(dǎo)致agent指向錯(cuò)誤的地址。Kubernetes本身是分布式系統(tǒng)它的etcd數(shù)據(jù)包含節(jié)點(diǎn)IP、證書等不能把一套集群的etcd直接丟給另一套集群用。可以把這個(gè)過(guò)程類比成搬家搬家具容易但你得先把戶籍、水電燃?xì)膺@些登記信息同步過(guò)去不然新家里通電通水了原來(lái)的賬單還是寄到舊地址。遷移的本質(zhì)是“數(shù)據(jù)、身份、網(wǎng)絡(luò)信任”三者的整體搬遷。1.3 遷移完成后的目標(biāo)狀態(tài)遷移完成后我們希望達(dá)到如下?tīng)顟B(tài)新集群上的Rancher版本和舊環(huán)境一致或者至少滿足升級(jí)兼容矩陣。登錄賬號(hào)、權(quán)限角色、全局設(shè)置、用戶密碼全部保留。下游集群仍然被Rancher管理agent自動(dòng)重新注冊(cè)。審計(jì)日志、監(jiān)控配置等可選組件按需保留。為此遷移前需要把舊環(huán)境的信息完整記錄下來(lái)建議用表格逐項(xiàng)填寫Rancher版本、Helm chart版本、K8s版本、RKE版本、server-url、證書類型、外部認(rèn)證方式、下游集群數(shù)量、以及是否有自定義的CRD或存儲(chǔ)配置。記錄項(xiàng)示例值用途rancher/rancher鏡像版本v2.7.8新環(huán)境安裝時(shí)需要對(duì)應(yīng)helm chart版本103.1.5避免restore時(shí)版本沖突rke --versionv1.4.10新環(huán)境RKE版本對(duì)齊server-urlhttps://rancher.example.com下游agent連接的關(guān)鍵證書類型受信CA證書 / 自簽證書決定是否要遷移私鑰認(rèn)證方式本地用戶 / LDAP / OIDC決定外部認(rèn)證是否需要二次配置下游集群數(shù)量7個(gè)遷移后驗(yàn)證清單1.4 常見(jiàn)遷移方案對(duì)比方案ARancher backup-restore-operator備份恢復(fù)。在舊集群安裝backup operator創(chuàng)建Backup CR把Rancher關(guān)鍵資源resourceSet備份到S3兼容對(duì)象存儲(chǔ)或本地路徑新環(huán)境反向操作Restore。優(yōu)點(diǎn)是備份粒度精準(zhǔn)、官方維護(hù)、適合遷移場(chǎng)景。缺點(diǎn)是這個(gè)工具只覆蓋Rancher自身狀態(tài)底層K8s的網(wǎng)絡(luò)插件、ingress等需要另建。方案B對(duì)承載Rancher的K8s集群做etcd快照然后在新環(huán)境用相同的RKE配置重建集群再恢復(fù)快照。優(yōu)點(diǎn)是Rancher本身幾乎無(wú)感知。缺點(diǎn)是對(duì)新舊環(huán)境的pod CIDR、service網(wǎng)段、甚至node名稱一致性要求很高靈活性差不太適合換機(jī)器、換機(jī)房的場(chǎng)景。方案C全新部署Rancher再手工配置或通過(guò)API遷移用戶、項(xiàng)目。優(yōu)點(diǎn)是環(huán)境干凈。缺點(diǎn)是工作量大、極易遺漏而且有很多不可復(fù)制的內(nèi)容比如agent注冊(cè)token、審計(jì)日志歷史、部分CRD狀態(tài)。方案優(yōu)點(diǎn)缺點(diǎn)適用場(chǎng)景backup operator遷移官方維護(hù)、粒度精準(zhǔn)、狀態(tài)完整只覆蓋Rancher資源換機(jī)器、換機(jī)房、版本不變或小版本升級(jí)etcd快照恢復(fù)整個(gè)集群狀態(tài)整體搬遷對(duì)網(wǎng)絡(luò)段、節(jié)點(diǎn)名要求高純硬件遷移且網(wǎng)絡(luò)規(guī)劃不變?nèi)虏渴鹗止づ渲脽o(wú)歷史包袱工作量大易遺漏舊環(huán)境已不可用且業(yè)務(wù)允許重建我這次采用的是方案A為主B作為備選兜底。這也是官方推薦路徑下文主要圍繞它展開(kāi)。2. 動(dòng)手前先把家底盤清楚必須帶走的數(shù)據(jù)和狀態(tài)2.1 資源清單不止cattle-system一個(gè)命名空間Rancher在K8s里并不是只往cattle-system里寫數(shù)據(jù)。備份的時(shí)候至少要考慮這些對(duì)象cattle-system命名空間Rancher pod、service、相關(guān)configmap。cattle-pipeline流水線相關(guān)配置。cattle-logging、cattle-monitoring、cattle-alerting日志、監(jiān)控、告警配置如果沒(méi)啟用就沒(méi)有。management.cattle.io組下的CRDCluster、Project、User、GlobalRole、Setting、Token等。secret包括admin密碼hash、服務(wù)賬戶token、agent注冊(cè)token等。RBAC自定義的角色綁定和權(quán)限設(shè)置。使用backup operator時(shí)它默認(rèn)的resourceSet已經(jīng)覆蓋了這些主流對(duì)象。實(shí)際操作中我在Backup CR里顯式使用官方預(yù)置的resourceSetName這樣不容易漏。不建議手工指定一堆命名空間因?yàn)楹苋菀茁┑裟硞€(gè)CRD等恢復(fù)后缺數(shù)據(jù)再排查就很被動(dòng)了。2.2 版本和配置信息盤點(diǎn)遷移前必須記下來(lái)除了數(shù)據(jù)還有幾類配置信息必須提前記錄。否則遷移到一半會(huì)發(fā)現(xiàn)server-url指向舊地址AI大模型都救不了你rancher/rancher鏡像版本以及helm chart版本用helm ls -n cattle-system查看。RKE版本用rke --version查看。K8s版本用kubectl version查看或者看RKE cluster.yml里的kubernetes_version。server-url在Rancher UI的全局設(shè)置里查看這是下游agent連接的關(guān)鍵。認(rèn)證方式如果用的是本地用戶備份里有密碼hash恢復(fù)后原密碼仍可用如果接的是外部LDAP或OIDC遷移后需要在新環(huán)境重新配置認(rèn)證提供方地址或信任關(guān)系。ingress證書類型自簽還是受信CA簽發(fā)。如果在遷移中更換域名或IP證書也要同步更新。強(qiáng)烈建議把上面這些寫到一個(gè)固定文檔里遷移過(guò)程中每一步都對(duì)照著核對(duì)。我的經(jīng)驗(yàn)是文檔里漏掉一個(gè)版本號(hào)后面恢復(fù)時(shí)可能多花兩個(gè)小時(shí)來(lái)排查。2.3 備份實(shí)操安裝backup operator并創(chuàng)建Backup CRbackup operator通過(guò)helm chart安裝命名空間是rancher-backup。安裝完成后創(chuàng)建一個(gè)Backup CR結(jié)構(gòu)類似apiVersion: resources.cattle.io/v1 kind: Backup metadata: name: rancher-backup spec: storageLocation: s3: bucketName: my-rancher-backups region: ap-east-1 endpoint: s3.example.com resourceSetName: rancher-resource-set encryptionConfigSecretName: backup-encryption-secret幾個(gè)字段的意圖說(shuō)下storageLocation備份文件存到S3兼容對(duì)象存儲(chǔ)也可以配置local存到節(jié)點(diǎn)路徑。生產(chǎn)環(huán)境建議S3兼容存儲(chǔ)方便新環(huán)境讀取。encryptionConfigSecretName可選。如果舊環(huán)境有敏感數(shù)據(jù)需要加密就得用同樣的加密配置否則新環(huán)境restore時(shí)解不開(kāi)。resourceSetName官方預(yù)置的資源集默認(rèn)使用rancher-resource-set。創(chuàng)建后觀察狀態(tài)等狀態(tài)變?yōu)镃ompleted表示備份完成。備份文件會(huì)生成一個(gè)tar.gz包里面是包含Rancher資源和CRD定義的一個(gè)清單。備份成功后確認(rèn)一下輸出的文件名后面Restore要用到。提示關(guān)于加密secret如果舊集群里配置了新集群安裝backup operator時(shí)也要把這個(gè)secret一起建出來(lái)并且內(nèi)容一致否則restore會(huì)直接失敗。這是最容易忽略的坑。2.4 備份完成后的驗(yàn)證備份狀態(tài)Completed不代表萬(wàn)事大吉。建議先下載備份文件確認(rèn)tar.gz包大小不是0字節(jié)再用tar解壓看一眼里面的資源列表。我遇到過(guò)備份文件生成成功但因?yàn)镾3接口兼容問(wèn)題文件內(nèi)容是殘缺的到restore階段才暴露。提前解壓驗(yàn)證幾秒的事能省下后面一整天的排查。3. 新環(huán)境搭建RKE拉起集群時(shí)的版本對(duì)齊與資源規(guī)劃3.1 版本對(duì)齊是遷移的第一原則先決定新環(huán)境的K8s版本。原則是新集群的版本與舊集群一致或者至少位于Rancher版本對(duì)應(yīng)的支持矩陣之內(nèi)。版本差太大的話Rancher chart在restore過(guò)程中可能出現(xiàn)CRD版本沖突、API group變更等問(wèn)題導(dǎo)致升級(jí)不動(dòng)、pod起不來(lái)。RKE本身也分版本舊環(huán)境用哪個(gè)版本生成的RKE新環(huán)境最好也用同一個(gè)版本。RKE生成的集群里kube-system下的一些組件版本和配置會(huì)有細(xì)微差異版本不一致會(huì)加大后面排查的難度。另外如果這次遷移同時(shí)想升級(jí)Rancher大版本我的建議是分兩步走先按舊版本遷移穩(wěn)定運(yùn)行后再做升級(jí)。不要邊遷移邊升級(jí)一次只引入一個(gè)變量否則出了問(wèn)題你不知道是遷移導(dǎo)致的還是升級(jí)導(dǎo)致的。3.2 cluster.yml的關(guān)鍵配置保持一致性在RKE集群的cluster.yml里有幾個(gè)參數(shù)會(huì)影響Kubernetes網(wǎng)絡(luò)層和證書層遷移時(shí)盡量跟舊環(huán)境保持一致network.plugin最常用canal或flannel新舊環(huán)境建議一致。services.kube-controller的service_cluster_ip_range與cluster_cidr集群內(nèi)部地址段建議保持與舊集群一致。如果變了Rancher里已存在的服務(wù)路由和網(wǎng)絡(luò)策略可能會(huì)出問(wèn)題。kubernetes_version保持同版本。nodes配置可以用新的主機(jī)名和IP這是允許變化的因?yàn)镵8s節(jié)點(diǎn)身份會(huì)重新生成。老規(guī)矩改節(jié)點(diǎn)IP沒(méi)問(wèn)題但pod CIDR和service網(wǎng)段不能隨意改遷移后很多已創(chuàng)建的服務(wù)地址和網(wǎng)絡(luò)策略都是基于原網(wǎng)段的。3.3 新環(huán)境節(jié)點(diǎn)資源規(guī)劃Rancher管理平臺(tái)自身不重但也不要太寒酸。承載Rancher的K8s集群至少用3個(gè)節(jié)點(diǎn)組成etcdcontrolplane角色生產(chǎn)建議每個(gè)節(jié)點(diǎn)4核8G起步磁盤用SSD并且40G以上。如果還要在下游集群上使用監(jiān)控、告警資源再往上浮。RKE要求節(jié)點(diǎn)能訪問(wèn)公開(kāi)鏡像倉(cāng)庫(kù)或者提前把鏡像推到私有倉(cāng)庫(kù)并在cluster.yml里配置registry認(rèn)證。新環(huán)境的節(jié)點(diǎn)時(shí)間同步也一定要做好K8s證書和agent錨定時(shí)間偏差太大會(huì)直接握手失敗。這些基礎(chǔ)項(xiàng)出了問(wèn)題后面恢復(fù)Rancher時(shí)出現(xiàn)的報(bào)錯(cuò)會(huì)非常奇怪。3.4 初始化后先做基礎(chǔ)驗(yàn)證別急著恢復(fù)執(zhí)行rke up之后先用kubectl get nodes -o wide確認(rèn)所有節(jié)點(diǎn)Ready再用kubectl get pods -A確認(rèn)kube-system和ingress-nginx的pod全部Running。這時(shí)候先不要急著裝Rancher或者做restore先把網(wǎng)絡(luò)層驗(yàn)證一遍。比如隨便跑一個(gè)測(cè)試服務(wù)確認(rèn)集群內(nèi)部DNS正常、pod之間可以通信。等基礎(chǔ)集群穩(wěn)定后再用helm安裝Rancher chart。安裝時(shí)用一個(gè)臨時(shí)的bootstrapPassword即可后續(xù)會(huì)被備份數(shù)據(jù)覆蓋。4. 恢復(fù)數(shù)據(jù)那一刻backup operator restore實(shí)操細(xì)節(jié)4.1 恢復(fù)前置準(zhǔn)備新環(huán)境恢復(fù)之前先把backup operator裝上命名空間同樣是rancher-backup。這一步和舊環(huán)境安裝基本一致需要注意兩點(diǎn)如果備份時(shí)用了encryptionConfigSecretName新環(huán)境要先創(chuàng)建同名secret內(nèi)容保持一致。如果備份文件在S3兼容對(duì)象存儲(chǔ)新環(huán)境要確保網(wǎng)絡(luò)可以訪問(wèn)這個(gè)地址尤其是私有化部署的對(duì)象存儲(chǔ)防火墻規(guī)則要提前配好。4.2 restore CR的編寫restore CR示例apiVersion: resources.cattle.io/v1 kind: Restore metadata: name: rancher-restore spec: backupFilename: rancher-backup-xxx.tar.gz storageLocation: s3: bucketName: my-rancher-backups region: ap-east-1 endpoint: s3.example.com resourceSetName: rancher-resource-set prune: true幾個(gè)字段的意圖backupFilename必須指向備份時(shí)生成的文件名。prune恢復(fù)時(shí)是否刪除目標(biāo)集群中已有的、不在備份里的Rancher資源。強(qiáng)烈建議設(shè)為true否則新環(huán)境安裝Rancher chart時(shí)會(huì)預(yù)創(chuàng)建一些默認(rèn)對(duì)象和備份數(shù)據(jù)混在一起容易沖突。storageLocation和備份時(shí)保持一致。創(chuàng)建restore后backup operator會(huì)在cattle-system里啟動(dòng)Rancher pod并恢復(fù)數(shù)據(jù)期間UI可能短時(shí)不可用需要耐心等。觀察restore狀態(tài)到Completed再刪除restore對(duì)象。4.3 恢復(fù)后的首次登錄和原始憑據(jù)恢復(fù)完成后Rancher會(huì)自動(dòng)重啟。用舊環(huán)境的管理員賬號(hào)密碼登錄如果用臨時(shí)bootstrapPassword是登不進(jìn)去的。如果舊環(huán)境密碼也沒(méi)記錄在恢復(fù)前提前從舊集群的secret里把a(bǔ)dmin密碼hash導(dǎo)出或者干脆在遷移前重置一次管理員密碼并記錄下來(lái)。登錄之后全局設(shè)置里的server-url非常關(guān)鍵。如果新環(huán)境地址變了要立刻改過(guò)來(lái)。改server-url時(shí)Rancher會(huì)嘗試重新生成下游集群的agent注冊(cè)配置。4.4 為什么順序必須是先有Rancher基礎(chǔ)chart再restore有人問(wèn)為什么不能在一臺(tái)空K8s集群上直接安裝backup operator然后restore因?yàn)閞estore本質(zhì)上是把Rancher自身的資源對(duì)象覆蓋進(jìn)去但它沒(méi)有能力重建Rancher chart全部初始化流程所依賴的骨架。比如cattle-system命名空間的基礎(chǔ)對(duì)象、ingress、serviceAccount等。先安裝Rancher chart可以把這些骨架搭好然后再用備份數(shù)據(jù)覆蓋血肉。骨架和血肉來(lái)自同一個(gè)版本時(shí)最穩(wěn)。4.5 恢復(fù)后的第一輪驗(yàn)證登錄Rancher UI后先看全局設(shè)置、用戶列表、角色權(quán)限是否完整。再進(jìn)入local集群看節(jié)點(diǎn)負(fù)載是否正常。此時(shí)下游集群大概率顯示Disconnected不用慌這一步正常下一步處理。5. 遷移后最麻煩的部分下游集群怎么重新接回Rancher5.1 失聯(lián)原因分解下游集群失聯(lián)的直接原因通常是agent注冊(cè)時(shí)保存的server-url還是舊地址DNS切換后連不上。證書不匹配TLS握手失敗。Rancher服務(wù)端生成的新token沒(méi)有分發(fā)下去。防火墻或安全組沒(méi)放行新的管理集群端口??梢赃@么理解下游集群的agent就像一臺(tái)老式電話機(jī)號(hào)碼簿里記的還是舊號(hào)碼。你要讓Rancher這邊的座機(jī)先確認(rèn)自己的新號(hào)碼然后想辦法把新號(hào)碼通知給所有電話機(jī)。5.2 先讓server-url和證書確定下來(lái)遷移后第一件事是把全局設(shè)置里的server-url改為最終對(duì)外地址并確認(rèn)證書有效。如果地址變化導(dǎo)致證書不匹配通常需要更新Rancher ingress的TLS secret換成覆蓋新地址的證書。在Rancher UI的Settings里觸發(fā)配置刷新。之后下游集群的agent如果自動(dòng)重連失敗再手動(dòng)重發(fā)。如果舊環(huán)境用了自簽證書遷移時(shí)要保留私鑰和完整證書鏈不能只帶一個(gè)crt。私鑰不匹配的話agent全部握手失敗報(bào)的都是x509錯(cuò)誤。5.3 自動(dòng)重連與手動(dòng)兜底大部分情況下只要server-url正確、網(wǎng)絡(luò)通暢cattle-cluster-agent和cattle-node-agent會(huì)在幾分鐘內(nèi)恢復(fù)正常。判斷方法在Rancher UI查看下游集群的狀態(tài)從Disconnected慢慢變回Active。在下游集群執(zhí)行kubectl get pods -n cattle-system看cattle-cluster-agent和cattle-node-agent是否Running。如果仍異常查看agent日志常見(jiàn)的是x509證書錯(cuò)誤或request timeout。手動(dòng)兜底路徑在Rancher UI進(jìn)入對(duì)應(yīng)集群的編輯頁(yè)面找到Registration Token重新生成或查看kubeconfig。拿到該集群的agent manifest。在下游集群里刪除舊的agent Deployment/DaemonSet讓它們重新拉取最新配置。更直接的做法在目標(biāo)集群對(duì)應(yīng)頁(yè)面用Edit Cluster重新保存一次Rancher會(huì)重新下發(fā)注冊(cè)命令。5.4 驗(yàn)證每類角色的狀態(tài)可以用一張表輔助驗(yàn)證檢查對(duì)象參考命令預(yù)期結(jié)果Rancher管理集群節(jié)點(diǎn)kubectl get nodes全部ReadyRancher podkubectl get pods -n cattle-systemRunning下游集群cattle-cluster-agentkubectl -n cattle-system get podsRunning或重建后正常下游集群cattle-node-agentkubectl -n cattle-system get daemonset正常調(diào)度Rancher UI集群列表集群管理-集群狀態(tài)為Active5.5 證書和token的實(shí)操經(jīng)驗(yàn)如果要保留原有自簽證書新環(huán)境必須把舊證書的私鑰、證書鏈完整帶入不能只帶一個(gè)crt。如果是遷移后重新簽發(fā)證書那么下游集群必須能通過(guò)新地址驗(yàn)證服務(wù)端身份否則agent全部握手失敗。比較省事的做法是遷移后直接換成受信CA簽發(fā)的域名證書一勞永逸。還有一個(gè)細(xì)節(jié)Rancher的agent注冊(cè)token是有有效期的如果遷移間隔太久token可能已經(jīng)過(guò)期。這種情況下重新生成新token即可。6. 復(fù)盤走過(guò)的彎路典型失敗場(chǎng)景與排查鏈路6.1 場(chǎng)景一恢復(fù)后Rancher UI起來(lái)了但登錄一直報(bào)錯(cuò)我遇到過(guò)restore完成后頁(yè)面反復(fù)提示Unauthorized的情況。排查下來(lái)發(fā)現(xiàn)是臨時(shí)裝的Rancher chart和備份數(shù)據(jù)的版本不一致導(dǎo)致admin用戶相關(guān)CRD沖突。解決方法是把Rancher chart卸載重新裝到與舊環(huán)境一致的chart版本再restore。所以恢復(fù)前核對(duì)chart版本絕對(duì)不要省。這一條異常重要。6.2 場(chǎng)景二下游集群顯示Disconnectedagent日志報(bào)TLS錯(cuò)誤agent日志里的典型錯(cuò)誤是certificate signed by unknown authority或x509: certificate is valid for xxx。這說(shuō)明agent拿到的證書和當(dāng)前server-url不匹配。處理步驟確認(rèn)server-url和實(shí)際訪問(wèn)地址一致。確認(rèn)ingress證書是新地址的有效證書。在下游集群刪除cattle-system下agent相關(guān)pod強(qiáng)制重建。如果還不行直接在Rancher里重新生成registration token并apply。6.3 場(chǎng)景三新集群上的Rancher pod一直ImagePullBackOff新環(huán)境通常還沒(méi)配好鏡像倉(cāng)庫(kù)的登錄信息特別是從私有鏡像倉(cāng)庫(kù)拉Rancher鏡像時(shí)。處理手段是提前在節(jié)點(diǎn)上配置docker login或者在cluster.yml和Rancher chart的values里配置imagePullSecrets。舊環(huán)境用了哪些鏡像建議提前導(dǎo)出鏡像清單避免新環(huán)境臨時(shí)找鏡像。6.4 場(chǎng)景四prune沒(méi)開(kāi)恢復(fù)后Rancher里混著一堆重復(fù)對(duì)象臨時(shí)安裝的Rancher chart會(huì)預(yù)創(chuàng)建默認(rèn)的集群對(duì)象。如果restore時(shí)prune沒(méi)開(kāi)備份里沒(méi)有的默認(rèn)對(duì)象會(huì)留在系統(tǒng)里看起來(lái)像多出來(lái)幾個(gè)服務(wù)或項(xiàng)目。它們的資源類型和正常對(duì)象混在一起排查很費(fèi)勁。所以restore時(shí)prune盡量設(shè)成true。6.5 排查思路的層次總結(jié)幾條排錯(cuò)順序第一層網(wǎng)絡(luò)通不通。從下游集群節(jié)點(diǎn)執(zhí)行curl -k https://新server-url:443。第二層證書對(duì)不對(duì)。檢查證書域名、有效期。第三層server-url對(duì)不對(duì)。在Rancher全局設(shè)置里看。第四層Token和agent配置有沒(méi)有更新??碼gent日志和registration token。第五層版本和CRD有沒(méi)有沖突。看Rancher pod日志和CRD版本。按這個(gè)順序走大部分問(wèn)題的根因都能定位到前四層。如果真的到第五層基本就是版本規(guī)劃的問(wèn)題需要回到備份和chart版本匹配這條線上重新對(duì)齊。6.6 一個(gè)小建議遷移前先完整演練一遍如果你的環(huán)境比較復(fù)雜比如下游集群非常多、有自定義RBAC、有外部認(rèn)證強(qiáng)烈建議先搭一個(gè)臨時(shí)環(huán)境完整演練一遍備份、恢復(fù)、下游重連、驗(yàn)證。演練過(guò)程能暴露大部分問(wèn)題也會(huì)讓你對(duì)restore的耗時(shí)和UI中斷時(shí)間有預(yù)期真遷的時(shí)候心里有底?;氐介_(kāi)頭說(shuō)的那次遷移。整個(gè)過(guò)程讓我印象最深的不是restore那一下而是備份清單和版本記錄是否完整。只要這些基礎(chǔ)信息是齊的遷移就像按照地圖走一遍反過(guò)來(lái)最基礎(chǔ)的版本不匹配就能讓你卡住半天。以后再接到類似的Rancher遷移任務(wù)我會(huì)先花半小時(shí)盤點(diǎn)版本、server-url、證書和備份文件再動(dòng)手。遷移窗口期盡量選在業(yè)務(wù)低峰restore過(guò)程中的UI中斷時(shí)間通常不會(huì)太長(zhǎng)但下游集群重新注冊(cè)的時(shí)間取決于集群數(shù)量和網(wǎng)絡(luò)狀況??傮w來(lái)看基于RKE部署的Rancher遷移只要把握住數(shù)據(jù)、身份、網(wǎng)絡(luò)信任這三件事不會(huì)出大問(wèn)題。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久久婷丁香五月| 开心五月婷婷激情网| 激情综合网激情五月网| 丁香综合婷婷开心激情网| 久99视频| 成人视屏在线观看| 国产无人区大片| 丁香婷婷少妇| 五月香蕉综合| 婷婷五月天成人在线视频| JlZZJlZZ8JlZZ亚洲熟女| 色久影院| 无码动漫av| 精品人妻伦| 啪啪五月综合| 色J香五月天| 婷婷丁香花五月天| 99九九玖玖| 亚洲日比视频| 久久九九99视频| 五月婷婷六月天| 激情网综合| 99久久丝| 色之综合网| 久久东京热婷婷五月| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 久久激情视频| 天天操无码| 色天天综合| 久久五月天激情美女| 欧美 日韩 成人| 97夫妻超碰| 狠狠综合网| 91狠狠综合网| 99色在线观看| www.婷婷久久五月天| 9精品视频在线观看| 五月天婷婷久久| 看片视频在线免费日产在线看| 另类五月婷婷| 麻豆123区| 99啪啪| 丁香五月婷婷综合激情啪啪啪啪啪啪啪 | WWW.开心五月天.COM| 狠狠爱综合| 成人啪啪色婷婷久| 久久伊人婷| 色五月情| 九久久九精品视频| 婷婷激情五月天桃花网| 99ri视频在线观看| 精品99视频| 国产一区18| 97久操视频| 五月叮香啪| 热久久色| 日日日,com| 欧美久热| 99亚洲大片精品永久在线观看| va中文资源在线观看| 这里只精品| 99爱在线| 欧美婷婷五月天| 这里有精品2| 五月婷导航| 人妻久久久久久久久久| 色综合大香蕉| 逼特逼在线免费播放| 中文字幕乱码亚洲精品一区| 色婷婷色| 婷婷第六色| 激情网第四色| 中文字幕,综合,91| 激情综合在线观看| 9精品久久999| 一本色道久久88加勒比—| 婷婷午夜综合| 色婷婷婷婷成人网| 91大神操美女| 激情6月| 九九综合网色全集| 天天在线久久综合| 爆乳熟妇一区二区三区爆乳照片| 狠狠干.com| 婷婷影院欧美| 五月丁香啪啪拍| 激情五月六月婷婷| 欧美性猛交99久久久久99按摩| 久热久69| 婷婷五月天 偷拍| 人人做人人看人人摸| 色色综合色| 久久久大香蕉| 综合婷| 五月丁香猫咪久久婷婷综合视频激情四射网入口 | 99久久综合| 怡红院AV亚洲一区二区三区H| 五月婷婷黄网站大全| 激情AV中文| 色婷婷五月天中文字幕| 六月丁香婷婷综合在线| 日韩成人中文| 婷婷色五月噜噜| 天天日天天爱天天噪| 九九热黄色| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 六月婷婷激情图片| 综合久久首页| 狠狠干五码| 婷婷五月综合社区| 国产操肏网站| 99爱这里只有精品免费视频| 五月成人丁香av91| tingting五月天亚洲| 26UUU欧美| 婷婷亚洲综合| 夜夜涩涩涩| h亚洲| 黄色片久久| 亚洲色图45p| 女高怪谈在线观看| 久婷婷久草| 色色永久| 国产真人做爰视频免费| 五月天 综合 在线| 色情婷婷| 天天草天天爱| 久久久国产精品黄毛片| www.狠狠狠狠| 久草婷婷网| 五月综合亚洲色| 2017狠狠干| 99ri6在线视频| 婷婷综合五月激情| 天天干人人奸97| 丁香五月婷婷亚洲色图| 色综合五月天| 色婷婷六月综合| 亚洲中文字幕AV| 伊人热婷婷| 婷婷丁香激情五月天色色| 婷婷婷婷色| 免费亚洲成人电影AV| 色播丁香婷婷五月激情| 婷婷丁香黄色| 九九性爱网| 亚洲成人av在线播放| 婷婷五月花西瓜| 少妇高潮呻吟A片免费看软件| 99爱视频精品在线观看| 婷婷五月天影院| 色久婷婷五月| 婷婷五月欧美综合| 狠狠五月激情丁香六月| 色五月婷婷综合在线| 色综合另类| 影音先锋91视频| 综合图区激情| 色99色| 激情丁香五月| 日日操夜夜操狠狠操| 热99在线| 99re思思精品在线观看| 亚洲蜜乳AV| 操操操Av| 日本本土色网第一区| 久久久久人妻| 色色哒五月婷婷六月丁香| 婷婷丁香五月天之开心少妇| 色热久| www.91久久| 色婷婷视频在线| 婷婷欧美色| 伊人综合网站| 色色性爱视频| 99国产小视频2013| 黄色片avv| 99热在线成人网站| 就是色婷婷五月亚洲色| 五月天婷婷久色| 人妻体体内射精一区二区| 婷婷丁香六月影视| 丁香久月婷| 久99综合婷婷| 激情综合色| 精品无码片| 26uuu精品一区二区| 久婷| 五月婷婷丁香日韩在线| 啪啪激情网| 狠狠色噜噜狠狠色噜噜噜999| 搡BBBB搡BBB搡18| 这里只有精彩亚洲视频推荐| 国产99热在线看| 婷婷色五月91啪啪| 五月丁香成人网| 天天干夜夜欢| 国产成人亚洲综合A∨婷婷| 五月开心婷婷极品激情| 欧美啪啪五月天| 激情五月婷婷五月| 欧洲色色| 久久99成人性爱高清视频| 久热精品在看| 五月天婷婷色播综合在线| 亚洲婷婷欧美婷婷| 婷婷激情欧美| 日韩色色网| 熟妇高潮一区av| av大香蕉| 女婷久久| 六月丁香五月婷婷| 色婷婷五月中文字幕在线dvd| 丁香五月天黄色片| yazhochengrenavwang| 激情丁香婷婷| 久久婷婷五月天| www.五月丁香av| 丁香六月啪| 日本久久久97| 欧美情色电影一区二区| 天天色播| 九九Av| 丁香五月五月婷婷| 操啊操av| 日日操,夜夜爽| 亚洲小视频免费播放| 丁香五月 无码| www99热| 色综合大香蕉| 五月婷六月| 99热99艹在线观看| 92久久精品一区二区| www.91在线观看| 99热这里只有免费| 深爱激情网综合| 99色色网站| 色色爽爽天天| 午夜天堂啪啪| 97色婷婷| 六月婷婷无码| 玖玖资源部在线播放| 婷婷丁香色情| 色综合久久久久| 婷婷人人操| 97成人在线视频精品| 久久久五月天婷婷| 欧美人人超级碰| 婷婷五月娱乐在线| 丁香五月激情月| 色婷婷最新域名| www.ywav| 欧美成人日韩| 色哟哟精品| 久婷婷色| 久久久人妻不卡| 色色五月丁香婷婷| 人人色婷婷五月天| 日日想日日夜日日操| 日本婷婷综合精品| 欧美天天干天天草| 99视频精品在线| 五月婷婷六月丁香综合在线| 区美毛片子| 色色色五月婷| 色五月成人| 五月丁香六月激情在线| 国产露脸150部国语对白| 亚洲国产精品二二三三区| 亚洲综合另类| 婷婷五月激情黄色| 99久久精品国产色欲| 色吊丝永久访问网址| 97色图片中文字幕视频在线观看 | 免费亚洲婷婷| 亚洲99热| 玖玖@三月天天丁香婷婷| 婷婷五月天久| 噜噜干日本| 性色播| AAAA亚洲| 久久性爱视频网站| 狠狠穞A片一區二區三區| 能看的AV| www.久操| 亚洲夜五月| 天天天天天操| 9久热在线视频精品| 1024国产| 色五月色综合| 人人摸人人操人人爽| 日韩成人av在线| 精品无码色| 婷婷五月综合视频免费播放| 五月天婷婷丁香| 国产婷婷婷| 野外99热| 亚洲婷婷五月草久| 这里只有精品视频| 69超碰在线| 亚洲热久| 成人网丁香五月| 五月天久久91| 日韩中文字幕| 99热自拍| 久热免费视频| 丁香色色五月| 性 色 婷婷| 情久久综合五月天| 精品成人无码A片观看香草视频| 99er精品视频| 97精品人人A片免费看| 色综合五月| 9久视频| 99视频这里只有久久精品 | 久久a热| 色护士综合| 五月总合激情网| 亚洲色色香蕉| 情欲禁地| 色宗合,宗合网| 婷婷五月天在线观看| 五月丁香综合激情| 另类图片色五月| 天天做 天天爱| 99热这里只有精品66| 日本97在线看片| 丁香婷婷人妻| 99综合视频一体| 一起操 91N.com| 激情五月综亚网| 激情五月综合| 日日噜狠狠| 这里只有精品1| 九九色婷婷五月天| 日韩六十路91性交电影| 91碰碰碰| 五月婷婷中字在线| 日本丁香五月| 99亚色色色| 99精品久久久久| 亚洲AV成人精品网站在线播放| 五月婷婷高清| 夜夜爱网站| 狠狠爱五月婷婷| 9热在线| 91日韩在线| 9999三级片| av在线免费网站| 五月丁香亚洲婷婷| 婷婷五月色惰| 亚洲成人无码网站| 9999三级片| 久色大| 人妻五月天激情开心网| 婷婷五月天小说| 日韩激情网站| 久久精品五月天| 色五月激情综合| 色婷婷亚洲婷婷| 婷婷综合av| 99无码视频| 九九九九九九毛片| 久久精品婷婷| 亚洲激情淫网| 激情五月婷婷视频| 情趣视频66| 超碰在线资源| 天天综合色丁香| 久婷婷五月综合欧美| www.婷婷五月天| 91九色欧美| 九九热99视频| 婷婷5月天激情综合| 亚洲妇女熟BBW| 深爱婷婷色| 不卡在线超碰| 91九色中文字幕女在线观看| 色综合激情| 五月天激情综合网站| 99精品在线观看| 婷婷玉月丁香五月在线视频| 日本理论久久| 狠狠干夜夜干| 五月婷婷视频ab| 五月天伊人久久| 国产精品国产| 再次出发二| A片试看120分钟做受图片| 丁香五月,激情五月,深爱五月| 婷综合六月| 丁香八月综合激情| 欧美精品狠狠色丁香婷婷| 五月丁香色婷婷久久| 淫视馆AV在线| 亚洲欧洲自拍图片专区五月天| 久久婷婷七月丁香| AV在线大香蕉| 亚洲噜色| 91丨九色丨国产打屁股| 在线一起草av| 五月天伊人网| 五月激情天| 丁香五月激情宗合网| 亚洲妇女熟BBW| 99爱在线视频| 1995年关宝慧版蜘蛛女| 五月色网| 黄色91在线观看| 五月丁香六月婷婷啪啪| 五月丁香六月综合激情无码软件亮点 | 99久久婷婷国产综合精品| 五月天亚洲综合网| 婷婷五月天综合蜜桃| 久热久re| 亚洲精品乱码久久久久久综合| 五月天色色无码| 久色大| 色狠狠六月| 婷婷九月狠狠色| 激情内射人妻1区2区3区| 色婷婷亚洲婷婷在线观看| 伊人婷婷青青cao| 日本nghangse中文字幕| 欧美搡BBBBB摔BBBBB| 偷偷操99| 五月天啪啪| 99r久久这里只有精品| 亚洲成Av人片乱码色第1集| 五月天婷婷激情| 综合性爱网| 婷婷丁香五月天狠狠| 九九aV| 五月婷无码| 激情丁香五月| 色色婷| 99热这里都是精品| 亚洲视频99| 白天AV月月| 激情久久久| 91色在线 | 日韩| 色色综合网www| 亚洲综合成人网| 久久婷婷五月丁香网| 免费视频这里只有精品| 婷婷五月天六月综合| 99久久网站| 人人性久久| 丁香五月熟女| 欲求不满的人妻| 婷婷色五月91啪啪| 五月综合人妻| 草榴成人影片| 久9热插入| 激情五月天久久| 天天色情站| 九九精品热| 五月婷婷天| 国产成人AV在线播放| 激情五月六月婷婷| 深爱五月激情五月| 玖玖婷婷色五月| 国产亚洲色婷婷久久99精品91| 夜夜躁爽日| 亚洲人妻五月丁香婷婷| 日韩99精品| 这里有精品2| 婷婷五月天开心激情网| 激情综合网五月激情| 丁香涩涩爱| 99久久大片| 久久九九热视频| 五月亭亭直播| 色播婷婷大香蕉| 九久9精品| 五月天激情小说| 日日操夜夜爽| 青草视频在线播放| 伊人大香久久| 欧美丁香五月97色| 六月亚洲婷婷6月中文字幕| 99re思思| 狠狠操狠狠做| 婷婷97碰碰| 久激情网| 国产又色又爽又黄又免费| 超碰免费人| 五月色婷丁香| 欧美色图天堂网| 色婷丁香五月| 99久久玖玖| 婷婷五月色色| 五月天色图| 欧美婷婷色| 岛国资源站| 久热AA| 婷婷6月综合网| w婷婷五月婷婷w| 五月情婷婷| 五月丁香福利| 伊人五月婷| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 婷婷丁香社区| 99er免费在线观看| 五月天激情国产综合婷婷婷| 国产精品美女| 99日在线观看视频| 九九热九九热精品| 狠狠狠色激情综合适合| 精品久久99| 婷婷五月天综合久久日美女| 国产激情综合五月久久| 五月丁查人人| 欧美性做爰大片免费看办公室| 综合另类激情| sS丁香五月婷婷| 激情五月婷婷丁香| 成人国产欧美大片一区| 五月激情婷婷综合| 久色资源网| 天天天天操| 色久一| 91精品熟女| 99re这里只有| 色五月婷婷成人| 九九激情综合| 色五月激情网| 色域五月丁香| 婷婷五月天综合蜜桃| www.久久99热地址发布| AV在线免费观看不卡| 精a品a视a频| 五月人妻婷婷视频| 玖玖婷婷五月天毛片| 激情小说五月天社区丁香| 天天爱夜夜爽| 婷婷狠狠干| 五月天五月色婷婷综合| 欧美久久婷婷| 99色五月| 综合网亚洲| 97在线99| 色播五月天天| 丰满少妇猛烈A片免费看观看| 色色五月婷婷久久| 精品人妻久久久久久| 亚洲国产精品二二三三区| 深夜男女福利刺激影院一区完整| 五月天婷婷综合网| 国产a视频| 久久66精品| 欧美成人AAA片一区国产精品| av网址在线| 色五月婷婷在线| 久久日婷婷| 无码激情精品色婷婷久久久久 | 五月丁香婷婷成人网| 国产激情久久| 五月天综合视频| 五月丁香av中文| 久久精品99久久久久久| 91婷婷丁香五月| 色色热| 六月婷基地| 婷五月天| 热五月婷婷| 开心激情婷婷| 区啪精品| 五月综合视频| 九九99香蕉在线视频播放| 天天热夜夜操| 超级碰 久久9| 人人爱人人摸人人澡| 99网址在线观看| 久久机热这里只有 | 91视频久久久| 精品人妻伦一二三区久| 日本系列_4页_777FP| 婷婷五月激情丁香| 色域五月婷婷丁香| 成人在线网址| 丁香婷婷激情综合五月激情| 内射爽无广熟女亚洲| 天天日天天插天天操| 人妻久久久久久久 | 欧美丰满熟妇BBB久久久| 99热9| 激情小说五月天| 六月婷婷网| 99色爱| 久久久五月婷婷| 任你搞免费视频观看| 国产裸舞表演WWWW| 婷婷九月亚洲| 日韩色色视频| 天堂AV在线看| 亚洲自拍天堂| 超碰在线人妻| 婷婷五月天成人基地| 五月丁香 狠狠爱| 欧美性爱五月天| 人人操97| 激情视频综合| 色五月久久成人婷婷| 超碰只有精品在线| 96精品久久久久久久久| 天天玩天天摸| 婷婷五月色| WWW五月| xx久久| 欧美精品99久久久| 婷婷丁香五月高清| 91操片| 欧美精品中文字幕亚洲专区| 五月婷婷香| 九九综合视频在线观看| WwW色婷婷| 色婷婷狠狠18| 99精品视频在线免费观看| 99se丁香| 涩五月婷婷| 亚洲成人va| 天天综合网91| 青青操日本摸摸看看| www.婷婷五月| 亚洲欧美999| 五月婷婷三级| 九月丁香婷婷网| 婷婷丁香18| 五月六月激情| 安息电影在线观看完整版| 久久久日韩特色特黄AAAA| 国产免费AV网站| 久色五月婷婷综合| 激情九月婷婷| 91视频免费后入强操| 色色五月婷| 综合性爱网| www.日日夜夜| 日本99久久| 五月婷婷狠狠久久| 99视频| 99九色视频在线观看| 色婷婷先锋| 亚洲综合色色| 五月婷久久草| 99碰碰。| 成人亚洲精品久久久久| 亚洲精品视频在线播放| 97超级啪啪在线观看| 大香网伊人久久综合| 日日夜夜小色哥| 夜夜涩涩涩| 婷婷涩五月| 99色五月| 色色五月丁香婷婷综合| 婷婷五月丁香亚洲| 99国产精品久久久久久久久久久| 伦乱天堂| 久久9视频| 狠狠操狠狠操| 日韩欧美四五区| 丁香婷婷五月天校园春色| 欧美啪啪9| 小泽玛利亚视频一区二区| 丁香激情综合| 婷婷五月综合性爱| 国产 码在线成人网站| 丁香六月啪| 久久综合性| 国产激情av| 丁香婷婷九月| www.色综合.com| 天天摸天天透天天舔| 99re视频精品| 夜夜综合色| 欧美人人草| 99久久超级| 亚韩精品视频1区| 亚洲V国产V欧美V久久久久久| 色综合天天综合成人网| 久久久婷| 国产暴力强伦轩1区二区小说| 五月天激情婷婷| 色五月激情网| 天堂久久丁香| 天天操天天插天天射| 影音 五月 婷婷 久久| 91男人资源站| 人操人| 中文字幕欧美久久| 国产熟女一区二区三区五月婷| 五月婷婷激情网| 啊v视频在线观看| 色婷婷狠狠爱| 91dy.av| 人妻操在线看| 天天干,夜夜爽| 亚洲综合视频网| 99热这里有精品| 午夜不卡久久精品无码免费 | av国产精品偷| 加勒比色色| 婷婷涩五月天综合| 色情五月天丁香社区| 日本精品99| 五月丁香综合| 成人超碰Av| 天天操夜夜肏| 影视av久久久噜噜噜噜噜三级| 五月丁香久久网| 欧美经典片免费观看大全| 艹B高清无码| av无码电影| 国产韩日亚洲美州欧亚综合在线| 欧洲精品欧洲情| 无码任你操| 成人精品在线| 久久五月婷综合| 五月天丁香婷婷社区| 国产亚洲精品人人| 97色色在线视频| 九九热精品| 日产精品一线二线三线芒果| 免费AV在线网址| 亚洲色婷婷色| www.minyis.com【JT】实力收量可预付QQ2101460746 | 五月丁香婷婷啪啪综合网| 五月丁香亭亭| 色一情一乱一伦一区二区三区| 激情五月天第四色| 青青草性爱视频| 丁香婷婷成人网| 噜噜视频| 变态 另类 在线| 在线中文字幕av| 欧美性爱5月天天天看| 国产成人网| avh片在线观看| 五月丁香六月综合情在线观看| 色婷婷五月天小说网| 婷婷基地爱| 丁香六月天婷婷| 婷婷五月激情综合| 综合网激情| 久久久亚洲精品一区二区三区浴池| 色五月婷婷激情基地| 国内婷婷丁香社区在线播放| 婷婷五月丁香六月| 婷婷五月欧美AA片免费| 色婷婷五月综合在线| 婷色五月天| 麻豆AV一区二区三区| 在线视频另类| www激情| 香蕉视频性爱BB做爱| 色五月婷婷中文字幕在线观看 | 99在线资源| 久久激情四射| 激情欧美婷五月| 天天日夜夜爽| 欧美色色色色色色色| 色99色| 欧美日韩国产一二区| 五月婷在线色视频| 99这里都是精品| 99热偷拍| 六月丁香婷婷综合狠狠爱夜夜爱| 久久五月天 91| 激情五月天网页| 欧美在线97| 激情爱爱网站| 综合五月婷婷| 午夜日日| 综合在线色婷婷| 97超碰欧美中文字幕| 激情婷婷五月天在线观看| 免费看欧美成人A片无码| 久久综合丁香五月| 99精品视频网| 久久久久这里都是精品| 亚洲天天操| 日本99久久| 久久五月丁香| 丁香五月在线人妻| 婷婷在线激情| 香蕉婷婷色五月| 五月天久久网站| www99久久| 伊人五月婷婷| 久热超碰| 天天爽夜夜操| 五月婷婷和六月| 超碰99在线观看| 色综合久久88色综合天天人守婷| 天天干一干| 操逼在线视频| 亚洲狠狠终合停停终合| 六月婷婷久久| 五月亭亭欧美女人| 色色五月丁香婷婷| 色色婷婷丁香| 中文字幕网伦射乱中文| 国产成人VA| 久久曰9| 九九热在线99| 五月深爱激情网| 色约约视频一区二区三区四区五区 | 五月丁香六月欧美综合| 97色精品视频 | 六月色婷婷欧美| 97人碰人操| 九九99久久| 色婷婷综合久久久久| www色色com| 天天激情夜夜干| 婷婷情色五月| 日韩人妻无码专区| 成人久久天天x资源站| 欧美A A A A A| 激情婷婷丁香| 狠狠五月天婷婷| 中文字幕在线视频播放| 久久视频婷婷视频| 成人色情五月天婷婷丁香| 秋霞网在线免费基地五月婷婷丁香| 中文久久婷婷| 激情五月天无码| 色五月色五天色情网址| 91人妻PORNY九色大屁股| www.25五月婷婷| 激情五月天婷婷丁香| 99在线视频播放| 五月色导航| 99热国产婷婷| 怡红院AV亚洲一区二区三区H| 婷婷五月中文在线视频| 大香蕉久久伊人婷婷五月丁香| 欧美成人猛片AAAAAAA| 国产精品爽爽久久久久久| 思思热国产视频| 欧美超碰亚洲| 人人草人人舔| 伊人婷婷色| 清色五月天| 九九九日本熟女| 在线看九一V图片| 久99久视频| 成 人 色 色| 丁香婷婷五月天网站| 热99一二三| 97在线观视频免费观看| 婷婷99狠狠躁天天| 国产五月天欧美色| 色色99色色| 999精品乱码77777| 色婷婷91激情小说| 八戒青柠影视剧在线观看| 天天综合精品| Www,五月天| 久99热| 99精品久久久久| 中国AV性爱观看| 成人操呦av| 夜夜爱伊人| 超碰在线94| 成人中文网| 五月综合色| 丁香六月婷婷久久综合| 激情六月综合| 久99久热只有精品国产99| 人人澡天天色天天做| www.久久久久久| 伊人丁香五月婷婷潮吹| 蜜桃成语时李时珍 免费| 五月丁香六月情| 香蕉人在线香蕉人在线 | 婷婷丁香五月综合激情视频| 婷婷五月天影视网址| Xx色综合| 婷婷丁香六月| 大香蕉天堂| 99丁香婷婷综合网| 久久caop| 狠狠干五月| 精品一二三区久久AAA片| www.久久| 天天草天天爽| 欧美精品99久久久| 狠狠狠狠狠干| 99热精品在线在线| 五月天六月色| 操一区| 狠狠色综合网| 99久久婷婷| 丁香六月婷| www.夜夜操| 99热超碰在线| 丰满女老板BD高清A片| 天天射影院| 香蕉AV福利精品导航| 人妻av在线| 久久 婷婷 五月天| 久久婷婷成人综合色怡春院| 99ri精品| 看片视频在线免费日产在线看| 97人人超| 五月天激情小说| 激情小说五月天| 亚洲字幕AV一区二区三区四区| 天天射影院| 操操综合网婷婷| 金桔一区二区ab地址| www.婷婷,com| 91无码高清| 色情五月综合婷婷| 91色久| 婷婷五月激情小说| 久久黄色片| 婷婷94s| 91九色中文字幕女在线观看| 五月丁香久人妻中文| 婷婷丁香人妻天久久| 天天色综和网| 激情五月天婷婷视频| 丁香5月婷婷| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 婷婷香五月综合激情| 五月香六月婷| 激情深爱五月天| 久久a热| 日韩成人无码| 91视频久久久| 97福利视频| 五月婷婷免费视频| 激情五月婷黄版| 国产操碰| 大香蕉综合视频在线| 日韩精品一区二区刘| 99性视频| 开心五月深爱五月婷| 婷婷五月在线观看| 色色色色热| 亚洲丁香婷婷| 婷婷丁香综合在线| 99婷婷| 99视频网| 淫视馆aV二区一区| 久热99中文字幕| 五月丁香色婷婷久久| 2050人人操免费工开爱| 丁香五月天成人| 精品久久99码| 西西4r午夜剧场| 亚洲激情AV| 蜜桃五月天色| 日韩成人无码人妻| 婷婷五月成人社区| 色综合色色| 国产综合网在线| 五月丁香偷拍| 五月婷婷日| 欧美综合五月丁香六月婷| 久久婷婷五月综合色播| 六月婷婷激情图片| 亚洲人操亚洲人| 美女va| 色色A| 丁香五月婷婷综合啪啪| 日韩久热| 六月丁香婷婷综合在线| 大香蕉久久视频久久视频 | 91丁香五月| 婷婷五月天综合色| 色呦呦美女| 综合狠久久| 安息电影在线观看完整版| 丁香六月五月天| 婷婷五月久久| 激情综合网五月在线播放| 五月天婷久精视频| 色中色综合| 91九色精品| 五月叮香啪| 99热热热99精品丁香| 五月丁香六月色婷婷综合五月天| 激情六月综合| 丁香五月天影院| 五月丁香色情| 这里有精品| 欧洲区自拍| 亚洲成人乱码av网站| 91精品综合久久久久久五月丁香| 超碰在线9| 精品久久人妻| 另类图片五月天婷婷| 婷婷色日本| 婷婷五月天av| 婷婷丁香六月综合激情站| 99人人干| 久久婷五月综合| 丁香五月综合| 99色日本| 五月婷婷在线视频| 久久久精品99| 九九这里都是精品| 香蕉色色网| 婷婷成人五月天成人文学小说| 日韩一区二区A片免费观看| 九九热这里都是精品6| 亚洲成人五月天| 欧亚洲在线高清视频| 久久婷网| 五月婷婷激情性爱| 五月婷婷av| 色婷婷综合久久久久| 91色在线/日韩| 午夜九九九九九九九九九九九九九| 99热亚洲| 99热主页日本| 色玖玖爱| 丁香五月婷婷亚洲人| 亚洲九区| 五月天天天操天天爽夜夜操| 涩五月婷婷| 开心五月丁香综合久久| 久久精品一区二区三区四区| va中文资源在线观看| 嫩草极品| www.99情趣网| 7777精品伊人久久久大香线蕉最新版| pacopacomama 070722_670 素人奥様初撮りドキュメント 103 大久保純子 | 天天日夜夜草进麻麻的子宫| 欧美在线| 好激情在线综合网| 婷婷激情啪啪| 任你搞网站| 任你爽视频| 国产亚洲色婷婷久久99精品91| 五月色导航| 丁香伊人五月色婷婷五十路| 无套内射极品大美女| 性视频久久| 丁香六月综合激情| 九九热手机在线视频| 亚洲 欧洲 国产 伦综合| 欧美va在线观看| 欧美色图45678| 五月婷婷五月天| 99re最新地址| 中文字幕黄色片| 丁香五月婷婷基地| 色女伊人| 亚洲AV日韩无码| 人妻内射一区二区在线视频| 中文乱子伦视频| 成人av观看| 国产乱子轮XXX农村| 思思热这里只有精品| 国产成人网址| 青吴乐视频| 超级碰碰91| 五月综合六月丁| 六月婷婷久久| 欧美搡BBBBB摔BBBBB| 亚洲久久激情| 色10月婷婷视频| 婷婷五月天综合亚洲| 中文资源在线a | 亚洲综合九九| 这里只有精彩视频| 婷婷色五月婷婷姐妹| 99艹精品在线观看| 久久婷婷五月天| 婷婷五月天综合小说网| 国产伦理精品高清在线观看网站一区二区 | 六月丁香成人| 欧美一级色| nvrentiantang av| 思思99精品视频在线观看| 91丁香色五月| 婷婷五月色| www.91在线观看| 五月婷无码| 欧美精品999| 久久婷婷五月天丁香| 99精品热| 久久五月天色婷婷| 三级成人网站| 色五月首页| 亚洲免费电影2| 伊人99热| 久久五月丁香婷婷| 99热6这里之有精品| av在线观看网站| wwww.色婷婷| 专区无日本视频高清8| 在线中文字幕视频| 色五月丁香五月天| 无码中文一区二区三区| 色五月婷婷基地| 超碰色女| 久久六月婷婷| 少妇高潮呻吟A片免费看软件| 狠狠干综合网| 日日懆天天懆| 婷婷色播综合五月| 五月丁香六月婷综合成人综合| 冬月かえでAV无码播放| 人妻有码乱操| 日本色婷婷| 五月丁香天堂网| 六月丁香中文字幕| 六月丁香色婷婷| 五月天电影网| 夜夜夜天天操| 婷婷久月| 超碰人人操人人干| 国产精品人妻在线网址| 野外99热| 涩五月丝袜婷婷| 亚洲六月色| av一级棒av| 日本精品人妻无码77777| 婷婷五月婷婷| 亚洲九区| 六月丁香啪啪啪| 婷婷丁香18| 六月婷婷五月丁香| 激情综合一| 久久婷婷五月综合| 五月天婷婷无码| 天天操婷婷| 色色激情五月天| 人妻久久久久久久 | 亚洲AVwwwwwww| 无码激情AAAAA片-区区| 久久怡红院| 亚洲亚洲人成综合网络| 国产超碰在线| 嫩草AV久久伊人妇女超级A| 99国产精品久久久久久久久久久 | 性爱网五月天| 天天色综网| 色色网站在线| 天天爽天天操| 色五月丁香com| httpwww色com日本| 色综合色综合色综合| 婷婷中文字幕在线| 成人免费高清在线播放| 丁香五月激情啪| 热的国产99热| 蜜桃婷婷丁香五月天狠狠久久综合| 日日婷婷不卡| 这里只有精品网站| 激情五月天 婷婷| 日日日日日| 97视频91| 五月婷婷六月色| 五月婷婷啪啪| 成人在线视频网| 中文字幕成人| 久操婷婷| 狠狠操天天干| AV大片在线播放| 啪啪啪丁香五月| 伊人久久大香线蕉av一区| 九九视频免费| 欧美色色色| 色婷婷www| 五月婷婷片| 5月丁香综合图区| 超碰人人操人人9| 在线播放中文字幕| 五月天色导航| 五月丁香六月情| 美国十月色婷婷在线观看| 五月丁香啪啪啪综合网| 国产精品久久久久久久久久久久| 五月丁香狠狠爱婷婷综合| 玖玖婷婷婷丁香五月| 99视频色在线观看| 国产日韩亚洲欧美在线观看| 亚洲无码99| 91久热| 欧美色偷偷大香| 亚洲精品成人| 婷激情五月| 五月天啪啪| 九九99久久| 亚洲激情五月| 人人色性网| 夜夜爱伊人| 成人视频网| 91碰超| 色青五月天| 综合久久综合久久| 久草丁香婷婷1024| 另类在线| 日日操天天爽| 精品人妻一区| 欧美日韩成人在线免费| 色。 日日日| 免费精品99| 丁香伊人激情| 99热亚洲| 影音先锋五月婷婷| 久久精典| 热99这就是精品视频| 国产67194| 日hao1区| 99福利视频| 激情第四色| 激情五月婷婷她| 在线综合婷婷| 99亚州综合精品成人网| 亚洲精品成人片在线播| 侠女刀之记忆电影在线看免费| 婷婷 伊人 久久| 97超碰99热99| 日韩一66精品| 99色视频| 六月丁香婷婷综合狠狠爱夜夜爱| 秋霞三及片| 北京熟妇搡BBBB搡BBBB| 色色婷| 五月天色色婷婷| 久久婷婷原创视频| 激情校园 亚洲| 久久久久久久人妻| 青青草色在线视频观看| 色婷婷五月天不卡| 中文字幕成人网站| 免费色色色| 亚洲AV成人在线| 五月丁香激情综合啪啪| 五月丁香六月婷婷操操操| 99久99久| 丁香五月婷婷六月婷| 99久久99九九99九九九| 91丨九色丨熟女高潮| 成人在线视频一区| 夜夜爱爱亚洲| 久久久久人妻网址| 综合久久综合综合| 婷婷五月丁香久久| 婷婷丁香综合网| 99热日| 大色鬼综合| 99区视频| 99精品偷自拍| 五月丁香六月婷婷中合网| 中文av网| 人人爽在线视频综合网| 日本狠狠干| XXXX岛国| 激情六月天| 久久精品国产色| 日韩精品AV一区二区三区| 在线五月色播| a网站免费观看| 色九月激情综合网| 五月婷婷 激情按摩| 这里只有免费精品| 日韩成人影片在线观看|