免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

從Dockerfile到Compose與私有倉庫:容器交付鏈路避坑指南

從Dockerfile到Compose與私有倉庫:容器交付鏈路避坑指南 Dockerfile 自定義鏡像、Docker Compose 編排、Docker 鏡像倉庫這三件事幾乎是每個后端或運維同學繞不開的一組基礎能力。單看每一個都不難難的是把它們串成一條順滑的交付鏈路代碼改了鏡像能穩(wěn)定重建本地跑通換臺機器也能一鍵起來鏡像推到倉庫別人拉下來不會因為標簽亂飛而拉錯版本。我見過太多項目卡在中間某一環(huán)——Dockerfile 寫得像流水賬、Compose 文件復制粘貼改了三個月沒人敢動、私有倉庫起了一個卻因為證書問題全組改用別的方式傳鏡像。這篇就把這三塊按我實際踩過的順序拆開講從分層緩存的底層邏輯到 Compose 的健康檢查寫法再到私有倉庫的 TLS 配置和存儲回收每個環(huán)節(jié)都給出能直接抄的參數(shù)和命令也會說明我為什么這么選。剛接觸容器的新手可以照著做一遍已經(jīng)在用但總覺得別扭的老手大概率能在避坑那幾節(jié)找到共鳴。1. 先把三個東西的邊界理清楚很多人上手就把這三樣東西混在一起學結(jié)果腦子里是一鍋粥。我用一句話概括它們的分工Dockerfile 負責造Compose 負責組倉庫負責存和分發(fā)。造出來的東西要能被組起來組起來的東西要能被別人拿到這三步是一條線上的三個節(jié)點任何一環(huán)偷懶后面都會加倍還回來。1.1 一條鏡像從代碼到運行的完整鏈路我把一次完整的交付拆成六步你對照自己的項目看看斷在哪一步。第一步開發(fā)者本地寫代碼改完提交第二步CI 或者本機執(zhí)行docker buildDockerfile 逐條指令生成一層層文件系統(tǒng)快照最終產(chǎn)出一個帶標簽的鏡像第三步docker push把鏡像分層推到倉庫注意只有本地不存在的層才會真正上傳這也是為什么第二次推送往往快得多第四步目標機器docker pull按 manifest 里的 digest 把各層拉下來組裝第五步Compose 讀取 yaml創(chuàng)建網(wǎng)絡、掛載卷、按依賴順序起容器第六步健康檢查通過流量切進來。這條鏈路上有三個時間點特別關鍵構建時的緩存命中率、拉取時的層復用率、啟動時的就緒判斷。緩存命中率高構建就從幾分鐘降到幾十秒層復用率高一次發(fā)布只傳改動的那幾十兆就緒判斷做對了滾動更新才不會出現(xiàn)新容器還沒連上數(shù)據(jù)庫老容器已經(jīng)被干掉的尷尬。后面所有優(yōu)化本質(zhì)上都是在摳這三個點。我見過一個典型的反面案例某團隊把COPY . .放在 Dockerfile 第二行緊接著才RUN npm install。結(jié)果每次改一行 README整個依賴安裝層全部失效構建時間穩(wěn)定在四分鐘以上。把這兩行的順序調(diào)過來配合.dockerignore構建時間直接掉到二十幾秒。改動量不到五行收益卻是幾十倍這就是理解鏈路順序的價值。1.2 為什么我勸你徹底放棄 docker commit新手最容易走的捷徑是起一個基礎容器進去apt install、改配置、裝依賴折騰滿意了docker commit一下鏡像就有了。第一次這么干會覺得特別爽但它埋的雷比省的時間多得多。最直接的問題是不可復現(xiàn)。三個月后你需要在這個鏡像上加一個包誰也不知道當初在容器里手敲過哪些命令是改了/etc/apt/sources.list還是臨時下過一個二進制。第二個問題是體積失控commit 會把容器運行期間產(chǎn)生的所有臨時文件、日志、緩存全部固化進去一個本該 200MB 的鏡像能做到 1.5GB。第三個問題是沒有分層每次 commit 都是一整層新的推一次倉庫傳幾百兆團隊網(wǎng)速直接被拖垮。Dockerfile 的價值不在于能構建鏡像而在于它是一份可審查、可版本控制、可被他人復現(xiàn)的構建說明書。誰改了什么、為什么加這個環(huán)境變量git blame一目了然。所以我的態(tài)度很明確除了臨時排查問題任何時候都不要用 commit 產(chǎn)出要交付的鏡像。真要臨時進容器調(diào)試用docker exec -it進去看完就退別把改動當成成果。1.3 Compose 的適用邊界什么時候該上什么時候別硬上Compose 解決的問題是一臺機器上多個容器的協(xié)作關系。典型場景是應用 數(shù)據(jù)庫 緩存 反向代理四五個服務本地開發(fā)、測試環(huán)境、小規(guī)模單機部署都用得上。它的好處是把docker run那一長串參數(shù)固化進文件端口、卷、環(huán)境變量、網(wǎng)絡別名全部聲明式表達新人克隆倉庫就能跑起來不用問你那個數(shù)據(jù)庫密碼是多少。但它有明確的邊界。第一只管單機。多節(jié)點調(diào)度、跨主機網(wǎng)絡、自動擴縮容這些不是它的職責硬要往上疊就得引入額外的編排系統(tǒng)。第二沒有內(nèi)置的滾動更新和回滾docker compose up -d是停舊起新中間有短暫中斷對可用性要求高的服務得接受這點。第三配置漂移難發(fā)現(xiàn)如果有人docker exec進去手改了配置重啟就沒了這既是缺點也是優(yōu)點。我的判斷標準是單機、服務數(shù)量在十個以內(nèi)、不需要跨節(jié)點容災Compose 完全夠用別為了顯得專業(yè)提前上重編排運維成本會反過來咬你。等真的出現(xiàn)多機需求了再遷移那時候你對服務間的依賴關系已經(jīng)摸得很清楚遷移反而快。1.4 鏡像倉庫不只是存鏡像的地方很多人對倉庫的理解停留在能 push 能 pull 就行于是起個最簡陋的服務放內(nèi)網(wǎng)。用著用著就出問題誰都能推 latest某天線上拉到的 latest 和昨天的不一樣磁盤漲到 100% 才發(fā)現(xiàn)沒人清理出了安全問題想查某個鏡像里到底裝了什么版本的基礎鏡像是哪天的無從下手。一個真正可用的倉庫至少要提供四件事訪問控制誰能推、誰能拉、按項目隔離、標簽規(guī)范配合 CI 強制約束不允許裸推 latest、存儲治理保留策略 垃圾回收、可追溯鏡像 digest、推送人、推送時間。前兩項靠流程和倉庫自身能力后兩項靠定時任務。這幾件事在單機 registry 上要自己搭在企業(yè)級方案里通常是現(xiàn)成的。選型的時候別只看能不能跑起來要看半年后誰來維護它。2. Dockerfile把鏡像當代碼寫寫 Dockerfile 的正確心態(tài)是寫代碼——它會被 review、會被 diff、會在半年后被修改。所以可讀性、層數(shù)控制、緩存友好度都得在寫的時候就考慮進去而不是等構建慢到受不了再回頭重構。2.1 分層緩存是理解一切優(yōu)化行為的鑰匙Docker 構建鏡像時每條指令生成一層每層帶一個基于父層 ID 指令內(nèi)容算出來的哈希。構建時逐層比對一旦某層的哈希在本地緩存里存在就直接復用不再執(zhí)行。注意這里的關鍵哈希只跟指令文本和父層有關跟指令執(zhí)行的結(jié)果無關。這意味著只要指令字符串變了哪怕只是多一個空格這層和它之后的所有層全部失效。由此推導出的三條鐵律變化頻率低的指令放前面變化頻率高的放后面把安裝依賴和拷貝源碼徹底分開能用一條RUN干完的事別拆成三條。第三條的原理是每條RUN都是一層層數(shù)多了鏡像的元數(shù)據(jù)開銷變大而且中間產(chǎn)物沒法在同一條指令內(nèi)清理。舉個最常見的 Node 項目寫法我會這樣排FROM node:20-alpine AS base WORKDIR /app # 只拷貝依賴清單源碼變化不影響這一層緩存 COPY package.json package-lock.json ./ RUN npm ci --omitdev npm cache clean --force # 源碼放在最后 COPY . . CMD [node, server.js]npm ci比npm install更適合構建場景它嚴格按 lock 文件安裝結(jié)果確定而且會先清空 node_modules避免上次殘留污染。--omitdev跳過開發(fā)依賴npm cache clean --force在同一層里清掉緩存兩者加起來通常能省一百多兆。對比一下 Java 項目邏輯完全一樣只是清單文件換成pom.xmlFROM maven:3.9-eclipse-temurin-17 AS builder WORKDIR /build COPY pom.xml . RUN mvn -B dependency:go-offline COPY src ./src RUN mvn -B clean package -DskipTestsdependency:go-offline這一句是精髓它把依賴提前拉到本地倉庫形成一個獨立緩存層。實測下來沒加這句時改一行 Java 代碼要重下全部依賴加了之后增量構建基本在十秒級。注意COPY . .之前一定要有.dockerignore否則node_modules、.git、target這些目錄會被打進構建上下文光是傳輸上下文就能耗掉幾十秒而且可能覆蓋掉容器內(nèi)剛裝好的依賴。2.2 指令選擇的細節(jié)賬COPY和ADD的區(qū)別被講爛了但真正要緊的部分是ADD會偷偷解壓本地 tar 包、會去拉遠程 URL這兩個貼心功能會讓構建行為變得不可預測。遠程 URL 的下載不進緩存校驗內(nèi)容變了也不會觸發(fā)重建。所以除非你確實需要解壓一個本地壓縮包否則一律用COPY。RUN的寫法有個流傳很久但其實是錯誤的做法把apt-get update和apt-get install分成兩條RUN。分開寫的話update 那層會被緩存很久等你半年后新增一個包時install 用的是半年前的索引輕則裝到舊版本重則 404 直接失敗。正確寫法是合并成一條并在末尾清理RUN apt-get update \ apt-get install -y --no-install-recommends curl tzdata \ rm -rf /var/lib/apt/lists/*--no-install-recommends能擋掉一大批推薦包rm -rf必須在同一條指令里執(zhí)行否則刪除動作在下一層上一層的大小照樣算進鏡像。ENV和ARG常被混用。ARG只在構建期有效構建完就消失適合傳版本號、鏡像源地址這類構建參數(shù)ENV會寫進鏡像的配置里容器運行時也能讀到適合傳時區(qū)、語言編碼、運行模式。這里有個安全提醒不要把密鑰、令牌通過ARG或ENV傳進去它們會留在鏡像歷史里docker history一條命令就能看見。CMD和ENTRYPOINT的 shell 形式與 exec 形式的差異是信號處理問題的根源。寫成CMD node server.jsshell 形式實際啟動的是/bin/sh -c node server.js你的應用是 sh 的子進程PID 1 是 sh。sh 不會轉(zhuǎn)發(fā) SIGTERMdocker stop發(fā)信號后應用收不到只能等十秒超時被 SIGKILL 強殺優(yōu)雅關閉邏輯全部失效。寫成CMD [node, server.js]exec 形式node 直接是 PID 1信號正常。EXPOSE只是文檔聲明不實際開放端口真正映射靠-p或 Compose 的ports。但它是很好的自描述信息建議寫上。HEALTHCHECK后面在 Compose 那節(jié)細說它在鏡像里定義一次所有用這個鏡像的地方都繼承。2.3 多階段構建一個 Java 服務的體積從 800MB 到 180MB多階段構建是 Dockerfile 里收益最大的一招。核心思想編譯環(huán)境臃腫但只在構建期需要運行環(huán)境要精簡。用多個FROM階段最后一個階段只COPY --from前一個階段的產(chǎn)物。以 Spring Boot 為例不用多階段時通常是把 jar 拷進一個帶 JDK 的鏡像動輒七八百兆。改成下面這樣FROM maven:3.9-eclipse-temurin-17 AS builder WORKDIR /build COPY pom.xml . RUN mvn -B dependency:go-offline COPY src ./src RUN mvn -B clean package -DskipTests FROM eclipse-temurin:17-jre-alpine WORKDIR /app RUN addgroup -S app adduser -S -G app app COPY --frombuilder /build/target/*.jar app.jar USER app EXPOSE 8080 ENTRYPOINT [java, -XX:MaxRAMPercentage75, -jar, app.jar]最終鏡像只有 JRE 加一個 jar實測一般在一百八到兩百二十兆之間取決于依賴多少。里面有幾點值得說MaxRAMPercentage75讓 JVM 按容器內(nèi)存限制的百分比估算堆大小比寫死-Xmx更適應不同規(guī)格的部署adduser創(chuàng)建非 root 用戶USER切過去后面第 2.5 節(jié)細講COPY --frombuilder只搬 jarMaven 的本地倉庫、源碼、編譯中間件一概不帶。前端項目同理構建階段用 node 打包出靜態(tài)文件運行階段換成反向代理鏡像只把dist目錄拷過去鏡像能從 1GB 降到 50MB 左右。這種編譯環(huán)境和運行環(huán)境徹底分離的思路適用面比想象中廣任何需要編譯產(chǎn)物的語言都能用。2.4 基礎鏡像選型對照表與 musl 的坑基礎鏡像選錯后面要么體積下不來要么跑起來就崩。我按常見選項列個對照基礎鏡像類型體積量級優(yōu)點需要注意的地方alpine5–10MB極小攻擊面小用 musl libc某些預編譯二進制跑不了裝包用 apk命令和 apt 不同debian-slim25–40MB兼容性好glibc 完整比 alpine 大一圈包管理器是 apt完整發(fā)行版70–120MB工具齊全調(diào)試方便體積大無用包多distroless類20–60MB無 shell、無包管理器安全性高沒法進容器排查日志全靠應用輸出scratch0絕對最小完全空只適合靜態(tài)編譯的二進制Alpine 的坑值得單獨說因為我踩過。它的 C 運行庫是 musl不是廣泛使用的 glibc。純 Go 靜態(tài)編譯的程序、Python 的解釋器都沒問題但某些依賴 glibc 特性的預編譯二進制比如一些原生擴展、某些數(shù)據(jù)庫客戶端放進去會報not found或者奇怪的符號錯誤排查起來非常費勁因為報錯信息完全不指向根因。我的經(jīng)驗是不確定就先上 debian-slim等確認沒問題再往 alpine 遷。為了省那二十兆搭進去半天排查時間不劃算。distroless適合安全要求高的生產(chǎn)環(huán)境但沒有 shell 意味著出問題時你沒法exec進去看進程、看文件只能靠完善的日志和監(jiān)控。團隊排查能力沒到那個水平之前別用。2.5 安全性收尾非 root、只讀、健康檢查鏡像默認以 root 運行容器內(nèi)進程這在單機開發(fā)環(huán)境問題不大但在多租戶或者對外服務的場景里是明顯風險點。加一個普通用戶的成本極低RUN useradd -u 1000 -m -s /bin/bash appuser \ chown -R appuser:appuser /app USER appuser注意chown要在USER之前完成順序反了會因為沒有權限而失敗。另外創(chuàng)建用戶這一步盡量和后續(xù)的chown合并在同一條指令里避免多一層。時區(qū)是另一個高頻問題。容器默認 UTC日志時間比東八區(qū)差八小時排查問題時對時間戳能對到懷疑人生。做法是裝tzdata并設置環(huán)境變量ENV TZAsia/Shanghai LANGC.UTF-8 RUN ln -snf /usr/share/zoneinfo/$TZ /etc/localtime echo $TZ /etc/timezoneLANG也別漏某些應用在非 UTF-8 環(huán)境下處理中文會出亂碼尤其是日志輸出和文件讀寫。HEALTHCHECK健康檢查在鏡像里定義一次即可HEALTHCHECK --interval30s --timeout3s --start-period40s --retries3 \ CMD curl -fsS http://localhost:8080/actuator/health || exit 1start-period很關鍵它告訴 Docker 在這段時間內(nèi)的失敗不算數(shù)給應用留足啟動時間。沒有這個參數(shù)啟動慢的 Java 服務會被反復判定為不健康。注意檢查命令用的工具必須在鏡像里存在alpine 下curl默認沒裝要么裝要么換成wget。2.6 .dockerignore 與構建上下文.dockerignore是被嚴重低估的文件。它的作用和.gitignore類似但影響的是發(fā)送給 Docker 守護進程的構建上下文。這個上下文在構建開始時會被整個打包傳輸一個帶node_modules的前端項目上下文輕松幾百兆每次構建光傳輸就要幾十秒。我常用的模板.git .gitignore node_modules target build dist *.log logs .env.local .idea .vscode README.md docker-compose*.yml兩個細節(jié)一是不要忽略package-lock.json或pom.xml那是構建必需的二是如果一個文件既在.dockerignore里又被COPY引用構建會直接失敗報file not found很多人排查半天以為是路徑寫錯了其實是忽略了。3. Docker Compose把一組容器當一臺機器用Compose 文件寫得好不好看一個標準就夠了新人克隆倉庫docker compose up -d一條命令所有服務起來并進入可用狀態(tài)不需要看任何文檔。達不到這個標準說明還有環(huán)境變量、依賴順序或者初始化數(shù)據(jù)沒聲明清楚。3.1 compose.yaml 的結(jié)構骨架新版 Compose 已經(jīng)不需要頂層version字段寫了反而會收到一條廢棄警告。基本骨架是這樣的services: api: build: context: . dockerfile: Dockerfile image: registry.internal.example.com/team/api:1.4.2 ports: - 8080:8080 environment: TZ: Asia/Shanghai SPRING_PROFILES_ACTIVE: docker env_file: - .env.docker volumes: - app-logs:/app/logs networks: - backend depends_on: db: condition: service_healthy restart: unless-stopped healthcheck: test: [CMD, curl, -fsS, http://localhost:8080/actuator/health] interval: 30s timeout: 3s retries: 3 start_period: 40s db: image: postgres:16-alpine environment: POSTGRES_PASSWORD: ${DB_PASSWORD} volumes: - db-data:/var/lib/postgresql/data networks: - backend healthcheck: test: [CMD-SHELL, pg_isready -U postgres] interval: 10s timeout: 5s retries: 5 volumes: app-logs: db-data: networks: backend: driver: bridge幾個點展開說。build和image同時存在時docker compose build會按 Dockerfile 構建并打上image指定的標簽docker compose pull則直接拉這個標簽。這個組合在開發(fā)和生產(chǎn)之間切換很方便本地改代碼就 build服務器上直接 pull。environment和env_file可以并存前者優(yōu)先級更高。密碼這類敏感信息放env_file里并把該文件加入.gitignore操作用${DB_PASSWORD}變量引用Compose 會自動從同目錄的.env里讀。restart: unless-stopped是我最常用的策略。always的問題是手動停了也會被拉起來調(diào)試時很煩on-failure遇到正常退出就不重啟有些場景不合適。unless-stopped兼顧兩者崩潰自動拉起手動停止后保持停止。3.2 depends_on 與 healthcheck 的正確組合這是 Compose 里被誤解最深的一處。很多人以為depends_on: [db]就代表等 db 啟動好了再起 api實際上它只保證容器啟動順序db 容器一創(chuàng)建api 容器立刻開始啟動此時數(shù)據(jù)庫進程可能還在初始化、端口根本沒監(jiān)聽。結(jié)果 api 連接失敗重試幾次后放棄日志里一堆連接拒絕。正確做法是配合健康檢查depends_on: db: condition: service_healthy配合 db 服務上的healthcheck定義Compose 會等到健康檢查通過才啟動依賴方。pg_isready這類專用探針比curl更準確因為它檢查的是數(shù)據(jù)庫真實可接受連接的狀態(tài)不只是端口開著。健康檢查的參數(shù)需要根據(jù)服務特性調(diào)。數(shù)據(jù)庫這種啟動快但初始化慢的interval: 10s、retries: 5大概夠Java 應用啟動慢start_period: 40s甚至更長。start_period內(nèi)的失敗不計數(shù)這是給慢啟動服務的保護期設短了會誤判。還有一個常見誤解健康檢查通過只代表進程能響應探針不代表業(yè)務邏輯完全就緒。比如應用可能探針通了但緩存還沒預熱完。這種場景下更靠譜的做法是在應用里實現(xiàn)真正的就緒檢查接口把關鍵依賴數(shù)據(jù)庫連接池、配置加載、緩存連接都納入判斷探針打這個接口。健康檢查的質(zhì)量直接決定編排的可靠性。3.3 網(wǎng)絡、卷與環(huán)境變量的三層隔離Compose 默認會創(chuàng)建一個以項目名命名的網(wǎng)絡所有服務自動加入服務之間可以直接用服務名當主機名互訪。這個默認行為很方便但也容易造成全都通的混亂。我的習慣是顯式定義網(wǎng)絡并分組networks: frontend: backend: internal: true把數(shù)據(jù)庫和緩存放backend應用同時加入兩個網(wǎng)絡反向代理只加入frontend。internal: true讓這個網(wǎng)絡無法訪問外網(wǎng)數(shù)據(jù)庫完全沒有對外出口安全性上一個臺階。卷分兩類命名卷和綁定掛載。命名卷由 Docker 管理存在/var/lib/docker/volumes/下適合數(shù)據(jù)庫數(shù)據(jù)、應用日志這類需要持久化但不方便直接編輯的內(nèi)容。綁定掛載直接把宿主機目錄映射進去適合開發(fā)時掛載源碼實現(xiàn)熱更新volumes: - ./src:/app/src - ./config:/app/config:ro:ro只讀掛載配置目錄防止容器內(nèi)誤改宿主機文件。這個細節(jié)在多人共用一臺開發(fā)機時尤其重要。環(huán)境變量我按三層管理鏡像內(nèi)置默認值ENV寫在不敏感的配置上、Compose 聲明的環(huán)境變量區(qū)分不同環(huán)境的差異項、運行時注入密碼密鑰通過外部文件或編排平臺注入絕不進倉庫。三層各司其職不會出現(xiàn)改個數(shù)據(jù)庫地址要重新構建鏡像這種事。3.4 多環(huán)境覆蓋override 文件與 profilesCompose 支持文件合并compose.yaml加上compose.override.yaml會自動疊加后者優(yōu)先級更高。這個機制天然適合做環(huán)境差異化基礎文件寫通用配置override 寫本機特定的端口、卷、調(diào)試參數(shù)。# compose.override.yaml本地開發(fā)用加入 .gitignore services: api: volumes: - ./src:/app/src environment: LOG_LEVEL: debug ports: - 8080:8080 - 5005:5005 # 遠程調(diào)試端口服務器上不放這個文件就是生產(chǎn)配置本地開發(fā)放進去自動獲得熱更新和調(diào)試端口。也可以顯式指定多個文件docker compose -f compose.yaml -f compose.prod.yaml up -d后者覆蓋前者。profiles解決的是可選服務的問題。比如監(jiān)控組件、數(shù)據(jù)庫管理工具這些平時不需要的服務services: adminer: image: adminer:latest profiles: [tools] ports: - 8081:8080不帶--profile tools啟動時這個服務完全不會被創(chuàng)建不會浪費資源。需要時docker compose --profile tools up -d臨時拉起來。比起注釋掉再取消注釋這種方式干凈太多也不會因為忘記改回來而出事。3.5 我常用的命令清單與排查路徑命令不在多在于用對時機。下面這幾個是我每天都會碰的命令用途使用時機docker compose config展開并校驗最終配置改完 yaml 先跑一遍變量沒解析、語法錯都能立刻發(fā)現(xiàn)docker compose up -d --build重建鏡像并后臺啟動改了代碼或 Dockerfile 后docker compose ps查看服務狀態(tài)和健康情況起完之后確認是否全部 healthydocker compose logs -f --tail100 api跟蹤某個服務日志排查啟動失敗docker compose exec api sh進入運行中的容器需要看文件、驗證網(wǎng)絡連通性docker compose down -v停止并刪除容器與卷需要徹底清空環(huán)境重來docker compose up -d --force-recreate強制重建容器配置改了但沒生效時docker compose config這個命令被嚴重低估。它把變量替換后的最終配置整個打印出來很多時候配置明明改了為什么不生效跑一下就能看到真相——可能是變量名拼錯、可能是 override 文件覆蓋了、可能是.env文件位置不對。排查起不來的服務我的固定順序是先docker compose ps看狀態(tài)是 Exit 還是 Restarting再docker compose logs --tail200 服務名看報錯然后docker compose config確認配置沒被覆蓋最后才考慮進容器。絕大多數(shù)問題在前兩步就能定位直接鉆容器里翻往往是浪費時間。4. 私有鏡像倉庫從單機 registry 到團隊級方案鏡像倉庫這塊很多團隊吃過起步太簡陋、后來遷移成本高的虧。我的建議是先想清楚使用規(guī)模和治理需求再決定投入多少。4.1 先想清楚倉庫要解決什么問題三類需求對應三種方案。個人或小團隊內(nèi)網(wǎng)共享幾十個鏡像兩三個人推拉一個單機 registry 就夠了十分鐘能跑起來維護成本幾乎為零。團隊級使用需要按項目隔離權限、需要知道誰推了什么、需要定期清理這時候得上帶管理界面的方案配置項多但也省心。有合規(guī)或?qū)徲嬕笮枰R像簽名、漏洞掃描、拉取審計日志那就得選企業(yè)級套件前期投入大但后面省事。選型時我最看重的是存儲后端是否可替換。早期的倉庫把數(shù)據(jù)存在本地磁盤用著用著磁盤滿了擴容就得停機遷移。支持對象存儲的倉庫擴容只是改個配置。這一點在起步時容易被忽略等數(shù)據(jù)漲到幾百 GB 才發(fā)現(xiàn)遷移就是一次大工程。4.2 十分鐘起一個可用的私有倉庫單機方案起步極快services: registry: image: registry:2 ports: - 5000:5000 environment: REGISTRY_STORAGE_DELETE_ENABLED: true volumes: - ./registry-data:/var/lib/registry - ./config.yml:/etc/docker/registry/config.yml:ro restart: unless-stoppedREGISTRY_STORAGE_DELETE_ENABLED這個環(huán)境變量一定要開否則后面想刪鏡像標簽會直接被拒絕。配置文件里可以追加保留策略和存儲后端storage: filesystem: rootdirectory: /var/lib/registry delete: enabled: true cache: blobdescriptor: inmemory http: addr: :5000起來之后先給鏡像打上帶倉庫地址的完整標簽再推docker tag myapp:1.0.0 192.168.10.20:5000/team/myapp:1.0.0 docker push 192.168.10.20:5000/team/myapp:1.0.0標簽的完整格式是倉庫地址/命名空間/鏡像名:版本。這里最容易出的錯是忘了加倉庫地址前綴直接docker push myapp:1.0.0會被推到默認的公共倉庫本地私有倉庫里什么都沒有。4.3 TLS 與 insecure-registries 的正確姿勢默認情況下Docker 客戶端要求倉庫必須走 HTTPS。你用 HTTP 起在 5000 端口push 時會看到http: server gave HTTP response to HTTPS client意思很直白客戶端發(fā)的是 HTTPS 請求服務端回的是 HTTP 明文。兩種解法。生產(chǎn)環(huán)境必須用證書把 CA 證書放到/etc/docker/certs.d/倉庫地址:端口/ca.crt客戶端就會信任。自簽證書的關鍵是 SAN 字段必須包含你實際訪問用的地址——很多人簽證書時只填了域名實際訪問用的是 IP照樣報x509: certificate is valid for ...。開發(fā)和測試環(huán)境可以臨時把倉庫標記為不安全倉庫在/etc/docker/daemon.json里加{ insecure-registries: [192.168.10.20:5000] }改完必須重啟 Docker 服務生效。這里有個坑insecure-registries只對 HTTP 倉庫有效如果你的倉庫確實是 HTTPS 但證書不被信任加這個配置也沒用得老老實實放 CA 證書。我見過有人在這上面繞了兩小時一直在反復重啟 Docker 服務。注意不要為了圖省事把內(nèi)網(wǎng)所有地址都塞進insecure-registries。一旦形成習慣某天真的需要走加密傳輸時排查范圍會大得離譜。4.4 命名、打標簽與保留策略標簽策略是我見過最混亂的一環(huán)。典型現(xiàn)場是倉庫里每個鏡像都有l(wèi)atest、test、v1、v1-new、v1-最終版、v1-真最終版沒人敢刪任何一個。半年后想回滾某個版本發(fā)現(xiàn)根本對不上哪次發(fā)布。我推行的規(guī)則只有三條。第一latest只在一個地方使用本地開發(fā)隨手構建時用CI 和發(fā)布流程嚴禁推latest。第二正式版本用語義化版本號1.4.2這種配合 git tag能精確對應到某次提交。第三額外打一個 git 短哈希標簽方便排查docker tag myapp:1.4.2 192.168.10.20:5000/team/myapp:1.4.2 docker tag myapp:1.4.2 192.168.10.20:5000/team/myapp:sha-a1b2c3d版本號給人看哈希給機器查。生產(chǎn)環(huán)境部署時用 digest 而不是標簽這是最穩(wěn)的方式docker pull 192.168.10.20:5000/team/myappsha256:xxxx因為標簽可以被移動同一個1.4.2今天推的和明天推的可能是兩個不同的鏡像digest 是內(nèi)容哈希永遠指向同一份內(nèi)容。這點在出故障回滾時特別關鍵——你確定拉回來的就是當初那個。4.5 存儲回收為什么刪了 tag 磁盤沒變小這個問題幾乎每個自建倉庫的人都會遇到。執(zhí)行了刪除標簽的命令curl也返回成功但du -sh一看磁盤占用紋絲不動。原因是 Registry 的刪除是兩段式的刪標簽只是刪掉了 manifest 的引用底層的 layer 文件blob還在因為可能被其他標簽共享。要真正回收得跑垃圾回收。Registry 自帶了一個命令在容器里執(zhí)行docker exec registry /bin/registry garbage-collect \ --delete-untagged /etc/docker/registry/config.yml在這之前必須先刪干凈所有指向無用 manifest 的標簽而且回收過程最好停寫或只讀因為并發(fā)推送可能導致新鏡像的層被誤判為無引用而清掉。我的做法是每天凌晨跑一次定時任務先停掉對外推送權限再執(zhí)行回收最后恢復。聽起來麻煩但比起某天磁盤滿了導致所有構建失敗這點麻煩值。保留策略建議按數(shù)量 時間雙維度控制每個倉庫保留最近 10 個版本同時刪除所有超過 90 天且非正式版本的標簽。只按數(shù)量控制低頻更新的倉庫會保留很久只按時間控制高頻更新的倉庫會積攢太多。5. 實戰(zhàn)問題速查與避坑記錄下面這些幾乎都是我或者身邊同事真實撞上過的按階段整理出問題時可以先掃一眼表格。5.1 構建階段高頻故障表現(xiàn)象根因處理方式COPY failed: file not found文件被.dockerignore排除或路徑超出構建上下文檢查.dockerignore確認context目錄包含該文件構建越來越慢改一行代碼就要幾分鐘COPY . .在依賴安裝之前緩存全失效調(diào)整指令順序依賴清單先拷源碼后拷鏡像體積遠超預期緩存文件、包管理器索引沒在同一層清理RUN合并清理命令用多階段構建not found或符號相關錯誤程序跑不起來Alpine 的 musl libc 與預編譯二進制不兼容換成debian-slim基礎鏡像時區(qū)不對日志差八小時容器默認 UTC沒設TZ裝tzdata設ENV TZ構建時報no space left on device本地鏡像和構建緩存占滿磁盤docker system prune -af配合--filter until72h磁盤那條多說一句docker system prune默認不清理正在被容器使用的鏡像加-a才會清掉所有未使用鏡像加-f免確認。執(zhí)行前確認沒有正在跑的重要容器用docker ps看一眼再動手。5.2 運行與編排階段高頻故障表現(xiàn)象根因處理方式應用啟動就連不上數(shù)據(jù)庫depends_on只保證啟動順序不等就緒加healthcheckcondition: service_healthydocker stop要等十秒才停CMD用了 shell 形式PID 1 是 sh信號沒轉(zhuǎn)發(fā)改成 exec 形式[node,server.js]非 root 用戶寫卷報permission denied宿主機目錄屬主與容器內(nèi) UID 不匹配構建時chown或啟動時用user: 1000:1000容器內(nèi)訪問localhost連不上另一個服務每個容器有獨立網(wǎng)絡棧用服務名當主機名服務需在同一網(wǎng)絡exec format error鏡像架構與宿主機不一致構建時指定--platform linux/amd64改了配置重啟不生效容器被復用新配置沒進容器docker compose up -d --force-recreateport is already allocated端口被占用ss -lntp查占用進程或換端口exec format error這個在 M 系列芯片的機器上構建、部署到 x86 服務器時特別常見報錯信息很短容易誤判成鏡像損壞。構建時加--platform linux/amd64或者用buildx同時產(chǎn)出多架構鏡像能一次性解決。5.3 倉庫階段的三個經(jīng)典報錯http: server gave HTTP response to HTTPS client——前面說過客戶端用 HTTPS 請求服務端是明文 HTTP。要么給倉庫配證書要么把地址加進insecure-registries并重啟服務。x509: certificate signed by unknown authority——客戶端不信任倉庫證書。把 CA 證書放到/etc/docker/certs.d/地址/ca.crt。注意目錄名要和訪問用的地址完全一致帶端口的話端口不能少192.168.10.20:5000和192.168.10.20是兩個不同的目錄。manifest unknown或not found——拉取時找不到對應的標簽。要么是標簽打錯了要么是推送失敗了但命令返回被忽略。用倉庫的 API 列一下現(xiàn)有標簽確認curl http://地址:5000/v2/命名空間/鏡像名/tags/list能直接看到實際存在哪些標簽比猜測快得多。5.4 幾條踩出來的經(jīng)驗關于調(diào)試信息鏡像里裝curl和netstat這類工具體積會增加十幾兆但排查網(wǎng)絡問題時能省下大量時間。如果實在不想裝進生產(chǎn)鏡像可以在構建時開一個帶工具的 debug 階段出問題時臨時構建那個階段進去看。關于構建速度如果依賴下載慢是網(wǎng)絡層面的問題加構建參數(shù)換源比優(yōu)化 Dockerfile 更有效。另外--cache-from配合 CI 緩存能顯著加速把上一次構建的鏡像拉下來當緩存源遠程構建時效果明顯。關于Compose 文件的可維護性超過五個服務之后盡量按職責拆成多個文件用-f組合。一個兩百行的 yaml 沒人愿意改改成三個七十行的人人敢動。另外把公共部分網(wǎng)絡、時區(qū)、日志配置用x-開頭的錨點抽出來復用能減少大量重復。關于倉庫的可用性私有倉庫掛掉的時候如果所有機器都依賴它拉鏡像整個發(fā)布流程就停了。至少保證每臺機器本地緩存了最近幾個可用版本docker image ls里能看到緊急時可以直接用本地鏡像啟動不必等倉庫恢復。關于版本管理的心態(tài)我見過太多人覺得鏡像倉庫反正內(nèi)網(wǎng)標簽隨便打沒關系等到要回滾某個兩周前的版本發(fā)現(xiàn)latest已經(jīng)更新了七次根本找不回來。標簽規(guī)范這件事在只有三個人的時候建立成本幾乎為零在三十個人的時候推行的阻力大得離譜。早做比什么都強。最后分享一個我自己一直在用的小習慣每寫完一個 Dockerfile先用docker build跑兩遍。第一遍看不到什么特別第二遍觀察哪些層顯示CACHED如果只有最后一兩層命中說明指令順序還有優(yōu)化空間把變化最頻繁的內(nèi)容再往后挪。這個動作花不到一分鐘但能讓你對每一層的邊界有肌肉記憶寫第三個 Dockerfile 的時候順序自然就對了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
综合五月天完整| 97人人草| 国产精品日日躁夜夜躁| 八戒青柠影视剧在线观看| 超碰人人色| 久久9视频| 99综合视频在线| 五月激情影视| 色丁香五月天婷婷| 翔田千里无码| 婷香五月| 久久色吧| 色狠狠综合| 热这里只有精| 色婷婷免费视频| 丁香五月婷婷激情网| 做爱夜夜干天天操| 婷婷六月综合基地| 内射爽无广熟女亚洲| 五月婷婷丁香网| 五月婷婷成人| 亚洲免费综合一区| 狠狠干夜夜干| 九九热视频在线观看| 丁香六月天婷婷开心综合| 五月久久丁香| 天堂无码人妻精品AV一区| α久久| 亚洲激情在线| 丁香五月停停基地| 久久五月天色婷婷| 久久久五月天婷婷| 国产古装妇女野外A片| 九九热国产| 天天插天天很| 99热国产这里只有| 天天 青草 丝袜制服 在线| 9 9热这里有精品| 91chinese在线| 免费观看欧美成人AA片爱我多深 | 九色99视频| 这里只有精品视频| 狠狠干婷婷| 美日韩成人| 日韩操逼小电影| 婷婷五月色| 国产精品视频免费看| 免费看欧美成人A片无码| 婷婷五月天丁香社区| 亚洲婷婷五月草久| 侠女刀之记忆电影在线看免费| 丁香五月最新网址| 欧美男女婷婷| 六月婷婷激情图片| 婷婷色五月激情| 91人妻人人做人碰人人爽九色| 99玖玖在线视频| 国产婷婷久久| 狠狠爱婷婷色| 99热国产| 成年人99热| 婷婷丁香五月天哟啪| 玖玖精品婷婷| 站长推荐无码播放| 丁香五月天色| 五月天婷婷六月| 久九色| 激情婷婷九月| 中文久久久人妻| 啄木鸟黑丝一区二区| 超碰97干| 99热日本| 丁香五月天啪啪a日本| 综合狠狠干| 婷婷日日天天| 操久久网| 色99久草在线| 99久久新视频| 色综合网上班开心婷婷久久| 婷婷丁香激情五月天色色| 婷婷丁香五月天中文字幕| 色久五月天| 久久视频婷婷| 夜夜操天天干| 亚洲亚洲人成综合网络| 综合九色| 色五月婷婷、老熟女| 一级A片天天操夜夜操| 一本道综合网| 六月丁香啪啪| Av狠狠色丁香婷| 性爱五月婷婷| 色综合久久88色综合天天人守婷| 五月婷婷偷拍| 国产精品18久久久| 一区操| 91av视频| 午夜天堂啪啪| 涩五月婷婷| 五月婷婷偷拍| 超级碰碰视频无码| 五月社区婷婷激情| 久久精品五月天| 天天日天天插| 人妻激情在线| 精品亚洲VA网站| 丁香婷婷影院| 99久久九九| 亚洲成人无码免费| 天天爽夜夜爽夜夜爽精| 六月婷婷开心| 国产麻豆视频| 久久丁香五月婷婷| 91.com男女操| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 97五月婷婷| 激情六月五月婷婷综合网| 色五月av| 激情99。| 色色色五月婷婷| 无码一区二区三区四区五区91c| 综合天堂AV久久久久久久| 99热传媒| 色五月开心开心五月激情五月| 丁香五月婷婷色播艳门照| 午夜五月天| 色综合色色| www.婷婷,com| 丁香五月第四色88| 98国产精品综合一区二区三区| 色九亚洲| 丁香六月啪啪啪| 97在线精品| 美国天天操无码| 五月激情啪啪啪| 吉澤明步Av一區二區| 99热精品在线| www·五月天| 俺去也综合| 亚洲成人综合在线| 色婷婷在线播放| 第四色五月天| 五月婷婷六月丁香玖玖玫瑰91| 婷婷五月丁香六月天亚洲综合| 中文字幕成人| 五月丁香婷婷人体| 婷婷字幕在线| 看全色黄大色大片| 二色AV| 日日干天天射| 91激情五月开心| 情婷婷五月天| 99热黄| 翔田千里无码| 亚洲天堂九九九| 这里只有精品视频在线看| 深爱激情五月网| 六月婷婷综合激情| 色区久久| 丁香五月婷婷欧美成人色图| 1囯产午夜仑鲁鲁| 在线1青婷| 婷婷综合干| 华人在线免费| 五月天小说激情| 久久99热只有精品| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 六月婷婷综合激情| www.99热| 亚洲性受XXXX五月丁香| 婷婷九月| 五月情涩综合婷婷| 在线观看欧美| 日日日日日| 亚洲婷婷激情888精品久| 春色激情| www五月天com| 狠狠色丁香| 99久久婷婷国产综合精品草原| 久久99精品久久久久子伦| 这里有精品| 五月婷婷9| 婷婷五月天成人网| 激情网站综合五月天| 亚洲欧美在线观看| 久久伦乱| 婷婷五月天亚洲图片| 色色热日| 99热精品在线播放| 日本婷色| 丁香大香蕉| 1024日韩| 99色色网| 99热精国产这里只有精品| 9l久久久视频| 天天做天天爱天天高潮| 五月丁香激情婷婷| 六月五月婷婷| ay2区| 香蕉曰比| 禁欲电影完整版在线播放| www.夜夜.com| tingting五月天亚洲| 青青草原爱爱网| 26UUU精品一区二区| 国产精品色一哟哟| 精品在线| 影音先锋男士资源网一区| 国产毛片精品一区二区色欲黄A片| 在线资源av-超碰中文在线-成人AV| 99热这里只有精品8| 人妻操在线看| 久久在这里有精品| 九月丁香| 五月久久婷婷丁香| 99re欧美精品| 激情五月激情综合网| 国产五月婷| 久久精品五月天| 不卡在线超碰| 欧美成人精品A片免费一区99| 人人干av| 久久婷婷综合五月天| 丁香六月 婷婷六月| 成人短视频免费| 色色色综合| 久久五月婷婷丁香| 成人va视频| 99热这里有精品2| AV九九| 超碰高清在线| 色99婷婷五月天| 国产真人做爰视频免费| 亚洲欧美婷婷五月色综合| 丁香五月成人| 五月天精品| 婷婷激情六月天视频| 婷婷五月丁香av网站| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 91热er| 91婷婷视频| 欧美25p| 精品久久人妻| 亚洲综合另类| 婷婷操久久| 婷婷五月天在线观看免费| 激情婷婷丁香色五月综合| 玖玖在线视频| 99视频久久免费视频| 久九色| 婷婷激情六月综合| www色五月| 成人网址在线观看| 五月婷婷另类| 影音先锋女人av鲁色资源网小说免费| 五月天色狠狠| 开心激情久久久久久久| 五月丁香六月婷婷在线| AA丁香综合激情| 99成人在线观看| 五月天色影院| 婷婷激情四射| 国产精品久久久久久妇女6080| 伊人激情| 日本波多野结衣视频| 亚洲在线免费成人| 中文字幕人妻熟女在线| 日韩国产在线精品| 综合玖玖偷拍| 就要爱综合| 久久婷婷丁香视频网| 97婷婷丁香五月天激情图片| 91狠狠色丁香婷婷综合久久| 综合激情五月丁香| 五月婷婷色五月| 国产亚洲色婷婷久久99精品91| 五月婷婷激情综合av| 人人草开心五月天| 狠狠干婷婷| 日韩啪啪网| 欧美交换配乱吟粗大25P| 可以免费观看的av| 91九色无码内射| 91丨九色|PRNY熟妇| 久久丝袜婷婷| 丁香五月狠狠综合欧美| 五月天伊人久久久久| 色色免费网站| 超碰九热| 天天日天天添| 5月丁香啪啪啪| 五月婷啪啪| 亭亭玉月丁香| 中文字幕亚洲-区久久99婷婷| 婷婷久久五月天丁香| 久久婷婷五月丁香网| A1片久久久| 五月综合亚洲色| 丁香五月成人在线| 久久停停超碰| 色综合网页| 亚洲成人一区| 久久性爱视频这里只有精品| 狠狠做婷婷| 人五月天婷婷喷水| 丁香五月六月久久综合| 天天干,夜夜爽| 日本天天色| 色婷婷在线视频观看| 碰97久久| 亚洲欧美999| 天天干夜夜想| 久色激情| 婷婷五月天激情基地| 亚洲AV成人在线| 九月丁香网婷婷| 影院久久久| 丁香婷婷六月激情文学 | 人人人舔人人人操人人人摸人人人97| 天天日天天爽夜夜爽| 中文AV网站| 丁香五月激情六月欧亚激情综合导航| 婷婷五月色播| 婷婷色网址| 五月天婷婷日日爱| 大香蕉五月天婷婷| 五月婷婷操操| 66久久视频在线| 五月丁香免费视频| 玖玖色资源| 99热这里只有精品热| 久久婷婷热| 久久婷婷综合色丁香| 五月丁香六月婷婷亚洲激情综合| 六月婷婷中文字幕| 色婷五月天| 色爱五月天| av大香蕉| 玖热精品综合视频| 久久停停超碰| 五月婷婷六月丁香综合| 青草激情在线| 婷婷丁香18| 激情五月天在线| 亚洲超碰在线| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 色婷视频| 激情网第九色| 婷婷丁香十月| 五月婷婷丁香啪啪| 91久久久久久久| WWW久久久| 激情综合九月| 五月6香色婷婷视频| 色五月婷婷综合在线| 色播五月丁香综合| 啪啪色区| 九九热超碰| 影音先锋一区| 亚洲成人av在线播放| 97好吊操| 视频久久9| 精品人妻一区二区三区四区不卡在| 碰久久精品w| 丁香五月婷婷手机| 色色色9 9 9| 狠狠做婷婷| 天天射色五月天| 五月丁香婷婷AV| 婷婷影院欧美| 91操熟女| 亚洲人人96@| 日日操天天操| 在线可以看的av网址| 久久久亚洲成人无码A片| 丁香丝袜五月| 国内一级精品| 色九区| 五月婷婷综合激情| 日韩啪啪自拍| 婷婷九月激情| 台湾佬天天日丁香婷婷五月天| 婷婷情色五月| 97人人搞| 就爱操www com| 国产精品24r| 开心婷婷五月| 久久婷婷六月| 91色色色视频| 婷婷导航| 亚洲人人操BD| 9久精品视频| 国产亚洲精品AAAA片APP| 青青夜夜狠狠夜夜狠狠| 美女爆乳18禁www久久久久久| 网站免费一站二站| 五月综合激情久久| 久久精品五月| 这里只有精品久久| 爱草人视频| 欧美日韩91| 香蕉人妻AV久久久久天天| 九九无码视屏| 国产欧美日韩性爱| 婷婷婷五月香蕉| 免费黄色AV| 激情综合五月激情| 性色av大香综合| 日日夜夜天天| 玖玖午夜视频| 五月丁香狠狠| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 婷婷丁香五月综合免费视频百花| 袁子仪视频观看| aaaa.黄| 激情五月综合网| 日日色综合| 婷婷五月天中文字幕.| 狠狠狠狠狠狠草| av大香蕉| 久婷婷婷| 丁香五月六月综合欧美| 色呦呦免费观看| 天天干在线播放| 丁香六月婷婷综合| 天天弄天天操| 色人妻五月| 天天操天天爱天天日| 五月婷av| 综合久久五| 亚洲综合激情五月久久| 色婷婷亚洲| 色五月在线视频观看| 色五月婷婷中文字幕在线观看| 五月天色欧美| www.久久99精品| 欧美精品99久久久| 夜夜操天天干| 久久激情视频| 婷婷伊人久久| 9l视频自拍9l九色9l成人| 操逼棍操逼| 青青草搞屄视频网站| 久99视频在线观看| 日韩在线99| 亚洲字幕AV一区二区三区四区 | 天堂草在线看www| 五月伊人视频在线看| 色五月婷婷av| 色色操| 91人操| 综合日本婷婷| 人妻六月天| 久久婷婷一级片| 免费视频WWW在线观看网站| 久99| 亚洲激情AV| 六月综合婷婷开心伊人| 天天爽天天干| 九九久久综合| 全部老头和老太XXXXX| 五月丁香| 色婷婷免费观看| 五月天成人免费视频| 五月天婷婷视频| 天天操夜夜橾| 日韩aaaaa| 能看的AV| 婷婷激情五月| 99亚洲精品| 狠狠综合网| 久久精品国产一区二区三区四区| 国产亚洲精品AAAAAAA片| 丁香五月在线播放| 97在线观视频免费观看| 果冻传媒A片一二三区| 97日本操| 99热在线资源| wwW天天干| 久久五月丁香六月婷| 26UUU亚洲欧美| 欧美97p| 婷婷五月激情天| 99精品热| 99热这里有精品| 精品夜夜澡人妻无码AV| 操草草草| 操久久网| 丁香五月天五码婷婷| 99这里只有精品|v| 丁香五月激情综合婷综| 91操熟女| 亚洲人妻一区二区| 99热这里只有精品9| 庭庭久久内射| 五月综合久久| 色婷婷丁香AV综合| 丁香婷婷久久| 开心五月深爱五月丁香五月激情五月| 久艹大香蕉| 婷婷五月天久久久| 天天射天天操天天干| 激情久久 婷婷| 亚洲激情在线| 天天天综合网| 亚洲操操| 久久精品99久久久久久久久| 五月色情婷婷开心五月天| 99热只有精品在线观看| 91九色国产| 国产AV一区二区三区最新精品| 欧美婷婷综合| 久久精品国产色| 另类五月激情| 婷婷综合激情| 97碰人人操| 亚洲中文无码成人| 久久天天| 久久婷综| 丁香六月婷婷一区| 五月天色综合| 色综合激情图区| 婷婷永久在线| 亚洲人成色A777777在线观看| 天天干一干| 伊人色综合久久久| 午夜国产精品AV在线播放| 久久婷综合| 婷婷丁香五月在线观看91| 丁香五月天网站| 中文字幕乱轮| 婷婷色情 | 97中文在线| 综合激情五月天六月婷免费视频| 日日做A爰片久久毛片A片英语| 婷婷丁香五月天影院 | 97人人操人人爽| 久热网站| 九九丁香社区欧美激情| 欧洲亚洲免费视频区| 97se视频在线| 99小视频在线观看| 色五XX| 五月天网址在线刘玥| WWW久久久| 婷婷五月激情网| 91碰免费视频| 九九色99| www,婷婷,com| 天插天啪天啪天啪| 乱精品一区字幕二区| 久久er视频6| WWW,五月| www.91九色| 五月综合色| 久久女人九九| 五月天婷婷激情在线色图| 大香蕉久久视频久久视频| 久色视频首页| 无码AV免费精品一区二区三区| 深爱激情中文五月天av| 激情av| 亚洲操精品| 色婷久| 久久9999| 中文字幕丰满人妻无码专区| 狠狠人妻色综合| 97碰人人操| 色www.con| 五月婷婷成人| 婷婷五月亚洲综合| 99热精品在这里| 97自拍视频在线| 97人人草| site:wpjngj.com| 少妇人妻人伦A片| 久久杏爱视频| av免费在线看不卡无毒| 国产精品五月天婷婷| 亚洲区在线| www色婷婷com| 91丨九色丨熟女|老版| 五月天丁香久久| AV在线观看网站| 大香蕉啪啪啪| 丁香久久五月天视频在线观看| 激情操逼婷婷| 婷婷激情六月| 91狠狠综合久久| 99热免费| 五月婷婷六月丁香综合在线| 99riAv1国产在线观看| 成年人丁香五月| 都市激情五月婷婷综合| 人人操婷婷| 五月天色色婷婷| 99视频超级精品| 日日干四虎| 狠狠色综合久久| 五月激情婷婷综合| 国产精品久久久久久久久久| 五月叮香啪| 女婷久久| 91嫩草国产线观看亚洲一区二区| 91大屁股精品| 五月六月激情婷婷| 98色丁香五月婷婷综合网| 99九九在线精品热动漫| 五月婷色丁香| 日本色图综合| 色吧婷婷五月亚洲| 久久婷婷内射| 天天射天天射一道本日本社区| 日本人妻操| 色五月五月婷婷| 在热视频精品| 久久久精品99亚洲综合| 色婷婷色和| 久色视频| 九九無妻| 丁香五月天殴美激情| 香蕉97碰碰碰超视精品| 青青草免费公开视频| 99久久这里只有精品| 五月丁香va| 亚洲熟女乱色综合亚洲网站| 色135综合网| 婷婷欧美激情综合| 国语精品探花| 中文久久久人妻| 99免费偷拍视频| 嫩草AV久久伊人妇女超级A| 精品久久这里热66| 婷婷五月噜噜| 亚洲欧洲色色| 东京热免费视频| 久久免费试看120秒| 国产成人片| 色五月婷婷av| 99免费在线视频| 亚洲精品五月| 99激情视频热| 亚洲婷婷在线播放十月| 婷婷色在线视频| 五月丁香婷婷狠狠操| 婷婷久久综合| av人人干| 丁香五月性爱| 日韩久久色| 天天天天天天操| 婷婷六月激情丁香| 激情播丁香| 任你艹| 婷婷射图| 午夜爱爱网站| 国产成人AV在线播放| 天天久久婷婷| 丁香五月婷婷五月基地| 久久五月天激情| 中文成人在线| 香蕉AV福利精品导航| 这里只有精品视频免费在线观看| 婷婷五月天堂| 大香蕉婷婷色| 五月丁香啪啪| 六月丁丁香| 婷婷五月天久久| 久久精品夜色噜噜亚洲a∨| 亚洲狠狠干| 五月情婷婷| 五月婷婷人妻| 六月色播| 成人在线日韩欧美| 99自拍视频网站| 色碰碰| 超碰成人在线观看| 婷婷丁香色五月| 久久九九99| 丁香五月Av| 婷婷丁香18| 久久久97| 五月天色小说| 日本丰满久久| 视频一二区| 91玖玖| 7月婷婷六月丁香| WWW、日本色丁香co m| 久久综合热17c| 密乳视频| 99视频在线观看网址| 五月婷婷成人| 婷婷社区五月天| 中字幕视频在线永久在线观看免费 | 色婷视频| 伊人99久久| 五月情涩综合婷婷| 97狠狠色| 狠狠色丁香婷婷基地| 国语精品探花| 激情丁香六月| 免费看欧美成人A片无码| 五月天开心色色网| www.99热在线| 久久丁香五月婷婷激情综合网| 五五月五月| 激情综合色婷婷六月天| www婷婷| 欧美搡BBBBB摔BBBBB| 天天肏天天舔AV| www久久久久久久97| 五月天婷亚洲综合在线嫩草网| 亚洲精品五月| www色五月| 亚洲深喉AV| 婷婷丁香五月色偷偷| 久久综合激情五月天| 天天操,天天插| 91人碰| av九九| 婷婷久久婷婷| 精品视频99看在线视频| 亚洲丁香婷婷丁香五月天激情| 操一区| 九九精品9| AV在线大香蕉| 五月激情婷婷开心| 丁香五月天激情综合| 六月婷婷操逼| 青青热久精品视频在线观看| 色五月 五月婷婷| 狠狠色丁香| 欧美超级视频97| 五月天成人在线视频丁香| 亚洲五月天另类小说图片| 五月天激情四射| 五月婷婷六月丁香首页| 亚洲尤物在线| 色色色免费视频| 色色网91| 99久久思思| 成人 在线 日韩| 亚洲色区17| 色五月亚洲五月天| www.99在线| 超碰97色| 26uuu亚洲欧美| 色综合五月| 九月婷婷色色| 99热这里只有精品国产首页| 中文字幕丰满孑伦无码专区 | 超级碰碰99| 深爱开心激情网| 99热激情| 久久九区| 色播婷婷大香蕉| 色丁香五月婷婷综合久久| 色婷婷五月天天天做| 色情五月婷婷| 九月婷婷久久久| 操逼三区| 婷婷成人AV| 五月天伊人网| 激情综合另类| 婷婷五点亚洲| 亚洲天堂色| 99秘 在线| 久草热久草在线视频| 五月丁香六月色婷| 91碰碰碰| 丁香五月大香蕉| 色99网| 亚洲人妻Av| 丁香五月AV| 激情视频综合| 久久综合影院| 狠狠爱婷婷| 色狠狠999综合| 91九色中文字幕女在线观看| 五月丁香六月婷婷成人电影| 丁香五月婷婷天堂大香蕉| 99在线精品视频在线观看| 亚洲九九99精品视频在线播放| 能看的AV网站| 岛国AAAV| 五月丁香六月婷婷无码| 日韩成人电泉AV| 五月婷婷中文字幕AV| 亚洲四色五月| 91九色中文字幕女在线观看| 9l视频自拍9l九色9l成人| 亚洲AV中文在线| 超碰女人天堂| 激情六月天| 丁香五月婷婷成人综合| 丁香性爱在线视频| 99国产这里只有精品| 午夜福利8055| 婷婷涩五月| 激情网站五月| 婷婷丁香五月天综合激情| 婷婷色Av| 丁香五月停停基地| 婷婷久草| 日在线V视频在线播放| www.丁香黄色五月天人与| 亚洲人成人五月天| 超碰不卡在线| 天天日天天操心| 五月丁香亭亭天天舔| 久久五月天激情婷婷| 欧美 日韩 成人在线| 在线国产精品色| 国产视频色色色色色色色| 婷婷丁香五月高清| 久久人人超| 五月婷在线| 五月丁香龟婷婷| 99视频九九热| 久久久GOGO无码啪啪艺术| 色天天综合| 天天操加勒比| 乱精品一区字幕二区| 久久婷婷五月免费视频| 日本三级黄色大片| 狠狠干.com| 日韩操逼大片| 五月丁香婷婷人体| 非洲一级AV| av亚洲国产小电影| 色五月人妻| 这里只有精彩小视频视频网站| 五婷婷综合网| www.婷婷五月| 五月婷婷丁香狠狠撸久久| 亚洲综合婷婷五月| 大香蕉久久综合网| 狠狠色婷婷7777久| 天天操综合网站| 狠狠色丁香| 五月激情久久| 婷婷五月天av| 这里只有精品视频| 丁香婷五月| 大香蕉久操| 激情超碰网| 性爱久久| WWW.99热| 色婷婷五月天偷拍| 五月丁香六月婷婷不卡免费无码 | 热这里| 99热r| 欧美成人日韩| 九九色婷婷五月天| 五月天综合色| 亚洲婷婷久久综合| 婷婷色丁香六月| 久久人妻爱爱| 亚洲av免费在线| 99啪视频在线观看| 9色91视频| 五月激情在线| 久久五月网| www,天天干| 激情影院免费视频婷婷五月天| av在线免费播放| 色99免费视频中文| 天天日天天肏天天奸| www.五月天婷婷| 欧美日韩成人在线观看| 婷婷久久亚洲| 亚洲久久婷婷| 久久996re热这里只有精品无码| 久久五月婷| 五月 激情视频| 一区中文字幕电影| 丝雨一区二区| 99婷五月| 色婷婷五月综合激情中文字幕| 久热这里| 啪啪啪大香蕉| 色狠狠综合| 狠狠做婷婷| 黄色AV日韩| www.色综合.com| 激情九九六月激情免费视频| 噜噜狠狠色| 色爱亚洲| 26uuu| 丁香六月久| 久久免费婷婷视频| 综合五月激情网| 婷婷五月丁香六月天亚洲综合| 婷婷五月综合激情小说| 色高清无码视频| 激情网开心网| 玖玖资源天天无码| 色婷五月天综合网| 国产无套精品一区二区| 天天日天天草| 丁香久久久| 色婷婷狠| 人妻无码精品一区| 亚洲成人免费在线| 九九色色| 美女婷婷激情亚洲| 991自拍视频| 91精品啪| 99男人的天堂| 亚洲综合在线视频| 狠狠草天天草| 79成人网| 激情五月,激情综合网| 国产精品久久久海的味道| 九月婷婷色色| 丁香六月情| 国产精品人成A片一区二区| 蜜乳久AV| 狠狠色丁香婷婷五月| 182TV亚洲| 都市激情久久| 亚洲色vA| 先锋资源91| 99只有精品| 97丨九色丨国产丨PORNY| 色吊操色妞| 男人天堂99| 99热精品网| 丁香五月综合在线视频| 婷婷五月激情欧美| 天天做天天爱| 亚洲韩国日产综合AV| 99久久婷婷五月综合| 五月天婷婷三级黄| 5月婷婷五月天| 伊人婷婷大香蕉| 涩涩五月天| 岛国午夜视频| 99精品激情| 五月婷婷综合潮喷| 狠狠色综合网| 五月婷婷香蕉| 9999三级片| 五月天色婷婷图片| 婷婷五月天情色| 三男玩一女三A片| 99综合成人视频在线观看 | 在线看片av| 综合六月激情婷婷| 九色视频91| www天堂99| 伊人久久婷婷| 五月婷精品| 色婷婷网| 久久久久激情网| 五月丁香六月婷婷中文版| 五月婷婷激情综合av| www.天天干| 国产婷婷综合| 五月婷婷婷自由综合| 日韩啪啪网| 人妻六月天| 色情丁香五月天| 色色激情五月| 99热最新国内| 26uuu美女三级视频| 九九无码| 五月天天综合网色婷婷| 亭亭玉立国色天香| 色情成人五月天| 91男人操女人视频| 色优久久| 99热丁香| 天花AV无码| 亚洲AAAA网| 五月天激情四射| 97操视频| 天天综合精品| 九一牛视频探花| 97色五月天| 99热这里只有精品青草| 操人久久| 色色色com| 丁香五月亚洲综合| 五月丁香成人版| www.99在线| 97久久超碰| 激情五月天天狠狠久久| 91怕怕网| 夜夜操激情| 综合六月久久| 色综合性视频| 精品一二三区久久AAA片| 色色操| 丁香六月啪| 大香蕉99热| 色五月成人| 少妇婷婷五月天| 噜噜噜噜综合在线| 五月色丁香婷婷综合| 亚洲激情免费视频| 99se丁香| 狠狠草综合网| 伊人激情综合| 丁香五月婷在线观看| 六月婷婷毛片| 九九久久综合网站| 熟女色色一区二区| 亚洲精品色色色| 久cao香蕉影院| 激情综合网 激情五月天| 国产精品美女久久久久AV超清| 99热99热在线观看| 少妇被躁爽到高潮无码文| 99久久国产宗和精品1上映| 久久久久人妻| 五月五丁香婷婷| 97一区二区| 婷婷五月天欧美图片在线播放电驴| 色级停停| 99在线精品视频在线观看| 久久天堂色| www,com,五月色色| 原琪琪色影院| 婷婷五月天堂| 亚洲成色综合网站免费观看| 国产古装妇女野外A片| 激情久久天天| 一区二区你懂的| 天天做天天爽| 色婷婷九月| 五月婷婷激情综合| 26UUU精品一区二区c〇m| 日操夜操天天操不卡| 欧美α√| 在线中文字幕视频| 欧美操人| 五月天婷婷黄色| 高清 码 免费看片短视频| 色五月成人| 99热九九这里只有精品| 国产99久久久国产精品免费看| 九九热99精品| 人人叉久| 99热这里只有精品9| 色婷五月丁香久亚洲| 色吧99| 欧美97色| 五月婷婷香蕉| 99色.com| 久久久久久久人妻| 思思精品久久艹| 亚洲综合一区二区| 六月丁丁香| 婷婷噜噜| 人妻性操逼中文字幕 国产| 影音先锋日本三级资源| 婷婷九月丁香| 99热成人永久免费| 天堂美国久久| 999热在线视频| 狠狠干在线视频| 在线成人视频免费| CHINESE熟女老女人HD视频| 99热这里只有精品86| 五月开心婷婷极品激情| 丁香五月天堂亚洲社区| 91狠狠色| 中文字幕色色色| 综合大香蕉| 99视频热99| av大香蕉| 噜噜精品| WWW五月婷婷| 99玖玖人人| 被强行糟蹋的女人A片| 久久婷婷五月天| 九九视频精品在线免费| 色色五月天丁香婷婷| 激情人妻蜜夜系列区| 丁香五月婷婷超碰在线| www.ppypp| www.婷婷网| 影音先锋91| 国产亚洲AV人片在线| 俺去也婷婷| 狠狠操天天干| 伊人五月网| 在线日韩视频| 久操97| 成人AV片播放| 国产 码在线成人网站| 激情婷婷五月天| 五月丁香婷在线| 激情深爱婷婷网| 亚洲五月激情| 最熟少妇乱码| 97 天堂| 九月婷婷久久| 五月色网| 青青草原伊人网| 无码 色| 人人干AV| 婷久看人爽| 久久久精品视频79| 国产激情在线| 六月激情丁香一道本7777| 五月婷婷综合在线亚洲视频| 婷婷久久综合| 青青草五月天| 狼人久草| 日韩在线视频中文字幕| www夜夜操| 婷婷五月美女直播| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 久8色色| 日夜夜天天| 天天做天天双| 欧日美女Va| 九九热a| 五月天色色色| 色丁香久久| 激情婷婷在线中文字幕| 大胆伊人久久| 亚洲成人无码免费| 婷婷五月欧美| www.玖玖婷婷在线| 韩国97天堂| 就去色色五月丁香婷婷久久久| 99视频| 人妻无码视频网| 狠狠精品干练久久久无码中文字幕| 图片区 小说区 区 亚洲五月| 天天插天天插| 丁香五月色| 亚洲视频在线观看| 国产露脸150部国语对白| 欧美性猛交99久久久久99按摩| 9久精品| 国产乱子轮XXX农村| 国产精品久久久久久久久久久久| 成人做爰A片免费看网站找不到了 噼里啪啦在线观看免费完整版视频 | www.色婷婷.com| 狠狠爱综合| 亚洲五月婷婷| 婷婷综合视频| 伊人综合网站| 日本一級黃色一級片| 97日本在线播放| 激情五月最新网址| 9久9久| 日韩 中文 欧美| 超碰免费在线| 婷婷久久免费看| 丁香五月23111| 99色精品| 亚洲成人在线免费| 九九热精品| 97人妻超级碰碰碰碰碰| 抽插特写| 在线中文亚洲| 九九熱最新視頻| 人人添人人| 久久一热| 啪啪激情网| 精品无码久久久久久久久| 六六久久黄色| 秋霞日本免费毛片A片| 99在线观看| 五月丁香色婷| 97超碰在线免费观看| 99热官网| 亚洲丁香花五月丁香花| 婷婷五月天午夜激情影院| 激情九月婷婷| 激情五月色综合国产精品| 天天日天天草| 开心激情综合| 婷久久高清| 性爱网五月天| 内射激情在线| 五月99久久| 裸体做A爰片毛片A片免费| 亚洲色图啪啪| 久久er这里只有精品| 这里只有精品9| 99ri精品视频在线观看| 亚洲色无码A片一区二区麻豆| 亚洲色色五月| 日本无va视频| 六九色综合婷婷五月天| 婷婷六月天| 欧美婷婷精品激| 亚洲激情99| 五月婷婷导航| 99热热热99精品婷婷| 4399人妻无码久久久| 久久成人综合五月天| 午夜亚洲国产精品av一区二区| 成人无码髙潮喷水A片| 久久免费丁香| 99re这里只有精品首页| 99ri在线视频| 婷婷五月丁香综合瑟瑟| 天天综合情| 丁香五月婷婷AV在线| 国产精品涩涩涩视频网站| 欧洲一区二区| 婷婷色5月激情网| 99精品在线观看| 色综合天堂| 激情网综合| 操一区| 五月综合激情| 亚洲综合激情五月| 99亚洲精品| 狠狠丁香| 五月天婷婷丁香导航| 91丨九色丨白浆秘| 日本人妻A片成人免费看片| 六月丁香婷婷六月激情综合| 久久五月丁香| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 丁香啪啪中文字幕| 色婷婷成人丁香| 色五月婷婷在线| Av在线资源| 狠狠干青青草| 一级黄色影片| 超碰操网| 丁香五月色网| 欧美久久久久久久久中文字幕| 五月天婷婷影院影院| 人妻av在线| 色999五月色| 色色色婷婷五月| 97成人在线视频精品| 人妻久久久久久久久久| 国产精品VIDEOSSEX久久发布| 热99国产精品| A片一曲| 97九色视频| 婷婷五月激情网| 国产美女主播vip| 五月婷亚洲精品| 东北熟女高潮99综合99| 开心五月婷| 青青草青青草五月天| 五月天婷婷青青| 年轻的妺妺伦理HD中文| 99 频99热国里只有精品| 26uuu欧美| 久这里只有精品99| 天天干天天干天天操| 97碰啪啪| av九九| 色玖玖| 日本色五月| 丁香婷婷精品视频| 色99色| 六月婷婷六月天天在线免费| 99热最新| 色婷婷丁香五月丁香| 牛牛热这里只有jingpin| 狠狠狠狠狠操| 开心五月婷婷伊人| 99亚洲精品视频|