免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

PXE批量裝機(jī)實(shí)戰(zhàn):從DHCP到Kickstart無人值守部署

PXE批量裝機(jī)實(shí)戰(zhàn):從DHCP到Kickstart無人值守部署 做運(yùn)維的最煩的一類重復(fù)勞動是什么我個人的答案不是故障排查也不是上線變更而是裝系統(tǒng)。故障排查好歹有挑戰(zhàn)性上變更也算有點(diǎn)儀式感裝系統(tǒng)純粹是體力活。尤其是有幾十臺裸機(jī)需要交付的時候光盤加U盤一臺一臺懟一下午下來人都是麻的而且手動操作最容易出岔子機(jī)器配置稍有不同分區(qū)方案和基礎(chǔ)設(shè)置就容易弄亂。后來我把目光轉(zhuǎn)向PXE批量裝機(jī)才算是把這個環(huán)節(jié)真正從“人肉模式”切換到了“半自動流水線”。這篇文章就把我折騰PXE的完整過程、踩過的坑、以及最終沉淀下來的方案一次性說清楚。PXEPreboot eXecution Environment預(yù)啟動執(zhí)行環(huán)境簡單講就是讓機(jī)器通過網(wǎng)卡引導(dǎo)系統(tǒng)不需要任何本地存儲介質(zhì)介入。配合DHCP自動分配地址、TFTP傳輸引導(dǎo)文件、HTTP或NFS提供安裝源、Kickstart應(yīng)答文件自動填表一套批量裝機(jī)系統(tǒng)就能在半小時內(nèi)完成從規(guī)劃到上線。整個過程的核心思路是只在一臺服務(wù)器上做一次配置后面所有客戶端機(jī)器只要設(shè)好網(wǎng)絡(luò)啟動選項(xiàng)就能全自動完成系統(tǒng)的部署、分區(qū)、配置和基礎(chǔ)軟件安裝。這篇文章適合所有承擔(dān)過批量交付任務(wù)的運(yùn)維工程師、網(wǎng)管、以及想深入理解Linux網(wǎng)絡(luò)引導(dǎo)原理的學(xué)習(xí)者。不會只講命令怎么敲我會把每個關(guān)鍵組件“為什么這么設(shè)計”也一并講透并附上實(shí)操中真正會遇到的故障和對應(yīng)排查方法。1. 內(nèi)容整體設(shè)計與思路拆解1.1 裝機(jī)這件事為什么要“網(wǎng)絡(luò)化”先從需求說起。假設(shè)你面前有30臺配置相近的服務(wù)器需要統(tǒng)一安裝某個Linux發(fā)行版并預(yù)設(shè)同樣的主機(jī)名規(guī)則、分區(qū)結(jié)構(gòu)、網(wǎng)絡(luò)參數(shù)和初始化用戶。傳統(tǒng)手工裝機(jī)的流程是制作啟動盤、逐臺插拔、選擇鏡像、分區(qū)、寫配置、裝系統(tǒng)、然后手工執(zhí)行后續(xù)腳本。操作周期的重復(fù)度非常高人工介入越久出現(xiàn)偏差的概率越大比如分區(qū)時手滑選錯盤或者軟件包列表沒勾全都可能在交付后暴露成線上問題。用PXE之后流程變成了所有機(jī)器上電開機(jī)網(wǎng)卡主動廣播DHCP請求獲得IP地址和引導(dǎo)文件位置再通過TFTP把引導(dǎo)程序拉下來引導(dǎo)程序去讀取指定安裝源按Kickstart文件里的答案自動完成整個安裝。人只需要在控制臺提前確認(rèn)好默認(rèn)引導(dǎo)菜單剩下的全部交給鏈路自動執(zhí)行。這解決了三個關(guān)鍵問題規(guī)模化交付、配置一致性、無人值守。從原理上看PXE起始于客戶端的網(wǎng)卡固件。網(wǎng)卡固件在啟動階段啟用PXE協(xié)議棧發(fā)出DHCP廣播DHCP服務(wù)器不僅返回IP地址還帶上引導(dǎo)信息比如文件名和服務(wù)器IP。隨后客戶端通過TFTP從引導(dǎo)服務(wù)器拉取引導(dǎo)文件這個文件通常是pxelinux.0或grub相關(guān)的引導(dǎo)器。引導(dǎo)器運(yùn)行后讀取菜單配置文件決定從哪個鏡像啟動最終加載內(nèi)核和解耦然后掛載安裝源開始系統(tǒng)安裝。1.2 方案選型一體化還是分離式搭建PXE環(huán)境有兩條主流路線。一條是用dnsmasq把所有服務(wù)合成一個進(jìn)程順帶把DHCP和TFTP都干了安裝源則用一個HTTP服務(wù)承載。另一條是分離部署DHCP用dhcpd、TFTP用tftp-hpa、HTTP用nginx或httpd各司其職。一開始我圖省事用了一體化方案確實(shí)上手快但等環(huán)境復(fù)雜到要管理多網(wǎng)段、多系統(tǒng)鏡像時單進(jìn)程配置就變得臃腫排障也要從一堆日志里撈。后來生產(chǎn)環(huán)境我全部改成了分離方案。分離方案的好處有很多。DHCP作為整個PXE鏈路的入口配置相對獨(dú)立調(diào)試時不會牽連其他服務(wù)TFTP服務(wù)只在引導(dǎo)階段工作傳輸量小獨(dú)立部署可以單獨(dú)調(diào)整超時和并發(fā)參數(shù)HTTP服務(wù)是安裝源的核心獨(dú)立出來天然支持多目錄、多版本鏡像并行。而且三個服務(wù)進(jìn)程獨(dú)立重啟不會出現(xiàn)一個配置錯了全家起不來的尷尬局面??刂品?wù)器建議用長期支持版本的系統(tǒng)比如Rocky Linux 9或Debian穩(wěn)定版分配一個靜態(tài)內(nèi)網(wǎng)IP。所有PXE相關(guān)的流量都建議在獨(dú)立管理網(wǎng)段中進(jìn)行避免和業(yè)務(wù)流量混跑。安全問題也不要忽略內(nèi)網(wǎng)雖然默認(rèn)可信但TFTP本身沒有認(rèn)證機(jī)制HTTP端口也經(jīng)常是弱防護(hù)區(qū)所以管理網(wǎng)段建議與業(yè)務(wù)網(wǎng)段物理或邏輯隔離至少要做好對應(yīng)的網(wǎng)絡(luò)訪問控制。1.3 鏈路階段拆解從網(wǎng)卡啟動到系統(tǒng)交付完整的PXE裝機(jī)鏈路在原理上可以分為五個階段。第一階段是預(yù)啟動環(huán)境也就是網(wǎng)卡固件發(fā)起DHCP廣播這一步需要客戶端在BIOS或UEFI中開啟網(wǎng)絡(luò)啟動選項(xiàng)并設(shè)置正確的引導(dǎo)順序。第二階段是引導(dǎo)加載階段客戶端通過TFTP獲取引導(dǎo)器引導(dǎo)器再加載內(nèi)核和解耦文件。第三階段是啟動安裝程序階段內(nèi)核掛載initrd后安裝程序開始運(yùn)行并通過引導(dǎo)參數(shù)中的路徑去獲取應(yīng)答文件。第四階段是系統(tǒng)安裝階段安裝程序根據(jù)應(yīng)答文件訪問HTTP安裝源完成文件拷貝、引導(dǎo)安裝和基礎(chǔ)配置。第五階段是首次啟動初始化安裝完成后重啟系統(tǒng)首次啟動執(zhí)行cloud-init、自定義腳本等收尾動作。這里面任何一個環(huán)節(jié)出問題表現(xiàn)都可能極其相似比如卡在某個界面不動、報超時、或者直接拿到一個空內(nèi)核環(huán)境。所以做PXE排障必須牢牢記住這條鏈路順序配合抓包和服務(wù)日志定位才不會亂猜原因。2. 核心組件解析與配置要點(diǎn)2.1 DHCPPXE鏈路的入口總開關(guān)DHCP是PXE啟動的起點(diǎn)。客戶端上電后網(wǎng)卡固件發(fā)出DHCP Discover服務(wù)器需要提供兩組信息一組是常規(guī)IP參數(shù)另一組是PXE引導(dǎo)參數(shù)。常規(guī)參數(shù)包括IP地址、子網(wǎng)掩碼、網(wǎng)關(guān)和DNS。PXE引導(dǎo)參數(shù)則通過DHCP Option 66TFTP服務(wù)器地址和Option 67引導(dǎo)文件名傳遞或者在新版協(xié)議中使用Option 150等擴(kuò)展字段。簡單起見配置時直接把next-server指向TFTP服務(wù)器IP把filename寫成引導(dǎo)文件名。dhcpd配置里相對容易踩的坑是子網(wǎng)聲明和網(wǎng)卡接口綁定。一臺PXE控制服務(wù)器往往有多個網(wǎng)口務(wù)必確認(rèn)DHCP服務(wù)監(jiān)聽的網(wǎng)卡就是通向客戶端網(wǎng)段的那個網(wǎng)卡。啟動服務(wù)后第一步不要急著連客戶端測試先在本機(jī)跑一下DHCP請求模擬驗(yàn)證確認(rèn)服務(wù)能正常分配地址再進(jìn)入下一步。這個習(xí)慣能省下大量神經(jīng)。配置DHCP時還有一個容易被新手忽略的細(xì)節(jié)如果目標(biāo)網(wǎng)段存在其他DHCP服務(wù)器一定要在配置里嚴(yán)格限定子網(wǎng)作用域甚至用allow unknown-clients結(jié)合MAC白名單來控制。PXE環(huán)境講究的是可控如果混進(jìn)來一個非法DHCP服務(wù)器所有客戶端引導(dǎo)都會亂套。2.2 TFTP經(jīng)典小步快跑瓶頸也在小TFTP的作用范圍很有限只在客戶端獲取引導(dǎo)器的初始階段用到。因?yàn)檫@個階段網(wǎng)絡(luò)棧還很簡單無法承載復(fù)雜協(xié)議所以選用TFTP這種基礎(chǔ)文件傳輸協(xié)議。TFTP默認(rèn)基于UDP 69端口數(shù)據(jù)包小且沒有復(fù)雜的握手和狀態(tài)機(jī)實(shí)現(xiàn)簡化到了極致。協(xié)議的代價是傳輸效率低尤其是默認(rèn)塊大小512字節(jié)時傳一個幾兆字節(jié)的引導(dǎo)文件都會有明顯延遲。解決效率問題有兩個辦法。一是調(diào)整引導(dǎo)器的pxelinux.0加載后的內(nèi)核和解耦文件傳送這是不可避免走TFTP的但引導(dǎo)器本身足夠小。二是讓引導(dǎo)器后期從HTTP獲取內(nèi)核和initrd繞過TFTP的低效率。SYSLINUX系列引導(dǎo)器支持菜單配置里直接用HTTP URL加載內(nèi)核。我生產(chǎn)環(huán)境就是用HTTP承載內(nèi)核和initrdTFTP只保底傳pxelinux.0和菜單文件實(shí)測安裝速度比純TFTP快不少。TFTP配置上不建議用xinetd管理的版本直接安裝獨(dú)立的tftpd-hpa在配置文件中明確指定blocksize 1468乃至更大值減少包往返次數(shù)。同時把超時時間調(diào)大一些否則幾十臺客戶端同時廣播請求時偶發(fā)的瞬時丟包會觸發(fā)重傳超時直接表現(xiàn)為客戶端拿不到菜單。2.3 HTTP安裝源鏡像、倉庫與目錄規(guī)劃PXE引導(dǎo)成功后系統(tǒng)的安裝數(shù)據(jù)就全部從安裝源獲取。安裝源用HTTP承載比用NFS省心得多不依賴特定協(xié)議棧瀏覽器、CIFS、普通抓包工具都能訪問排查也直觀。我通常用nginx作為安裝源服務(wù)器配置非常簡單設(shè)置一個根目錄把各類發(fā)行版的ISO鏡像掛在對應(yīng)子目錄同時目錄結(jié)構(gòu)保持清晰可讀。鏡像的加載方式有兩個選擇直接把整個ISO文件放在磁盤上然后通過loop掛載或者把ISO內(nèi)容解壓到目錄中通過目錄訪問。前者省磁盤空間但每次訪問都需要內(nèi)核處理loop設(shè)備后者浪費(fèi)點(diǎn)空間但訪問效率高、部署直觀。我推薦把ISO解壓到目錄然后軟鏈或nginx alias指向它。需要注意掛載ISO時用mount -o loop解壓時尤其不要遺漏隱藏文件因?yàn)長inux ISO中有些配置文件和校驗(yàn)文件是以點(diǎn)開頭的。HTTP服務(wù)的響應(yīng)速度和并發(fā)也值得關(guān)注。默認(rèn)nginx配置就行不必額外調(diào)優(yōu)。但如果客戶端數(shù)量很大比如同時有幾十上百臺機(jī)器在拉包可以考慮把HTTP的日志級別降低減少磁盤寫日志帶來的性能損耗。還有一點(diǎn)確認(rèn)HTTP服務(wù)對安裝源目錄沒有做目錄列表限制或鑒權(quán)攔截否則安裝程序會在從源讀取元數(shù)據(jù)時報403。2.4 Kickstart無人值守的關(guān)鍵開關(guān)Kickstart是一種自動化應(yīng)答文件安裝程序按它的內(nèi)容自動回答原本必須人工交互的每一項(xiàng)問題。文件包括磁盤分區(qū)方案、文件系統(tǒng)類型、軟件包列表、語言與鍵盤布局、時區(qū)、root密碼、網(wǎng)絡(luò)配置、安全策略、以及首次啟動要執(zhí)行的腳本。這個文件是整個PXE方案里最能體現(xiàn)設(shè)計水平的地方。一份好的Kickstart文件應(yīng)該把“通用的安裝邏輯”和“每臺機(jī)器的差異項(xiàng)”分開。通用的部分比如基礎(chǔ)軟件包組、分區(qū)模板、時區(qū)、語言統(tǒng)一寫在ks文件里。有差異的地方比如主機(jī)名、IP地址、部分服務(wù)開關(guān)通過引導(dǎo)參數(shù)傳遞再用%pre腳本動態(tài)處理。這樣一套配置文件就能管住一個機(jī)房的環(huán)境而不是為每種硬件規(guī)格寫一份單獨(dú)的ks。分區(qū)方案建議采用LVM預(yù)留足夠的/home或/data空間給業(yè)務(wù)數(shù)據(jù)/boot獨(dú)立出來swap大小按物理內(nèi)存的1到2倍規(guī)劃。對于服務(wù)器場景根分區(qū)容量可以適當(dāng)給足后續(xù)擴(kuò)容少折騰。軟件包選擇上用最小化安裝加必要工具組寧可裝少了后期再補(bǔ)也別一上來把整組圖形化都裝上。2.5 網(wǎng)絡(luò)規(guī)劃與安全邊界PXE依賴網(wǎng)絡(luò)的程度比日常運(yùn)維高一個量級對網(wǎng)絡(luò)環(huán)境的要求也苛刻一些。首先是交換機(jī)端口客戶端機(jī)器所在的交換機(jī)下聯(lián)口不建議開啟端口隔離或個別準(zhǔn)入策略至少要讓DHCP Discover、TFTP客戶端請求、HTTP請求都能順利穿過。其次是VLAN劃分管理網(wǎng)段和業(yè)務(wù)網(wǎng)段分開PXE服務(wù)只監(jiān)聽管理網(wǎng)段避免誤用DHCP干擾業(yè)務(wù)地址池。最后是網(wǎng)關(guān)和廣播域DHCP Discover是廣播報文客戶端和服務(wù)器必須在同一個二層廣播域里跨三層就需要配置DHCP中繼代理。安全方面TFTP默認(rèn)不限制訪問目錄建議在TFTP目錄內(nèi)部做好讀寫權(quán)限控制只開放必要的子目錄。HTTP服務(wù)如果沒有特殊需求不建議直接綁定到公網(wǎng)網(wǎng)口。PXE環(huán)境如果可能接觸不受信任的客戶端考慮在DHCP服務(wù)中啟用動態(tài)分配合約或IP/MAC綁定保證只有已知的客戶端才能獲得引導(dǎo)資格。3. 實(shí)操全流程從零搭建一套可用的PXE環(huán)境3.1 準(zhǔn)備工作與基礎(chǔ)環(huán)境初始化我以一套Rocky Linux 9服務(wù)器作為控制端客戶端統(tǒng)一安裝同版本系統(tǒng)為例??刂品?wù)器的IP規(guī)劃為192.168.110.10客戶端網(wǎng)段192.168.110.0/24。數(shù)據(jù)庫術(shù)語上我們稱這臺服務(wù)器為PXE控制器其他所有機(jī)器都作為PXE客戶端。開始之前先把本機(jī)系統(tǒng)更新好關(guān)閉或放行對應(yīng)的防火墻端口并安裝所需軟件包。涉及的核心服務(wù)端口有三類DHCP使用UDP 67、TFTP使用UDP 69、HTTP使用TCP 80。如果控制端啟用了防火墻需要提前放行這組端口。同時要確認(rèn)SELinux不會攔截HTTP服務(wù)讀取掛載目錄最簡單的方式是把安裝源目錄的標(biāo)準(zhǔn)上下文手動設(shè)置一下或者臨時調(diào)整SELinux布爾值我建議按目錄標(biāo)準(zhǔn)設(shè)定上下文而不是直接關(guān)閉SELinux。# 安裝所需軟件包 dnf install -y dhcp-server tftp-server syslinux-tftpboot nginx3.2 DHCP配置明確引導(dǎo)入口編輯/etc/dhcp/dhcpd.conf定義子網(wǎng)和PXE引導(dǎo)參數(shù)。這里核心是next-server和filename兩個選項(xiàng)。一個基礎(chǔ)配置模板如下subnet 192.168.110.0 netmask 255.255.255.0 { range 192.168.110.100 192.168.110.200; option routers 192.168.110.1; option domain-name-servers 192.168.110.10; option subnet-mask 255.255.255.0; next-server 192.168.110.10; filename pxelinux.0; default-lease-time 3600; max-lease-time 7200; }next-server告訴你TFTP服務(wù)器在哪里filename告訴該取什么引導(dǎo)文件。配置好之后啟動服務(wù)并檢查日志確認(rèn)沒有語法錯誤。有一點(diǎn)我后來又改進(jìn)了公司內(nèi)部有多個網(wǎng)段PXE客戶端跨越了VLAN這就需要在每個VLAN的網(wǎng)關(guān)設(shè)備上配置DHCP中繼或者用DHCP服務(wù)端同時監(jiān)聽多個子網(wǎng)有條件可以配置基于端口的動態(tài)分配。3.3 TFTP引導(dǎo)環(huán)境放置引導(dǎo)器和菜單安裝syslinux-tftpboot后把pxelinux.0、菜單模塊、內(nèi)核和解耦文件放到TFTP根目錄。這里的常規(guī)TFTP根目錄是/var/lib/tftpboot實(shí)際路徑看發(fā)行版差異。拷貝引導(dǎo)器cp /usr/share/syslinux/pxelinux.0 /var/lib/tftpboot/ mkdir -p /var/lib/tftpboot/pxelinux.cfg創(chuàng)建/var/lib/tftpboot/pxelinux.cfg/default作為默認(rèn)引導(dǎo)菜單。我先讓客戶端啟動到安裝程序所有具體的鏡像選擇都放在這個菜單里。默認(rèn)菜單內(nèi)容如下DEFAULT menu.c32 PROMPT 0 MENU TITLE PXE Boot Menu TIMEOUT 100 LABEL linux MENU LABEL Install Rocky Linux 9 x86_64 KERNEL images/rocky9/vmlinuz APPEND initrdimages/rocky9/initrd.img kshttp://192.168.110.10/ks/ks.cfg這段配置里KERNEL指向內(nèi)核文件在TFTP根下的相對路徑APPEND里的initrd參數(shù)告訴引導(dǎo)器加載哪個解耦文件ks參數(shù)用HTTP URL指定Kickstart文件位置。注意如果使用UEFI引導(dǎo)環(huán)境圖形化菜單模塊選用menu.c32可能不生效需要根據(jù)啟動模式針對性配置。TFTP根目錄、權(quán)限和SELinux上下文都要配套。TFTP服務(wù)默認(rèn)對目錄有讀取權(quán)限要求如果用tftp-hpa默認(rèn)用戶是tftp需要保證引導(dǎo)文件對tftp用戶可讀使用chmod 644即可。如果啟用了SELinuxtftp服務(wù)有對應(yīng)的布爾值開關(guān)我因?yàn)閳D省事踩過一整晚的坑最后是檢查/var/log/messages才定位到SELinux攔截了TFTP讀取。3.4 HTTP安裝源掛載ISO并配置訪問安裝源放在nginx目錄下。先把ISO鏡像拷貝到控制服務(wù)器或者直接掛載然后創(chuàng)建軟鏈接指向解壓目錄。我的做法是統(tǒng)一放在/data/pxe/iso每個鏡像一個目錄同時給客戶端訪問路徑以簡潔的URL展示。mkdir -p /data/pxe/iso mount -o loop rocky9.iso /mnt/rocky9 cp -a /mnt/rocky9/. /data/pxe/iso/rocky9/nginx配置指向這個目錄server { listen 80 default_server; root /data/pxe/iso; autoindex on; }autoindex on是必要的雖然Kickstart不一定需要目錄列表但調(diào)試時可以先用瀏覽器訪問目錄確認(rèn)鏡像文件是否完整可見。安裝時安裝程序會訪問repodata目錄抓取軟件包元數(shù)據(jù)所以目錄里必須有這個文件如果ISO拷貝不完整經(jīng)常會在安裝進(jìn)度走到一半時報倉庫加載失敗。3.5 Kickstart應(yīng)答文件編寫兼顧通用與個性Kickstart文件放在HTTP服務(wù)下路徑/ks/ks.cfg對應(yīng)磁盤路徑/data/pxe/ks/。下面這個腳本是適應(yīng)多機(jī)器的通用模板已在多臺物理機(jī)上跑通過。# 版式Kickstart 格式 install url --urlhttp://192.168.110.10/rocky9/ lang en_US.UTF-8 keyboard us timezone Asia/Shanghai rootpw --iscrypted $6$... authconfig --enableshadow --passalgosha512 selinux --enforcing firewall --disabled firstboot --disable # 磁盤與引導(dǎo)配置 zerombr clearpart --all --initlabel part /boot --fstypexfs --size1024 part pv.01 --size1 --grow volgroup vg0 pv.01 logvol / --fstypexfs --nameroot --vgnamevg0 --size40960 logvol swap --fstypeswap --nameswap --vgnamevg0 --size4096 logvol /data --fstypexfs --namedata --vgnamevg0 --size1 --grow # 軟件包配置 %packages core vim wget %end # 首次啟動自定義 %post --log/root/pxe-post.log echo PXE install completed /root/pxe-post.log %end這個文件的關(guān)鍵在于分區(qū)策略和軟件包配置。分區(qū)統(tǒng)一走LVM后續(xù)擴(kuò)展不再需要停機(jī)調(diào)整物理分區(qū)。%post腳本用于安裝完成后做定制操作比如寫主機(jī)名、配置SSH key、添加用戶等。我是習(xí)慣在%post里通過讀取DHCP的hostname或預(yù)設(shè)參數(shù)來生成每臺機(jī)器的主機(jī)名這樣就不需要每臺機(jī)器手工改主機(jī)名了。第一段代碼里的root密碼以密文形式存放。生成方法可以用openssl passwd -6或者grub-crypt絕對不要寫明文密碼。整個Kickstart文件在HTTP目錄中時確認(rèn)權(quán)限盡量收緊比如只用root可讀寫但如果需要遠(yuǎn)程修改也可以另設(shè)專用賬號。3.6 客戶端啟動驗(yàn)證與參數(shù)傳遞技巧配置全部就位后在一臺測試機(jī)上將其啟動方式設(shè)置為網(wǎng)絡(luò)啟動開始觀察安裝流程。理想情況下控制臺會依次出現(xiàn)PXE準(zhǔn)備階段、引導(dǎo)菜單、內(nèi)核加載、安裝程序初始化然后進(jìn)入無人值守安裝。全程大約10分鐘期間不需要任何人工干預(yù)。如果希望客戶端能自動區(qū)分不同主機(jī)名或不同分區(qū)配置可以使用Kickstart里的%pre腳本配合引導(dǎo)參數(shù)實(shí)現(xiàn)。引導(dǎo)器APPEND里可以帶自定義參數(shù)比如hostnameweb01然后在%pre中解析這些參數(shù)并寫入對應(yīng)配置文件。這種方式比客戶端都讀同一個模塊更靈活也方便和資產(chǎn)管理平臺打通。%pre --log/tmp/ks-pre.log hostname$(find /proc/cmdline -o -print | grep hostname | cut -d -f2) echo $hostname /etc/hostname %end還有一個小技巧是把menu.c32作為默認(rèn)引導(dǎo)菜單同時鍵盤快捷鍵可以快速進(jìn)入shell方便調(diào)試。實(shí)際使用中我在APPEND里經(jīng)常額外加一個ipdhcp參數(shù)確保安裝程序正確獲取網(wǎng)絡(luò)配置避免因?yàn)榫W(wǎng)卡名混亂導(dǎo)致連不上安裝源。4. 常見問題與排查技巧實(shí)錄4.1 客戶端卡在“PXE-E51: No DHCP or proxyDHCP offers”這個報錯說明DHCP階段就沒通。排查順序很明確看看DHCP服務(wù)是否在跑監(jiān)聽端口是否是67確認(rèn)客戶端和服務(wù)器在同一二層網(wǎng)絡(luò)檢查防火墻是否丟棄了UDP 67報文。如果服務(wù)正常再用tcpdump在服務(wù)器側(cè)抓包觀察DHCP Discover是否能收到。這類問題九成是網(wǎng)絡(luò)隔離或服務(wù)監(jiān)聽錯了接口。4.2 客戶端能拿到IP但TFTP下載引導(dǎo)文件超時此時DHCP已經(jīng)成功問題出在引導(dǎo)文件獲取階段。常見原因包括TFTP服務(wù)器沒放行UDP 69端口、pxelinux.0文件不存在、或文件權(quán)限不對。另外一個很容易忽略的是filename里如果寫了路徑比如filename pxelinux.0TFTP服務(wù)會把它當(dāng)作相對路徑拼接在根目錄之后路徑寫錯會直接404。建議先用tftp命令行手動測試一遍文件下載能手動下載成功再談客戶端引導(dǎo)。tftp 192.168.110.10 -c get pxelinux.04.3 引導(dǎo)菜單正常顯示但內(nèi)核啟動后黑屏或Kernel Panic這類問題一般和引導(dǎo)參數(shù)有關(guān)。最常見的是APPEND里沒有指定正確initrd或者vmlinuz和initrd.img與系統(tǒng)架構(gòu)不匹配。另一個常見坑是UEFI機(jī)器加載了BIOS版引導(dǎo)文件導(dǎo)致啟動協(xié)議不符。當(dāng)前架構(gòu)統(tǒng)一使用UEFI引導(dǎo)我配置時都會放兩套引導(dǎo)文件按啟動模式提供不同文件名從一開始避免混用。4.4 安裝程序已啟動但在獲取倉庫或安裝軟件包階段失敗安裝程序能跑起來說明引導(dǎo)鏈路OK之后的失敗通常都和HTTP源有關(guān)。建議先訪問http://192.168.110.10確認(rèn)目錄列表能看到ISO內(nèi)容。如果目錄能打開但安裝報404請看Kickstart里url --url寫的具體路徑是否與nginx目錄的alias或軟鏈路徑對應(yīng)。還有一個容易踩的坑如果通過mount -o loop臨時掛載ISO服務(wù)器一重啟掛載點(diǎn)就消失。我的建議是把ISO解壓到目錄后長期保留避免循環(huán)掛載依賴進(jìn)程狀態(tài)。4.5 Kickstart文件無法讀取如果引導(dǎo)器能找到kshttp://...但安裝程序提示解析錯誤或訪問失敗先用瀏覽器或curl確認(rèn)該URL可以正常返回內(nèi)容再檢查文件格式。Kickstart文件其實(shí)對行尾和編碼有要求Windows下編輯過再傳到服務(wù)器很容易栽在回車符差異上。另一個隱蔽的問題是文件中出現(xiàn)空行、注釋錯位或者使用了不支持的指令建議安裝前用ksvalidator做一次語法驗(yàn)證能省去大量現(xiàn)場調(diào)試時間。4.6 大規(guī)模并發(fā)安裝時的延時與資源瓶頸同時引導(dǎo)幾十臺客戶端時DHCP、TFTP、HTTP三個服務(wù)都可能成為瓶頸。DHCP層面可以把default-lease-time縮短讓地址盡早釋放TFTP層面引導(dǎo)器文件本身傳輸盡力減小必要時僅傳輸引導(dǎo)器內(nèi)核和initrd走HTTPHTTP層面建議把所有安裝源目錄的冗余日志級別關(guān)閉同時nginx開啟sendfile和aio并考慮采用proxy_cache做倉庫包緩存。實(shí)測中同樣的配置優(yōu)化HTTP路徑后并發(fā)20臺以上也能穩(wěn)定交付。4.7 安裝完成后首次啟動進(jìn)不了系統(tǒng)這類問題多出在引導(dǎo)加載器安裝和分區(qū)設(shè)計上。如果/boot分區(qū)存在但內(nèi)核沒寫入引導(dǎo)項(xiàng)檢查Kickstart里是否包含bootloader --locationmbr或UEFI相關(guān)參數(shù)。此外部分機(jī)器因固件原因在PXE安裝后還保留PXE啟動順序?qū)е轮貑⒂只氐骄W(wǎng)絡(luò)啟動菜單。處理辦法是在Kickstart%post階段寫一段腳本將啟動順序調(diào)整為本機(jī)磁盤優(yōu)先或者依靠UEFI的引導(dǎo)管理器設(shè)置。5. 擴(kuò)展場景與現(xiàn)實(shí)經(jīng)驗(yàn)PXE不止能裝單機(jī)系統(tǒng)稍微擴(kuò)展一下邏輯就能覆蓋多種運(yùn)維場景。比如配合模板鏡像可以用PXE引導(dǎo)一個內(nèi)存系統(tǒng)然后在內(nèi)存系統(tǒng)里執(zhí)行克隆、備份或抽檢硬件固件信息再比如把Kickstart文件里的軟件包列表換成某一業(yè)務(wù)組的常用軟件集合就相當(dāng)于批量交付了統(tǒng)一基線還能和監(jiān)控平臺打通讓安裝完成后的系統(tǒng)第一時間自動上報到CMDB。我在實(shí)際落地中還總結(jié)了一條經(jīng)驗(yàn)PXE的搭建代碼相對固定難的不是寫配置而是對網(wǎng)絡(luò)細(xì)節(jié)的理解和異常處理。每次導(dǎo)入一批新機(jī)型我都會先拿一臺樣機(jī)完整跑一遍安裝觀察日志里是否有新硬件導(dǎo)致的異常再決定是否批量執(zhí)行。如果機(jī)器網(wǎng)卡型號較新引導(dǎo)階段可能還需要嵌入廠商網(wǎng)卡驅(qū)動否則會出現(xiàn)內(nèi)核無法識別網(wǎng)卡而無法進(jìn)入安裝程序的怪問題。后來說個非常實(shí)用的小技巧建議把控制服務(wù)器上的配置做版本管理至少對dhcpd.conf、nginx配置和Kickstart腳本打上git標(biāo)簽。出現(xiàn)配置回退時幾秒鐘就能恢復(fù)。做PXE的樂趣就在于前期配置雖然瑣碎但換來的是一勞永逸的交付能力這種投入非常值得。祝各位順利跑通自己的PXE鏈路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
中日韩美欧成人一区二区精品在线| 久久视频婷婷| 极品少妇XXXX精品少妇偷拍| 午夜丁香六月婷| 99色婷婷视频| 五月天婷婷网站888| 丁香六月婷婷色XXXXX| 嫩草免费视频| Www.狠狠| 啪啪啪丁香五月| 久久亚洲网| 婷婷丁香五月亚洲17cao| 1024国产在线| 99性爱视频网站| 丁香五月婷婷社区| 99热在线看| 影音先锋 一区| 午夜五月天| 五月丁香A片| 五月天激情视频网站| 成人亚洲精品久久久久| 影音先锋777xfplay色资源网站| 欧美日本国产| 五月婷婷影| 久久综合9| 婷婷五月丁香基地| 色色色色区| 久久视频婷婷| 啪啪色激情五月天| 久久五月天激情| 天色色综合网| 亚洲午夜av| 五月天婷综合| 五月婷婷激情综合网| 狠狠干婷婷| 五月天色综合| 精品视频这里只有精品| 亚洲黄色操逼| 国产激情视频在线观看| 天天橾日日橾夜夜橾17| 九九热在线99| 99精品国产乱码久久久人妻| 人人干av| 五月婷婷六月丁| 国产SUV精品一区二区883| 丁香五月激情宗合| 五月天伊人| www.久久| 亚洲av电影在线| 色五月综合资源推荐| 大香蕉99热| 久久婷婷视频| 国产色丁香| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 天天综合网网欲色| www.激情五月天。com| 热99在线| 九九色热| 成人婷婷桔色| 天堂网啪啪| 天天噜噜| 天天色综网| 爱久久小说下载网| 丁香婷婷激情| 天天摸夜夜爽天天做| 97涩婷婷| 国内外色色色色色成人视频| 日韩 中文 欧美| 美女亚洲五月丁香| 色婷久| 久久伊人大香蕉| 色婷婷激情| 国产真人做爰视频免费| 丁香五月综合婷婷| 色五婷婷开心缴| 五月色综合| 99热在线极品极品| www.yw尤物| 婷婷五月天影视| 潮汕成人AV片在线| 亚洲精品99| 人妻内射视频| 五月天无码视屏播放| 九九色综合| 婷婷五月丁香五月综合网| 99亚色色色| 99人人看| 在线观看免费观看在线9久| 国产成人+亚洲+欧洲| 国产婷婷色五月| 91大神在线免费看视频全集男男一起操| 婷丁香五月天| 五月涩涩网| 色色色9 9 9| 精国产品一区二区三区A片| 久久奄也去色色网站| 久久伦乱| 五月丁香六月婷婷综合| 国产偷人爽久久久久久老妇APP| 综合激情在线视频| 亚洲久久激情| 天天爽天天日天天舔| 五月激情五月丁香| 激情综合五月激情XXXX| 色综合色| 天天色月| 丁香五月网站| 国产韩日亚洲美州欧亚综合在线| 大香蕉久久久| 天堂资源欧日浪女在线播放| 99爱爱网| WWW·色色色·COM| 欧美日本97| 超级碰碰97在线| 五月天婷婷视频| 激情99| 激情婷婷五月色| 夜夜涩涩涩| 婷婷激情在线| 五月婷婷色情| 色婷婷亚洲| 高清成人综合| 色婷婷综合综合网| 爱狠射| 丁香五月天婷婷激情| 激情久久丁香| 另类综合色| 国色天香伊人狠狠色| 99re这里只有精品视频6| 色综合九九| 超碰人人99| 超碰啪啪网| 淫五月停停| 99热自拍| 成人午夜天| 涩五月婷婷| 99色婷婷视频| 这里只有精品视频99| 互月天综合| 六月激情婷婷综合| 五月丁香六月久久| 丁香 婷婷五月| 999婷婷综合| 99热这里只有精品55| 日日夜夜狠狠干| 婷婷五月天免费| 成人五月天在线观看| 久久婷婷五月丁香网| 黄网在线免费播放| 色色色在线| 婷丁香五月天| 综合五月婷婷| 九月丁香婷婷综合| 五月亭亭六月色| 丁香五月天激情网址| 五月丁香久久| 99色色最新视频| 五月色丁香国产在线视频| 婷婷五月丁香综合亚洲| 婷婷久久国产视频| av在线激情| 日韩精品成人在线| 成人短视频在线观看| 五月天婷婷久久| 日韩成人网址| 天天干天天干天天干天天干天天干天天 | av五月天婷婷丁香| 色婷婷久久综| 丁香婷婷五月天色综合| 五月天久久综合婷婷丁香| 精品乱码久久久久| 婷婷激情综合| 九九精品丁香花| 亚洲AV成人无码精品| 久热精彩视频98| 五月丁香综合中文| 麻豆科斗777| 另类丁香五月天区图| 婷婷网五月| 香蕉乱插| 99re99热| 色色综合色| 男人的天堂五月丁香| 91丨九色丨东北熟女| 五月天激情四射| 99热精品在线| 色涩影院六月丁香| 肏屄色播伊人97婷婷| 色综合久久99色| 六月丁香五月婷婷首页| 五月丁香成人版| 丁香五月婷婷影院| 精品久久人妻| 亚洲综合成人网站| 五月天婷婷激情小说| 免费观看的婷婷五月视频在线| AAA久久久| 午夜天堂一区人妻| 亚洲精品久久久久久久久久吃药| 亚洲这里只有精品| 五月丁香六月| 99视频在线观看视频| 欧美日韩123| 伦乱美欧| 久久久www| www.婷婷五月天| 色噜噜狠狠色综合日日| 婷婷五月a| 激情黄色小说色五月| av大片在线| 九色无码| 九色色| 婷婷播5月| 激情综合五月| 一级黄色操B| 久久亚洲A| www99热| 一起草性爱不卡视频| 婷婷丁香在线| 激情五月天婷婷丁香| 亚洲AVwwwwwww| 国产99久久久| 五月丁香偷拍| 九色亚洲| 伍月激情天| 丁香五月欧美午夜视频| 成人丁香婷婷| 色六月天天激情综合网| 五夜婷婷| 激情无码网| 少妇熟女视频一区二区三区| 四川操逼站| 午夜美女人啪最红院| 五月婷婷五月| 日韩一级淫乱片一区二区三区| 91成人看| 巴基斯坦粉嫩无码视频| 日本人妻伦在线中文字幕| Www.狠狠| 一级操逼内射在线视频| 亚洲字幕AV一区二区三区四区| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | www.婷婷,com| caop视频| 久久精品凹凸分类| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | 久久XX日本综合| 操操操操操操婷婷五月天| 五月天婷婷久久| 成 人片 黄 色 大 片| 亚洲一级色电影| 五月激情综合美女久久| 丁香五月婷婷综合激情啪啪啪啪啪啪啪 | 婷婷综合五月天激情| 人妻综合网| 大香蕉人人网| 色五月婷婷五月| 日本wwww在线| 久久九九热视频| 久久久精品免费啪啪国| AV天堂婷婷五月天| 免费一区二区三区| 色婷五月天激情| 碰超亚洲| 天天狠狠夜夜狠狠2023| 综合激情sV| 色色色色色综合| 欧美A片在线视频免费观看| 色视五月天婷婷| 色婷久久| 操91| 天天色天天| 99九九精品| 超碰在线精品| 99爱99操| 婷婷97碰碰| 久久五月婷综合| 九九久久五月天综合伊人| 欧美性猛交XXXX乱大交极品| 激情五月丁香在线观看直播| 青青久久五月| 在线1青婷| 五月婷啪| 色色激情| 国产看真人毛片爱做A片| 国产精品久久99| 97av在线视频| 一本综合丁香日日狠狠色| 九月丁香很很色| 亚洲AV成人无码久久精品老人法拉利| 久久五月情| 色色色99| 99亚洲天堂| 激情五月丁香婷婷| 米奇影视资源777狠狠色婷婷五月天激情网 | Av九九| 精品人人操| 99精品热| 伍月婷丁香花全集| 午夜婷婷久久| 五月丁香六月婷综合成人综合| 五月婷无码| 五月天婷婷狂暴白浆| 五月婷婷丁香在线| av久热| 色五月首页| 26UUU在线观看| 婷婷五月丁香四射| 伊人干综合| 美妞av| 五月久久丁香| 日本综合色色| 一区二区三区XXXXXX| 五月天久久综合| 六月丁香激情综合网| 91男同视频| 婷婷色情六月| 激情五月天色| 国产人人操| 国产婷婷综合| 538久久| 中文字幕在线人妻| 五月天激情国产综合婷婷| 丁香五月另类小说在线阅读| 青青操丝袜美腿| 91五月天| 色五月婷婷五月天激情综合| 六月婷婷五月丁香首页| 中文网婷婷字幕婷| 天天色播| 色香久久| 婷婷色色播五月天| 五月婷婷狠狠干| 婷婷五月激情综合| 五月激情婷婷丁香天堂| 五月丁了香蕉综合| 天天操天天曰天天射| A久久| 婷婷涩涩五月天| 五月色在线| 日日操夜夜操中国无码| 夜精品无码A片一区二区蜜桃| 色爱亚洲| 五月丁香久久综合精品| 99热这里只有精| 激情综合网五月婷婷| 一区二区中文字幕| 九色91美女| 中文字幕无线久必| 天天操天天操天天操天天操天天操| 爱婷婷久久视频| 亚韩在线视频| 久久天堂女人| 亚洲精品国产A久久久久久| 99超级碰碰| 五月四色婷婷| 思思热久在线观看视频| www九九| 婷婷酒色网| 午夜一区| 婷婷五月花| 六月婷婷九月丁香亚洲综合| 同性gv国产精品一区二区| 2015超碰| 九九久久久综合| 五月色综合| 亚洲中文字幕AV| 亚洲99精品欧美一区| 99综合在线| 色色网91| 奇米影视777在线_在线观看午夜_h小视频在线观看_岛国大片 | 久久婷婷视频| 97五月久久丁香婷婷| 亚洲五月天婷婷在线| 久久综合丁香五月| 五月激情综合网| 91青娱乐青青草| 啪啪亚洲综合| 婷婷丁香激情| 中文无码精品一区二区三区| 天天干天天日天天插 | 久久婷婷网站| 婷婷五月天激情网| 色五月五月婷婷| 婷婷五月天成人网站| 狠狠婷婷爱| 亚洲综人色综网| 91免费看片| 综合网色综合| 五月天丁香欧美激情| 午夜天天精品视频| 少妇AB又爽又紧无码网站| 五月天伊人| 狠狠色噜噜色狠狠狠综合久久成人波 | 日本久久网| 可以免费观看的AV| 99九九视频| www,五月天激情| 五月情综合| 亚洲色婷婷色| 久久这里只有精品07 | 婷婷六月激情在线视频| 亚洲人成人五月天| 九九色热视频| 五月天激情综合网站| 91中文在线| 伊人综合网站| 少妇真实被内射视频三四区| 九九热123| 久久久国产精品黄毛片| 综合色在线| 99re欧美精品| 丁香五月婷婷综合激情哟哟哟| 91狠狠色丁香婷婷综合久久狠丁香综合久久精品 | 色色国产| 丰满人妻妇伦又伦精品国产| 91操人人操| 中文字幕1区2区。| 少妇被下春药玩弄A片| 日本天天色| 激情四射网| 日本综合色色| 日日干日日| 爱射综合| 97人人妻人人艹| www网站在线观看| 91丨人妻丨国产丨丝袜| 99婷婷国产最新视频| 久久香蕉福利| 激情五月伊人婷婷| 久久在线人妻| 天天爽天天干| 亚洲精品一区中文字幕乱码| 婷婷,五月天,丁香,第一| 精品国产AV色一区二区深夜久久| 国产肥白大熟妇BBBB视频| 99精品国产在热久久| 日本熟妇乱妇熟色A片蜜桃| 午夜成人av在线| 久久婷婷桃花五月天| 亚洲人妻电影| 97亚洲视频在线| 五月久久综合| 99人人操| 都市激情久久| 六月丁香婷婷五月| 91狠狠综合网| 五月婷婷六月丁香| 天天摸色吧天天摸色吧| 丁香五月婷婷激情小说| 国产色香蕉精品五夜婷| 思思热精品在线| 国产精品国产VA片国产| 国产精典视频在线观看| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 成人欧美日韩| 色婷婷文字幕| 亚洲妇女熟BBW| 97久久婷婷色| 丁香五月婷婷啪| 亚洲五月天第一综合干| 天天舔天天摸天天透| 激情五月久久| 五月激情啪啪| 久久久久久久五月| 琪琪理论片| 天天爽免费视频| 丁香六月激情综合| 久久日婷婷| 色爱五月天| 亚洲超碰青涩| 99久久久| www.国产色| 亚洲色婷婷五月天| 六月婷婷AV| 国产韩日亚洲美州欧亚综合在线| 激情婷婷啪啪| 超碰人人在线| 99啪在线| 成人婷婷深爱综合网| 夜夜躁爽日日| 亚洲五月婷| 黄色毛片精品| 狠狠人人| 黄色五月婷婷| 亚洲AV日韩AV永久无码网站| 色婷婷在线视频久| 人人干99| 色婷婷AV久久| 久久久er热| 九九色色| 久久久亚洲成人无码A片| 99综合在线| 五月婷婷亞洲中文| 国产精品18久久久| 91久久久久久久久| 五月激情影院| 两性婷婷丁香五月| Av性爱网站| 五月丁香色婷婷色| 综合日本婷婷| 五月丁香久久久| 第四色五月天| 成人一级片| 可以免费看AV网站| 欧美性丁香色色五月天干干| 国产做爰视频免费播放| 婷婷色五月婷婷姐妹| 成年人最刺激的综合网| 99久久喉9| 夜夜天天久久婷婷| 99色热| 青青草原伊人网| 色区域网站视频| 中文字幕网伦射乱中文| 天搞天天天天天| 九九在线视频| WWW、日本色丁香、co m| 天天做天天干天天综合网| 亚洲天堂久久| 五月丁香六月婷婷啪啪| 色偷偷色婷婷| 久操97| 婷婷夜夜操| 国产乱子轮XXX农村| 久久久久妻| 97资源欧美日韩大香蕉超碰一区| 91久久色| 天天综合色| 九月婷婷在线观看| xxx.色婷婷| www.婷婷com| 五月婷婷之激情五月| 97福利视频| 99免费成人网| 婷婷欧美| 久久9精品| 久热这里只有精品6| 亚洲国产精品VA在线看黑人| 天天日夜夜草进麻麻的子宫| 亚洲日韩乱码一区二区三区四区| 大波美女VA网站| 激情综合五月丁香| 国产免费一区二区三州老师F1……| 色婷婷久久综合久色| 人人摸人人搞| 亚洲婷婷丁香五月在线| 丁香六月婷| 狠色综合网| 婷婷六月综合激情| 99色最新在线视频| 熟女人妻一区二区三区免费看| 国产永久一二一起草| 激情六月天| www.av视频xx999.com| 人妻人人操| 天天日,天天射,天天插| 日韩成人无码| www开心激情网| 91在线资源| 丁香激情五月少妇| www91久久| 影音先锋91| 2017人人操| 婷婷精品在线| 丁香婷婷五月天校园春色| 婷婷五月天成人网| 婷婷五月天影视| 丁香六月天婷婷色| 五月丁香激情欧洲啪啪| 色偷偷人人| 狠狠激情五月天| 亚洲精品网址| 天天色色天天| 99色播| 免费观看日韩成人av| 婷婷成人视频| 91狠狠综合久久久久久| 中文字幕精品无码一区二区| 开心五月深爱五月丁香五月激情五月| av操一操| 99热这里只有精品99| 狠狠狠人妻| 超碰cap| 天天射影院| www九九热| 国产精品人人做人人爽人人添| 亚洲激情五月丁香久久久久| 久99精品视频| 色五月丁香五月| 天天狠狠色噜噜| 久久码久久无清| 91se在线视频| 人人干人人操人人摸人人做| 99热精品超碰| 婷婷99狠狠| 九九这里精品| 99国产欧美视频| 人人摸人人| 开心五月六月婷婷| Www.久久| 五月叮香啪| 99热这里只有精品50| 操日本三片99| 色五月激情五月| 色欲一二三| 国产日产成人亚洲欧美国产VA| 在线中文AV| 综合狠狠干| 婷婷五月天日逼| 久久 中文 日本| 九九热免费视频| 伊人久久五月天综合| 五月婷婷久久综合| 婷婷日韩| 欧美一级色| 色色色色色综合| 五月色婷婷亚洲 | 91色五月| 天天干狠狠艹| 五月天激情站| 日本久久人| 青柠影视免费高清电视剧| 蜜臀av粉嫩av懂色av| 啪啪啪啪五月天| 成人永久免费视频在线观看| 日韩一级一片内射视频4K| 婷婷五月综合社区| 五月丁香狠狠| 色婷婷婷av| 麻豆精品| 国产av网| 99精品成人无码A片观看金桔| 五月丁香综合在线| 99热精品综合| 久热这里只有精品6官网亚洲| 国内自拍97在线| 99自拍视频在线观看| 久久99网| 丁香婷婷色五月合集| 玖玖在线视频福利| h亚洲| 亚洲成人网址在线观看| 无码99| 久久婷婷色| 涩综合婷婷| 毛片新网地| 五月天婷基地| 五月婷婷啪啪| 五月天开心网| 婷婷九九| 丁香婷婷基地| 久久久久久久97| 久久婷婷精品| 欧美天堂久久| 亚洲美女网Va| 五月婷婷在线综合| 狠狠狠狠操| 色色色视频免费无码| www.色五月.com| 丁香五月婷婷88在线| 久久精典| 五月天大香蕉| 欧美这里只有精品| 激情五月天黄色小说| 婷婷色网| 综合五月草| 亚洲综合干| 狠狠干,狠狠操| 激情五月天婷婷久久久久久久久久久| 五月婷综合| 五月天婷婷久久| 激情五月天小说| 五月激情婷婷女| 婷婷网五月| www.久久66| 五月婷婷综合色啪首页| 五月丁香天堂网婷婷| 草操网| 日日操夜夜撸| 美女xx不卡| 色色色色色色色色色色色色色色,网站| 色婷婷啪啪| 五月婷婷爽爽爽| 免费观看全黄做爰的视频 | 无码日本精品XXXXXXXXX| 超碰超碰在线| 九九色婷婷| 色婷网| 天天操天天曰| 日本狠狠色| 99久久99久久综合| 中文成人在线| 婷婷影院A成人| 97超碰,人人舔,人人操,人人摸| 青柠影视免费高清电视剧| 国产做爰视频免费播放| 婷婷丁香18| 欧美一级毛卡片无码| 二区成人视频| 婷婷六月激情| 99精品久久| 思思热在线视频精品| 99色色热热| 久热婷婷综合| 俺去也五月| 国产精品日韩十五区| 美女五月狠狠| 97碰碰视频在线观看| 亚州色色色| 九九热在线精品视频| 亚洲成人AV高清字幕| 天天狠狠夜夜狠狠2023| 开心婷婷五月激情网小说| 日韩乱轮AV| 激情第四色| 精品五月丁香| 国产精品成人网站| 久久婷婷伊人| 丁香综合久久| 五月婷在线| 久久 这里只有精品1| 光棍影院日韩精品| 亚洲欧洲中文日韩久久AV乱码| 激情五月婷婷丁香| 性爱视频久久| 婷婷五月天伊人| 国产免费性爱| 精品久热69| 婷婷激情五月吧| 亚洲人人操BD| 欧美精品啪啪| 午夜少妇在线观看视频| 99爱视频在线观看| 天天爽夜夜爽| 婷婷激情五月吧| 久久亚洲天堂| 色婷婷香蕉| 91综合在线| 亚洲乱码日产精品BD| 五月丁香久久婷| 淫视馆aV二区一区| 99热这里只有在线| 国产成人+综合亚洲+天堂| 少妇2做爰HD韩国电影| 婷婷五月丁香A∨| 五月天婷婷综合久久| 久99热| 色色婷婷五月天| 日韩成人精品中文字幕电影| 五月天丁香久久| 97婷婷丁香五月天激情图片| 99热精品在线观看| 天天干,天天日| 色约约视频一区二区三区四区五区 | caobi四区| 五月成人天| 人妻久久久| 丁香色五月AV在线| 亚洲性爱干干| 久操激情| 无毒黄色网址| 99热色无码| 色色色色色色网| 精品一二三区久久AAA片| 99热在线观看99| 欧美激情五月天在线观看| 夜夜操狠狠操| 精品爱欲五| 99九九久久| 99er精品视频| 成人无码髙潮喷水A片| 9精品视频在线观看| www.minyis.com【JT】币址百万U预算可预付QQ2101460746 | CHINESE熟女老女人HD视频| 九色无码| 天天摸天天日天天舔| 天天日天天操心| 婷婷五月丁香色综合| 五月婷婷丁香五月婷婷| 亚洲精品婷婷| 免费97碰碰| 亚洲国产色婷婷| 婷婷五月花| 最近免费中文字幕大全高清大全1 免费看欧美成人A片无码 | 激情久久五月天| 在线你懂的亚洲欧| 激情五月丁香五月| 丁香激情五月少妇| 婷婷五月天天aV| 丁香五月激情婷婷| 九九色人| 五月婷婷五月| 91女人18毛片水多国产| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 99热久| 五月丁香猫咪久久婷婷综合视频激情四射网入口 | 99免费综合网| 婷婷六月丁香综合| 日本无va视频| 这里只有精品视频看看| 九月色婷婷综合| 深爱激情网五月天| 九九婷婷网五月天| 91九色欧美| 丁香五月中文字幕久色| 精品人妻伦一二三区久| 九九色色网| 91肏| 婷婷五月丁香超碰| 天天摸天天透天天舔| 六月丁香婷婷爱| 婷婷五月天激情小说网站| 依人大香蕉| 九九这里只有精品在线视频| 色婷婷电影网| 欧美成人五月天| 狠狠干婷婷| 久久婷综合| 五月天久久久| 激情婷婷五月天| 婷婷丁香六月天激情四射网| 这里只有精品免费视频在线观看| 欧美情色一区| 色婷婷色情| www免费在线视频| 高清无码一区二区三区四区| 国产精品色色| 99在线观看视频蜜臀| 久久久18| 五月婷免费视频久久久| 国产激情视频在线观看| 天天日夜夜B久久| 99婷婷| 激情婷婷人妻| 中文字幕1区2区。| 五月婷六月丁香| 久在热99| 激情五月丁香五月| 亚洲操B视频| 婷婷五月在线视频| 精品久久9| 色婷婷视频| 婷婷久月| 六月丁香久久| 日日干综合| 在线看九一V图片| 武汉美女啪啪视频免费一级片 | 人人妻久久妻| 嫩草国产| 久久五月网| 激情婷婷五月久久| 国产69久久久欧美黑人A片| 亭亭色天香| 91大操| 五月激情影视| 色婷婷19| 青青草成人网| 亚洲五月丁香综合网| 国产成人精品一区二三区熟女在线| 极品人妻videosss人妻| 亚洲av电影网站| site:pnnrt.com| 欧洲亚洲免费视频9| 丁香五月AV| 另类激情五月| 久久婷婷综合五月| 丁香五月综合亚洲| 百度4399有码精品V在线观看| 欧美三级欧美一级| 国产伊人五月天| 色婷丁香91| 日日夜夜狠狠| 激情五月天在线观看婷婷| 中文字幕无码人妻少妇免费视频| 欧美精品熟女一区二区| 色天使色婷婷| 六月丁香啪啪| 在热视频精品| 思思热国产| 狠狠综合网| 色情丁香五月婷婷精品| 99在这里有精品| 97人人草| 中文无码婷婷| 狠狠搞亚洲| 天天拍天天操| 国产精品婷婷午夜在线观看| 9久热在线视频精品| 欧美婷婷| 啪啪小说五月天| 日本一级黄色电影| 婷婷在线五月综合| 26uuu精品一区二区| 六月综和久久| 午夜日日| 五月婷婷深深爱| 综合网亚洲| 五月婷婷综合网| 婷婷五月乱交换| 久久综合天天综合| 免费无码毛片一区二区A片| www.狠狠| 狠狠香蕉| 91丨九色丨丰满人妖| 九热视频| 亚洲色频| 丁香婷婷六月天| 能看的av| 色久在| 免费AV播放| 天天操天天日天天爱| 婷婷黄色| 丁香五月婷婷激情中文| 欧美天天草人人草| 91在线看片| 97色干| 日本五月天婷婷丁香| 亚洲成人色五月天| 六月婷婷九月丁香| 亚洲国产精品二二三三区| 香焦网五月天| 午夜激情五月| 狠狠做六月爱婷婷综合aⅴ| 淫视馆av三区| 99性爱视频| 久久色亭亭五月天| 天天日天天做天天操| 99久久婷婷国产综合精品青桔| 加勒比久热| 精品国产AV色一区二区深夜久久| 成人在线网| 五月天色视频| 777久久精品| 丁香六月激情| 久久精品日| 国产AV一区二区三区日韩| 久热欧美| 99激情视频| 日本在线噜噜| 色婷婷AAA| 新激情综合| 亚洲AV成人无码精品| 亚洲激情AV| 97九色| 狠狠操天天干| 九九热精品6| 久久色在线视频| www.99婷婷| 色欲婷婷五月天丁香| 有码一区二区三区| 激情五月婷婷| 99热99色| 思思re99视频在线观看| 玖玖五月| 免费观看大片视频 丁香婷婷 六月欧美| 激情影院免费视频婷婷五月天| 99re思思热在线视频| 国产综合视频婷婷| 97久久五月丁香婷婷| 亚洲天堂制| 色五月丁香91| 亚洲网在线观看| 五月天婷婷激情| 精品成人久久久久久久_一二三四视| 日本色狠狠| 人人噜天天上| 特级片神马电影| 先锋资源 996| 激情五月婷婷在线区| 激情婷婷内射| 这里只有精品视频视频在线观看| 激情视频网址| 色色吧综合| 一逼色综合| 粉嫩av懂色av蜜臀av熟妇| 4399人妻无码久久久| 人操91在线| 奇米影视777在线_在线观看午夜_h小视频在线观看_岛国大片 | 天天日天天舔| 欧美这里只有精品| 久热免费| WWW,婷婷,COM| xxx.色婷婷| 五月天婷婷爱| 久久色情综合免费网站| 色中色综合| 丁香五月在线观看| 日本婷色| 日本色婷婷| 五月综合丁香婷婷| 女婷久久| 九九热在线99| 色色色综合色| 欧美99| 国产69久久久欧美黑人A片| 国产亚洲精品久久久久苍井松| 免费视频WWW在线观看网站| 国产真人做爰视频免费| 久99婷婷色综合| 亚洲成AV人片在线观看| 五月丁香综合网| 婷五月天| 67194中文字幕| 综激情网| 97 A I色色| 五月丁香综合激情| 日本人人超碰| 99精品九九| 噜噜狠狠色综合久| 成人五月天丁香婷| 综合九色| 婷婷97碰碰| 色五月婷色彩免播放器| 丁香五月天天哦| 丁香香五月激情免费视频| 婷婷久久六月天| www.成人婷婷综合| 97碰人人操| 亚洲综合激情五月久久| 这里有精品| AV片在线观看| av第一二区| 操91| 夜夜爽日日躁| 激情五月,激情综合网| 深爱五月激情五月| 日韩成人电影AV| 久久99热这里只频精品6学生| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 丁香五月综合亚洲| 九九热在线精品视频| 5五月综合网亚洲| 九九久久网| 亚洲性爱AV在线| Aaa久久| 六月婷基地| 亚洲人人操| 丁香五月电影| 天天碰天天插天天操| 五月天婷婷永久免费视频| 婷婷综合激情| 99精品性爱| 狼人伊人天堂| 91色噜噜狠狠狠狠色综合| 天天爽天天日人人爱| 开心激情播播五月天| 久综合网| 久久全意婷婷| 激情婷婷久久| 99re热久久| 国产免费AV在线| 国产午夜成人AV在线播放| 91在线操| 亚洲久久婷婷丁香五月天| 婷婷五月丁香伊人| 99热精品免费| 日韩精品无码AV| 噜噜噜噜婷婷五月天| 影音先锋777xfplay色资源网站| 日狠狠| 色吧婷婷五月亚洲| 色婷婷五月综合在线| 噜噜噜精品欧美成人在线观看| 99精品自拍| 婷婷五月丁香四射| 91蜜桃婷婷狠狠久久综合9色| 中出内射的人妻视频| 激情久久肏屄视频| 91妻人人爽人人看片| 91成人电影| www色中色综合| 九九av| 热久久这里只有三级视频| 国产性av| 色五月综合在线| 99在这里有精品| 婷婷色操| 羞羞嫩草视频| 5月婷婷视频网站综合| 久久欧洲综合网| 天天天天操| 激情宗合 激情宗合| 久九色| 色视频五月天| 青草视频在线播放| 亚洲天堂99| WWW,五月| 狠狠精品干练久久久无码中文字幕| 日hao1区| 精品九九视频| 天天爱天天操| 啪啪婷婷五月天激情| 17.c黄色| 成人视频网| 婷婷99狠狠躁天天躁中文| 青青草a在线| 色婷婷五月在线| 玖玖伊人网| 影音先锋 91工厂| 久久五月激情| 一级性感毛片| 日韩精品色| 91婷婷| 超碰免费人人| 五月天婷婷在线AN| 狠狠爱青青草| 久久综合热17c| 色色婷婷五月天| 九九十99视频| 婷婷深爱五月丁香| www.婷婷| 亚洲精品视频在线播放| 婷婷五月成人| 国产操逼视频网站| 亚州日本欧州韩美高青高潮一| 五月天亭亭俺也| 五月天激情久色| 婷婷丁香六月天| 五月综合激情| 这里只有精品视频在线| 久久综合图片| 色五月婷激情| 四LLL少妇BBBB槡BBBB| www.91操| 97色欧美| 伊人九九热| 五月婷网站| 色色色com| 色五月五月丁香| 亚洲乱码日产精品BD| 五月丁香香蕉| 婷婷精品在线| 天天射天天干天插色综合| 亚洲色色色色| 国产亚洲精品久久久久久久久动漫| 色情五月丁香婷婷网| 激情婷婷五月| 99五月丁香丁| 欧美色色色色色| 婷婷五月天av| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 色婷婷综合久久久久| 另类激情码| 五月婷啪| www.yw尤物| 亚洲人妻Av| 婷色五月天| 色综合婷婷| 激情五月天黄色小说| 色99在线视频| 激情综合综合综合| 亚洲国产精品VA在线看黑人| 五月丁香色五月| 黄色中文字目| 俺也高清无码高清视频| 国产永久一黄| 九九亚洲| 婷婷色导航| 99精品成人无码A片观看金桔| 五月的丁香六月的婷婷| 伊人高清无码| 五月丁香中文字幕| 婷婷色五月开心五月| 成人av免费观看| 久久五月丁香婷婷| 国产精品人成A片一区二区| 欧美英丁香开心快乐六月天网| 天天日日| 播五月开心婷婷欧美综合| 99热播放| 天天做天天爱天天高潮| 伊人丁香婷婷东京| 五月激情久久| 国产9色在线/日韩| 天天做天天爱天天日| 国产肥白大熟妇BBBB视频| 婷婷五月深爱五月| 久久精品系列| 婷婷五月在线观看| 九九操综合网| 中文字幕无码成人电影| 激情文学久久| 丁香五月久久| 九九九激情综合| 夜夜躁爽日日| 激情五月婷婷综合| 另类少妇人与禽zOZZ0性伦| 伊人五月成人| av久热| 成人国产欧美大片一区| 色婷亚洲| 91大神操美女| 国产古装妇女野外A片| 婷婷激情小说| AV在线免费播放| 亚洲国产精品VA在线看黑人| 少妇激情五月天| 五月丁香激情综合网| 风流少妇A片一区二区蜜桃| 野战毛片三一3| 综合激情五月四射婷婷| 亚洲成人丁香花| 色噜噜狠狠色综合成人99| 久久av电影| 91激情五月开心| 做爰丰满少妇1313| 思思热视频在线观看| 五月天婷婷综合久久| 色婷婷色丁香色欲av| 婷婷五月色| 九九热短视频在线观看| 久久伦乱| co超碰在线观看| 婷婷成人综合| 综合久久99| 97在线观看| 婷婷六月天| 免费碰碰视频久| 五月婷亚洲精品AV天堂| 欧美英丁香开心快乐六月天网| 日本99视频精品免费播放| 欧美大肥婆大肥BBBBB| 五月婷婷丁香五月 | 免费无码毛片一区二区A片 | 99re视频在线精品| 能看的AV| 99激情视频| 婷五月天六| 白人荫道BBWBBB大荫道| 久久婷婷内射| www色中色综合| 97操操操| 丁香五月成人自拍| 91狠狠色丁香婷婷综合久久精品| 久久丁香五月| 狠狠色激情综合| 天天色图| 久久一操| 在线观看免费观看在线9久| 五月天婷婷久久| 婷婷五月六月| 99er免费在线观看| 91干视频| 1囯产午夜仑鲁鲁| 激情内射人妻1区2区3区| 激情五月婷| 天天天久久人人人合| www.狠狠色.com| 婷婷综合在线| 99免费在线视频| 91紱請| 激情综合久久| 97九色| 五月婷婷深深爱| 五月深爱网| 亚洲一色色色色色色色色| 久久多色| 3p久久| 伊人大香蕉综合在线| 五月丁香成人网| 丁香五月影院| 9久国产| 日日噜噜夜夜狠狠久久丁香六月| 亚州AV超碰人人操| 九九视频精品这里只有|