免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

數(shù)據(jù)中心供配電全鏈路解析:從市電到機(jī)柜的冗余、容量與調(diào)試

數(shù)據(jù)中心供配電全鏈路解析:從市電到機(jī)柜的冗余、容量與調(diào)試 上架前最后一個(gè)動(dòng)作永遠(yuǎn)是蹲在列頭柜前面看三相電流是否平衡。這個(gè)動(dòng)作看起來跟技術(shù)沒什么關(guān)系但做過幾年機(jī)房的人都知道供電這一環(huán)出問題前面所有的網(wǎng)絡(luò)架構(gòu)、存儲(chǔ)冗余、容器編排都白搭。數(shù)據(jù)中心的供配電系統(tǒng)說白了就是把市電從電網(wǎng)那頭一路安全、穩(wěn)定、可控地送到每一臺(tái)服務(wù)器的電源模塊里中間要經(jīng)過中壓引入、變壓、不間斷電源、末端配電、機(jī)柜PDU這幾道關(guān)。它決定了一個(gè)機(jī)房能承載多少算力、能扛住幾次市電波動(dòng)、能不能在柴發(fā)啟動(dòng)的那十幾秒里讓業(yè)務(wù)毫無感知。這篇文章主要面向三類人正在規(guī)劃?rùn)C(jī)房或者擴(kuò)容機(jī)柜的運(yùn)維和基礎(chǔ)設(shè)施工程師、需要評(píng)估供配電預(yù)算和冗余等級(jí)的技術(shù)負(fù)責(zé)人以及自己搭小型機(jī)房、想把電這塊搞明白的獨(dú)立開發(fā)者。我會(huì)把配電鏈路的每一段拆開講清楚把容量計(jì)算的過程一步步寫出來也會(huì)分享一些只有真正上過電、跳過閘、被電池報(bào)警吵醒過的人才知道的細(xì)節(jié)。1. 從10kV進(jìn)線到主板供電一條電要走完的六段路1.1 電力鏈路拆解每一段都可能是故障點(diǎn)很多人對(duì)供配電的理解停留在機(jī)房有兩路電、有UPS、有柴發(fā)這個(gè)層面。真正做設(shè)計(jì)的時(shí)候你得把整條鏈路畫出來從城市電網(wǎng)的10kV或者35kV進(jìn)線開始一段一段往下捋。我把這條鏈路分成六段中壓引入與計(jì)量、變壓器降壓、低壓主配電與自動(dòng)轉(zhuǎn)換、不間斷電源、末端配電、機(jī)柜級(jí)配電。每一段的故障模式、切換時(shí)間、維護(hù)窗口都不一樣混在一起談供電可靠性是沒有意義的。第一段是中壓引入。兩條10kV線路從上級(jí)變電站引過來理想情況是來自兩個(gè)不同的變電站或者至少是同一個(gè)變電站的兩段不同母線。這里有個(gè)特別容易被忽略的坑很多項(xiàng)目號(hào)稱雙路市電實(shí)際上兩路是從同一個(gè)變電站的同一段母線上分出來的兩條饋線。這種情況下上級(jí)變電站檢修或者母線故障兩路一起沒所謂的雙路供電在關(guān)鍵時(shí)刻形同虛設(shè)。我在參與過一次電力局計(jì)劃?rùn)z修時(shí)才真正體會(huì)到這一點(diǎn)圖紙上看著是兩條獨(dú)立路徑實(shí)際追溯上去在第三級(jí)就合流了。后來我們?cè)谠O(shè)計(jì)階段就要求把上級(jí)電源的拓?fù)鋱D畫出來一直追到區(qū)域變電站確認(rèn)兩路電源在物理上確實(shí)獨(dú)立。第二段是變壓器降壓把10kV降到400V。數(shù)據(jù)中心普遍用干式變壓器因?yàn)椴蝗?、維護(hù)簡(jiǎn)單、可以放在樓內(nèi)。變壓器的容量、阻抗、接線組別都會(huì)影響后面的短路電流和保護(hù)配合。這一段通常按N1配置也就是兩臺(tái)變壓器各承擔(dān)一半負(fù)載任何一臺(tái)故障另一臺(tái)能頂上全部負(fù)載。這里要注意的是變壓器的負(fù)載率不能拉滿長(zhǎng)期運(yùn)行在額定容量附近溫升和損耗都很難看壽命也會(huì)明顯縮短。第三段是低壓主配電和自動(dòng)轉(zhuǎn)換。市電進(jìn)來之后要經(jīng)過主進(jìn)線柜、母聯(lián)柜、饋線柜通過自動(dòng)轉(zhuǎn)換開關(guān)在兩路市電之間切換或者在市電和柴發(fā)之間切換。這一段是整套系統(tǒng)里動(dòng)作最頻繁的部分也是故障率最高的部分之一。第四段是不間斷電源。這是整個(gè)鏈路的核心也是投資占比最大的部分。UPS負(fù)責(zé)在市電波動(dòng)、瞬斷、切換期間維持輸出同時(shí)在市電長(zhǎng)期中斷時(shí)靠蓄電池?fù)蔚讲癜l(fā)帶載。第五段是末端配電包括列頭柜、母線槽這些把電分到每一排機(jī)柜的設(shè)備。第六段是機(jī)柜級(jí)配電也就是機(jī)柜里的PDU和服務(wù)器電源模塊。后面幾節(jié)我會(huì)逐段展開先把整體架構(gòu)和分級(jí)邏輯說清楚。1.2 可用性分級(jí)與配電架構(gòu)的對(duì)應(yīng)關(guān)系行業(yè)里有一套被廣泛引用的四級(jí)可用性分級(jí)從基礎(chǔ)級(jí)到容錯(cuò)級(jí)核心區(qū)別就在于有沒有冗余、冗余是否可同時(shí)維護(hù)、故障是否自動(dòng)隔離。這套分級(jí)不是拿來貼標(biāo)簽的它直接決定了你的配電架構(gòu)長(zhǎng)什么樣、花多少錢?;A(chǔ)級(jí)只有一條配電路徑?jīng)]有任何冗余計(jì)劃維護(hù)必須停機(jī)非計(jì)劃故障必然導(dǎo)致業(yè)務(wù)中斷。這種配置現(xiàn)在只出現(xiàn)在測(cè)試環(huán)境或者對(duì)連續(xù)性完全沒有要求的場(chǎng)景。第二級(jí)增加了冗余部件比如N1的UPS模塊、N1的變壓器但配電路徑仍然只有一條仍然存在單點(diǎn)故障維護(hù)時(shí)還是要停部分負(fù)載。第三級(jí)可以同時(shí)維護(hù)也就是常說的雙路供電兩條獨(dú)立的配電路徑可以輪流檢修而不影響負(fù)載但仍然可能有短暫的手動(dòng)切換。第四級(jí)是容錯(cuò)級(jí)任何一條路徑上的任何設(shè)備故障負(fù)載都不受影響也不需要人工干預(yù)架構(gòu)上對(duì)應(yīng)的是2N或者2(N1)。我給客戶做方案時(shí)第一句話通常是問業(yè)務(wù)能接受多長(zhǎng)的中斷時(shí)間。財(cái)務(wù)結(jié)算系統(tǒng)、實(shí)時(shí)交易、核心數(shù)據(jù)庫(kù)這類業(yè)務(wù)停機(jī)一分鐘的損失可能比整套2N配電的增量投資還高那沒什么好猶豫的直接按容錯(cuò)級(jí)設(shè)計(jì)。而離線訓(xùn)練、批量渲染、日志歸檔這類任務(wù)中斷幾十分鐘甚至幾個(gè)小時(shí)都能接受硬上2N就是浪費(fèi)預(yù)算。這個(gè)判斷比任何技術(shù)細(xì)節(jié)都重要因?yàn)榧軜?gòu)一定后面所有設(shè)備選型、空間規(guī)劃、運(yùn)維流程都跟著定死了改起來代價(jià)極大。2. 冗余架構(gòu)選型2N、N1、DR、RR該怎么定2.1 四種模型的真實(shí)差別選冗余模型的時(shí)候圖紙上的差別很清楚實(shí)際運(yùn)行和維護(hù)上的差別才是關(guān)鍵。我逐個(gè)說。N1是最常見的起步配置N是滿足負(fù)載所需的設(shè)備數(shù)量加一是指多配一套作為備用。比如負(fù)載需要三臺(tái)500kVA的UPS那就配四臺(tái)任意一臺(tái)故障剩下三臺(tái)仍然能滿足負(fù)載。它的優(yōu)點(diǎn)是投資相對(duì)可控、設(shè)備利用率高缺點(diǎn)是系統(tǒng)的總?cè)萘恐杏幸徊糠珠L(zhǎng)期閑置而且如果負(fù)載增長(zhǎng)超出預(yù)期那個(gè)1的余量很快就被吃掉了需要提前規(guī)劃擴(kuò)容。另外要注意N1能扛住一臺(tái)設(shè)備故障但扛不住一臺(tái)設(shè)備故障的同時(shí)另一臺(tái)在進(jìn)行計(jì)劃維護(hù)這對(duì)運(yùn)維排期是個(gè)約束。2N是指完全獨(dú)立的兩套系統(tǒng)每套都能獨(dú)立承擔(dān)全部負(fù)載。兩個(gè)UPS系統(tǒng)、兩條母排、兩路配電、機(jī)柜里兩個(gè)PDU一路來自A系統(tǒng)一路來自B系統(tǒng)。任何一套完全停運(yùn)另一套都能頂住。這是容錯(cuò)級(jí)的標(biāo)準(zhǔn)做法也是成本最高的做法設(shè)備投資基本翻倍而且兩套系統(tǒng)的負(fù)載率都只有50%左右效率上是有損失的?,F(xiàn)在的做法通常是配合模塊化UPS讓兩套系統(tǒng)的模塊數(shù)量按實(shí)際負(fù)載動(dòng)態(tài)配置減少閑置。DR是分布式冗余在一些互聯(lián)網(wǎng)廠商的大型園區(qū)里用得比較多。它把負(fù)載分成多個(gè)獨(dú)立的模塊每個(gè)模塊內(nèi)部有自己的配電模塊之間通過母聯(lián)互相支援。相比2NDR的設(shè)備總量少一些理論上成本低一些但系統(tǒng)邏輯更復(fù)雜切換策略需要仔細(xì)設(shè)計(jì)一旦策略寫錯(cuò)支援關(guān)系可能反而變成故障傳播路徑。RR是走線冗余用兩套獨(dú)立的走線路徑和配電設(shè)備但上游的電源設(shè)備是共用的。它可以防止單條線路或單個(gè)配電柜故障但防不住上游UPS故障屬于一種成本折中。有些項(xiàng)目預(yù)算不夠上2N又想解決末端單點(diǎn)就會(huì)選RR。冗余模型冗余范圍能否同時(shí)維護(hù)主要風(fēng)險(xiǎn)成本占比參考N1設(shè)備級(jí)受限需排期維護(hù)與故障疊加100%2N全路徑可以投資高、負(fù)載率低170%到200%DR模塊級(jí)可以邏輯復(fù)雜、策略依賴130%到150%RR走線級(jí)部分可以上游單點(diǎn)仍在110%到130%表格里的成本占比只是個(gè)粗略參考實(shí)際差異跟項(xiàng)目規(guī)模、設(shè)備品牌、機(jī)房條件關(guān)系很大不能直接拿去當(dāng)預(yù)算依據(jù)。我列出來是想說明一件事冗余不是免費(fèi)的也不是越多越好得跟業(yè)務(wù)價(jià)值對(duì)齊。2.2 一筆算清冗余的投入產(chǎn)出我經(jīng)常被問到底值不值得上2N我的回答是先算三筆賬。第一筆是停機(jī)成本。把過去一年因?yàn)殡娏υ驅(qū)е碌耐C(jī)次數(shù)和每次的損失估出來包括直接的業(yè)務(wù)損失、客戶賠償、恢復(fù)人力成本。如果一年損失遠(yuǎn)超2N的增量投資那答案很清晰。第二筆是增量投資的具體構(gòu)成。從N1升到2N增加的不僅僅是UPS還有變壓器容量、低壓柜、母排、線纜、末端配電、機(jī)房空間甚至柴發(fā)的容量也要跟著放大。很多人只算了UPS的差價(jià)結(jié)果預(yù)算超了一大截。我建議在方案階段就讓電氣、暖通、土建一起出量把增量成本完整列出來。第三筆是運(yùn)行成本的差異。2N架構(gòu)下每套系統(tǒng)負(fù)載率低UPS在低負(fù)載率下的效率通常低于最佳工作區(qū)間長(zhǎng)期電費(fèi)差異不能忽略。以一套2000kVA的系統(tǒng)為例效率差兩個(gè)百分點(diǎn)一年下來的電費(fèi)差額是實(shí)打?qū)嵉?。另外電池的維護(hù)更換也是按組走的2N意味著兩倍的電池組。還有個(gè)現(xiàn)實(shí)問題機(jī)房面積。2N架構(gòu)占用的配電間面積、電池間面積都更大在一些改造項(xiàng)目里空間比錢還難解決。我遇到過一個(gè)項(xiàng)目方案做得漂漂亮亮最后卡在電池間放不下那么多組電池只能退回N1加RR的組合。所以架構(gòu)選型一定要在方案早期就把空間約束摸清楚別等到施工圖階段才發(fā)現(xiàn)放不下。3. 關(guān)鍵設(shè)備的選型邏輯與實(shí)操細(xì)節(jié)3.1 雙路市電、變壓器與ATS中壓引入這塊除了前面說的要追溯電源獨(dú)立性還有幾個(gè)實(shí)操細(xì)節(jié)值得說。進(jìn)線柜的計(jì)量方式、保護(hù)配置、與供電部門的產(chǎn)權(quán)分界點(diǎn)都要在前期談清楚不然驗(yàn)收的時(shí)候會(huì)扯皮。中壓柜的體積和操作通道要求也影響配電間布局手車柜和固定柜的維護(hù)空間差別不小做平面布置的時(shí)候要留夠。變壓器選型干式變壓器是主流關(guān)注三個(gè)參數(shù)額定容量、短路阻抗、溫控方式。短路阻抗一般在6%左右阻抗小則短路電流大對(duì)開關(guān)和母排的動(dòng)熱穩(wěn)定要求高阻抗大則電壓調(diào)整率大末端壓降可能超標(biāo)。溫控要帶超溫報(bào)警和跳閘而且要確認(rèn)跳閘信號(hào)是送到監(jiān)控還是直接跳閘這個(gè)設(shè)置直接影響故障時(shí)的行為不同項(xiàng)目的要求不一樣。自動(dòng)轉(zhuǎn)換開關(guān)是這段最需要小心的設(shè)備。它分兩個(gè)大類一類是專用轉(zhuǎn)換開關(guān)觸頭專門為切換設(shè)計(jì)切換快、可靠性高另一類是用兩臺(tái)斷路器加機(jī)械聯(lián)鎖實(shí)現(xiàn)成本低但切換速度慢觸頭也不是為頻繁切換設(shè)計(jì)的。數(shù)據(jù)中心的主進(jìn)線切換應(yīng)該用前者而且要選帶旁路維護(hù)功能的型號(hào)這樣轉(zhuǎn)換開關(guān)本身檢修時(shí)不用停負(fù)載。關(guān)于切換時(shí)間我想強(qiáng)調(diào)一個(gè)容易被誤解的點(diǎn)自動(dòng)轉(zhuǎn)換開關(guān)的切換時(shí)間通常在幾百毫秒到兩秒之間這個(gè)時(shí)間對(duì)IT設(shè)備來說是致命的。它不是UPS不能用來保障IT負(fù)載。它的作用是在市電和柴發(fā)之間切換或者在兩路市電之間做長(zhǎng)時(shí)間切換切換期間負(fù)載由UPS和電池支撐。我見過有人把自動(dòng)轉(zhuǎn)換開關(guān)當(dāng)成快速切換電源來保障服務(wù)器結(jié)果切換瞬間服務(wù)器全重啟這個(gè)理解偏差必須糾正。注意雙路市電切換、市電與柴發(fā)切換都屬于秒級(jí)動(dòng)作IT負(fù)載必須依賴UPS過渡任何指望轉(zhuǎn)換開關(guān)本身保住服務(wù)器的方案都是錯(cuò)的。3.2 UPS與HVDC的選型分歧UPS這塊的爭(zhēng)論一直沒停過。工頻機(jī)和高頻機(jī)的差別本質(zhì)上是變壓器在不在機(jī)器內(nèi)部。工頻機(jī)內(nèi)置輸出變壓器抗沖擊能力強(qiáng)、對(duì)負(fù)載的適應(yīng)性好缺點(diǎn)是體積大、重量大、效率略低。高頻機(jī)省掉了工頻變壓器體積小、效率高、輸入功率因數(shù)好但對(duì)負(fù)載的適應(yīng)性和抗沖擊能力相對(duì)弱一些選型時(shí)要確認(rèn)負(fù)載類型。模塊化UPS這幾年基本成了主流選擇。它的好處很直觀按需配置功率模塊初期投資低模塊故障時(shí)其余模塊繼續(xù)工作更換模塊不需要停機(jī)擴(kuò)容時(shí)加模塊就行。但它也有代價(jià)機(jī)架本身的容量是固定的模塊數(shù)量有上限而且模塊多了之后監(jiān)控和均流管理更復(fù)雜。我個(gè)人的經(jīng)驗(yàn)是如果負(fù)載增長(zhǎng)曲線明確、機(jī)房空間緊張模塊化值得優(yōu)先考慮如果負(fù)載已經(jīng)穩(wěn)定、單機(jī)容量需求大傳統(tǒng)大容量UPS可能更省心。效率指標(biāo)要分開看。雙變換模式下的效率通常在94%到96%之間ECO模式可以到98%以上但ECO模式下市電直接供電切換過程中仍然有毫秒級(jí)的擾動(dòng)對(duì)極其敏感的設(shè)備不一定合適。我的做法是核心業(yè)務(wù)維持雙變換非核心或者有冗余的負(fù)載可以開ECO但一定要實(shí)測(cè)切換波形確認(rèn)設(shè)備能扛住。HVDC高壓直流是另一個(gè)方向240V或336V直流輸出直接給服務(wù)器供電。它的優(yōu)勢(shì)是效率高、結(jié)構(gòu)簡(jiǎn)單、電池可以直接掛在直流母線上省掉逆變環(huán)節(jié)、可靠性理論上更好。但它的落地受限于服務(wù)器電源必須配直流輸入的電源模塊生態(tài)上不如交流UPS成熟。國(guó)內(nèi)一些大型互聯(lián)網(wǎng)機(jī)房用得多普通企業(yè)機(jī)房如果要上得先確認(rèn)服務(wù)器廠商能不能供直流電源否則方案直接卡死。我的判斷是新建大型自用機(jī)房、服務(wù)器采購(gòu)可控的場(chǎng)景可以認(rèn)真評(píng)估HVDC改造項(xiàng)目、設(shè)備品牌雜亂的場(chǎng)景老實(shí)用交流UPS。3.3 蓄電池與柴油發(fā)電機(jī)電池是UPS系統(tǒng)里壽命最短、最容易被忽視的部分。鉛酸電池便宜、技術(shù)成熟但占地大、重量大、對(duì)溫度敏感壽命通常三到五年。鋰電池占地小、重量輕、循環(huán)壽命長(zhǎng)、支持大電流放電但成本高而且需要配套的電池管理系統(tǒng)和消防措施。選哪種要看機(jī)房條件如果電池間面積緊張、樓板承重有限鋰電池的優(yōu)勢(shì)就體現(xiàn)出來了。電池容量計(jì)算不能只看后備多少分鐘這個(gè)數(shù)字。電池的實(shí)際輸出能力跟放電倍率強(qiáng)相關(guān)放電越快可用容量越少。所以計(jì)算的時(shí)候要用電池廠家提供的恒功率放電表而不是簡(jiǎn)單用安時(shí)數(shù)乘電壓。這一點(diǎn)后面第四節(jié)的實(shí)操部分我會(huì)寫具體的計(jì)算方法。電池的溫度管理也很關(guān)鍵。鉛酸電池的額定容量是在25度環(huán)境下標(biāo)定的環(huán)境溫度每升高10度壽命大約減半。很多機(jī)房把電池放在沒有獨(dú)立空調(diào)的角落里夏天溫度輕松超過35度電池兩三年就不行了。我建議電池間單獨(dú)做溫控如果預(yù)算不允許至少要有強(qiáng)排風(fēng)和溫度監(jiān)控把溫度控制在30度以內(nèi)。柴油發(fā)電機(jī)是最后一道防線。容量選型通常按UPS的總?cè)萘砍艘?.2到1.5的系數(shù)因?yàn)閁PS在帶載啟動(dòng)時(shí)有一定的沖擊而且柴發(fā)在突加負(fù)載時(shí)的動(dòng)態(tài)特性會(huì)影響輸出電壓和頻率。柴發(fā)的加載策略一般是分步加載先帶一部分負(fù)載穩(wěn)定后再逐步增加避免一次加載過大導(dǎo)致頻率跌落甚至停機(jī)。油箱容量通常按滿載運(yùn)行8到12小時(shí)配置有條件的話配儲(chǔ)油罐保證長(zhǎng)時(shí)間斷電時(shí)的續(xù)航。柴發(fā)的日常維護(hù)比UPS更重要因?yàn)樗情L(zhǎng)期閑置的設(shè)備。定期空載試機(jī)、帶載測(cè)試、油路檢查、蓄電池檢查一樣都不能少。我見過不止一次市電真斷了、柴發(fā)啟動(dòng)失敗的情況原因都是長(zhǎng)期沒做帶載測(cè)試燃油系統(tǒng)有空氣或者啟動(dòng)電池虧電。這類問題在測(cè)試中暴露出來是好事在真故障時(shí)暴露就是事故。3.4 末端配電列頭柜、母線槽與智能PDU末端配電是把電送到機(jī)柜的最后一段也是最容易亂的一段。傳統(tǒng)做法是列頭柜加線纜每排機(jī)柜配一個(gè)列頭柜從列頭柜拉電纜到每個(gè)機(jī)柜的PDU。這種方式靈活、成本可控缺點(diǎn)是線纜多、改動(dòng)麻煩、占空間。母線槽是另一種做法沿著機(jī)柜排上方或者下方鋪設(shè)機(jī)柜通過插接箱取電擴(kuò)容和調(diào)整位置特別方便缺點(diǎn)是初期投資高、載流量有限、插接點(diǎn)需要定期檢查。智能PDU這幾年普及得很快它最大的價(jià)值不是遠(yuǎn)程開關(guān)插座而是計(jì)量。機(jī)柜級(jí)、插座級(jí)的電流、功率、電量數(shù)據(jù)能讓你清楚知道每個(gè)機(jī)柜實(shí)際用了多少電、三相是否平衡、峰值出現(xiàn)在什么時(shí)候。這些數(shù)據(jù)對(duì)容量規(guī)劃極其重要。我做過一個(gè)項(xiàng)目前期按平均5kW每機(jī)柜規(guī)劃上了智能PDU之后發(fā)現(xiàn)有的機(jī)柜實(shí)際跑到7kW以上有的只有2kW負(fù)載分布嚴(yán)重不均。如果不做機(jī)柜級(jí)計(jì)量這些問題根本看不見等到某個(gè)支路過載跳閘才發(fā)現(xiàn)就晚了。機(jī)柜的雙路供電要特別注意來源。A路和B路必須來自兩個(gè)不同的UPS系統(tǒng)或者至少兩個(gè)不同的配電支路絕對(duì)不能從同一個(gè)列頭柜的兩路出線來接那樣等于沒有冗余。接線的時(shí)候要有明確標(biāo)識(shí)我建議用不同顏色的線纜和標(biāo)簽區(qū)分A、B路運(yùn)維換線的時(shí)候不容易搞錯(cuò)。還有一種情況是設(shè)備只有一個(gè)電源接口這種設(shè)備要么配靜態(tài)轉(zhuǎn)換開關(guān)要么就只能接在一路電源上接受這路電源故障時(shí)設(shè)備掉線的風(fēng)險(xiǎn)這個(gè)取舍要在設(shè)計(jì)階段就跟業(yè)務(wù)方確認(rèn)清楚。4. 一次完整的容量推演從負(fù)載表算到線徑4.1 負(fù)載統(tǒng)計(jì)與需求系數(shù)容量計(jì)算的第一步是把負(fù)載統(tǒng)計(jì)清楚。IT負(fù)載是最核心的部分包括服務(wù)器、存儲(chǔ)、網(wǎng)絡(luò)設(shè)備。獲取這個(gè)數(shù)據(jù)有幾種方式新機(jī)房可以按規(guī)劃的設(shè)備清單估算改造機(jī)房最好用智能PDU實(shí)測(cè)數(shù)據(jù)什么都沒有的時(shí)候只能按機(jī)柜數(shù)量和預(yù)估功率密度來算。舉個(gè)具體的例子。假設(shè)一個(gè)機(jī)房規(guī)劃200個(gè)機(jī)柜規(guī)劃功率密度平均5kW每機(jī)柜那IT負(fù)載的理論最大值是1000kW。但實(shí)際運(yùn)行中不可能每個(gè)機(jī)柜都跑滿所以要乘以一個(gè)同時(shí)系數(shù)。這個(gè)系數(shù)跟業(yè)務(wù)類型有關(guān)互聯(lián)網(wǎng)業(yè)務(wù)波動(dòng)大同時(shí)系數(shù)可能取0.8到0.9傳統(tǒng)企業(yè)業(yè)務(wù)比較穩(wěn)定可以取0.9到0.95。這里我取0.9得到實(shí)際IT負(fù)載900kW。除了IT負(fù)載還要加輔助負(fù)載。照明、監(jiān)控、門禁這些占比很小可以忽略或者按經(jīng)驗(yàn)值加個(gè)幾kW。真正大頭是制冷系統(tǒng)也就是空調(diào)和冷機(jī)。如果做整體配電設(shè)計(jì)制冷負(fù)載要單獨(dú)算通常按PUE反推。假設(shè)設(shè)計(jì)PUE是1.3那制冷及其他非IT負(fù)載大約是IT負(fù)載的30%也就是270kW。這里有個(gè)設(shè)計(jì)習(xí)慣的差異有的方案把IT負(fù)載和制冷負(fù)載分開配電UPS只保障IT負(fù)載制冷由市電直接供電有的方案把制冷也納入保障范圍。前者成本低但市電中斷時(shí)制冷會(huì)停機(jī)房溫度會(huì)在幾分鐘內(nèi)快速上升通??坎癜l(fā)啟動(dòng)后恢復(fù)制冷來銜接中間有個(gè)溫度上升的窗口。后者成本高但連續(xù)性更好。這個(gè)選擇取決于業(yè)務(wù)對(duì)溫度的敏感程度和柴發(fā)的啟動(dòng)可靠性。我一般建議核心機(jī)房把制冷的關(guān)鍵部分納入柴發(fā)保障但不一定要走UPS。4.2 UPS容量與電池后備時(shí)間計(jì)算拿到IT負(fù)載900kW之后開始算UPS容量。計(jì)算要考慮三個(gè)因素功率因數(shù)、負(fù)載率目標(biāo)、冗余方式?,F(xiàn)代服務(wù)器的電源模塊基本都帶功率因數(shù)校正功率因數(shù)可以按0.95到0.99來取保守一點(diǎn)取0.95。那么視在功率是900除以0.95約947kVA。UPS的最佳負(fù)載率通常在40%到60%之間太低效率差、投資浪費(fèi)太高沒有余量、風(fēng)險(xiǎn)大。取50%作為設(shè)計(jì)負(fù)載率那么需要的UPS容量是947除以0.5約1894kVA向上取整選2000kVA。如果做2N那就是兩套2000kVA的系統(tǒng)每套都能獨(dú)立帶全部負(fù)載。如果做N1可以選三臺(tái)800kVA加一臺(tái)備用總?cè)萘?200kVA實(shí)際負(fù)載率約30%這個(gè)余量偏大了可以調(diào)整成兩臺(tái)1000kVA加一臺(tái)備用或者三臺(tái)模塊化機(jī)架按需配模塊。我用一段簡(jiǎn)短的Python把上面的邏輯固化下來方便反復(fù)試算不同參數(shù)def ups_sizing(it_load_kw, pf0.95, target_ratio0.5, model2N, unit_kva500): it_load_kw: IT負(fù)載有功功率 kW pf: 功率因數(shù) target_ratio: 目標(biāo)負(fù)載率 model: 冗余模型 2N / N1 unit_kva: 單機(jī)容量 kVA s_required it_load_kw / pf / target_ratio # 向上取整到單機(jī)容量的整數(shù)倍 import math units math.ceil(s_required / unit_kva) if model 2N: # 兩套獨(dú)立系統(tǒng)每套都能帶全部負(fù)載 per_system units total units * 2 else: # N1負(fù)載分配在N臺(tái)另加1臺(tái)備用 n max(1, units - 1) per_system n 1 total n 1 actual_ratio (it_load_kw / pf) / (per_system * unit_kva) return { 所需視在功率_kVA: round(s_required, 1), 每套配置_臺(tái): per_system, 總臺(tái)數(shù)_臺(tái): total, 實(shí)際負(fù)載率: round(actual_ratio, 3) } print(ups_sizing(900, 0.95, 0.5, 2N, 500))跑出來的結(jié)果是每套四臺(tái)500kVA兩套共八臺(tái)每套實(shí)際負(fù)載率約47%。這個(gè)配置的余量比較合理負(fù)載增長(zhǎng)到1000kW也還能扛住。電池后備時(shí)間的計(jì)算要更細(xì)致。市電中斷到柴發(fā)穩(wěn)定帶載一般需要10到30秒考慮柴發(fā)啟動(dòng)失敗需要重試的情況電池后備時(shí)間通常按10到15分鐘設(shè)計(jì)。計(jì)算過程是先確定UPS在目標(biāo)后備時(shí)間下的輸出功率再除以逆變效率和電池放電系數(shù)得到電池需要提供的直流功率最后按電池的恒功率放電曲線選型。以上面的負(fù)載為例單套系統(tǒng)承擔(dān)900kW負(fù)載按后備10分鐘計(jì)算def battery_sizing(load_kw, backup_min, inv_eff0.94, dc_bus_v480): 簡(jiǎn)化估算實(shí)際選型必須查電池廠家的恒功率放電表 load_kw: 單套系統(tǒng)承擔(dān)的負(fù)載 kW backup_min: 后備時(shí)間 分鐘 inv_eff: 逆變效率 dc_bus_v: 直流母線電壓 hours backup_min / 60 # 電池實(shí)際需要輸出的能量考慮放電系數(shù) 0.55大電流放電時(shí)的修正 discharge_factor 0.55 energy_kwh load_kw * hours / inv_eff / discharge_factor # 換算成安時(shí) ah energy_kwh * 1000 / dc_bus_v return { 電池需要能量_kWh: round(energy_kwh, 1), 母線電壓_V: dc_bus_v, 估算安時(shí)_Ah: round(ah, 1) } print(battery_sizing(900, 10))算出來大約需要590Ah。按常見的400Ah電池配置就是兩組400Ah實(shí)際可用容量有一定余量。要強(qiáng)調(diào)的是這個(gè)計(jì)算是簡(jiǎn)化估算真實(shí)的電池選型必須用廠家的恒功率放電表按單體的放電終止電壓和放電時(shí)間查表再乘以溫度修正系數(shù)和老化系數(shù)。鉛酸電池的壽命末期容量會(huì)衰減到額定值的80%左右設(shè)計(jì)時(shí)最好按80%來選給老化留余量。4.3 線纜、母排與保護(hù)配合線纜選型要過三關(guān)載流量、電壓降、短路熱穩(wěn)定。載流量是最基本的。銅芯電纜在空氣中敷設(shè)環(huán)境溫度35度的情況下參考載流量大致如下截面 mm2參考載流量 A單芯、空氣中常見用途25約110小容量列頭柜進(jìn)線35約135支路配電50約165中等容量列頭柜70約205列頭柜進(jìn)線95約245列頭柜進(jìn)線120約285主配電饋線185約375主配電饋線240約445大容量饋線多用于多拼這些數(shù)字只是量級(jí)參考實(shí)際必須查廠家樣本和敷設(shè)方式修正系數(shù)。多根并聯(lián)時(shí)要乘一個(gè)降容系數(shù)一般取0.85到0.9。穿管、橋架內(nèi)敷設(shè)也會(huì)降容這些修正不做算出來的載流量是虛高的。電壓降是第二個(gè)約束。從變壓器到末端機(jī)柜總壓降一般控制在5%以內(nèi)末端支路自己控制在3%以內(nèi)。電壓降跟電流、線路長(zhǎng)度、功率因數(shù)都有關(guān)系長(zhǎng)距離饋線尤其要注意。我做設(shè)計(jì)時(shí)習(xí)慣在計(jì)算表里把每一段的壓降單獨(dú)列出來累加看總量超了就加大截面或者縮短路徑。短路熱穩(wěn)定是第三關(guān)。發(fā)生短路時(shí)電纜要在保護(hù)動(dòng)作的時(shí)間內(nèi)承受住短路電流的熱效應(yīng)。這個(gè)校驗(yàn)需要知道短路電流的大小和保護(hù)的動(dòng)作時(shí)間截面不夠的話短路瞬間電纜絕緣就會(huì)受損。這一步很多人會(huì)跳過覺得載流量夠就行實(shí)際上在短路容量大的系統(tǒng)里熱穩(wěn)定經(jīng)常成為控制截面選型的因素。母排的選擇同理除了載流量還要校驗(yàn)動(dòng)穩(wěn)定也就是短路時(shí)的電動(dòng)力能不能讓母排變形。保護(hù)配合是個(gè)細(xì)活。上下級(jí)斷路器的整定要形成時(shí)間差和電流差保證故障時(shí)最近的保護(hù)先動(dòng)作不要越級(jí)跳到上級(jí)。UPS輸入輸出側(cè)的斷路器整定還要考慮UPS的啟動(dòng)沖擊和旁路切換整定得太靈敏會(huì)誤跳。這塊我建議做一份完整的保護(hù)配合表把每個(gè)斷路器的額定電流、長(zhǎng)延時(shí)、短延時(shí)、瞬動(dòng)整定值都列出來調(diào)試的時(shí)候逐臺(tái)核對(duì)。4.4 機(jī)柜選型與配電能力匹配機(jī)柜的選擇跟配電能力是綁在一起的不能分開看。機(jī)柜的功率密度直接決定PDU的規(guī)格、支路的容量、甚至是否需要更換架構(gòu)。普通業(yè)務(wù)機(jī)柜功率在3到5kW配兩個(gè)單相16A的PDU或者一個(gè)三相16A的PDU就夠了。到了5到8kW建議用三相32A的PDU三相配電天然比單相更容易平衡。8到15kW的機(jī)柜PDU要上到三相32A甚至更高同時(shí)要配垂直安裝的0U PDU因?yàn)樗桨惭b的1U PDU在這種功率下散熱和線纜管理都很難受。超過15kW基本就要考慮液冷配套或者用母線槽直接對(duì)機(jī)柜供電把PDU簡(jiǎn)化為取電單元。機(jī)柜本身的規(guī)格也要跟功率匹配。高功率機(jī)柜需要更好的前后門開孔率一般要78%以上不然冷風(fēng)進(jìn)不去、熱風(fēng)出不來。深度方面普通機(jī)柜800到1000毫米夠用但裝GPU服務(wù)器的話深度普遍要1100毫米以上有些機(jī)型甚至需要1200毫米。承重也要注意滿配的GPU機(jī)柜重量可能超過1000公斤靜態(tài)承重要留足余量地板或者支架的承重能力要單獨(dú)校核。還有一個(gè)容易忽略的點(diǎn)服務(wù)器上電瞬間的沖擊電流。服務(wù)器的電源模塊在上電瞬間會(huì)有較大的浪涌電流多臺(tái)設(shè)備同時(shí)上電時(shí)這個(gè)浪涌可能疊加到額定電流的好幾倍導(dǎo)致支路斷路器誤跳。解決方法有兩種一是采用分步上電讓設(shè)備錯(cuò)開啟動(dòng)二是選擇帶延時(shí)脫扣特性的斷路器能扛住短暫的沖擊。我實(shí)際調(diào)試時(shí)更傾向于分步上電配合帶計(jì)量的PDU上電過程中盯著電流曲線看哪一路沖高了就停下來分批發(fā)。5. 上電調(diào)試現(xiàn)場(chǎng)并機(jī)、切換與帶載測(cè)試5.1 上電前的檢查清單上電是整個(gè)工程里最緊張的時(shí)刻一旦有短路或者接線錯(cuò)誤可能就是設(shè)備損壞甚至安全事故。我整理的檢查清單大致包括這幾項(xiàng)。接線核對(duì)是第一項(xiàng)也是最重要的。所有一二次接線要跟圖紙逐條核對(duì)尤其是相序、極性、互感器變比這些。相序錯(cuò)了三相設(shè)備會(huì)反轉(zhuǎn)或者異常發(fā)熱互感器變比錯(cuò)了計(jì)量和保護(hù)的數(shù)值全是錯(cuò)的。核對(duì)接線的時(shí)候要兩個(gè)人交叉檢查一個(gè)人看圖紙一個(gè)人看實(shí)物比一個(gè)人自己看靠譜得多。絕緣測(cè)試是第二項(xiàng)。主回路、控制回路分別測(cè)絕緣電阻記錄數(shù)值。絕緣不合格絕對(duì)不能上電必須查明原因。測(cè)試完之后要記得放電尤其是長(zhǎng)電纜和電容器。開關(guān)狀態(tài)確認(rèn)是第三項(xiàng)。所有斷路器、隔離開關(guān)的分合狀態(tài)要在上電前確認(rèn)一遍避免帶負(fù)載合閘或者帶電掛地線。接地開關(guān)要全部拉開接地線要全部拆除這個(gè)順序和狀態(tài)最好做成表格一項(xiàng)項(xiàng)打勾。保護(hù)定值核對(duì)是第四項(xiàng)。前面說的保護(hù)配合表這時(shí)候要逐臺(tái)核對(duì)斷路器的整定值是否跟設(shè)計(jì)一致。很多設(shè)備的出廠定值跟設(shè)計(jì)值不一樣不核對(duì)就上電等于保護(hù)形同虛設(shè)。電池組檢查是第五項(xiàng)。電池的連接條力矩、極性、開路電壓、內(nèi)阻都要測(cè)一遍。電池是串聯(lián)的一根連接條松動(dòng)就可能在大電流放電時(shí)打火甚至燒毀。力矩要用扭力扳手按廠家要求擰緊不能憑手感。所有檢查完成之后先空載上電觀察電壓、相序、指示燈、監(jiān)控?cái)?shù)據(jù)一切正常再逐級(jí)帶載。帶載要從小到大邊帶邊測(cè)溫度、電流、電壓發(fā)現(xiàn)異常立刻停下來。5.2 并機(jī)與切換測(cè)試怎么做扎實(shí)并機(jī)調(diào)試是UPS系統(tǒng)里技術(shù)含量最高的環(huán)節(jié)。多臺(tái)UPS并機(jī)運(yùn)行需要確保各臺(tái)的輸出電壓、相位、頻率嚴(yán)格同步負(fù)載均分。調(diào)試步驟一般是從單機(jī)開機(jī)、參數(shù)設(shè)置、同步校準(zhǔn)到并機(jī)運(yùn)行、均流測(cè)試、帶載測(cè)試。均流測(cè)試要重點(diǎn)關(guān)注不平衡度。理想情況下各臺(tái)UPS的輸出電流應(yīng)該基本相等實(shí)際允許有5%左右的偏差。偏差過大可能是同步參數(shù)、輸出阻抗或者檢測(cè)電路的問題需要廠家配合調(diào)整。我遇到過并機(jī)后一臺(tái)機(jī)器長(zhǎng)期偏載的情況原因是均流線接觸不良這種問題在輕載時(shí)不明顯滿載時(shí)才暴露所以帶載測(cè)試一定要做到接近額定負(fù)載。切換測(cè)試分幾種。市電切換測(cè)試是模擬一路市電失電看系統(tǒng)能否正常切換到另一路IT負(fù)載是否受影響。這個(gè)測(cè)試要配合負(fù)載端的監(jiān)測(cè)記錄切換瞬間的電壓波形。UPS切換測(cè)試是模擬UPS故障看能否切到旁路以及切回時(shí)是否平穩(wěn)。電池放電測(cè)試是斷開市電讓電池帶載運(yùn)行到設(shè)定時(shí)間觀察電壓下降曲線和報(bào)警情況。柴發(fā)帶載測(cè)試是啟動(dòng)柴發(fā)逐步加載到設(shè)計(jì)容量觀察頻率、電壓穩(wěn)定性和加載能力。我的經(jīng)驗(yàn)是每次測(cè)試都要有完整的記錄包括測(cè)試時(shí)間、測(cè)試項(xiàng)目、測(cè)試前的狀態(tài)、測(cè)試過程和結(jié)果、發(fā)現(xiàn)的問題和后續(xù)處理。這些記錄不只是為了交差更重要的是作為基線以后再次測(cè)試時(shí)能對(duì)比發(fā)現(xiàn)設(shè)備性能的變化趨勢(shì)。電池的放電曲線尤其重要前后對(duì)比能提前發(fā)現(xiàn)電池容量衰減。6. 常見故障排查與避坑實(shí)錄6.1 問題速查表我把這些年遇到和聽到的典型問題整理成表格方便快速對(duì)照排查。現(xiàn)象可能原因排查方向處理建議某相電流明顯高于其他相單相負(fù)載分配不均用鉗形表逐路測(cè)電流看負(fù)載分布重新分配單相負(fù)載把大功率單相設(shè)備挪到輕載相電池后備時(shí)間明顯縮短電池老化、環(huán)境溫度高、長(zhǎng)期浮充電壓偏差測(cè)單體電壓和內(nèi)阻查電池間溫度更換落后單體改善電池間溫度校準(zhǔn)充電電壓UPS頻繁轉(zhuǎn)旁路負(fù)載沖擊、逆變器過載、內(nèi)部故障查負(fù)載電流波形看是否有大電流沖擊分散上電時(shí)序檢查負(fù)載是否超過容量聯(lián)系廠家檢測(cè)柴發(fā)啟動(dòng)后頻率不穩(wěn)加載過快、燃油供油不足、調(diào)速器問題觀察加載過程檢查油路改為分步加載檢查燃油濾清器和油路密封支路斷路器誤跳浪涌電流、斷路器定值偏小、接線松動(dòng)查跳閘時(shí)的負(fù)載狀態(tài)和電流記錄調(diào)整上電時(shí)序核對(duì)斷路器曲線緊固接線機(jī)柜PDU報(bào)過載實(shí)際負(fù)載超出規(guī)劃、負(fù)載分布不均看PDU計(jì)量數(shù)據(jù)遷移部分設(shè)備調(diào)整機(jī)柜分配變壓器溫升異常負(fù)載率過高、散熱不良、諧波損耗測(cè)負(fù)載率和溫升檢查通風(fēng)降低負(fù)載率改善通風(fēng)評(píng)估諧波治理表格里每一條都是真實(shí)會(huì)遇到的問題。我特別想說的是電池后備時(shí)間縮短這一項(xiàng)它往往不是突然發(fā)生的而是緩慢衰減日常巡檢不做放電測(cè)試就發(fā)現(xiàn)不了。6.2 手冊(cè)里不會(huì)寫的幾條經(jīng)驗(yàn)第一條永遠(yuǎn)不要相信圖紙上是對(duì)的?,F(xiàn)場(chǎng)施工和圖紙有出入是常態(tài)接線錯(cuò)、標(biāo)簽錯(cuò)、設(shè)備型號(hào)不符什么情況都有。上電前一定要實(shí)地核對(duì)圖紙只是參考。第二條給電池間裝個(gè)溫度記錄儀成本很低作用很大。電池衰減跟溫度的關(guān)系太密切了有了長(zhǎng)期溫度數(shù)據(jù)你就能解釋為什么某組電池壽命特別短也能量化改善措施的效果。第三條智能PDU的數(shù)據(jù)要定期看不要裝了不用。很多次容量告警都是通過PDU的趨勢(shì)數(shù)據(jù)提前發(fā)現(xiàn)的比如某個(gè)機(jī)柜的功率在過去三個(gè)月持續(xù)上升那就要提前規(guī)劃遷移或者擴(kuò)容而不是等跳閘。第四條柴發(fā)的定期帶載測(cè)試必須真帶載不能只空載試機(jī)。空載運(yùn)行只能驗(yàn)證啟動(dòng)系統(tǒng)驗(yàn)證不了帶載能力和油路在高負(fù)荷下的表現(xiàn)。我建議每季度做一次不低于50%額定容量的帶載測(cè)試有條件的話每年做一次滿載測(cè)試。第五條所有關(guān)鍵操作都要有兩人在場(chǎng)一個(gè)人操作一個(gè)人監(jiān)護(hù)。配電操作涉及高壓和帶電作業(yè)風(fēng)險(xiǎn)不低單人操作的容錯(cuò)空間太小。第六條維護(hù)記錄要寫清楚為什么不只是做了什么。比如更換了某個(gè)斷路器要記錄是因?yàn)槭裁船F(xiàn)象、經(jīng)過什么排查、判斷是什么原因。這些信息在下次遇到類似問題時(shí)價(jià)值極高。7. 高密機(jī)柜、液冷與負(fù)載調(diào)度帶來的新變化7.1 液冷機(jī)柜對(duì)配電提出的新要求這兩年高密算力的需求把機(jī)柜功率密度推得很快風(fēng)冷機(jī)柜做到15kW以上就已經(jīng)很吃力再往上基本都要上液冷。冷板式液冷目前是落地最多的方案機(jī)柜功率可以做到30到80kW浸沒式更高單柜上百千瓦也不稀奇。液冷對(duì)配電的影響是連鎖的。首先是機(jī)柜側(cè)功率密度上去了傳統(tǒng)的列頭柜加電纜的方案在很多場(chǎng)景下不夠用了母線槽直供或者一體化配電單元成為更常見的選擇。其次是冷卻分配單元的供電它相當(dāng)于液冷系統(tǒng)的心臟一旦失電冷卻液循環(huán)停止芯片溫度會(huì)在很短時(shí)間內(nèi)飆升。所以冷卻分配單元必須納入U(xiǎn)PS保障范圍而且自身要有冗余通常是N1配置。還有幾個(gè)細(xì)節(jié)容易被漏掉。液冷系統(tǒng)的漏液檢測(cè)要跟配電聯(lián)動(dòng)檢測(cè)到漏液應(yīng)該立即告警并在必要時(shí)切斷對(duì)應(yīng)機(jī)柜的供電防止液體接觸帶電部件。二次側(cè)的管路材質(zhì)、水質(zhì)管理、快接頭的可靠性都會(huì)影響長(zhǎng)期運(yùn)行的穩(wěn)定性。配電和液冷這兩套系統(tǒng)在設(shè)計(jì)階段就要一起考慮不能先做完配電再補(bǔ)液冷那樣接口和空間都會(huì)很別扭。我參加過幾次液冷相關(guān)的技術(shù)交流一個(gè)共同的感受是液冷不是簡(jiǎn)單的把風(fēng)冷換成水冷它改變了機(jī)房的功率分布、熱管理邏輯、運(yùn)維流程配電作為配套設(shè)施必須同步演進(jìn)。比如功率密度提高后單位面積的配電容量需求成倍增長(zhǎng)低壓柜的饋線數(shù)量、母排容量、電纜通道都要重新算。7.2 可調(diào)度與不可調(diào)度任務(wù)如何影響配電分區(qū)云計(jì)算和容器化普及之后負(fù)載開始有了可調(diào)度和不可調(diào)度的區(qū)分。不可調(diào)度任務(wù)一般指那些不能隨意中斷、不能隨意遷移的業(yè)務(wù)比如核心數(shù)據(jù)庫(kù)、交易系統(tǒng)、存儲(chǔ)集群的控制面??烧{(diào)度任務(wù)指那些可以中斷、可以遷移、可以排隊(duì)等待的業(yè)務(wù)比如離線訓(xùn)練、批量計(jì)算、視頻轉(zhuǎn)碼、日志處理。這個(gè)區(qū)分對(duì)配電設(shè)計(jì)有很實(shí)際的影響而且很多人沒意識(shí)到這一點(diǎn)。傳統(tǒng)的做法是所有負(fù)載一視同仁都走雙路UPS都按最高等級(jí)保障。但實(shí)際上可調(diào)度任務(wù)完全沒必要花這么多錢。它們可以在電力緊張的時(shí)候主動(dòng)讓出資源甚至在市電切換時(shí)接受短暫中斷任務(wù)重新排隊(duì)就好。落到配電架構(gòu)上可以這樣分區(qū)不可調(diào)度負(fù)載走標(biāo)準(zhǔn)的雙路UPSA、B兩路來自獨(dú)立系統(tǒng)保證任何一路故障都不影響業(yè)務(wù)??烧{(diào)度負(fù)載走一條保障等級(jí)略低的支路可以是單路UPS加市電或者干脆市電加自動(dòng)轉(zhuǎn)換開關(guān)配合機(jī)柜級(jí)計(jì)量和監(jiān)控。當(dāng)市電波動(dòng)或者柴發(fā)帶載時(shí)監(jiān)控系統(tǒng)感知到電力緊張通知調(diào)度系統(tǒng)把可調(diào)度任務(wù)逐步遷移或者暫停釋放出電力給不可調(diào)度負(fù)載。這個(gè)思路的價(jià)值在于它把配電容量和IT調(diào)度打通了讓電力資源可以被動(dòng)態(tài)管理而不是永遠(yuǎn)按峰值配置。實(shí)現(xiàn)上需要幾個(gè)條件機(jī)柜級(jí)的功率計(jì)量要準(zhǔn)調(diào)度系統(tǒng)要能接收電力告警并做出響應(yīng)業(yè)務(wù)側(cè)要能接受任務(wù)中斷和重新排隊(duì)。技術(shù)上不復(fù)雜難的是業(yè)務(wù)側(cè)的配合和流程上的約定。我個(gè)人的判斷是這種電力感知的調(diào)度會(huì)越來越普遍尤其是在電力成本高、容量受限的園區(qū)。配電設(shè)計(jì)如果一開始就把可調(diào)度和不可調(diào)度負(fù)載分開走線、分開計(jì)量后續(xù)做這類優(yōu)化會(huì)容易得多臨時(shí)改造的代價(jià)則很大。7.3 個(gè)人和小型數(shù)據(jù)中心怎么搭一套靠譜配電最后說說個(gè)人和小型機(jī)房的配電。這類場(chǎng)景預(yù)算有限、空間有限但基本的安全和可靠性要求不能省。供電方式一般是單相220V如果設(shè)備多、功率大可以申請(qǐng)三相進(jìn)線。總進(jìn)線的容量要根據(jù)所有設(shè)備的總功率算留出30%以上的余量。服務(wù)器、存儲(chǔ)、網(wǎng)絡(luò)設(shè)備加起來算IT負(fù)載空調(diào)、除濕這些單獨(dú)算空調(diào)建議走獨(dú)立回路不要跟IT設(shè)備混在一起。UPS的選擇個(gè)人場(chǎng)景一般1到3kVA就夠了注意要看輸出是純正弦波還是模擬正弦波帶主動(dòng)式PFC電源的服務(wù)器必須用純正弦波輸出的UPS模擬正弦波的可能會(huì)引起電源異響甚至損壞。后備時(shí)間按15到30分鐘配置主要目的是撐過短時(shí)波動(dòng)和給正常關(guān)機(jī)留時(shí)間。線徑和回路要算清楚。常見的參考是16A回路用2.5平方毫米銅線25A回路用4平方毫米32A回路用6平方毫米。插座用工業(yè)級(jí)的普通家用插座長(zhǎng)期帶大電流容易發(fā)熱老化。接地一定要做機(jī)柜、設(shè)備外殼、防靜電地板都要可靠接地接地電阻盡量做到最低。機(jī)柜選擇上12U到22U的小機(jī)柜比較常見注意深度要夠很多服務(wù)器深度超過700毫米淺機(jī)柜裝不進(jìn)去或者后面線纜擠成一團(tuán)。散熱要規(guī)劃好小機(jī)房的常見錯(cuò)誤是把機(jī)柜塞在封閉的儲(chǔ)物間里熱量排不出去設(shè)備溫度輕松超標(biāo)。至少要有進(jìn)風(fēng)口和排風(fēng)口有條件的話裝個(gè)溫控風(fēng)扇或者小型空調(diào)。監(jiān)控方面一個(gè)帶計(jì)量的PDU加一個(gè)溫濕度傳感器就能覆蓋大部分的日常監(jiān)控需求。電流異常、溫度過高能及時(shí)告警比事后發(fā)現(xiàn)問題強(qiáng)得多。另外記得給服務(wù)器配置來電自啟動(dòng)市電恢復(fù)后設(shè)備能自動(dòng)開機(jī)不用人工一臺(tái)臺(tái)去按電源鍵。這些東西看起來瑣碎但真正出問題的時(shí)候往往就是這些細(xì)節(jié)沒做好。我在自己那臺(tái)小機(jī)柜上踩過的坑包括UPS輸出接了帶開關(guān)的插排導(dǎo)致意外斷電、機(jī)柜后面線纜太亂影響散熱、接地線接在了水管上這是絕對(duì)錯(cuò)誤的做法。這些經(jīng)驗(yàn)寫出來希望后來的人能少走點(diǎn)彎路。設(shè)備選型這件事我這些年最大的體會(huì)是不要追求單一指標(biāo)的極致要看整個(gè)鏈路的匹配。一臺(tái)效率特別高的UPS配一條截面不足的電纜整體可靠性還是上不去一套完整的2N架構(gòu)配一個(gè)負(fù)載分配嚴(yán)重不均的末端一樣會(huì)在某個(gè)支路上跳閘。供配電是一套系統(tǒng)工程從進(jìn)線到芯片每一環(huán)都要經(jīng)得起推敲任何一環(huán)的短板都會(huì)成為整條鏈路的瓶頸。實(shí)際做項(xiàng)目的時(shí)候我習(xí)慣在圖紙定稿前把整條鏈路從頭到尾走一遍想象電流是怎么流的、故障時(shí)會(huì)發(fā)生什么、維護(hù)時(shí)怎么隔離走完這一遍很多隱藏的問題自己就冒出來了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
9999久久久久| 99精品久久久久久久婷婷久久| 色色色com| 久久机只有这里精品| 91久久国产综合久久| 五月天综合视频| 五月深爱激情网| 97人人干人人操| 九色视频九色九色91jiuseshipin| 国产精品久久久海的味道| 色VA| 天搞天天天天天| 六月丁香天堂| 99热亚洲综合| 久久伊人婷| 日日爽夜夜爽| 91一起操| 丁香在线视频| 色婷婷六月天| 五月天色综合| 日本三级中国三级99人妇网站| 狠狠草在线观看| 久久一热免费视频| 操操操av| 婷婷成人丁香色情基地30 | 欧类av怡春院| 国产成人精品一区二三区熟女在线 | 亚洲中字AV电影在线网站| 欧美性爱一区| 国产成人综合在线| www.操.com| 五月天婷婷丁香导航| 丁香五月骚喷水视频| 99re免费精品视频| 丁香五月天AV在线| 五月天a婷婷伊人| 六月婷婷深深爱| 国産精品| 久久婷婷丁香五月一二三| 丁香五月综合激情啪啪| 天天爽在线视频| 久久9久| 五月婷婷影| 看逼中文字幕| 人妻中文在线| 色婷婷4| 五月丁香婷婷综合在线| 六月天丁婷婷| 五月丁香六月婷婷激情网| 日日夜夜综合| 性视频久久| 久久色亭亭五月天| 99在线观看| 91人人操| 97色色色色| 日本欧美在线| 另类小说五月天综合网| 婷婷欧美激情| 激情综合久久| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 五月天婷婷久久| 婷婷婷婷婷开心无码播放| 婷婷婷婷婷开心无码播放| 26uuu成人网| 五月天丁香成人| 色女人久久| 99热超碰在线| 欧美va欧美va差| 五月永久激情| 婷婷丁香宗合888| 97碰超级人人看| 97碰免费视频在线| 99九九精品视频推荐| 超碰97在线观看免费| 天色色综合网| 婷婷综合激情五月中文字幕| 免费观看的婷婷五月视频在线| 99这里有精品视频| 婷婷色情 | 丁香五月瑟瑟| 青青操avbb| 成人婷婷五月| 久久综合九九| 日韩精品电影| www婷婷色情网| 婷婷五月深爱五月| 丁香五月婷婷啪啪| 一起草无码| 嫩草AV久久伊人妇女超级A| 久久免费少妇高潮99精品| www,色综合| 天天干,天天舔| 成人网站免费sxj| 终合激情网| 九九这里有精品| 激情都市另类| 九九视频这里是精品五月| 五月色丁香激情| 午夜成人综合| 五月色情婷婷| 另类小说婷婷色| 99九九视频| 色色99| 色综合久久无码| 丁香五月婷婷六月婷婷| 婷婷五月激情欧美| 91九色超碰正在播放| 大香蕉九九| 天天色域综合网| 婷婷导航| 色婷婷丁香| 五月婷婷六月奇米网丁香| 国产精品电影| 色情综合网| WWW,五月| 狠狠色狠狠色综合日日91| 第二色AⅤ| 大香蕉99热| 五六月婷婷久久| 五月天婷综合网站| 久久狠狠干| 激情五月婷色| 夜夜操天天干| 涩涩激情五月婷婷| 这里只有精品视频99| 大学生高潮无套内谢视频| 五月综合丁香婷婷| 色域五月婷婷丁香| 成人婷99最新| AV电影在线播放| 99人人操| 五月天丁香综合| 另类国产欧美视频| 亚洲综合色网| 久久人人九九| 五月成人网站| 99er这里只有精品| 中文字幕日产A片在线看| 婷婷色啪| 五月丁香婷婷啪啪| 婷婷五月丁香av网站| 婷婷丁香色情| 亚洲婷婷五月天在线激情综合网| 天天爽人人综合免费7799| 久99视频在线观看| 99爱视频在线| 77799热| 97碰在线视频| 欧美噜一噜| 国产精品A成V人在线播放| 五月丁香猫咪久久婷婷综合视频激情四射网入口 | 2025最新亚洲激情在线| 日本一级淫| 久久人人人人妻| 国产69久久久欧美黑人A片| 婷婷五月天改成什么了| 激情网 久久| 这里只有精品在线播放| www亚洲无码| 亚洲热综合| 人妻六月天| 天天插综合| 涩婷婷视频快播人妻| 五月天社区狠狠| httpwww色com日本| 视频一二区| 成人丁香色| www.五月婷婷.com| 国产夫妻操逼内射视频| 九九99偷拍视频| 激情深爱五月| 狠狠干婷婷| 精品色色| 99免费| 午夜丁香六月婷| 丁香五月婷婷五月| 国产26uuu视频| 五月天久久色| 丁香六月久久| 99热这里只有精品33| 色综合99色| 日本狠狠干| 五月丁香啪啪| 无码一区二区三区四区五区91c| 丁香五月六月| 色婷婷丁香五月观看| 超碰2021| 国产精产国品一二三在观看| 亚洲无码99| 三级三久久线久久99久目本WW| 久久综合婷婷| 色婷婷天堂| 69热在线| 大香蕉人在线65| 久久性视频| 婷婷综合网站| va婷婷在线| 丁香色情五月综合激情| 五月综合激情婷婷六月色窝| 色色色色色色色色五月先| a在线观看| 99无码| 色婷婷导航| 九九热最新地址| 69er小视频| 琪琪理论片| 亚洲五月婷婷| 色婷婷丁香五月| 天天综合久久| 最新精品视频99| 成人国产综合| 最新av在线观看| 婷婷丁香色五月| 久久99综合| A片一曲| 天天肏夜夜肏| 色婷婷av在线观看| 久色大香蕉| 色婷婷狠狠久久YY| 97碰碰人人| 久久激情五月婷婷| 大香蕉啪啪啪| 五月婷婷片| 婷婷综合在线| 国产精品日本一区二区在线播放| 国产看真人毛片爱做A片| 精品夜夜澡人妻无码AV| 五月婷婷综合影院| 人妻在线中文字幕久久| 夜色综合网| 日本九九九九| 久99久视频精品| 9久国产| 婷婷在线五月天观看| 婷婷久久综合久色| 久草五月| 性色av大香综合| 婷婷五月天久久久| 日日爱699| 日本久久99| 成人在线视频一区| www.五月丁香| 激情五月婷婷视频| 五月丁香婷婷激情在线视频| 亚洲精品大片| 久色精品| oumeisesewang| 91丨九色丨43老版熟女| 丁香五婷| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | av免费在线网站| 五月婷婷六月激情在线| 另类图片五月天| 欧洲综合一区| 五月婷婷六月爱| 超碰人妻在线| 久久五月丁香伊人青草| 日日操日日撸| 色五月婷婷视频| 色婷婷成人做爰A片免费看网站| 九伊人网| 在线另类视频| 丁香婷婷浪潮AV久久综合| 99色精品视频| 激情AV| 综合久色五月| 最近免费中文字幕大全高清大全1| 丁香婷最新动态| 欧美影院婷婷| 台湾综合丁香五月蜜桃| 91色五月在线观看| 色五月色图| 人人色人人摸人人看| 成人国产欧美大片一区| 五月天综合视频| 五月婷在线影院| 五月丁香777| 97婷婷丁香五月天激情图片| 五月狠狠| 婷婷99狠狠躁天天久久久九九九| 亚洲va在线| www99xxxx五月丁| 色九月婷婷综合| 热久久77777| 麻豆忘忧草午夜| 九九99九九99九九99视频网| A久网| 日韩精品成人在线| 色色色com| 欧美色色色色色色色| 日日夜夜青青草| 精品一区二区三区三区| 密着浓厚中出乚交尾GvG935| 婷婷色网| 丁香六月婷婷开心| 蜘蛛女侠2003满天星免费观看| 97操碰| 亚洲综合成人网站| 久久综合婷婷激情| 中文字幕永久在线| 六九色综合婷婷五月天| 密臀久久| 欧美色婷婷| 伊综合蕉| 专区无日本视频高清8| 天天操婷婷| 天天影院色| 国产三级秋霞| 色五月综合在线| 青草久久五月婷伊人| 色99视频| 97人妻碰碰碰久久久久-最近国语高清| 久久婷婷亚洲| 丁香五月激情网| 国产一级片| 一起草AV| 色吧综合网| 国产毛片精品一区二区色欲黄A片| 精品成人a v无码内射| 六月丁香婷婷开心综合基地| 激情五月天色婷婷综合| 亚洲五月天婷婷在线| 成人小说 五月天 婷婷| 国产成人VA| 色综合色欲综合天天免费| 亚洲色情一区二区三区四区| 婷婷五月天论坛| 无码天天操| 日本欧美在线| 婷婷五月婷婷五月天| 俺去也在线www色官网| www.久久五月天.com| 手机看片日日做夜夜| 26uuu亚洲欧美| 激情五月婷婷老师| 色情久久久| 婷婷丁香色五月| 超碰免费人| 亚洲AV久久久久久久久久久久久久久久| 99久久国产宗和精品1上映| 欧美A级成人婬片免费看理论| 日本无码专区| 一区二区免费看| 91精品熟女| www开心激情网| 99热这里有精品| 中文字幕成人| 无码A片一区二区免费| sS丁香五月婷婷| 久久99热免费最新版| 久久激情网| 超碰伊人碰婷婷五月| 五月丁香久久网| 丁香婷婷五月综合影院| 91久操| 9999热在线观看| 天天夜天天色天天| 丁香五月婷婷基地| 亚洲综合婷婷| 超碰男人色| 六月丁香激情| 99视频精品| 99在线免费视| 六月激情婷婷| 操逼在线视频| 五月婷婷啪啪| 久热精彩视频98| 人人玩人人橾| 9精品在线| 亚洲乱码w在线观看| 五月天色综合服务平台| 色色亚洲| 视色网在线播放| 久久九九综合| 色婷婷亚洲婷婷| 色爱综合网| 久久久大香蕉| 婷婷六月丁香五月| 久久久性爱网| 色婷婷在线播放| 色五月丁香六月资源站| 99久久久99久久91熟女| 人人爽人人爽人人爽人人爽| 久久性爱视频| www.五月天性.com| 国产精产国品一二三在观看| 久久这里99| 婷婷五月天丁香成人社区| 久久精品小视频| 99热在线播放精品| 婷婷五月香蕉| 色色成人網| 久热9热| 五月婷网| 久久这里只有精品无码| 啪啪东京热| 狠狠色噜噜狠狠狠888| 日日夜夜青青草| 中文婷婷狠狠| 亚洲五月婷婷| 狠狠草在线观看| 狠狠色丁香五月婷巨| www天堂99| 夜夜爱伊人| 五月婷婷啪啪啪| 色五月丁香激情| 一区=区操屄高清大全av| 婷婷五月天伊人网| 丁香五月天色婷婷| 丁香六月激情综合网| 丁香五月婷婷天堂大香蕉| 99热这里是精品| 婷婷成人五月天| 亚洲99在线视频| av中文在线| 色一情一乱一乱一区9| 五月天综合网| 成人片在线播放| 99热这里只有精品在线| 五月婷婷六月激情| 狠狠艹狠狠艹| 亚洲视频在线网| 丁香婷婷久久| 操91| 涩五月婷婷| 99热精品在线| 五月综合久久| 96精品成人无码A片观看金桔| 亚洲AV人人操| 婷婷久久五月| 日本久久99| 成人 在线 日韩| 日韩 中文 欧美| 丁香五月婷婷视频| A1片久久久| 中文字幕在线日亚州9| 激情五月婷| 99色视频| 奇米影视777在线_在线观看午夜_h小视频在线观看_岛国大片 | 色99在线视频| 97干在线| 亚洲狠狠爱婷婷| 91综合在线观看首页| 97人人搞| 丁香五月激情视频在线| 性一交一乱一交A片久| 亚洲啪啪啪啪| 亚洲精品第一国产综合亚AV | 亚洲电影中文字幕| 精品九九在线观看视频| 激情五月天综合婷婷网| 99视频这里有精品| 婷婷五月天堂网| 婷婷五月天亚洲| 中文字幕 码精品视频网站| 久热伊人在91| 国产一区男女| 无码免费人妻A片AAA毛片西瓜| 一起肏在线视频| 色情激情五月| 99久久国产宗和精品1上映| 婷婷色九月| 亚洲这里只有精品| 超91在线视频| 色婷婷亚洲五月天| 丁J香六月首页| 9这里只有精品| 香蕉AV福利精品导航| 九九热中文| 天天肏高清在线| 微拍92| 夜丁香五月婷婷| 牛牛澡牛牛爽| 五月天婷婷无码视频| 国产免费一区二区三州老师F1…… | www天天色天天射| 日韩精品一曲二曲三曲四曲五曲| 丁香社区婷婷五月| 午夜福利8055| 色碰碰| 亚洲欧美婷婷五月色综合| 任你日视频| 午夜成人AV在线| 99久热这里只有精品| 五月花综合| 中文字幕日产A片在线看| 管管補管管紱| 婷婷五月丁香激情图片| 91九色 熟| 99热精品在线观看| 色婷婷小说网| 操操自拍| 蜜桃成语时李时珍 免费| 涩涩涩五月天| 99视频综合| 日韩免费99| 五月天色播网| 五月天成人免费视频| 色播丁香| 久草性爱| 综合伊人狠狠| 六月婷婷激情| 99久热在线精品99re6热| 丝袜激情网| 成人必爱视| 色婷视频| 久久精品国产AV一区二区三区 | 日日噜噜夜夜狠狠久久丁香五月| 99热精品免费| 激情爱爱网站超大免费| 欧美精品18| 五月丁香六月婷| 97精品人人A片免费看| 亚洲AV综合网| 九九婷婷综合| 91oumei| 日日夜夜综合| 无码成人AAAAA毛片AI换脸| 日韩av网站在线观看| 天天开心AV色综合婷婷五月天| 久久怡红院| 久久婷婷啪啪视频| 小视频久久久aaa| 五月丁香激情四射综合| 五月天狠狠| 亚洲图色五月天| 天天天天色天天天天天干| 九九热精品视频在线观看| wWW九九在线播放| 亚州操操| 九九色中文| 九九色综合网| 狠狠色丁香综合| 亚洲无码99| 六月色日韩| 色五月综合激情网| 色色色色色色色色网站| 丁香五月激情欧美| 99热99在线| 婷婷五月四狠狠| 日本婷婷五月天| 婷婷丁香久久五月综合| 91日本在线免费| 天天天干夜夜夜操| 色99视频| 五月婷婷爽爽爽| 人妻操操色| 夜色综合网| 亚洲五月婷婷| 婷婷五月丁综合| 色婷婷瘦婷婷日韩| 久久精品性爱| 色色五月婷婷丁香| 九九热这里只有精品首页| 很很操96| 国产av影片| 狠狠婷婷色综合| 中文在线成人| 五月香蕉婷婷| 激情综合区| 亚洲丁香婷婷| 成人丁香五月天| 激情五月天在线免费美女视频| 亚洲中文字幕av| 九九九九九九九九九九九九九九九九九九九在线视频 | 大香伊人久色| 激情婷婷六月天| 婷婷五月六月丁香综合| 天天做天天要天天爽| 另类激情码| 极品精品一区二区三区在线| 91男人操女人视频| 91九色在线| 九九色欲网| 亚洲 视频 导航 一区| 夜夜操激情| 婷婷丁香一月| 久久机只有这里精品| 天天射影| 天天干天天干天天干天天干天天干天天干天天| 久久婷出差欧美色两性综合网| 69久久99精品久久久久| 人妻中文av| 激情综合丁香| 99热在线看| 91熟妇大香蕉| www.久操| 任你干嘛免费视频播放| 亚洲九九婷婷| 色婷婷影| 亚洲激情97五月天| 日婷婷久久开心| 亚洲夜夜操| 手机AVAV天堂看网| 色五月丁香伊人五月| 激情五月天激情综合网| 激情综合色婷婷六月天| 91丨九色丨白浆秘| 五月天激情小说| 性做爰A片免费视频A片直播| 操逼综合激情网| 9热在线视频精品| 欧美久久婷婷| 色色色色色色色色色999| 精品九九视频| 五月天淫乱视频| 激情婷婷久久| 五月成人网站| 99色免费| 六月丁香啪| 亚洲乱码日产精品BD| 97色女人在线| 六月婷婷五月丁香首页| 色综合色| 香蕉久久国产AV一区二区| 超碰免费成人网站| 婷婷五月丁香av网站| 婷婷色色欧美| 任你躁XXXXX麻豆精品| 狼人婷婷综合| 99思思热只有在这里看| 久婷| 9色免费网| Av狠狠色丁香婷| 五月天激情小说| 大香蕉综合视频在线| 91干在线| 色色色色色色色色色色色色色97| se色婷婷视频| 色婷婷伦理| 色99在线| 综合婷婷| 九九综合色综合| 婷婷色色婷婷| 国内9l视频自拍老熟女九色| 伊人狠狠狠综合| 五月天色综合| 六月婷婷网| 五月丁香综合啪啪| 九九伊人网| 99自拍视频在线| 婷婷丁香花五月天| 综合久久97| 九色视频91| 成人在线精品| 99自拍网| 另类小说色婷婷| 91xxxx九色| 噜噜噜噜在线| 六月丁香中文字幕| 日日艹思思热| 久久刺激网| 日日夜夜狠狠| 国产一区男女| 色玖玖综合网| 在线99热| 欧美日韩一a.无| 亚洲超碰青涩| www.夜夜操.com| 色九九综合| 日本人妻伦在线中文字幕 | 色婷婷狠狠久久YY| 五月丁香好婷婷A片网| 色啪网| 人人色人人弄人人操| 天天做天天爱天天要| 91Chinese在线| 在线不卡视频| 五月婷婷婷丁香播| 9l视频自拍九色9l视频自拍九色9l社区 | 婷婷五月天论坛| 日韩美女羞羞网站在线观看| 色墦五月丁香| 色婷婷电影网| 婷婷五月天激情在线观看 | 五月色天情| 六月婷婷久久| 99国产精品久久久久久久久久久| 99色精品| 五月天电影网| 色欲婷婷五月天| 成人免费黄色短视频| 丁香色婷婷| 激情综合网激情五月天| 好好干av| 婷婷五月开心中文字幕色| 亚洲av无码精品色午夜| 日日综合网| 丁香五月aV| 97碰碰视频在线观看| 十区AV| 色www99| 婷婷五月天综合久久日| 三十熟女| 欧美电影在线观看| 国产做爰视频免费播放| www.色五月| 色婷婷五月天在线观看| 久久激情五月婷婷| 综合九九| 五月婷婷开心网| 97婷婷五月| 色都都狠狠色都都色综合色| 超碰v| 狠狠操狠狠爱| 国产毛片欧美毛片久久久| www.久久| 午夜天堂一区人妻| 亚洲六月色| 一级AV片| 中文字幕精品推荐免费在线观| 8050一级网| 亚洲视频在线观看区| 色色色丁香| 99五月婷| 婷婷亚洲影院| 五月激情综合婷婷| 深夜A片| 思思国产99| 综合视频久久| 影音先锋日本三级资源| 丁香六月激情国产| 这里只有精品在线观看视频| 色婷婷影院| 乱乱av| 综合激情肏逼网| 超碰99在线观看| 亚洲色色香蕉| 996热| 丁香五月激情综合久久| 91九色熟女| 色婷婷网| 婷婷香五月天| 91超级碰碰| 超碰五月婷婷五月天| 五月天婷婷激情网| 久久视频这里99| 九九伊人网| 在线sebiav精品视频| 天天粽合合合合| 久久五月网| 激情五月四色| 五月丁香婷婷五月色| 欧美va在线观看| 五月天婷婷成人网| 国产美女无遮挡裸体毛片A片| 亚洲蜜乳AV| 这里只有精品视频国产| 久久开心五月天激情| 狠狠爱青青草| 天天天天天操| 青青久久五月| 婷久看人爽| 亚洲激情婷婷| 婷婷色激情网| 91天天操天天干天天射| 婷婷丁香成人五月天| www.五月激情红色| 日本综合九九| 欧美色骚婷婷五月天| 亚洲免费看片| 五月丁香久人妻中文| 79色色| 国产精品色婷婷99久久精品| 丁香五月天论坛| 五月婷婷综合在线视频| 久久综合激情婷婷激情| 国产免费性爱| 噜噜噜噜噜色| 天堂网啪啪| 日韩AV大全| 婷婷综合| 青草激情在线| 色九月综合| 婷婷婷婷色| 欧美色色色色色色| 99热这里全都是精品| 天天操天天日天天爽| 综合色图婷婷| 另类图片激情五月| A一级操| 日比视频91| 丁香五月手机在线| 亚洲色综合| 色婷婷狠狠久久综合五月| 色色 亚洲| 久久久久久久97| 九九在线热九九在线热99热| 99热.com| 另类五月激情| 五月丁香偷拍| 26uuu视频欧美| 亚洲综合无码| 亚洲网视屏| 狠狠色综合五月人人| 丁香五月在线播放| 激情五月天啪啪| 成人精品视频99在线观看免费| 亚洲色在线观看| 国产探花AV在线| 97热精品| 九月av在线| 99年操人人爽| 26uuu最新地址| 99热这里只有精品在线播放| 色婷婷五月婷婷五月婷婷五月| 超碰亚洲欧美| 久久性综合| 丁香五月六月综合激情| www色五月| 丁香五月伊人| 婷婷情色激情| 五月花婷婷最新| 亚洲精品网站色视频| 婷婷爱爱蜜臀天天操| 五月激情婷婷四射| 日本色色网站| 2017人人操| 久久综合无| 婷婷色色宗合网| 伊人喵咪a V| www.seqingwuyuetian| 91操人视频| 天天天天干| 欧亚成人A片一区二区| 熟妇人妻中文字幕无码老熟妇| 天天日日夜夜| 68热超碰在线| 大香蕉丁香| 99啪啪网| 日本婷久久| 婷婷成人综合| 丁香五月婷婷丫| 夜夜爽日日躁| www、色色色| 天天免费日日夜夜夜夜| 亚洲热久久| 婷婷九月亚洲| 蜜桃成语时李时珍 免费| 九九九九操逼| 欧洲亚洲午夜| 九九热AV| 91嫩草久久| 噜噜噜噜噜在线| 九九热99精品| 综合色色婷婷| 国产精产国品一二三在观看| 91呦呦呦| 丁香五月婷婷黑人妻黄色电影院| 深情六月婷婷综合久久| 这里只有国产精品在线| 五月综合丁香婷婷| 成人精品一区日本无码网| 婷婷五月精品中文| 丁香五月自拍| 99久精品视频| 婷婷五月激情欧美大胆视频| 丁香五月婷婷色| 狠狠色噜噜狠狠| 中文字幕在线免费看线人| 金品在线视频99| www.色五月天.com| 久热大香蕉| 五月婷婷国产| 天天热夜夜操| 97碰碰碰免费公开在线视频| 久久激情五月天| 色五月天成人| 伊人久久丁香五月91| 激情五月天在线观看婷婷| 99热99干| 四虎国产精品永久在线国在线| 色婷久九| 97久久精品| 五月丁香在线观看99| 中文字幕性爱丰满| 超碰免费电影| 色婷婷裸体色性在线| 99超碰欧美| 婷婷五月丁香五月天| 乱岳熟女50岁| 五月色情婷婷开心五月色情| 青青久在线视频免费观看| 噜噜色五月| 日本女色人人| 开心五月激情五月丁香五月婷婷| 亚洲一区二区色图-亚洲精品国产精品乱码-成人AV | 日本不卡中文字幕| 另类激情五月天。| 久久ww| 激情婷婷五月天在线观看| 久久久99精品免费观看| 79色色色色| 婷婷五月激情综合啪啪| 婷婷九月激情| 色欲婷婷夜夜| 九九色天堂| 婷婷丁香五另类网站| 亚洲AV激情五月综合网| 色欧美色色色| 深爱五月激情| 色 五月俺去也| 熟女色色一区二区| 十一月婷婷激情四射| 亚洲色久| caop视频| 色婷婷小说| 色5月婷婷| 久久久99久久| 五月丁香花成人社区| 色五月综合| 五月天色五月天| 97香蕉人人在线观看| 91色婷婷综合久久中文字幕二区| 丁香六月婷婷色XXXX| 天堂综合久久| 欧美,日韩成人在线| 欧美内射AA| 97色色在线视频| 欧美成人Va| 日韩色色一区| 青青草伊人婷婷| 99在线小视频| 久久婷婷五月天激情| 亚洲 六月 综合| 婷婷久久五月天| 婷婷99热| 亚洲视频无| 92久操视频| 丁香五月玖玖| 五月婷婷 自拍| 五月天丁香| 久久精彩视频| www婷婷| 久热亚洲| 五月婷婷亚洲色视频| 亚洲第一精品成人999久久精品| 丁香五月天激情五月天激情五月天激情网| 久天综合| 国产精品视频| 综激情网| 色综合久久天天综合网| 丁XX 成人| 国产精品美女| 色热久| 欧美肉大捧一进一出免费视频| 99热9| 777米奇影视第四色| 九九色色| 中文婷婷狠狠| 精品99在线看| 婷婷五月色花丁香社区| 色噜噜伊人| 99免费视频精品| 久久视频在线| 秋霞A V毛片| 国产特级毛片AAAAAAA高清| 超碰97在线操| 久久久久久久久久久97| 久操人妻| 操人妻视频91| 亚洲av综合网| 久久免费少妇高潮99精品| 九九人人看| 精品婷婷| 狠狠搞综合色| 精品人妻久久久久久| 一起草Av| 成人午夜视频精品一区| 99视频极品在线香蕉| 黄色成人网站在线播放| 激情 婷婷 丁香五月天| 99日本在线| 九九人人看| 天天综合色综合| 大香蕉婷婷| 日本九九九九九九| 日韩999| 99色一| 五月婷婷在线免费观看| 婷婷六月丁综合| 婷婷六月丁香开心深深爱| 开心婷婷丁香五月| 中文字幕在线aⅴ免费观看| 国产超碰在线| 女人被男人吃奶到高潮| 久久色吧| 日逼免费视频| AA片在线观看视频在线播放| 黄色99热| 五月丁香无码| 香蕉AV777XXX色综合一区| 丁香色六月婷婷| 丁香五月欧美成人| 丁香五月婷婷亚洲色图| 五月天狠狠色| 综合99视频| 亚洲婷婷五月天| 影音先锋男人av资源站| 天天天添天天操| 五月天丁香| 五月人人丁香婷婷五月人人丁香| 五月婷婷影院| 九九视频这里是精品五月| 丁香激情五月| 色色色在线播放| 777影视理论片大全在线观看| ay2区| 99热在线播放| 亚洲激情免费视频| 久久婷婷六月综合综合| 色婷婷综合久久久久| 91色五月| 538在线精品| 逼里香不卡| 91ncm视频| 丁香五月性| 人人看人人草人人摸| 日本全黄一级999| 激情六月婷婷| 天堂五月婷婷| 五月香蕉婷婷| 九月色婷婷| 色五月婷婷老师| 秋霞电影一级黄| 免费99色| 久久婷婷影院| 狠狠五月天激情| 久久丁香九| 久久激情视频| 91肏| 激情五月天www| 99热在线观看| 婷婷丁香精品视频在线观看| 另类专区在线观看| 开心五月深爱五月丁香五月激情五月| 色9999综合久久| 97精品综合久久| 婷婷在线视频| 五月婷丁香在线视频在线| 欧美精品A片一区在线观看| 99成人在线观看| 婷婷五月色色| 六月丁香社区| www.五月天。com| 久久这里只精品66| 成人网在线视频| 婷婷中文字暮| 亚洲AV日韩在线观看| 久操欧美在线观看97| 久久久婷| 99riAV国产精品视频| 色婷婷久久综合中文久久一本| 成人久久天天x资源站| 国产亚洲99久久精品| 婷婷五月天激情四射五月天激情| 日本三级日本三级三级人妇四虎| 丁香五月婷婷高清| 99这里只有精彩视频| 亚洲色婷婷网站| 97婷婷丁香五月天激情图片| 一區四區歐美日韓| 婷婷丁香五月视频| 久久婷婷欧美| 五月丁香五月天现场视频| 欧美婷婷五月激情| 婷婷伊人激情婷婷| 婷婷五月情色| 狠狠搞亚洲| 天天爽夜夜爽夜夜爽精品视频| 丁香六月久| 97碰人人操| 久热黄色| 日日日日日| 麻豆忘忧草午夜| 五月香蕉婷婷| 综合97五月| 婷婷操逼网| 99热综合网| 99热只有这里有精品| 免费超碰在线观看| 九九综合五月欧美| 爱操人妻| 色五月五月丁香| 这里有精品2| 91精品婷婷国产综合久久| 久久久国产精品黄毛片| 超碰无码老师| 亚洲AV成人精品日韩在线播放| 深爱激情五月天色婷婷| 玖玖精品视频| 激情五月综合| 久9无码视频| 我要看激情五月天| 久久久精品人妻| 亚洲av无码影院| 丁香五月色色色色| 夜夜骑夜夜撸| 538在线精品| 五月总合激情网| 国产色丁香| 99人人干| 色婷婷久久综合中文久久一本| 激情婷婷| 亭亭五月激情亚洲在线| 9久热在线视频精品| 亚洲无码影片| 色www久视频| 九九久热| 插插五月天| 五月丁香六月激情网| 激情com| 久久激情五月| 超碰com| 六月丁香停| 婷婷国产欧美97| 丁香五月网| 日韩五月婷婷| 五月综合丁| 丁香五月天狠狠操| 停停五月色宗合| 精品一区二区三区三区| 丁香八月综合激情| 亚洲传媒在线观看| 五月天久久小说| 国产av第一专区| 97超碰色| 七七色色综合| 99视频在线播放大全| 色天使色婷婷| 色婷丁香| 五月天五月色婷婷综合| 亚洲激情免费久久| 五月婷婷免费| 激情五月天无人视频在线| 午夜做爱影院| 任你搞网站| 开心五月深爱五月| 亚洲电影在线观看| 一本大道伊人AV久久综合| 99丁香婷婷综合网| 很很色丁香久久停停| 激情久久肏屄视频| 精品国产va久久久久| 九九热区一区二区三区| 色五月天成人| 97人人草| 色色色色色九九九九九| 超碰无码318604| 天堂婷婷五月在线| 天天骑天天操| 婷婷五月天av| 激情性爱网站| 五月婷婷播| 亚洲欧洲中文日韩久久AV乱码| 成人在线不卡| 丁香五月综合网| 色情五月天丁香社区| 婷婷五月天激情综合| 99热这里是精品| 国产精品一区在线观看你懂的| 欧美男女婷婷| 99re在线观看视频| 天天色天天日天天舔| 老师的粉嫩小又紧水又多A片视频 粉嫩AV久久一区二区三区 | 精品一二三区久久AAA片| 综合一区二区三区| 五月丁香婷婷成人网| 久久综合爱| 亚洲天码视频www蛋播视频| 久热免费视频| 99在线视频精品| 99色色色色| 99视频| aaaaa不卡| 久久人人九| 一区操| 亚洲AAAA网| 岛国av网站| 日韩在线99| 色五月天综合网| www.com久久久久久久久久久久久久久久久| 亚洲综合视频在线| 九月综合| 成人免费高清在线播放| 五月丁香基地| 91干婷婷| 婷婷五月天激情五月天网站| 狠狠干,狠狠操| 色婷婷五月六月丁香综合视频| 99热这里只有精品青草| 97色婷婷五月天| 亚洲av网站在线观看| 欧美天堂久久| 黄色AV日韩| 五月婷婷无码| 99成人| 另类图片五月天婷婷| av大香蕉| 五月丁香 啪啪啪| 全部老头和老太XXXXX| 婷久看人爽| 五月丁香婷婷五月色| 俺去啦综合网| 日日夜夜干| 99热综合在线| 色情综合网| 国产亚洲色婷婷99精品| 亚州美女| 欧美VA在线| 色五月婷婷色| 午夜性做爰电影| 色五月婷婷色五月| 久99视频在线观看| 五月丁香啪啪啪| 九九精品在线观看视频6| 伊人碰碰婷婷| 狠狠爱综合网| 思思99re这里只有| 伊人久久大香天蕉亚洲特级| 五月婷在线观看| 天天日夜夜操五月| 五月婷婷综合性爱噜噜| 色欲一区二区三区精品A片| 久久婷婷欧美| 大香蕉操操| 四LLL少妇BBBB槡BBBB| 91婷婷五月天嫩女| 久热99| 免费看片在线观看| 另类天堂| 综合伊人久久| 天天艹夜夜爽| 超碰九九热| 丁香六月婷婷操逼网| 狠狠爱五月婷婷| 伊人干练久| 97色婷婷| 开心五月婷婷综合在线精品素人| 九九香蕉网| 五月天丁香成人| 婷婷五月丁香网| 六月丁香啪| 成年人夜夜喷水| 婷婷丁香色性爱| 1000部毛片A片免费观看| 婷婷五月色惰| 五月天激情小说婷婷基地| 天天摸.天天mo| 久草五月婷婷| 久操干| 97在线日本| www.91AV.com| 97日本在线播放| 乱岳熟女50岁| 色婷婷综合网站| 丁香五月天激情视频| 久久网日本| 色婷婷天堂| www.婷婷六月天| 狠狠色五月天| 人妻精品久久久久久久| 99热最新网址| 天天色,天天操,天天射| 日韩五月天婷婷| 色视五月天婷婷|