免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

ECC多面解析:內(nèi)存糾錯、MBIST測試與SAP年結(jié)實戰(zhàn)指南

ECC多面解析:內(nèi)存糾錯、MBIST測試與SAP年結(jié)實戰(zhàn)指南 ECC這個詞在圈子里絕對是個多義詞。搞硬件的看到它第一反應(yīng)是內(nèi)存糾錯碼Error Correction Code做芯片測試的腦子里冒出來的是MBIST里的ECC校驗邏輯而搞企業(yè)信息化的老哥第一時間想到的卻是SAP ECC那套ERP系統(tǒng)的年度結(jié)賬流程。同一個縮寫三種完全不同的技術(shù)棧但底層都離不開“查錯”和“糾錯”這兩個核心動作。這篇文章我想把這三個維度的ECC串起來聊一聊從糾錯碼的原理開始講到服務(wù)器內(nèi)存里常見的ECC和 uncorrected ECC error 顯示2 這種告警怎么排查再聊到芯片設(shè)計里MBIST怎么借助ECC機制做存儲器測試最后說說SAP ECC年結(jié)到底在結(jié)什么、為什么每年都有人在這上面翻車。無論你是管服務(wù)器的運維、寫RTL的芯片工程師、做測試的還是被財務(wù)追著問“年結(jié)怎么還沒跑完”的IT支持這篇文章里應(yīng)該都能找到對你有用的東西。1. ECC的核心邏輯糾錯碼到底在糾什么1.1 為什么需要糾錯數(shù)據(jù)翻轉(zhuǎn)這個“小概率大事故”糾錯碼這個概念的誕生本質(zhì)上是因為一個很樸素的問題數(shù)據(jù)在存儲和傳輸?shù)倪^程中可能出錯。這個概率在大多數(shù)普通人看來可以忽略不計但在大規(guī)模數(shù)據(jù)系統(tǒng)里它是個必須正視的現(xiàn)實。拿DRAM內(nèi)存舉例內(nèi)存里的每個bit本質(zhì)上是靠電容存儲電荷來區(qū)分0和1的電容會漏電需要定期刷新。一旦某個電容的電荷量因為某種原因發(fā)生異常衰減或者受到外部粒子轟擊導(dǎo)致電荷突變這個bit就翻了1變00變1。這就是我們常說的“位翻轉(zhuǎn)”bit flip。引發(fā)位翻轉(zhuǎn)的因素有很多。一是高能粒子比如宇宙射線轟擊芯片封裝材料產(chǎn)生次級粒子擊中存儲單元二是芯片本身的老化和電壓波動制程越先進存儲單元就越小電荷量越少遇到干擾時翻車的概率就越高三是鄰近單元之間的耦合干擾這也是制程微縮后越來越頭疼的問題。一個bit翻轉(zhuǎn)如果發(fā)生在普通的圖片、視頻數(shù)據(jù)里頂多花屏或者出現(xiàn)一個壞像素。但如果發(fā)生在操作系統(tǒng)的內(nèi)核代碼、數(shù)據(jù)庫的事務(wù)日志、科學(xué)計算的關(guān)鍵中間結(jié)果里后果就是系統(tǒng)崩潰、計算錯誤、甚至數(shù)據(jù)永久損毀。這時候就需要一種機制讓計算機能自己發(fā)現(xiàn)錯誤、糾正錯誤這就是ECC糾錯碼存在的意義。1.2 ECC如何工作漢明碼的思路與SEC-DED我們把“糾錯碼”拆開看核心就兩件事加冗余、算校驗。最簡單的方案是奇偶校驗Parity給一組數(shù)據(jù)加1個bit讓整個組里1的個數(shù)是奇數(shù)還是偶數(shù)這樣能發(fā)現(xiàn)奇數(shù)個bit的錯誤但發(fā)現(xiàn)不了錯誤在哪兒也糾不了錯只能報“你壞了”。這就像快遞外包裝上貼了個“是否破損”的標(biāo)簽?zāi)苤老渥涌赡軌牧说恢览锩婺募浳锼榱?。真正讓ECC在內(nèi)存領(lǐng)域普及起來的是Richard Hamming提出的漢明碼。漢明碼的思路極其聰明不是給整組數(shù)據(jù)加一個校驗位而是把數(shù)據(jù)按不同的位置規(guī)則分組給每組分別計算校驗位這樣這些校驗位之間就有了一種“交叉印證”的關(guān)系。當(dāng)某一位出錯時多組校驗結(jié)果會同時異常通過比對各組異常的組合模式就能精確算出是哪一bit翻了從而把它再翻轉(zhuǎn)回來。以經(jīng)典的漢明碼(7,4)為例4個數(shù)據(jù)位3個校驗位。校驗位分別落在第1、2、4位它們各自覆蓋不同的數(shù)據(jù)位組合。接收端重新計算校驗位并與發(fā)送來的校驗位比對會得到一個叫“校正子”Syndrome的二進制值這個值在二進制里代表的數(shù)字就是出錯bit的位置。Syndrome為0表示沒錯非0就可以直接對相應(yīng)位置做取反操作完成糾錯。這種只糾正單bit錯誤的能力叫SECSingle Error Correction。如果再增加一個全局偶校驗位就能實現(xiàn)檢測雙bit錯誤即SEC-DEDSingle Error Correction, Double Error Detection這也是現(xiàn)代內(nèi)存ECC最主流的能力基準(zhǔn)。1.3 糾錯不是萬能的覆蓋范圍與代價說句實在話ECC并不是魔法它的糾錯能力是有邊界的。單bit錯誤可以糾正雙bit錯誤只能檢測不能糾正一旦檢測到不可糾正的錯誤系統(tǒng)能做的只是報錯或者直接halt防止錯誤數(shù)據(jù)擴散。而且糾錯能力的強弱和開銷是成正比的。校驗位越多能糾的錯誤越多但存儲開銷、編碼延遲、帶寬損耗也會跟著漲。在存儲系統(tǒng)里如果用復(fù)雜的Reed-Solomon碼或BCH碼可以在NAND Flash等場景下糾正多bit連續(xù)錯誤但控制器里的計算復(fù)雜度遠高于漢明碼。在DDR內(nèi)存控制器里ECC校驗計算消耗的是訪存延遲在SSD里L(fēng)DPC糾錯消耗的是主控的處理能力和前端讀取延遲。所以沒有哪套機制是“最好”的只有“在成本、延遲、可靠性之間取得平衡”的方案。理解了這一層后面對內(nèi)存ECC告警、MBIST ECC測試邏輯、甚至SAP年結(jié)里的“對賬”思路就都有了通感的抓手——所有糾錯/校驗機制本質(zhì)上都是在冗余成本和錯誤風(fēng)險之間做博弈。2. 內(nèi)存ECC服務(wù)器穩(wěn)定性的第一道防線2.1 Registered ECC與Unbuffered ECC的區(qū)別在服務(wù)器和高端工作站里ECC內(nèi)存幾乎是標(biāo)配。但同樣是ECC內(nèi)存還分Registered ECC簡稱RDIMM和Unbuffered ECC又稱UDIMM。這兩者最大的區(qū)別在于RDIMM的地址和控制信號經(jīng)過寄存器Register緩沖后再進入內(nèi)存顆粒數(shù)據(jù)線不受影響所以在同一通道上可以多插幾條內(nèi)存容量能做很大高負載穩(wěn)定性也更好。UDIMM沒有寄存器緩沖地址線直接連到內(nèi)存顆粒延遲略低一點點但電氣負載更大一個通道能插的條數(shù)很有限一般就2條。從外觀上看RDIMM和UDIMM最明顯的差異是內(nèi)存條中間位置有沒有額外的寄存器芯片——RDIMM通常會有幾顆較小的芯片做信號中繼。兩者的物理防呆缺口位置也不同不能混插。選擇上家用平臺或入門級單路服務(wù)器常見UDIMM ECC雙路及以上的服務(wù)器幾乎清一色RDIMM。還有LRDIMM通過Rank緩沖技術(shù)進一步降低負載適合需要超大規(guī)模內(nèi)存容量的場景價格也更高。2.2 如何確認內(nèi)存是否開啟ECC很多買了“支持ECC的主板”的新手以為只要插上ECC內(nèi)存就自動開啟了ECC其實并不是。內(nèi)存控制器需要顯式啟用ECC模式并且要和CPU、主板BIOS配合。在服務(wù)器上通常可以在BIOS的Memory Configuration里確認ECC Mode是否為Enabled。有些主板里如果同時開啟了Memory Encryption或部分內(nèi)存鏡像功能和ECC可能會組合出不同的容錯策略。進了Linux系統(tǒng)后可以用dmidecode查看內(nèi)存條的類型信息。重點關(guān)注兩個字段Total Width和Data Width。如果Total Width比Data Width多8位比如72位 vs 64位說明這根內(nèi)存帶ECC如果兩者一樣都是64位那就是普通非ECC內(nèi)存。dmidecode --type memory | grep -E Total Width|Data Width|Size|Speed|Manufacturer|Part Number如果Total Width顯示72 bitsData Width顯示64 bits那8位的差距就是ECC校驗位。Bit 0-63是數(shù)據(jù)位Bit 64-71是校驗位。UC和SEC-DED的校驗開銷不同但72648是業(yè)界最普遍的DDR ECC配置。2.3 uncorrected ECC error 顯示2 是怎么來的在服務(wù)器帶外管理系統(tǒng)比如IPMI/BMC管理界面或者Linux的EDAC驅(qū)動日志里經(jīng)常會看到類似“uncorrected ECC error count: 2”的信息。這里的關(guān)鍵詞是Uncorrected也就是不可糾正錯誤。要理解這條告警先要明確ECC對錯誤的處理路徑。當(dāng)內(nèi)存控制器發(fā)現(xiàn)某個bit錯了并且能算出它是哪個位置它會直接在硬件層面修正然后把修正結(jié)果寫回同時遞增一個Corrected ECC錯誤計數(shù)。這種錯誤對系統(tǒng)是無感的業(yè)務(wù)不會中斷但記多了說明內(nèi)存條所在的DIMM可能正在漸進性老化。而Uncorrected錯誤則是錯誤程度超過了ECC的糾正能力比如一個數(shù)據(jù)字里同時出現(xiàn)了兩個bit的錯誤ECC只能檢測到有錯但不知道具體錯在哪兩個位置無法修補。一旦發(fā)生不可糾正錯誤內(nèi)存控制器會生成一個機器檢查異常MCE。在Intel平臺上這個MCE可能記錄在Bank 0的MCE日志里同時通過IPMI向BMC上報SEL事件顯示“Uncorrected ECC Error”。那個“顯示2”通常代表這個事件已經(jīng)被記錄并且累計了2次。看到“uncorr. ecc 顯示2”第一反應(yīng)不應(yīng)該是“繼續(xù)用吧反正沒崩”而是立刻按下面流程處理先確認錯誤地址和關(guān)聯(lián)的DIMM槽位。通過IPMI SDR記錄、Linux的ras-mc-ctl --summary或者直接看 /sys/devices/system/edac/mc/mc*/csrow*/dimm_label。如果機器還在運行盡快規(guī)劃維護窗口。因為每一次Uncorrected錯誤都是一次數(shù)據(jù)完整性事故下次可能直接造成文件系統(tǒng)損壞或進程core dump。定位到具體DIMM后優(yōu)先做內(nèi)存條交叉驗證把疑似故障條換到另一個槽位跑MemTest86壓力測試確認是槽位問題還是條子問題。檢查散熱和供電。我遇到過一臺機器頻繁報uncorrected ECC換了內(nèi)存也沒用最后發(fā)現(xiàn)是CPU散熱器沒裝好內(nèi)存控制器過熱導(dǎo)致存取時序漂移。提示不要忽視單個Uncorrected ECC錯誤。很多服務(wù)器里內(nèi)存故障的典型路徑就是“開始報corrected - 錯誤頻率上升 - 某天報uncorrected - 系統(tǒng)直接hang死”。從第一個Uncorrected事件開始就已經(jīng)進入故障處理流程了。3. 芯片設(shè)計中的MBIST ECC還沒出廠就把錯誤揪出來3.1 為什么要做MBIST芯片內(nèi)部集成越來越多的SRAM用于緩存、FIFO、寄存器堆。到了先進制程時代一顆SoC里SRAM的面積占比可以超過50%甚至到70%。這些片上存儲分布在芯片的各個角落數(shù)量多、密度大、頻率高但芯片封裝之后沒有那么多測試引腳可以直接訪問每一塊SRAM。于是就有了MBISTMemory Built-In Self-Test把測試邏輯直接做進芯片內(nèi)部。MBIST控制器和被測SRAM之間通過專用的測試端口連接測試時由控制器自己產(chǎn)生地址、數(shù)據(jù)、控制信號遍歷整個存儲陣列把讀回的數(shù)據(jù)和預(yù)期值比對一旦不一致就記錄失敗信息。MBIST的好處在于它不需要外部測試機去精確驅(qū)動每個內(nèi)部信號只需要外部通過JTAG或IEEE 1500接口發(fā)送一條“開始測試”的指令然后等結(jié)果。這樣測試成本大幅降低而且能在系統(tǒng)級測試、老化測試、甚至現(xiàn)場上電自檢時反復(fù)使用。3.2 MBIST如何與ECC配合MBIST和ECC其實是兩個不同層面的事MBIST是“測試手段”ECC是“防護機制”。但兩者在現(xiàn)代芯片設(shè)計里緊密配合。MBIST測試時通常并不依賴ECC去糾正錯誤反而要繞過或禁用ECC這樣才能暴露出存儲單元最真實的物理缺陷。如果讓ECC在旁邊“幫忙”糾錯MBIST可能測不出那些已經(jīng)存在但被掩蓋的故障單元生產(chǎn)測試就失去了意義。所以標(biāo)準(zhǔn)做法是MBIST模式下通過測試模式控制信號把ECC路徑旁路掉直接讀寫原始的數(shù)據(jù)和校驗位。某些更高級的MBIST設(shè)計會把ECC校驗邏輯作為被測對象的一部分來測試。因為ECC的編碼、解碼、校正邏輯本身也是復(fù)雜邏輯電路萬一編碼器有問題即使存儲單元沒壞也會檢測出錯。所以測試序列里會專門安排一組驗證步驟往特定地址寫入可控數(shù)據(jù)讀取時插入一位邏輯錯誤然后檢查ECC校正電路能否正確糾正。MBIST在診斷方面的能力也很強。通過失敗日志可以記錄每一個發(fā)生故障的邏輯地址、數(shù)據(jù)模式和預(yù)期數(shù)據(jù)模式。把這些數(shù)據(jù)導(dǎo)出來做bitmap分析工程師能精確判斷是哪一根字線、位線、sense amplifier出了問題。這對于新品調(diào)試和良率提升至關(guān)重要產(chǎn)線分析出來的故障模式直接反饋給工藝部門改進。3.3 可測試性設(shè)計要點真正做芯片測試規(guī)劃時有幾點經(jīng)常被忽視我在這里提一下MBIST控制器要在低功耗模式下也能運行。很多車規(guī)、IoT芯片需要在生產(chǎn)老化測試和板級測試時進入低功耗自檢狀態(tài)這時候如果MBIST把整個SRAM功耗拉滿會導(dǎo)致測試芯片超過溫度規(guī)格觸發(fā)誤翻。在SoC集成多個SRAM時要合理分組成多個MBIST域BIST Domain并行測試不同域可以縮短整體測試時間但會帶來瞬時功耗沖擊。每個域的規(guī)模和控制策略需要仔細權(quán)衡。Repair機制是MBIST產(chǎn)線的自然延伸。檢測到故障后會通過內(nèi)建自修復(fù)BISR把前述故障行/列替換成冗余行/列修復(fù)結(jié)果記錄到eFuse。所以很多芯片標(biāo)稱“有MBIST”實際量產(chǎn)時跑的是“MBIST - 分析失效地址 - 冗余替換 - 重測驗證”的完整閉環(huán)。用來輔助MBIST的ECC必須和產(chǎn)品正常模式用的ECC策略一致。如果產(chǎn)品宣稱具備SEC-DED能力那么MBIST對校驗位區(qū)域的測試也要覆蓋不然校驗存儲器本身有缺陷運行時會直接生產(chǎn)錯誤。4. SAP ECC年結(jié)ERP老系統(tǒng)的年度關(guān)賬4.1 SAP ECC是什么為什么還有人說起它如果把話題切換到企業(yè)信息系統(tǒng)SAP ECC全稱是SAP ERP Central Component是SAP上一代旗艦ERP套件的核心組件。雖然SAP現(xiàn)在主推S/4HANA但現(xiàn)實中還有大量企業(yè)在繼續(xù)運行SAP ECC系統(tǒng)尤其制造業(yè)、醫(yī)藥、能源行業(yè)系統(tǒng)里積累了幾十年的主數(shù)據(jù)、定制化增強代碼和復(fù)雜接口遷移成本極高?!癝AP ECC年結(jié)”在財務(wù)顧問和IT運維的口中就是財務(wù)年度結(jié)賬Year-End Closing。ERP系統(tǒng)不像普通財務(wù)軟件季度關(guān)了季度年終結(jié)轉(zhuǎn)賬很麻煩。它涉及資產(chǎn)折舊、總賬余額結(jié)轉(zhuǎn)、利潤中心結(jié)轉(zhuǎn)、物料賬結(jié)算等一系列模塊之間的聯(lián)動A步驟沒跑完B步驟就是跑不過去。每年12月底到次年1月初都是一批財務(wù)顧問和IT支持守在機房蹲年結(jié)的日子。4.2 年結(jié)的關(guān)鍵步驟與實操要點年結(jié)在SAP里并不是單一事務(wù)代碼能搞定的而是一連串的順序操作。以最常見的資產(chǎn)會計FI-AA年結(jié)為例核心步驟分兩塊一是資產(chǎn)公司年末結(jié)賬。先用事務(wù)代碼AJRW運行“資產(chǎn)年度余額結(jié)轉(zhuǎn)”或叫“余額結(jié)轉(zhuǎn)”把本年度資產(chǎn)的購置值、累計折舊、賬面凈值結(jié)轉(zhuǎn)到新會計年度。然后事務(wù)代碼AJAB執(zhí)行資產(chǎn)會計年度最終關(guān)賬。很多公司遇到的“結(jié)不了賬”問題都卡在AJAB這一步因為系統(tǒng)會檢查是否存在未折舊的資產(chǎn)、未過賬的采購訂單、未結(jié)清的資產(chǎn)主數(shù)據(jù)等等任何一個校驗沒過AJAB都會報錯。二是總賬余額結(jié)轉(zhuǎn)。事務(wù)代碼FAGLGVTRSAP ECC 6.0或F.56把總賬科目的余額結(jié)轉(zhuǎn)到下一年度。執(zhí)行時要注意必須先把所有12月的會計憑證全部過賬完成把應(yīng)收應(yīng)付、存貨、損益類科目余額都結(jié)轉(zhuǎn)到對應(yīng)科目之后才能跑這一步否則結(jié)轉(zhuǎn)出來的余額就是錯的。實操里我看到過幾個典型的翻車點過賬期間沒開。年度切換后OB52里新年度過賬期間沒有及時打開所有跑到新年的憑證都會報“期間未打開”的錯誤。資產(chǎn)年結(jié)前忘了跑折舊。資產(chǎn)折舊沒跑完AJAB會提示資產(chǎn)存在未折舊的情況讓你先回上月折舊期間跑AFAB。把測試數(shù)據(jù)和正式數(shù)據(jù)混了。年結(jié)前一定要用測試環(huán)境完整跑一遍年結(jié)腳本拿測試結(jié)果給財務(wù)確認科目余額是否正確再在正式系統(tǒng)里操作。我見過有人跳過了測試直接在PRD里跑AJRW結(jié)果資產(chǎn)余額出現(xiàn)巨大差異只能做沖銷再來。4.3 一個成熟的年結(jié)檢查清單下面是我總結(jié)的年結(jié)前檢查清單分享給正在準(zhǔn)備年度結(jié)賬的同行每條背后都有踩坑的代價確認所有12月期間的外幣評估、應(yīng)收應(yīng)付重分類、GR/IR清賬等周期性任務(wù)已經(jīng)完成。檢查AJAB運行日志里的每一個錯誤提示紅色報錯全部處理后重新跑黃色警告要逐條評估是否影響結(jié)賬結(jié)果。總賬余額結(jié)轉(zhuǎn)前導(dǎo)出各科目的期末余額表和財務(wù)手工編制的科目余額表對照一致后再運行。結(jié)轉(zhuǎn)后抽查幾個關(guān)鍵科目在新年度里是否已有期初余額尤其往來科目和存貨科目。注意物料賬ML的年度結(jié)賬流程CKM3N在年結(jié)時容易報“物料賬期未關(guān)閉”需要在后臺物料賬期間控制里同步調(diào)整。提示SAP ECC年結(jié)最怕的是“趕時間”。財務(wù)說月底必須跑完但你一定不能省流程。先備份再測試最后動生產(chǎn)。任何時候都要留出一到兩天的緩沖窗口用于處理意外問題。5. 排障實戰(zhàn)從“uncorr. ecc 顯示2”開始捋一套思路5.1 一次真實的內(nèi)存ECC錯誤排查流程有一天客戶報一臺數(shù)據(jù)庫服務(wù)器IPMI里有Uncorrected ECC Error事件計數(shù)顯示2。登錄系統(tǒng)后我先確認了操作系統(tǒng)是否信任ECC邏輯# 查看EDAC設(shè)備 ls /sys/devices/system/edac/mc/ cat /sys/devices/system/edac/mc/mc0/ue_count cat /sys/devices/system/edac/mc/mc0/ce_count結(jié)果顯示mc0的ue_count確實為2ce_count反而不高只有幾十說明這顆DIMM有突發(fā)性、不可糾正錯誤的風(fēng)險已經(jīng)比較高了。我隨后用ras-mc-ctl --error-count獲取更詳細的地址映射ras-mc-ctl --error-count輸出里會列出哪個內(nèi)存控制器mc、哪個csrow和dimm標(biāo)記對應(yīng)具體物理DIMM位置。服務(wù)器BMC也會在SEL里記下DIMM槽位號。處理策略是先和業(yè)務(wù)確認可以中斷的時間然后給服務(wù)器安排一次內(nèi)存壓力測試。用MemTest86完整跑兩遍如果連MemTest都報錯那這內(nèi)存條基本可以判定為物理故障。之后聯(lián)系供應(yīng)商按保修流程更換。有個細節(jié)換完內(nèi)存后不要急著讓系統(tǒng)恢復(fù)正常運行。我建議保留EDAC的ue_count清零確認一下有些系統(tǒng)需要重啟后reload edac模塊計數(shù)才會清零。重啟后如果ue_count繼續(xù)快速增長說明可能是內(nèi)存控制器或者主板布線有問題也可能是內(nèi)存條插槽的觸點臟了建議把CPU重新安裝一遍內(nèi)存條換個插槽再測試。5.2 MBIST fail怎么追作為芯片測試工程師處理MBIST FAIL的方法論更依賴數(shù)據(jù)。拿到fail log之后先看失敗地址的分布分析是行分布、列分布還是塊分布。單點失效大概率是粒子缺陷或介質(zhì)擊穿整行失效往往是字線驅(qū)動電路損壞整列失效多為位線read/write通路問題。這時候把物理地址映射到邏輯地址很關(guān)鍵。芯片內(nèi)部SRAM通常經(jīng)過行列地址重映射需要通過地址展開腳本對照網(wǎng)表確認對應(yīng)的物理單元。之后再結(jié)合bitmap和電鏡分析做缺陷定位判斷是光刻、刻蝕、還是金屬殘留導(dǎo)致。如果是量產(chǎn)階段的MBIST fail還要做良率相關(guān)性分析同一批次wafer里fail die的坐標(biāo)是否存在分布聚集某臺光刻機處理的區(qū)域是不是故障率偏高把這些數(shù)據(jù)反饋到工廠往往能快速定位工藝窗口漂移。ECC在這時候的作用是輔助分析比如修復(fù)后的die重測仍掛在ECC校驗位區(qū)域就需要檢查eFuse冗余行的熔斷是否異常。5.3 年結(jié)報錯如何快速定位SAP年結(jié)報錯分成兩類配置類錯誤和業(yè)務(wù)數(shù)據(jù)類錯誤。配置錯誤通常是年度變式、期間變式、屏幕變式?jīng)]有為新年度創(chuàng)建數(shù)據(jù)錯誤則是某些陳舊的主數(shù)據(jù)或未清憑證卡住了流程。定位思路無非三步看消息號、查OSS noteSAP官方知識庫、做數(shù)據(jù)檢查。比如FIN_AA_YEAR_CLOSE里報“存在未過賬的折舊”先到AFAB里確認所有折舊運行是否都成功再檢查資產(chǎn)過賬期間有沒有錯誤關(guān)閉。如果是OB52期間錯誤直接修改相應(yīng)公司代碼的過賬期間即可如果是折舊范圍配置缺失可能要在AO11里補充折舊范圍。關(guān)鍵原則是在SAP里“強制關(guān)賬”永遠是最下策。很多年結(jié)問題不是靠強行解鎖跑過去的而是底層數(shù)據(jù)本身存在錯漏該回去改憑證就改憑證該清未清項就清未清項。不要只盯著那個紅叉告警數(shù)據(jù)正確才是最終目標(biāo)。5.4 排查方法論關(guān)鍵詞到根因的三層定位這幾類問題看著風(fēng)馬牛不相及但排障思路其實是相通的。我把常見做法整理成三層定位法基本通用第一層收斂關(guān)鍵詞?!皍ncorr. ecc 顯示2”里的核心詞是“不可糾正”和“計數(shù)為2”MBIST fail的“fail address”SAP年結(jié)報錯里的“消息號”。先明確現(xiàn)象關(guān)鍵詞和相關(guān)模塊。第二層做組件歸因。內(nèi)存到DIMM、MBIST到SRAM陣列、SAP報錯到后臺配置或數(shù)據(jù)表這一步是把問題從“系統(tǒng)層面”縮小到“組件層面”。第三層隔離驗證。換內(nèi)存、重測、跑仿真、重新執(zhí)行年結(jié)事務(wù)代碼確認根因假設(shè)。到了這一步大部分問題已經(jīng)能定性。這套方法用來對付日常的服務(wù)器監(jiān)控、芯片量產(chǎn)異常、ERP年結(jié)運維都夠用了。如果拿不準(zhǔn)寧可多花一小時收集數(shù)據(jù)也不要憑感覺拍腦袋下結(jié)論——這個經(jīng)驗在我多年工作里被反復(fù)驗證。結(jié)尾ECC這幾個字母從內(nèi)存到芯片再到大企業(yè)系統(tǒng)貫穿的其實是同一種工程思想用冗余換取可靠用校驗換取信心。我這些年在服務(wù)器、芯片驗證和企業(yè)系統(tǒng)運維里來回穿梭最大的體會是遇到任何“錯誤”“告警”“異?!鳖惖南⒌谝环磻?yīng)都應(yīng)該是記錄現(xiàn)場信息第二反應(yīng)才是動手修。很多運維同事一看到uncorrected ECC就嚇得直接重啟機器結(jié)果漏掉了現(xiàn)場日志反而失去了判斷根因的唯一線索很多芯片工程師在MBIST失敗之后不先看bitmap就開始盲改測試流程最后只能靠撞運氣解決問題浪費大量工時。最后分享一個小習(xí)慣無論管理多少臺服務(wù)器都應(yīng)該在監(jiān)控系統(tǒng)里給EDAC的ce_count和ue_count單獨建一條趨勢曲線。ECC錯誤的增長速率比單次錯誤值更能反映硬件的健康走向——緩慢增長大概率是正常老化指數(shù)級暴增多半是設(shè)備正在走向崩潰。提前發(fā)現(xiàn)趨勢既能避開業(yè)務(wù)中斷也能讓保修流程走得從容許多。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷射图五月天| 大香蕉婷婷色| 大香蕉99热| 伊人久久艹| 精品成人无码A片观看香草视频| 色九月国产| 丁香五月婷婷在线| 丁香五月天网站| 99在线观看视频| 极品人妻VIDEOSSS人妻| 五月天五月天激情网| 77799热| 日韩中文欧美| 四色99久久| 五月草视频| 99这里是99在线视频| 亚洲免费在线观看岛国| 激情五月天天| 精品人妻午夜一区二区三区四区 | 欧美久久婷婷| 综合玖玖偷拍| 极品嫩草| 五月天sesese| 婷婷丁香激情五月天色色色| 国产精品a无线| 天天综合色丁香| 五月婷婷av| 成人性爱无码| 丁香六月天色婷婷| 人妻内射麻豆视频| 欧美色狠婷久| 看黄的网站18禁| 久久性爱网| 成人AV免费观看| 精品久久人妻热| 婷五月天| 丁香六月婷婷色播| 久久一级片| Blackedraw视频一区二区| 色色色五月婷婷| 深爱激情五月天婷婷网| 日韩六六久久电影| 人人干Av| 婷婷久久婷婷色五月| 超碰色人妾| 激情操逼婷婷| 亚洲9久久精品| 五月丁香综合激情| AV九九| 九九五月天| 婷婷99狠狠躁| 色综合五月天| 国产成人+综合亚洲+天堂| 丁香六月婷婷综合| 操碰99| 任你日视频| 五月激情在线| 在热视频精品| 婷婷丁香五月婷婷| 成人五月天丁香| 色五月丁香婷婷| 五月婷婷六月少妇激情| 99.N在线视频| 婷婷五月天av| 久久99视频| 婷婷视频网| 亚洲成人高清在线| 亚洲色色色| 人人看人人要| 婷婷亚洲五月| 色五月婷婷影院| 色色五月天丁香| 久久综合五月天| 猫咪伊人久久| 中文字幕永久在线| 日本色99网站| 亚洲色图81p| 五月天婷a在线| 免费无码毛片一区二区A片| 亚洲无AV在线中文字幕| 在线看av| 丁香五月AV在线| 久久这里只有精品网| 激情五月婷婷啪啪| 日本一毛片| 激情综合一| 激情五月婷| 婷婷精品在线| co超碰在线观看| 丁香五月狠狠在线观看| 另类伊人婷婷| 丁香五月激情性色郤| 先锋av性爱成人电影| 1995年关宝慧版蜘蛛女| 日韩AV片| 熟妇国产| 丁香六月AV| 综合热无码| 可以观看的AV| 婷婷五月天丁香| 亚洲亚洲人成综合网络| 五月综合激情| 色婷婷亚洲在线| 激情网五月天| 五月天综合在线| 亚洲精品又粗又大又爽A片 | 铁牛TV人妻| 激情五月色婷婷| 婷婷欧美色| 五月天激情无码高清| 婷婷五月天啪啪| 丁香婷婷五月天激情四射| 激情六月婷婷| 色99自拍| 久久九九免费视频| 色欲AVV| 人妻久热| 五月婷婷开心网| 九九成人视频| 亚洲av免费在线| 五月婷色激情五月| 一本色综合色| 天天做天天爰天天爽天天无遮挡| 久操大香蕉| 婷婷天堂伊人| 97资源碰碰在线| 五月激情综合五月| 欧美交换配乱吟粗大25P| 亚洲蜜乳AV| 激情六月下句是什么| 青草激情综合| 91av成人| 思思w99| 综合激情站| http://www.com久久久精品一区| 噜噜综合网| 久久婷婷色色| 超碰99成人在线| 色天天综合天天综合频道。 | 九九视频精品视频精品| 91蜜桃婷婷狠狠久久综合9色| 成人一区在线观看| 九九久久精品| 无码AV大香线蕉伊人| 色欧美一级| 久久网日本| 亚洲精色| 99久久五月婷婷| 婷婷六月天精品| 五月天色影院| 婷婷成人综合| 亚洲成人网站在线观看| 狠狠色情婷婷| 级人人91| www.久热| 色欲五月婷婷| 婷婷六月激情| 高清不卡一区| 色综合久| 99.色| 国产成人精品亚洲线观看| 九九热av| 99精品国产在热久久| 九九碰九九爱97超碰| 婷婷五月丁香五月天| 四色永久成人网站| 欧洲第一久色| 伊久大香蕉| 成人久久天天x资源站| 日日干日日| 综合色播| 中文成人在线| 婷婷五月丁香综合激情| 五月天成人综合| 五月丁香婷婷国产精品综合| Blackedraw视频一区二区| 99热在线99| 五月婷婷基地| www.婷婷网| 婷婷色色五月| 五月天婷婷在线AN| 色色吧综合| www.minyis.com【JT】实力收量可预付TG@LXSPSW8| 图片区 小说区 区 亚洲五月| 婷婷欧美激情综合| 久久这里只精品| 4399成人黄A片| 天堂在线婷婷| 色色综合网站| ss视频xx91| 青青操成人福利| 丁五月激情视频免费| 天天爽夜夜操| 丁香婷婷色五月| 婷婷无五月无码视频| 日韩人妻AV在线| 蜜桃婷婷五月| 加勒比久热| 99在线视频免费| 婷婷久久亚洲| 亚洲成AV人片在线观看| 五月婷婷久草在线视频综合| 超碰免费99| 中文字幕按摩做爰| 伊人网大香| 91九色国产| 激情五月婷婷丁香六月| 91紱請| 五月婷婷婷丁香播| 亚洲丁香五月美女| www,com,五月色色| 五月天婷婷视频30| 婷婷成人网五月天| 婷婷伊人75| 五月丁香综合啪啪| 天堂草在线看www| 九九热99视频| g00d人体西西| 婷婷久久综合| 丁香五月婷婷影院| 91九九| 996re热精品视频| 五月婷婷啪啪| A网在线欧洲| 婷婷中文无码| 91精品丝袜久久久久久久久粉嫩| 婷婷中合| 性av| 亚洲激情AV| 久久婷婷五月综合网| 五月婷婷五月天| 在线播放中文字幕| 538任你爽视频不一样的| 99久久婷婷国产综合精品草原| 久久视频这里99| 激情综合女人网五月播播| 99精品综合在线| 99热色精品| 婷婷六月色情| 婷婷五月天六月综合| 超碰com| 五月婷婷黄网站大全| 亚洲综合另类| 久热大香蕉| 五月丁香中文字幕| 九一99| 综合在线网| 天天久综合网永久入口17v| 在线中文字幕免费视频| 久热婷婷| 免费视频WWW在线观看网站| 夜夜骑天天操| 综合色影| 狠狠爱激情网| 九九久久99| 激情五月天在线免费美女视频| Va另类视频| 凹凸7777操操操| 伊人久久婷婷| 婷婷丁香色五月天久久88| 国产avapp 网| 婷婷的久久网站| 欧美操我| 五月天丁香婷| 99婷婷| 91视频一起草| 丁香色五月婷婷17C| 色色丁香婷婷综合| 996er在线观看| 百度4399有码精品V在线观看| 日韩AV中文在线观看| 婷婷精品性视频| 狠狠88综合久久久久噜噜噜| 日本99久久| 中文字幕精品推荐免费在线观| 日韩九区| 精品婷婷五月天| 欧美日韩国产成人在线| 欧美一级a| 色999五月色| 综合久久综合久久| 97五月天| 婷婷丁香高潮了| 五月天激情四射| 久久99婷婷| 婷婷五月天色色| 久久久久久久五月婷婷六月丁香综合,开心激情综合网 | 五月天综合在线| 丁香五月天激情综合| 色情五月综合婷婷| 超碰亚洲天堂| 超碰99在线观看| 午夜天堂一区人妻| 久久99免费视屏| 爆乳熟女一区二区三区爆乳 | 琪琪色网址| 草榴视频黄色网| 激情五月婷婷色色| 热99国产精品| 婷婷五月天激情五月天网站| 欧美在线操| 激情五月丁香五月| 99免费| 五月天涩涩| 天天色爽| 亚洲精品va| 欧美操人| 精品一区二区三区四区五区六区介绍| 在线,国产,色,热视频| 五月丁香久久网| 综合色播| 婷婷五月丁香激情色情| AV79| 国产婷婷五月色情综合| 夜夜干夜夜操| 日韩色久| 五月天色图| 天天综合精品| 色九四色| 色五月大| 激情五月天的婷婷| 99国产小视频2013| 婷婷丁香五月激情综合站_久久五月丁香激情综合_开心五月综合激情综合五月_婷 | 69精品人人人人| 99视频免费播放| 91碰碰| pom538精品视频| 大香蕉99热| 九九碰九九爱97| 国产另类综合| 99九九在线视频| 亚洲妇女熟BBW| 99精品视频推荐| 天天模,夜夜模夜夜爽| 五月天婷婷AV| 日本97人人| 91久久久久久| 成人电影AV在线观看| 思思热精品在线视频| 丁香婷婷婷| 婷婷亚洲五月| 婷婷久久五月天丁香| 开心激情网五月天| 天天综合网~91| 香蕉乱插| 婷婷五月天成人动漫| 天天日天天日天天搞| 97色色综合| 成人九九视频| av色婷婷| 日本三级第一页| 欧美性久| 亚洲人妻一区二区 | 国产一区二区三区影院| 色99免费视频中文| xxxx五月激情| 色久综合| 九九激情网| 九月婷婷人人操人人舔人人爱| 99亚洲综合| 日韩亚洲视频| 久碰视频| 91日本在线观看| 色日本综合| 综合六月久久| 国产成人99久久亚洲综合精品| 精品人妻伦九区久久AAA片| 久热一本| 开心激情综合| 超黄亚洲瑟瑟网站| 亚洲最大成人综合网720P| 永久天堂日本| 五月花婷婷丁香| 国产XXXX搡XXXXX搡麻豆| 六月丁香五月婷婷首页| 激情五月天综合网| 婷婷五月天手机版视频| 亚洲中文字幕在线电影| 色色色色热| 亚洲视频1区| 婷婷五月天激情诱惑| 久久人妻超碰一区| 欧美丁香婷婷五月天| 激情五月天福利| 可以直接看的AV| 情一色一乱一伦一91A| 丁香六月婷婷| 人人草公开操| 思思热视频| 久热这里只有精品6官网亚洲| 婷婷成人五月天成人文学| 五月婷婷人人人操| 激情综合婷婷| 久久婷婷五月天激情唯美| 色婷婷激情Av久久久| 国色天香伊人狠狠色| 69精品人人人人| 俺也去综合| 99热在线播放| 婷婷丁香五月综合网上| 97婷婷丁香| 久久久久人妻网址| 婷婷丁香在线播放| 中文字幕黄色片| 99热成人| 天天射影院| 人妻22p| 精品一二三区久久AAA片| 初夜av| 国产综合丁香五月天| 最新久久网址| 天天干天天爽天天爽| 午夜日日| 99ER热精品视频| 99看片| 热的国产99热| 久久婷婷丁香五月宗合| 免费观看全黄做爰的视频| 天天色综合网1| 国产日韩av片| 99只有精品9| 超碰资源在线| 激情婷婷网| 色日本综合| 99热这里有精品| 五月丁香六月情| www。五月天激情| 九九婷婷激情综合网| 丁香婷婷色色| 婷婷五月深爱五月| 凹凸7777操操操| 婷婷五月天亚洲综合| 九九在线精品| 丁香九月激情| 激情av在线| 欧美99热| 激情婷婷护士激情| 中字幕视频在线永久在线观看免费 | 五月天伊人综合| 综合久| 五月天另类小说久久小说网| 亚洲亚洲人成综合网络| 色五月婷婷中文字幕| 五月婷婷 欧美| 99自拍视频| 婷婷成人五月天成人文学小说| 91碰碰碰| 国产精品操| 最新无码专区| 99热综合网| 亚洲热视频| 99九九视屏| 综合激情网五月激情| 神马欧美精| 激情五月婷婷丁香综合网| 桃色五月天| 色哟哟精品| www.99情趣网| 五月综合无码| 久久精品性爱| 99热资源在线| 国产精品电影网| 狠狠色大香蕉| 日本一级一片免费视频| 97色色综合| 婷婷深爱五月天| 天天天天天天噜| 丁香婷婷啪啪啪| www.国产亚洲69ty.久久久久久久久久久久| 99玖玖人人| 丁香六月综合激| 3DAV亚洲香蕉久久 一区二区| 少妇人妻丰满做爰XXX| 五月香婷婷| 亚洲va成人va成人va在线观看| 秋霞A V毛片| 久久九精品| 激情五月天婷婷五月天| 日本三级中国三级99| 欧美激情五月天| 日本色色色| 日日天天干| 日本狠狠网| 996er热| 丁香六月综合| 大香蕉手机视频| 777色色色| 婷婷丁香18| 亚洲欧洲国产精品| 婷婷操逼| 色丁香影院| 色狠久| 天天在线XXX| 4399在线日本A片| 97色色婷婷| 亚洲九九视频| AⅤ网站在线看| 在线综合亚洲欧美65| 精品亚洲国产成AV人片传媒| 99色免费在线观看| 九九色人| 五月婷庭丁香在线| 婷婷五月天影视首页| 九九aV| 五月激情小说| 97香蕉人人在线观看| 亚洲av日韩无码| 婷婷开心深爱五月天| 婷婷日| 99亚洲色色| 五月久久婷婷丁香| 六月成人网| 伊人五月婷婷| 九九热在线视频,| 婷婷五月天免费视频| 99精品在线观看视频| 欧美色婷婷| 色婷婷性爱网| 我爱大香蕉| 国产一二三四五六七八视频| 九九综合九九| 九色成人AV在线| 婷婷狠狠18禁久久| 91se在线观看| 狠狠五月天| 色色色色色网站| 激情综合青草| 停停色综合伊人| 色综天天综合| 五月色婷| 99热亚洲精品| 很很干天天干| 伊人婷婷福利网| 99九无网码| 精品久久久久久久人妻| 久久婷婷六月综合| 色色五月婷| 丁香五月婷婷操逼| 婷婷成人五月天| 婷婷操逼| 国产成人精品一区二三区熟女在线| 色情五月丁香| 大香蕉AV在线| 天天色天天日| 色色色网站| 被强行糟蹋的女人A片| 午夜婷婷| 疯狂做受XXXX高潮A片| 色色热| 亚洲欧洲中文日韩久久AV乱码| 五月丁香激情综合| 国产做爰视频免费播放| 五月激情综合深爱| 天天操狠狠操| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 99热在线观看| 欧美经典片免费观看大全| 婷婷五月天小说网| 91精品综合久久久久久五月丁香| 成人AV免费观看| 九色91国产| 99热资源在线| 激情五月综合网最新| 99久久久免费| 久久这里只有精品热在99| 激情久久婷婷| 色情综合网| 人妻人人操| 爱射综合| 无码99| 亚洲综合五月天婷婷| 婷婷久综合| 99热10在线高清播放| 久久久高清| 亚洲激情Av| 九九久久免费视频44| 激情五月天啪啪| 99热老网站| 五月色在线| 天天色天天爱天天舔| 久婷婷久草| 无码人妻一区二区三区免费九色| 五月第四色| 五月久久婷婷天堂视频| 欧美黄色AA片哗啦啦啦| 国产熟妇的荡欲午夜视频| 韩日另类| 美女伊人久久| 91色久| 天天拍夜夜爽| 日本在线va| 超碰91在线| 天天做天天爱天天爽| 久久se 综合网| 在线成人av播放| 久久曰曰| 久久综合天天综合| 超碰在线观看9| 五月婷视频| 字幕网AV中文字幕| 先锋资源91| 色黑鬼导航| 六月丁香影院| 婷婷久久五月天| 无码激情AAAAA片-区区| 五月天丁香综合在线| 婷婷91| 丁香五月激情无码视频| 久久婷婷网站| 成人中文网| 涩涩婷婷五月| 综合xx网| 中文不卡一二区| 人妻22p| 97干干干丁香| 91色久| 丁香五月激情性色郤| 干一干xxxx| 国产肥白大熟妇BBBB视频| 亚洲人妻电影| 五月婷婷网久久| 五月花婷婷| 桃色成人网| 99乱视频| 亚洲九九99精品视频在线播放| 色色色热| 婷婷五月丁香基| 色婷| 久久九九热视频| 三级三久久线久久99久目本WW| 9视频1在线| 欧洲亚洲免费视频区| 亚洲色频| 91黄色五月天视频| 开心婷婷五| 日日夜夜天天| 国产综合A片| 夜夜骑日日操| www.婷婷六月天| 久久九九思思| 五月久久噜噜| 婷婷99狠狠| 青草青草视频2免费观看| 五月天丁香婷| 99在线精品免费视频| 丁香激情五月天| 五月丁香六月成人| 色婷婷丁香五月综合| 婷婷成人五月天| 天天射天天干天插色综合| 99热12| 精品夜夜澡人妻无码AV| 久色网| 五月丁香操婷逼| 操b视频在线观看一区二区| 天天干天天日天天插| 久久xxxx| 99玖玖免费视频| 婷婷99狠狠躁| 日本欧美999久久久三级片| yazhouzonghesese| 色色色热| 无码地址| 日韩一级片| 五月天丁香六月综合| 啪啪99| 日本久久99久久| www99热| 亚洲一二三网| 五月天色婷婷激情| 大香蕉在线观看9| 亚洲AV成人一区二区在线观看| 99re久热只有精品6在线直播| 成人短视频在线| 婷婷久久伊人| 97碰碰视频在线观看| 丁香六月婷婷综合啪啪| 狠狠干五月天| 日本精品干| 久久免费精彩视频| 亚洲情色一区| 婷婷丁香成人| 五月开心婷婷网| 久久久噜噜噜久久人妻| 婷婷五月亚洲激情| 亚洲精品国产熟女久久久| 色五月之第四色| av九九| 五月丁香六月婷婷在线小说视频| 欧美大片免费播放器| 日本精品99| 亚洲中文字幕av| 亚洲俩性性爱图片久久第六页| 色婷婷影院| 色婷婷综合五月| 久久AAAA片一区二区| 婷婷香五月| 五月丁香婷婷色播无码| 色九月婷婷丁香| 午夜免费试看| 欧洲亚洲午夜| 丁香激情合作五月| 色丁香五月婷婷综合久久| 五月丁香六月婷婷啪啪| 婷婷久草| 五月停视频天堂| 亚洲 视频 导航 一区| 大香蕉久久| 丰满少妇猛烈A片免费看观看 | 深爱激情五月天婷婷网| 色婷婷色五月综合| 大香蕉九九| 新精品99| 久久草大香蕉| 碰超亚洲| 亚洲精品99| 久狠日av| 久久五月丁香| 黄色片久久| 九九99热| 99热精地址| 亚洲无线视频| 久久精品A片777777| 久久思思热| 91免费在线视频6| www.91婷婷| 日本精品人妻无码77777| 综合在线色婷婷| site:901-07.com| 热婷婷av| 香蕉久久av一区二区三区 | 亚洲九区| 激情五月天激情综合网| 久久亚洲婷婷综合色五月| 欧美成综合在线观看| 97在线视频观看| 婷婷五月天欧美图片在线播放电驴| 伊人久久大香网| 91干99| 97色婷| 91精品久久久久、久五月天| 五月婷婷综合网在线播放| se色综合网| 久久色六月| 激情综合五月| 婷婷情爱五月天6| 日韩一区二区三区无码| 天天色图| 色天使色婷婷| 五月激情婷婷偷拍| 99热精品在线观看| 亚洲精品视频在线播放| 五月天婷婷色色网| 在线可以看的av网址| 激情五月天激情网| 激情99热| www.色色com| 欧美色片中文字幕久久久久| 亚洲成人五月天| 亚洲人人操| 五月婷婷开心丁香| 人人人人人人人草| 五月婷婷成人w| 中文网AV| 亚洲精品亚洲人成人网| 99热精品网| 五月婷婷综合天天操| 裸体做A爰片毛片A片免费| 久久九色| 色色五月天丁香| 狼人狠狠操| 激情五月天在线免费美女视频| 思思精品久久艹| 99高级会所久久| www久| 99大香蕉| 婷婷五月综合社区| 91丁香五月| 婷五月天丁香婷五月| 色九月综合网| 久热伊人在91| 丁香五月天日韩无码| 99热综合在线观看| 久9热插入| 亚洲亚洲人成综合网络| 婷婷久久综合| 久久久婷婷| 亚洲人妻av| 精品国产乱码久久久久久免费| 精品色色| 色婷婷五月天| 伊人无码高清| 97人人妻人人艹| 亚洲AV久久久久久久久久久久久久久久| 麻豆AV一区二区三区| 国产精品久久久久久久久久免费| 天天日天天久久青青| 国产XXXX搡XXXXX搡麻豆| 拍真实国产伦偷精品| 亚洲人妻av伦理| 欧美黑人巨大性生话| 久草丁香婷婷1024| 日本97在线看片| 日本三级片片| 精品网站:999WWW| 五月丁香狠狠爱| 最新日本A片| jiujiu无码五区| 另类小说婷婷色| 日本色视| 超碰9| 网站免费一站二站| 国产人妻人伦精品一区二区| 亚洲区在线| 人人爱人人草| 亚洲秘 无码一区二区三区妃光/1| www.天天干| 色婷婷丁香五月在线观看| www久久久久久久97| 99操逼| 大香蕉综合网| 黄色网址五月婷婷| 9有码中文| 丁香五月天导航| 丁香五月天人体| 99爱免费视频| 九九色精品| 少妇性按摩无码中文A片| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 色你久久| 五月丁香色色网| 天天舔天天插天天爱| 五月婷人妻| 五月婷婷激情综合拍| 日日夜夜久| 91九色视频在线观看| 天天干天天干天天干天天干天天干| 五月综合视频| 男人先锋久久| 色婷婷丁香社综合| 色综合九九色综合88| 色五月网址| 婷婷 激情 五月| 热成人网| 欧美大香蕉视频| 无码少妇高潮喷水A片免费| 婷婷久综合| 色站9/| 日本久久精品| 色丁香五月婷婷在线| 99热资源在线| 五月大香蕉| 大香蕉视频婷| 日本a片网址| 婷婷开心激情综合五月天| 26uuu成人网| 久久激情综合| 无码字幕中文| 武则天精品久久| 五月婷无码| 涩涩涩五月天| 五月婷婷六月丁香| 久久99日本精品视频免费观看| 99九九在线| 激情五月六月丁香| 色婷婷久久| 天堂在线伊久| 99自拍视频在线| 丁香五月婷婷骚视屏| 久久视频婷婷视频| 影音先锋AV男人站| 99热 这里只有精品 国产 日韩| 人人综合五月人人婷婷| 日韩成人AV在线播放| 五月成人综合| 婷婷五月天Av| 丁香五月婷婷久久久| 亲子乱AV一区二区三区下载| 国产成人VA| 在线视频另类| 超碰AV成人| 国产精品久久久久9999小说| 亚洲精品视频在线播放| 久久99激情丁香婷婷小说网| 亚洲女婷婷五月基地综合久久久| 久草 天堂| .comwww在线观看免费操| 俺也去五月婷婷丁| 成片免费播放| 色婷| 91久久电影| 97丁香视频| 亚洲乱码日产精品BD在线观看 | 伊人五月天在线| 91夫妻网站九色| 欧美在线视频99| 欧美婷婷五月天| 婷婷丁香18| 天天操加勒比| 日韩无码色色| 秋霞少妇AV网站| 九九综合久久丁香婷婷,开心激情综合网| 五月天婷婷激情小说电影| 熟女人妻一区二区三区免费看| 91综合色| 99啪啪网| www99xxxx五月丁| 天天干天天操天天上| 丁香色婷婷| 天天肏夜夜肏| 另类视在线| 婷婷五月丁香激情图片| 久久亚洲网| 色五月婷婷影院| 中文字幕,综合,91| 五月天另类视频| 九九久99免费视频| 99九九视屏| 欧美大肥婆大肥BBBBB| 日韩综合网络男女香蕉a片| 久久婷婷久久| 色五月大| 丁香五月天啪啪| 99日在线观看视频| 婷婷五月天狠狠| 亚洲精品第一国产综合亚AV | 女同激情久久av久久| 久热这里只有精品6| 曰本aaaaaa丈片| 婷婷五月天美女视频| 五月天婷婷成人网| 99惹在线精品免费观看| 97人人超| 五月丁香激情综合啪| 婷婷五月天久久久| 中文字幕高清av| 五月天 无码| 青青色com久久| 毛片色五月| 综合 蜜月 婷婷| 五月丁香六月婷婷综合网站| 免费色婷婷| 天天摸色吧天天摸色吧| 国产综合丁香五月天| 天堂A∨在线| 97久久视频| 影音先锋91在线资源站| 大香蕉视频婷婷| 九月婷婷激情| WWW色综合| 激情五月少妇| 美女激情综合| 乱精品一区字幕二区| 狠狠色丁香久久婷婷综合五月| 99九九久久| 色综合天天网| 狠狠做六月爱婷婷综合aⅴ| 可以免费看AV网站| 国产色香蕉精品五夜婷| 婷婷月综合| 天天色综合色| 另类国产欧美视频| 久久婷网| 婷婷涩涩网| 亚洲另类AV| 亚洲中文字幕AV| 99热国产国产| 伊人大香蕉在线视频| 超碰免费成人| 色插综合网| 天堂综合久| 亭亭玉月丁香| 天天舔日日肏夜夜爽| 九九AV在线| 蜜桃人妻无码AV天堂三区| 色婷婷综合网站| 2017狠狠干| 91 影音先锋| 丁香六月天| 天天日夜夜高潮| 69色婷婷| 五月婷丁香花| 婷婷酒色网| 色色色色网| 97色伦另类图片小说视频 | 狠狠爱深色婷婷综合| xx人人xx| 色黑鬼导航| 狠狠久久婷五月综合色| 色五月天堂| 另类小说五月天综合网| 色婷婷AV在线| 日本在线播放97| 99热在线精品播放| 五月丁香婷中文字幕| 激情六月婷婷| 婷婷在线日韩综合| 综合大香蕉| 五月天丁香六月综合| a片在线免费观看一区| 色无码| 婷婷丁香人妻天天爽| 亚洲五月天综合| 综合一区二区三区| 婷婷香草网| 丁香六月婷| 久久九九色| 色狠狠六月| 丁香五月精品视频| 久久综合五月| 欧美性生交xXxX久久久| 色婷婷五月在线| 色色色色热| 亚洲十月婷婷综合| 激情久久肏屄视频| 日韩av高清| 99网| 婷婷五月天国产| 色欲资源网| 色婷婷内射| 97热这里精品在线视频| 无码一级片| ..真实国产乱子伦毛片| 思思热精品在线| 五月丁香91| 日婷婷久久开心| 丁香五月人妻熟女| www.狠狠狠.com| 中文久久婷婷| 97碰碰视频在线观看免费| 99热99色| 久久久精品99亚洲综合| 26UUU精品一区二区| 操笔无码| 538在线精品| 五月花亭亭| 在线99精品| 亚洲成人av在线| 99热伊人| 欧美色图片88| 六月丁AV| 97热九九| 激情第四色| 丁香五月婷婷色五月| 乱乱av| 五月婷婷六月情| av在线播放网址| 日韩无码色色| 99爱免费在线视频| 激情婷婷22月间| 九九大香蕉黄色影院| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 日韩激情人伦人| 99在线观看精彩视频| 一起草AV| 97人妻碰碰中文无码久热丝袜| 人人综合久| 日本久久婷| 啪啪 综合网| 欧美日韩成人在线网站| 丁香五月天堂网| 六月丁香婷婷综合狠狠爱夜夜爱| 天天色天天操天天射| 五月丁香婷婷综合视频| 色综合天天| 色婷六月| 香蕉操亚洲| 夜夜干 夜夜操| 亚洲色婷婷| 色色五月婷| 亚洲网在线观看| 91在线操逼视频| 五月天婷a在线| 涩涩激情五月婷婷| 九九视频在线观看视频在线播放69| 亚洲亚洲人成综合网络| 五月综合激情啪啪啪啪啪| 日韩AV中文在线观看| 九九婷婷五月天| 久久蜜臀婷婷| 99伊人性爱在线影院| 沈娜娜av| 婷婷综合影院| 日日干天天射| 五月婷在线观看| 五月天丁香六月综合| 婷婷久久午夜网| 爱婷婷五月| www.com五月天| 丁香婷婷91在线观看视频| 欧美人妻一区二区| 色五月综合| 婷婷五月欧美综合| 性爱网六月丁香| 琪琪色五月天| 9有码中文| 色婷婷五月天中文字幕| 国产成人高清| 色综合久久88| 国产成人网| 天天草人人摸| 色五月成人在线| 天天爽免费视频| 天天操综合网| 久久国产色| 无码激情AAAAA片-区区| 国产一二区爆乳_1国产日韩一区二区三-成人AV| 超极99精品| 碰碰碰91| 久久人操| 丁香五月天婷婷中文| 伊人五月成人| 4399在线日本A片| 丁香五月婷婷基地| 老师的粉嫩小又紧水又多A片视频| 婷婷色网址| 欧洲S级在线观看| 丁香五月综合高清在线| 五月婷婷免费视频| 色播播婷婷| 色呦呦美女| 精品一二三区久久AAA片| 九九精品免费视频99| 人人性久久| 96精品成人无码A片观看金桔| 五月天天天色| 中文网av| 婷婷丁香五月天综合网| 超碰91av| 久操综合| 五月天伊人久久久久| 色五月色五天色情网址| 人妻熟人中文字幕一区二区 | 99视频久久| 亚洲AV无码一区二| av在线不卡播放| 久综合4| 婷婷六月丁香五月图区| 亚洲综合五月天| 九九色综合九九色| 亚洲欧洲另类| 99热老司机| 人人人人人人人草| 色情一区二区播放| 丁香五月天婷婷久久| 狠狠色激情在线| av在线超清中文| 色五月激情视频在线综合| 婷婷五月激情网| av在线观看网站| 久操热线| 狠狠丁香| 大香蕉五月天婷婷| 玖玖视频福利| 99热婷婷| 六月激情婷婷色| 狠狠艹狠狠艹| 色欲久久久久久综合网综合网| 婷婷开心久久| 日韩99色99| 人人播| 五月综合色| 99热激情| 日本天天色| 天天日天天操心| 婷婷综合97| 中文字幕在线观看视频www| 26uuu成人网| 亚洲欧美婷婷五月色综合| 色色五月天丁香婷婷| 天天插综合| 免费看欧美成人A片无码| 超碰在线免费观看日韩| 综合 激情 婷婷| 少妇人妻偷人精品无码视频新浪| 大战熟女丰满人妻AV| 婷婷五月天性色| 欧洲区自拍| 91成人看片| 久热2025无码| α久久| 色五月之第四色| 五月色婷婷AV| 小视频久久久aaa| 97在线综合| 狠狠干婷婷| 激情婷婷丁香| av人人操| 激情综合网站| 淫视馆aV二区一区| 欧洲亚洲免费视频9| 五月丁香婷婷三级| 五月天天综合| 婷婷性爱| 香蕉曰比| 欧美啪啪网| 99热在线观看免费中文| 久久婷婷五月综合激情国产| 成人色五婷婷| 久久伊人婷婷| 9色91视频| 无码A片一区二区免费| 色噜噜狠狠色综合AV兰草影视| 天天色天天干天天插| 思思热国产| 欧美日韩成人在线| 国产精产国品一二三在观看 | 久久99久久99精品免视看婷婷| 91丨九色丨白浆秘| 粉嫩AV久久一区二区三区| 五月丁香婷婷欧美色图视频五月丁香777电影 | 久久偷拍综合五月天| 婷婷五月天淫荡| 停停色综合伊人| 亚洲国产精品SUV| 婷婷丁香六月五月天| 亚洲黄色影视| 欧美群妇大交乱婬网| 操一区| 五月天激情综合网站| 丁香激情五月| 伊人网碰碰| 婷婷少妇激情| 五月色婷| 日本三级日本三级99| 337p大胆噜噜噜噜噜91Av| 成人短视频在线| 99re在线视频精品,这里只有精品18,| 婷婷色在线播放| 丁香五月激情五月色综合| 五月婷婷影| 99热免费精品热久久66| 婷婷在线观看五月天在线视频| 91精品久久久久久| 97色操| 亚洲av成人在线| 久久激情综合| 综合色色网| 激情丁香淫荡婷婷| 人妻日日日| 激情婷婷五月天日本系列| 午夜福利成人AV91| 婷婷六月啪啪| 五月色婷丁香| 91色色色18| 久久婷婷五月天| 风流少妇A片一区二区蜜桃 | 九色无码| 激情欧美丁香五月| 男人天堂99| 色五月综合在线| 五月情婷婷五月| 啪啪日热| 99热资源在线| 亚洲色综合| 亚洲V国产V欧美V久久久久久| 婷婷五月天激情亚洲小说| 色五月婷婷1| AVDV久久| 丁香狠狠色婷婷久久无码视频| 丁香五月手机在线| 色综合色综合色综合色综合| 成人视频在线免费播放| 久久久WWW| 久热精品视频| 中文字幕综合网|