免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

三種ECC全面解讀:內(nèi)存糾錯(cuò)、MBIST測(cè)試與SAP年結(jié)

三種ECC全面解讀:內(nèi)存糾錯(cuò)、MBIST測(cè)試與SAP年結(jié) ECC 這三個(gè)字母放在三種不同職業(yè)的人面前反應(yīng)是完全不一樣的。維護(hù)服務(wù)器和存儲(chǔ)的人第一反應(yīng)是內(nèi)存糾錯(cuò)碼Error Correction Code腦子里會(huì)瞬間閃過(guò) EDAC 日志、DIMM 報(bào)警、可糾正與不可糾正錯(cuò)誤這些詞做芯片設(shè)計(jì)驗(yàn)證的看到這三個(gè)字會(huì)直接往下接——MBIST ECC開(kāi)始盤(pán)算測(cè)試 Pattern、故障覆蓋率和冗余修復(fù)策略而在企業(yè)里負(fù)責(zé) SAP 財(cái)務(wù)模塊的顧問(wèn)或關(guān)鍵用戶(hù)聽(tīng)到 ECC 想到的則是那套跑了十幾年的 ERP 系統(tǒng)尤其是每年年底都要做一輪的 SAP ECC 年結(jié)。剛巧這三種身份相關(guān)的工作場(chǎng)景我都經(jīng)歷過(guò)踩過(guò)內(nèi)存報(bào)錯(cuò)排查的坑也陪財(cái)務(wù)同事熬過(guò)年結(jié)夜所以當(dāng)“ECC”這個(gè)標(biāo)題出現(xiàn)時(shí)我決定把這條線徹底理一遍。先說(shuō)個(gè)總印象ECC 這個(gè)縮寫(xiě)在三個(gè)領(lǐng)域里重名但它們的共同點(diǎn)只有一個(gè)——都在跟“錯(cuò)誤”打交道。硬件 ECC 負(fù)責(zé)發(fā)現(xiàn)并糾正內(nèi)存比特翻轉(zhuǎn)MBIST ECC 負(fù)責(zé)在芯片出廠前把有缺陷的內(nèi)存單元體檢出來(lái)SAP ECC 年結(jié)負(fù)責(zé)在財(cái)務(wù)年度切換時(shí)把賬務(wù)錯(cuò)誤關(guān)在門(mén)外。三層場(chǎng)景用的方法論其實(shí)高度相似先識(shí)別異常信號(hào)再隔離到具體模塊最后用制度或流程去吸收風(fēng)險(xiǎn)。這篇文章我會(huì)把這三條線逐一拆開(kāi)既講原理也講實(shí)操重點(diǎn)覆蓋最近大家經(jīng)常搜的“Uncorr. ECC 顯示2”這類(lèi)報(bào)錯(cuò)怎么處理以及 MBIST 和 SAP 年結(jié)里那些只出現(xiàn)在現(xiàn)場(chǎng)、而不是教科書(shū)里的經(jīng)驗(yàn)。1. 糾錯(cuò)碼技術(shù)ECC 最本源的形態(tài)1.1 沒(méi)有 ECC 的內(nèi)存就像沒(méi)有保險(xiǎn)絲的家電關(guān)于 ECC核心還是講清楚為什么內(nèi)存里的比特會(huì)自己出錯(cuò)。芯片里的電容器在充放電表示 0 和 1這個(gè)狀態(tài)本身很脆弱會(huì)受到外部高能粒子撞擊、芯片老化、電壓波動(dòng)甚至相鄰存儲(chǔ)單元干擾的影響。平時(shí)我們是察覺(jué)不到的因?yàn)閮?nèi)存內(nèi)容被讀取后只要不出錯(cuò)一切照舊。但錯(cuò)誤一旦發(fā)生影響就分兩種一個(gè)比特翻轉(zhuǎn)導(dǎo)致程序算錯(cuò)一個(gè)數(shù)或者更糟的情況系統(tǒng)直接藍(lán)屏。這就必須說(shuō)到 ECC 存在的必要性。早年 PC 內(nèi)存不配 ECC壞了就重啟數(shù)據(jù)丟失就認(rèn)栽。但服務(wù)器的數(shù)據(jù)庫(kù)、交易系統(tǒng)、醫(yī)療記錄、證券清算這些場(chǎng)景一份數(shù)據(jù)算錯(cuò)一個(gè)字節(jié)后果可能是資金對(duì)不上賬也可能是病人劑量記錄錯(cuò)誤。于是工程師設(shè)計(jì)了 ECC 這種“帶保險(xiǎn)絲”的內(nèi)存每次寫(xiě)入時(shí)額外存一份校驗(yàn)信息讀取時(shí)主動(dòng)校驗(yàn)發(fā)現(xiàn)錯(cuò)誤能當(dāng)場(chǎng)糾正。ECC 和普通內(nèi)存最直觀的差別就是多了額外的存儲(chǔ)顆粒。普通 DDR4 內(nèi)存顆粒按 64 位數(shù)據(jù)位組織ECC 內(nèi)存會(huì)在每個(gè) 64 位數(shù)據(jù)塊后面額外附帶 8 位校驗(yàn)位通常做成 72 位。也就是說(shuō)每 64 位用戶(hù)數(shù)據(jù)要消耗 8 位開(kāi)銷(xiāo)折算下來(lái)約 12.5% 的內(nèi)存成本被用來(lái)?yè)Q可靠性。這也是為什么同樣容量下 ECC 內(nèi)存模塊通常更貴、插槽和普通內(nèi)存也不兼容。1.2 從奇偶校驗(yàn)到漢明碼ECC 的數(shù)學(xué)原理要談 ECC 的數(shù)學(xué)原理得從最簡(jiǎn)單的奇偶校驗(yàn)開(kāi)始。普通奇偶校驗(yàn)是給整組數(shù)據(jù)追加一位“校驗(yàn)位”讓整組數(shù)據(jù)里 1 的個(gè)數(shù)是奇數(shù)或偶數(shù)。比如數(shù)據(jù)是 10101 的個(gè)數(shù)是 2如果約定偶校驗(yàn)校驗(yàn)位就是 0讓總 1 數(shù)為 2如果數(shù)據(jù)傳輸后變成 1110讀取時(shí)一數(shù) 1 的個(gè)數(shù)是 3就知道出錯(cuò)了。但奇偶校驗(yàn)只能告訴我“錯(cuò)了”不能告訴我“哪一位錯(cuò)了”。ECC 的實(shí)現(xiàn)思路是把校驗(yàn)位拆開(kāi)分布到不同位組里讓每一位數(shù)據(jù)同時(shí)被多個(gè)校驗(yàn)位覆蓋。這樣出錯(cuò)時(shí)根據(jù)被破壞的校驗(yàn)位組合可以直接反推出是第幾位出了問(wèn)題。最經(jīng)典的實(shí)現(xiàn)就是漢明碼Hamming Code它是現(xiàn)代存儲(chǔ) ECC 的理論基石。舉一個(gè)手算的例子。4 位原始數(shù)據(jù) d1 d2 d3 d4我們給它配上 3 個(gè)校驗(yàn)位 p1 p2 p3組成一個(gè) 7 位的漢明碼。校驗(yàn)位放在 1、2、4 這幾個(gè)位置也就是 2 的冪次位置。編碼規(guī)則如下p1 覆蓋位置 1、3、5、7二進(jìn)制最高位為 1 的位置p2 覆蓋位置 2、3、6、7二進(jìn)制中間位為 1 的位置p3 覆蓋位置 4、5、6、7二進(jìn)制最低位為 1 的位置接收方拿到 7 位數(shù)據(jù)后重新計(jì)算這 3 組校驗(yàn)。如果三組校驗(yàn)結(jié)果全為 0說(shuō)明沒(méi)有錯(cuò)誤如果不全為 0把它們拼成一個(gè)二進(jìn)制數(shù)比如 p11, p20, p31得到二進(jìn)制 101也就是十進(jìn)制 5然后就把第 5 位翻轉(zhuǎn)回來(lái)。整個(gè)過(guò)程相當(dāng)于構(gòu)建了一個(gè)“錯(cuò)誤定位器”。工程上實(shí)際用的 ECC 不只是漢明碼因?yàn)闈h明碼只能糾正單個(gè)比特錯(cuò)誤、檢測(cè)兩個(gè)比特錯(cuò)誤而存儲(chǔ)系統(tǒng)中更常見(jiàn)的是“多比特同時(shí)翻轉(zhuǎn)”。商用內(nèi)存 ECC 基本采用 SEC-DED 算法即 Single Error Correction, Double Error Detection可以糾正 1 位錯(cuò)、檢測(cè) 2 位錯(cuò)。它是在漢明碼基礎(chǔ)上額外增加一個(gè)全校驗(yàn)位讓所有碼字的奇偶性都被固定下來(lái)由此能區(qū)分“1 個(gè)錯(cuò)誤”和“2 個(gè)錯(cuò)誤”的校正子模式。1.3 SEC-DED 的實(shí)際工程代價(jià)在實(shí)際的 DDR4/DDR5 內(nèi)存模塊上SEC-DED 的實(shí)現(xiàn)方式是對(duì) 64 位數(shù)據(jù)生成 8 位 ECC 校驗(yàn)碼。這 8 位校驗(yàn)碼單獨(dú)存放在專(zhuān)門(mén)的 ECC 顆粒里數(shù)據(jù)位和校驗(yàn)位一起從處理器傳輸?shù)絻?nèi)存模塊。當(dāng)處理器寫(xiě)數(shù)據(jù)時(shí)會(huì)把數(shù)據(jù)連同校驗(yàn)碼一起寫(xiě)入讀數(shù)據(jù)時(shí)先計(jì)算 64 位數(shù)據(jù)的校驗(yàn)碼再與之前存儲(chǔ)的 8 位校驗(yàn)碼比較得到校正子syndrome。如果校正子為全 0說(shuō)明數(shù)據(jù)完好如果校正子對(duì)應(yīng)某個(gè)單比特錯(cuò)誤模式控制器會(huì)直接把該位取反后返回這也就是“可糾正錯(cuò)誤”Correctable Error, CE如果校正子顯示有兩個(gè)錯(cuò)誤位被被破壞控制器無(wú)法確定唯一修復(fù)路徑就會(huì)上報(bào)“不可糾正錯(cuò)誤”Uncorrectable Error, UE。單比特翻轉(zhuǎn)是模擬信號(hào)噪聲、粒子撞擊等最常見(jiàn)的后果所以 SEC-DED 對(duì)現(xiàn)網(wǎng)環(huán)境有很高的實(shí)用價(jià)值。我曾在一臺(tái)跑著業(yè)務(wù)數(shù)據(jù)庫(kù)的服務(wù)器上連續(xù)觀察過(guò)半年 EDAC 日志累計(jì)記錄了幾十次被硬件自動(dòng)糾正的 CE 事件若不是 ECC 在工作這些錯(cuò)誤大概率會(huì)化作間歇性的數(shù)據(jù)庫(kù)同步異?;虿幻髟虻倪M(jìn)程崩潰。做交付項(xiàng)目時(shí)凡是涉及在線交易、核心生產(chǎn)庫(kù)、虛擬化宿主機(jī)我都會(huì)把“必須配置 ECC 內(nèi)存”作為硬性要求寫(xiě)進(jìn)交付清單里。2. 面對(duì)“Uncorr. ECC 顯示2”內(nèi)存糾錯(cuò)報(bào)錯(cuò)怎么排查2.1 可糾正與不可糾正先看懂這個(gè)報(bào)錯(cuò)在說(shuō)什么很多運(yùn)維朋友第一次看到服務(wù)器管理界面彈出“Uncorr. ECC”字樣時(shí)整個(gè)人是懵的尤其后面還跟著一個(gè)數(shù)字“2”。其實(shí)這類(lèi)信息要先拆開(kāi)理解。Uncorr 是 Uncorrectable 的縮寫(xiě)意思是這個(gè)錯(cuò)誤超出了 ECC 能糾回的范圍內(nèi)存控制器判斷某一組數(shù)據(jù)已經(jīng)無(wú)法被修復(fù)只能把錯(cuò)誤上報(bào)給處理器和固件。它和 CE 的區(qū)別在于CE 是“壞了但修好了”比如某一位翻轉(zhuǎn)被 ECC 自動(dòng)糾正數(shù)據(jù)沒(méi)有受損系統(tǒng)可以繼續(xù)運(yùn)行UE 是“修不回來(lái)了”系統(tǒng)只能依賴(lài)其他機(jī)制比如校驗(yàn)和、RAID、文件系統(tǒng)事務(wù)日志來(lái)感知數(shù)據(jù)損壞是否擴(kuò)散。在服務(wù)器界面上看到“Uncorr. ECC 顯示2”常見(jiàn)的含義有兩層。一種是“發(fā)生了 2 次不可糾正錯(cuò)誤”也就是計(jì)數(shù)器累計(jì)值是 2另一種可能是“有 2 個(gè) DIMM 或 2 個(gè)內(nèi)存地址報(bào)告了不可糾正錯(cuò)誤”。具體是哪種要去管理日志或者 BMC 的事件頁(yè)看明細(xì)字段。我先說(shuō)處理這類(lèi)問(wèn)題的態(tài)度層面CE 可以觀察后延期處理畢竟數(shù)據(jù)沒(méi)壞系統(tǒng)也沒(méi)宕機(jī)可以挑選維護(hù)窗口解決但 UE 一旦出現(xiàn)必須立刻著手處理因?yàn)樗馕吨鎸?shí)數(shù)據(jù)已經(jīng)發(fā)生了無(wú)法通過(guò)冗余機(jī)制糾正的損壞若恰好寫(xiě)入了數(shù)據(jù)庫(kù)文件或文件系統(tǒng)元數(shù)據(jù)后果可能遠(yuǎn)超內(nèi)存本身。生產(chǎn)環(huán)境里我見(jiàn)多了一臺(tái)機(jī)器上 UE 報(bào)錯(cuò)后沒(méi)人處理結(jié)果半個(gè)月后存儲(chǔ)陣列校驗(yàn)失敗查來(lái)查去才發(fā)現(xiàn)源頭就是那根有問(wèn)題的內(nèi)存條。2.2 “顯示 2”背后隱藏的錯(cuò)誤模式報(bào)錯(cuò)里出現(xiàn)“2”這個(gè)數(shù)字在思路上要重點(diǎn)關(guān)注錯(cuò)誤地址是否重復(fù)。如果是同一根 DIMM 上同一個(gè) Bank 地址連續(xù)出現(xiàn)兩次 UE大概率是物理壞單元維修方案是直接更換該內(nèi)存模塊。如果兩次 UE 發(fā)生在不同 DIMM 上那問(wèn)題可能更復(fù)雜比如 CPU 內(nèi)存控制器、主板總線鏈路、甚至固件的地址映射配置問(wèn)題。舉例來(lái)體會(huì)一下。在某臺(tái)雙路服務(wù)器上我遇到過(guò) iDRAC 事件日志里同時(shí)出現(xiàn)“Memory Device 3 Uncorrectable Errors: 2”和“Memory Device 6 Uncorrectable Errors: 1”但系統(tǒng)負(fù)載并不高。當(dāng)時(shí)第一反應(yīng)不是換內(nèi)存而是先查 BIOS 和 BMC 版本因?yàn)檫@類(lèi)多 DIMM 同時(shí)報(bào)錯(cuò)很可能是固件地址解碼錯(cuò)誤。升級(jí)固件后繼續(xù)壓測(cè)設(shè)備 3 還有新的 UE 產(chǎn)生設(shè)備 6 恢復(fù)正常最終確認(rèn)設(shè)備 3 是真正壞條設(shè)備 6 是固件誤報(bào)。如果不做區(qū)分一口氣換兩條內(nèi)存代價(jià)就上去了。還有一個(gè)容易忽略的點(diǎn)不可糾正錯(cuò)誤數(shù)字看起來(lái)是“2”不代表實(shí)際只發(fā)生了 2 次。在部分固件實(shí)現(xiàn)里UE 計(jì)數(shù)器超過(guò)一定閾值后就會(huì)封頂顯示或者連續(xù)報(bào)錯(cuò)會(huì)被合并去重。所以我排查時(shí)會(huì)配合查看 DIMM 狀態(tài)寄存器、POST 自檢信息和 memtest 類(lèi)工具輸出而不是只盯著這一個(gè)數(shù)。2.3 服務(wù)器場(chǎng)景的完整排查步驟針對(duì)“Uncorr. ECC 顯示2”這一類(lèi)報(bào)錯(cuò)我的排查思路可以總結(jié)成下面這個(gè)清單順序非常重要直接照做即可第一步收集現(xiàn)場(chǎng)信息。進(jìn)入服務(wù)器管理界面iDRAC/iLO/BMC導(dǎo)航到“內(nèi)存”或“系統(tǒng)事件日志”頁(yè)面記錄報(bào)錯(cuò)的內(nèi)存槽位、錯(cuò)誤地址、DIMM 型號(hào)和錯(cuò)誤計(jì)數(shù)。同時(shí)收集操作系統(tǒng)層信息比如在有 RAS 工具的情況下執(zhí)行# RHEL/CentOS 系列常用 rasdaemon 記錄并查詢(xún) EDAC 事件 ras-mc-ctl --error-count ras-mc-ctl --summary # 也可以直接過(guò)濾內(nèi)核日志 dmesg | grep -i edac | tail -50這些輸出能幫我判斷錯(cuò)誤是否被內(nèi)核識(shí)別為 CE 或 UE以及具體是哪個(gè)內(nèi)存控制器上報(bào)的。第二步確認(rèn)槽位和地址映射關(guān)系?,F(xiàn)代服務(wù)器手冊(cè)里都有內(nèi)存 DIMM 槽位到 CPU 內(nèi)存控制器的對(duì)應(yīng)表。報(bào)錯(cuò)槽位如果集中在 CPU0 的控制通道 2代表這一根條故障概率最高如果槽位同時(shí)分散在多個(gè)通道我傾向于先排除主板和固件因素。第三步拔插并清理內(nèi)存槽位。靜默斷電、做好防靜電措施后把報(bào)錯(cuò) DIMM 拔出清理金手指氧化層對(duì)插槽和顆粒外觀拍照記錄再重新插回去開(kāi)機(jī)跑一輪 memtest86。確實(shí)有不少“Uncorr. ECC”在重新插拔后就不再?gòu)?fù)現(xiàn)原因是內(nèi)存條與插槽接觸不良導(dǎo)致的數(shù)據(jù)線瞬斷而不是顆粒永久損壞。這一步會(huì)過(guò)濾掉一批可修復(fù)的物理接觸問(wèn)題。第四步執(zhí)行隔離互換驗(yàn)證。把報(bào)錯(cuò)那根 DIMM 換到相鄰空閑槽位同時(shí)把同通道另一根正常條換過(guò)來(lái)。重啟后如果錯(cuò)誤跟隨 DIMM 走則確定是內(nèi)存條故障如果錯(cuò)誤留在原槽位則可能是主板插槽或 CPU 內(nèi)存控制器故障。這類(lèi)互換實(shí)驗(yàn)在保修溝通時(shí)也很有說(shuō)服力能夠快速推動(dòng)廠商更換部件。第五步根據(jù)驗(yàn)證結(jié)果更換部件并補(bǔ)跑壓力測(cè)試。換好新內(nèi)存后建議至少跑 2 到 3 個(gè)小時(shí)的 memtest86 或系統(tǒng)級(jí)內(nèi)存壓力工具如 stress-ng觀察 EDAC 計(jì)數(shù)是否歸零。如果還持續(xù)有新事件繼續(xù)按同樣的隔離流程排查。這套全過(guò)程里最容易犯的錯(cuò)是忽略固件日志與內(nèi)核日志的對(duì)照。舊版 BIOS/BMC 對(duì)錯(cuò)誤事件的記錄能力并不完整有時(shí) UE 報(bào)錯(cuò)顯示 2 次實(shí)際內(nèi)核 EDAC 早就記錄了 5 次只是固件聚合邏輯不同。所以我的習(xí)慣是固件查看與內(nèi)核查詢(xún)同步做兩邊數(shù)據(jù)對(duì)齊后再下結(jié)論否則很可能低估故障影響面。3. MBIST ECC芯片出廠前自帶的內(nèi)存體檢3.1 為什么芯片里要內(nèi)置自測(cè)邏輯聊完系統(tǒng)軟件層的 ECC 排查把視角往芯片設(shè)計(jì)方向轉(zhuǎn)一層?,F(xiàn)代 SoC、CPU、GPU、網(wǎng)絡(luò)交換芯片里都集成了大容量的 SRAM 或嵌入式 DRAM這部分存儲(chǔ)單元用來(lái)做 Cache、緩沖區(qū)、寄存器堆、硬件隊(duì)列等。問(wèn)題在于芯片封裝完成后測(cè)試設(shè)備很難直接從外部引腳控制到每一個(gè)內(nèi)存單元尤其那些被埋在片內(nèi)深處的 SRAM外部測(cè)試覆蓋率會(huì)非常低。這里就需要 MBIST——Memory Built-In Self-Test內(nèi)存內(nèi)置自測(cè)試。簡(jiǎn)單理解MBIST 就是在每塊內(nèi)存附近放一個(gè)硬件化身的“自動(dòng)測(cè)試員”芯片加電后或特定測(cè)試模式下由這個(gè)測(cè)試員產(chǎn)生地址、數(shù)據(jù)和讀寫(xiě)控制信號(hào)對(duì)內(nèi)存單元執(zhí)行一系列預(yù)設(shè)測(cè)試序列然后比對(duì)讀取結(jié)果判斷內(nèi)存是否存在故障。相比外部 ATE 設(shè)備MBIST 不需要把每個(gè)單元的信號(hào)引到封裝管腳測(cè)試時(shí)間和產(chǎn)線成本都大幅下降。參與過(guò)芯片驗(yàn)證的朋友應(yīng)該明白MBIST 通常被歸類(lèi)到 DFTDesign for Testability可測(cè)性設(shè)計(jì)流程里。在我們項(xiàng)目里MBIST 控制器會(huì)在芯片設(shè)計(jì)階段就部署好結(jié)構(gòu)上包含測(cè)試模式選擇邏輯、地址/數(shù)據(jù)生成器、響應(yīng)比較器和故障日志寄存器。上電后由硬件狀態(tài)機(jī)或掃描鏈觸發(fā)直接獨(dú)立于主系統(tǒng)運(yùn)行。3.2 MBIST 與 ECC 如何協(xié)同工作很多朋友一聽(tīng)到 MBIST ECC就以為這兩個(gè)是完全獨(dú)立的兩套東西。在我接觸過(guò)的項(xiàng)目里它們其實(shí)有非常緊密的搭配關(guān)系。MBIST 檢測(cè)內(nèi)存單元本身有沒(méi)有物理缺陷ECC 負(fù)責(zé)在內(nèi)存運(yùn)行過(guò)程中糾正偶發(fā)錯(cuò)誤。但二者結(jié)合時(shí)會(huì)產(chǎn)生一個(gè)實(shí)際的工程問(wèn)題如何驗(yàn)證 ECC 糾錯(cuò)邏輯本身的正確性沒(méi)有經(jīng)過(guò)測(cè)試的 ECC你怎么能信任它在關(guān)鍵時(shí)刻糾錯(cuò)這時(shí)候 MBIST 的故障注入功能就派上了用場(chǎng)。在做 ECC 功能測(cè)試時(shí)MBIST 控制器會(huì)刻意向某個(gè)存儲(chǔ)單元寫(xiě)入錯(cuò)誤數(shù)據(jù)或者翻轉(zhuǎn)某一位然后模擬正常系統(tǒng)讀取這個(gè)數(shù)據(jù)觀察 ECC 電路是否正確識(shí)別出錯(cuò)誤并返回糾正后的數(shù)據(jù)。如果 ECC 無(wú)線糾正MBIST 會(huì)捕獲這個(gè)異常并報(bào)告。這樣的“反向驗(yàn)證”雖然聽(tīng)起來(lái)反直覺(jué)卻是芯片出廠前必須做的一環(huán)。更進(jìn)一步的場(chǎng)景是內(nèi)存冗余修復(fù)。部分高端芯片會(huì)設(shè)計(jì)多一行或多列備份存儲(chǔ)單元一旦 MBIST 發(fā)現(xiàn)某行某列存在永久性故障就用熔絲或 eFuse 配置把備份行/列啟用被損壞的單元在出廠前就被隔離掉。ECC 在這里起到兜底作用如果修復(fù)后殘留了單比特偶發(fā)錯(cuò)誤ECC 依然能糾正如果修復(fù)后還殘留不可糾正的多比特錯(cuò)誤ECC 告警就能觸發(fā)系統(tǒng)的上層容錯(cuò)機(jī)制避免數(shù)據(jù)帶病運(yùn)行。有一個(gè)關(guān)鍵點(diǎn)要說(shuō)明MBIST 測(cè)試覆蓋的是“結(jié)構(gòu)性故障”比如固定故障、翻轉(zhuǎn)故障、耦合故障但 ECC 補(bǔ)償?shù)母嗍恰半S機(jī)錯(cuò)誤”和“漂移老化類(lèi)錯(cuò)誤”。兩者定位不一樣不能互相替代。這也是為什么在芯片規(guī)格書(shū)里通常會(huì)分別列出 MBIST 修復(fù)能力和 ECC 糾錯(cuò)能力而不是混為一項(xiàng)。3.3 從故障模型看 ECC 測(cè)試的覆蓋范圍做過(guò) SoC 內(nèi)存測(cè)試的人一定對(duì)這幾個(gè)故障模型很熟比如 Stuck-At FaultSAF固定故障某個(gè)單元恒為 0 或恒為 1、Transition FaultTF翻轉(zhuǎn)故障單元無(wú)法從 0 變成 1 或反之、Coupling FaultCF耦合故障一個(gè)單元的翻轉(zhuǎn)影響相鄰單元、Address Decoder Fault地址譯碼故障、Read/Write disturb 類(lèi)問(wèn)題等。MBIST 測(cè)試序列的設(shè)計(jì)目標(biāo)就是用最小的 Pattern 集合把這些故障模型全部激發(fā)出來(lái)。比如 March C 算法就是一套經(jīng)典測(cè)試序列會(huì)做增量寫(xiě)、增量讀、反向?qū)?、反向讀等組合操作。具體到 ECC 協(xié)同場(chǎng)景我們會(huì)額外關(guān)注“多位翻轉(zhuǎn)”模式是否會(huì)產(chǎn)生某種特殊的重合校正子。在實(shí)際芯片項(xiàng)目里我曾經(jīng)在一個(gè) 64KB 共享緩沖區(qū)的設(shè)計(jì)中遇到一個(gè)問(wèn)題MBIST 測(cè)試全部通過(guò)但跑到 ECC 壓力測(cè)試時(shí)兩個(gè)相鄰字線偶發(fā)同時(shí)翻轉(zhuǎn)恰好落在同一 ECC 碼字里導(dǎo)致 SEC-DED 無(wú)法糾正。最終修緊的方法是調(diào)整物理布局把兩條線從相鄰變?yōu)殚g隔排列讓故障分布到不同碼字里。這類(lèi)邊界情況在車(chē)間里比在書(shū)里常見(jiàn)得多也說(shuō)明 MBIST ECC 的覆蓋并非越高越好而是要跟真實(shí)故障模型對(duì)齊。4. SAP ECC 年結(jié)財(cái)務(wù)人眼中的“ECC”另類(lèi)世界4.1 先記住這里的 ECC 是 ERP Central Component如果說(shuō)前面講的內(nèi)存糾錯(cuò)碼和 MBIST 是硬件工程師的主場(chǎng)那么 SAP ECC 這個(gè)名字一出場(chǎng)兩種職業(yè)基本就互相懵圈了。SAP ECC 全稱(chēng)是 ERP Central Component它是 SAP 歷史上最經(jīng)典的一代 ERP 產(chǎn)品。要說(shuō)清這個(gè)名詞得先回顧一下產(chǎn)品演進(jìn)上世紀(jì) 90 年代叫 R/3后來(lái)有了 mySAP ERP再后來(lái)到 2004/2005 版本時(shí)正式引入了 SAP ECC 這個(gè)名字而大家常說(shuō)的 ECC 6.0 則是 2006 年發(fā)布且統(tǒng)治市場(chǎng)多年的穩(wěn)定版本。直到 SAP S/4HANA 出現(xiàn)ECC 才慢慢進(jìn)入替換周期但直到今天全球范圍內(nèi)仍有大量企業(yè)在用 ECC尤其在國(guó)內(nèi)制造、化工、零售行業(yè)它幾乎是“ERP 系統(tǒng)”的代名詞。SAP ECC 是包括財(cái)務(wù)會(huì)計(jì)FI、管理會(huì)計(jì)CO、銷(xiāo)售分銷(xiāo)SD、物料管理MM、生產(chǎn)計(jì)劃PP等模塊的全流程套件。因?yàn)槊镆矌А癊CC”在日常溝通中經(jīng)常跟硬件工程師的“ECC 內(nèi)存”撞車(chē)。有個(gè)很有意思的細(xì)節(jié)我在項(xiàng)目例會(huì)上說(shuō)“ECC 出問(wèn)題了”對(duì)方硬件同事以為說(shuō)的是內(nèi)存糾錯(cuò)我說(shuō)是“SAP ECC 年結(jié)出問(wèn)題了”財(cái)務(wù)顧問(wèn)才插話進(jìn)來(lái)。所以這個(gè)縮寫(xiě)如果溝通不加以說(shuō)明確實(shí)是災(zāi)難級(jí)別的存在。4.2 SAP ECC 年結(jié)到底在做什么年結(jié)是 SAP 系統(tǒng)里會(huì)計(jì)年度切換時(shí)的一項(xiàng)綜合操作。它不只是隨便把賬本翻到下一年的第一頁(yè)而是要完成一系列期末結(jié)賬動(dòng)作并生成新會(huì)計(jì)年度的期初余額。這個(gè)流程在 FI/CO 模塊里尤其復(fù)雜因?yàn)橘Y產(chǎn)負(fù)債表科目余額、損益表科目利潤(rùn)、資產(chǎn)折舊、應(yīng)收應(yīng)付未清項(xiàng)等都要在正確的時(shí)間點(diǎn)被“結(jié)轉(zhuǎn)”到新年度。一個(gè)常見(jiàn)誤解是年結(jié)等于“關(guān)賬”。關(guān)賬只是限制某些時(shí)間段不能再過(guò)賬而年結(jié)是把余額從舊年度帶到新年度的行為。可以把它想象成你在手機(jī)銀行里跨年12月31日晚上要做一個(gè)“年度對(duì)賬單結(jié)清并生成新年初始余額”的動(dòng)作同時(shí)還要處理各種損益結(jié)轉(zhuǎn)和資產(chǎn)重分類(lèi)。年結(jié)的時(shí)間點(diǎn)我強(qiáng)烈建議放在業(yè)務(wù)低峰期。SAP 年結(jié)期間系統(tǒng)會(huì)鎖定一批期間號(hào)碼范圍、物料期間、財(cái)務(wù)期間如果還有業(yè)務(wù)憑證沒(méi)做完就鎖期間生產(chǎn)線上就會(huì)有單據(jù)進(jìn)不來(lái)。我們項(xiàng)目組的鐵律是年結(jié)前兩周凍結(jié)新增需求年結(jié)窗口內(nèi)只允許財(cái)務(wù)進(jìn)行相應(yīng)模塊操作業(yè)務(wù)部門(mén)的相關(guān)月報(bào)數(shù)據(jù)必須提前導(dǎo)出。這個(gè)規(guī)則看著簡(jiǎn)單執(zhí)行不到位年結(jié)變成年“劫”的例子并不少。4.3 年結(jié)的典型操作順序SAP ECC 年結(jié)沒(méi)有一個(gè)固定函數(shù)叫“年結(jié)”它是由一整套事務(wù)代碼串起來(lái)的流程。以常見(jiàn)的制造業(yè) FI/CO 年結(jié)為例我的標(biāo)準(zhǔn)操作順序大致如下第一步業(yè)務(wù)末端結(jié)清確認(rèn)。確認(rèn)所有采購(gòu)收貨、銷(xiāo)售發(fā)貨、生產(chǎn)完工、庫(kù)存盤(pán)點(diǎn)差異是否已經(jīng)記賬未處理的業(yè)務(wù)需要先完成過(guò)賬或在確認(rèn)后確定無(wú)需處理。這一步確年后期的“實(shí)際業(yè)務(wù)噪聲”不會(huì)阻塞財(cái)務(wù)關(guān)賬。第二步運(yùn)行固定資產(chǎn)折舊如果按月折舊未完成。使用 ASKB 或控制參數(shù)運(yùn)行折舊直到當(dāng)前年度最后一個(gè)月折舊全部計(jì)提到位再用 AJRW 運(yùn)行最終折舊和 AJAB 執(zhí)行資產(chǎn)年度關(guān)閉。這里常常遇到的問(wèn)題是有資產(chǎn)未完成資本化或處置沒(méi)有記賬導(dǎo)致 AJAB 報(bào)錯(cuò)。我通常會(huì)在正式關(guān)閉前多做一輪資產(chǎn)主數(shù)據(jù)清理。第三步清賬應(yīng)收應(yīng)付等未清項(xiàng)。使用 F.13 自動(dòng)清賬、F-32 手動(dòng)清賬對(duì)應(yīng)收、應(yīng)付、其他應(yīng)收應(yīng)付等科目?jī)?nèi)未清項(xiàng)做整理。做這一步時(shí)財(cái)務(wù)憑證的抬頭文本、分配字段一定要符合規(guī)范否則清賬時(shí)系統(tǒng)自動(dòng)匹配會(huì)找錯(cuò)對(duì)象。第四步處理外幣評(píng)估和重分類(lèi)。使用 F.05 做外幣貨幣性項(xiàng)目評(píng)估重新計(jì)算匯兌損益再用 OBCO / OB53 等配置評(píng)估范圍和記賬科目并把重分類(lèi)報(bào)表科目走完。外幣評(píng)估的時(shí)間點(diǎn)必須與年末匯率一致不少企業(yè)是用 12 月 31 日人行中間價(jià)具體以企業(yè)會(huì)計(jì)政策為準(zhǔn)。第五步關(guān)閉舊年度會(huì)計(jì)期間。用 OB52 關(guān)閉上一個(gè)會(huì)計(jì)年度的記賬期間并打開(kāi)新年度 001 期間或根據(jù)企業(yè)需要只打開(kāi)未來(lái)期間指定月份。期間開(kāi)合是在公司代碼/會(huì)計(jì)年度變式層面做的配置同一個(gè)財(cái)年變式下的所有公司代碼同步生效。第六步執(zhí)行余額結(jié)轉(zhuǎn)。常見(jiàn)事務(wù)代碼有 F.16總賬科目余額結(jié)轉(zhuǎn)某些項(xiàng)目也會(huì)用 AJAB 之后的“打開(kāi)新會(huì)計(jì)年度”操作自動(dòng)生成新年度初始值。務(wù)必逐科目核對(duì)資產(chǎn)負(fù)債表科目的“期初余額”和上年期末余額一致?lián)p益表科目通常結(jié)轉(zhuǎn)到留存收益賬戶(hù)。第七步做年度結(jié)轉(zhuǎn)后的檢驗(yàn)。最常見(jiàn)的方法是運(yùn)行 S_ALR_87012329資產(chǎn)負(fù)債表和 S_ALR_87012277損益表報(bào)表將新舊年度報(bào)表并排核對(duì)。項(xiàng)目交付時(shí)我還會(huì)要求顧問(wèn)把“期末余額次年1月1日期初余額”的對(duì)賬截圖留檔作為項(xiàng)目驗(yàn)收佐證。這套順序看著繁瑣但每一步之間都有依賴(lài)關(guān)系。比如里程折舊未做完后邊資產(chǎn)余額結(jié)轉(zhuǎn)就根本執(zhí)行不了期間沒(méi)打開(kāi)結(jié)轉(zhuǎn)完的期初余額也無(wú)法被新年度的業(yè)務(wù)憑證使用。項(xiàng)目里有新人問(wèn)能不能跳過(guò)某一步我的答案是除非你徹底清掉整個(gè)賬套的數(shù)據(jù)重新初始化否則年結(jié)的每一步都是前一步的緩沖墊刪不得。4.4 實(shí)際年結(jié)過(guò)程中踩過(guò)的坑年結(jié)的坑不會(huì)一開(kāi)始就炸通常都是過(guò)了一兩個(gè)月才在某個(gè)憑證上冒出來(lái)。我印象里最深的一次是在集團(tuán)性項(xiàng)目里做年結(jié)資產(chǎn)模塊已經(jīng) AJAB 關(guān)閉了但后來(lái)發(fā)現(xiàn)有一張固定資產(chǎn)采購(gòu)發(fā)票在關(guān)閉前沒(méi)有沖銷(xiāo)記賬導(dǎo)致對(duì)應(yīng)資產(chǎn)被鎖在“舊年度”里新年度期初資產(chǎn)總額與實(shí)際固定資產(chǎn)臺(tái)賬差了十幾萬(wàn)。最終處理方法只能是反關(guān)閉資產(chǎn)年度補(bǔ)做憑證后重新關(guān)賬代價(jià)非常高。這讓我養(yǎng)成了一個(gè)習(xí)慣年結(jié)前必須導(dǎo)出一張“未過(guò)賬的資產(chǎn)采購(gòu)訂單/發(fā)票校驗(yàn)”清單逐條確認(rèn)沒(méi)有漏項(xiàng)再動(dòng) AJAB。另一個(gè)常見(jiàn)坑跟統(tǒng)馭科目和未清項(xiàng)有關(guān)。用 F.13 自動(dòng)清賬時(shí)如果供應(yīng)商或客戶(hù)的未清項(xiàng)里有金額不一致的差異項(xiàng)系統(tǒng)不會(huì)自動(dòng)清報(bào)表上就會(huì)掛著一堆“未清明細(xì)”。這本身不是錯(cuò)誤但次年做賬齡分析時(shí)如果差異金額沒(méi)有被及時(shí)清理極易被審計(jì)質(zhì)疑。所以我建議在年結(jié)前跑一遍“未清項(xiàng)差異清單”把金額無(wú)法匹配的條目單獨(dú)處理掉。期間開(kāi)合操作也容易出問(wèn)題。OB52 打開(kāi)新期間時(shí)如果誤把“上一會(huì)計(jì)年度”期間也設(shè)為可記賬財(cái)務(wù)人員就能在新年度里直接往舊年度過(guò)賬這會(huì)破壞資產(chǎn)負(fù)債表的歷史數(shù)據(jù)。我自己的做法是在新年度期初余額結(jié)轉(zhuǎn)完成后立刻回到 OB52 把舊年度所有期間設(shè)為凍結(jié)。很多項(xiàng)目遺漏了這一步結(jié)果年后再想修改上年度數(shù)據(jù)就只能靠沖銷(xiāo)加重新過(guò)賬麻煩得多。最后說(shuō)一說(shuō)部門(mén)協(xié)同。SAP ECC 年結(jié)不是財(cái)務(wù)一個(gè)部門(mén)的事。物料管理里如果還有物流/采購(gòu)流程未走完庫(kù)存數(shù)量未結(jié)算到 FI年結(jié)后兩邊的余額就對(duì)不上銷(xiāo)售模塊里如果在年結(jié)前還開(kāi)著交運(yùn)單或開(kāi)票請(qǐng)求應(yīng)收賬款數(shù)據(jù)也會(huì)缺項(xiàng)。所以年結(jié)項(xiàng)目組里必須有 MM、SD、PP 的顧問(wèn)或關(guān)鍵用戶(hù)參與每個(gè)模塊的“期末操作檢查表”提前一周下發(fā)誰(shuí)沒(méi)完成誰(shuí)負(fù)責(zé)層層簽字確認(rèn)。5. 三種 ECC 怎么區(qū)分先用領(lǐng)域判斷法5.1 一句話定位你遇到的 ECC不管是新入行的同事還是跨領(lǐng)域合作者碰到“ECC”這個(gè)詞我建議先做一道單向選擇題判斷目前所處語(yǔ)境。不需要專(zhuān)業(yè)知識(shí)看現(xiàn)象就知道如果系統(tǒng)彈出一個(gè)內(nèi)存錯(cuò)誤日志、服務(wù)器管理界面顯示 DIMM 告警、ODM 或系統(tǒng)日志里出現(xiàn)“Uncorrectable ECC”或者“Corrected ECC”——這是內(nèi)存糾錯(cuò)碼層面的問(wèn)題。如果你在芯片驗(yàn)證、封裝測(cè)試、ATE 測(cè)試報(bào)告、SoC 設(shè)計(jì)文檔里看到“MBIST”“March 算法”“冗余修復(fù)”這些詞——這是芯片內(nèi)置自測(cè)試層面的問(wèn)題。如果場(chǎng)景是財(cái)務(wù)關(guān)賬、ERP 月結(jié)、SAP 顧問(wèn)調(diào)試 OB52、F.16、AJAB 等事務(wù)代碼——這是 ERP 軟件層面的問(wèn)題也就是 SAP ECC 業(yè)務(wù)模塊。這三個(gè)領(lǐng)域雖然共享縮寫(xiě)但技術(shù)棧完全不同。最常見(jiàn)的溝通悲劇是財(cái)務(wù)顧問(wèn)說(shuō)“ECC 年結(jié)有問(wèn)題”運(yùn)維人跑過(guò)去檢查服務(wù)器內(nèi)存花了半天看 DIMM 日志最后發(fā)現(xiàn)人家是在說(shuō) SAP 會(huì)計(jì)期間被鎖住了。為了避免這種烏龍我在跨部門(mén)協(xié)作時(shí)一般直接在溝通里補(bǔ)全稱(chēng)例如“內(nèi)存 ECC”還是“SAP ECC”。5.2 三種場(chǎng)景的應(yīng)對(duì)方法對(duì)比把三種“ECC”的應(yīng)對(duì)方法放到一起做對(duì)比更容易看出差異。下面這張表是我根據(jù)實(shí)際項(xiàng)目經(jīng)歷整理出來(lái)的速查表抽出來(lái)分享給大家場(chǎng)景核心目標(biāo)典型工具/代碼主要風(fēng)險(xiǎn)驗(yàn)收標(biāo)準(zhǔn)內(nèi)存 ECC 糾錯(cuò)碼發(fā)現(xiàn)并糾正存儲(chǔ)比特翻轉(zhuǎn)EDAC、rasdaemon、memtest86數(shù)據(jù)損壞、服務(wù)器宕機(jī)錯(cuò)誤計(jì)數(shù)清零壓力測(cè)試無(wú)新事件MBIST ECC出廠前檢測(cè)內(nèi)存單元故障并修復(fù)DFT 工具鏈、MBIST 控制器、eFuse故障芯片流入市場(chǎng)故障覆蓋率達(dá)標(biāo)冗余修復(fù)生效SAP ECC 年結(jié)會(huì)計(jì)年度余額正確結(jié)轉(zhuǎn)OB52、F.16、AJAB、AJRW賬賬不符、審計(jì)風(fēng)險(xiǎn)期初余額與期末余額一致期間鎖定正確可以看到內(nèi)存 ECC 和 MBIST ECC 都偏向“自動(dòng)糾錯(cuò)/自動(dòng)檢測(cè)”應(yīng)對(duì)思路是看日志、跑測(cè)試、替換硬件而 SAP ECC 年結(jié)從根本上是一項(xiàng)業(yè)務(wù)流程編排應(yīng)對(duì)思路是走流程、做配置、多部門(mén)配合。遇到問(wèn)題后如果你試著用自己的專(zhuān)業(yè)邏輯去套另一個(gè)領(lǐng)域的應(yīng)對(duì)方式大概率會(huì)走偏。5.3 跨領(lǐng)域協(xié)作時(shí)的溝通清單如果你和我一樣日常工作需要在硬件、芯片、ERP 三類(lèi)團(tuán)隊(duì)之間來(lái)回穿梭有幾個(gè)溝通習(xí)慣我覺(jué)得很值得養(yǎng)成。第一郵件和會(huì)議標(biāo)題里統(tǒng)一寫(xiě)全稱(chēng)比如“【內(nèi)存ECC】服務(wù)器A DIMM 2 Uncorrectable Error 排查”絕不要只用“ECC”三個(gè)字母。第二涉及故障現(xiàn)場(chǎng)時(shí)先貼證據(jù)再講結(jié)論。對(duì)硬件故障貼日志原文和槽位編號(hào)對(duì) SAP 年結(jié)貼事務(wù)代碼和截圖。第三明確責(zé)任界面。內(nèi)存 ECC 的排查通常歸基礎(chǔ)設(shè)施團(tuán)隊(duì)MBIST 歸芯片測(cè)試團(tuán)隊(duì)SAP ECC 年結(jié)歸財(cái)務(wù)和 ERP 顧問(wèn)跨團(tuán)隊(duì)支持時(shí)先把各自的輸入輸出定義清楚避免重復(fù)勞動(dòng)。6. 經(jīng)驗(yàn)沉淀跨領(lǐng)域處理“ECC 類(lèi)問(wèn)題”的統(tǒng)一思路6.1 從現(xiàn)象到領(lǐng)域隔離的診斷方法寫(xiě)到這里我想把三種“ECC”背后的共性問(wèn)題抽離出來(lái)講一講。我處理過(guò)的很多故障不管是內(nèi)存 UE 報(bào)錯(cuò)、MBIST 測(cè)試失敗還是 SAP 年結(jié)警報(bào)本質(zhì)都有一個(gè)共性系統(tǒng)里出現(xiàn)了一個(gè)異常信號(hào)首先需要判斷的是“影響范圍在哪一層”而不是立即動(dòng)手“修”。這個(gè)“先隔離、再處理”的思路我把它總結(jié)成四步。第一步采集現(xiàn)象周?chē)乃腥罩竞蜖顟B(tài)不要只看報(bào)錯(cuò)數(shù)字本身。比如“Uncorr. ECC 顯示2”只是現(xiàn)象你得同時(shí)拿固件日志、操作系統(tǒng)日志、內(nèi)存壓力測(cè)試結(jié)果去拼全它。第二步把異常信號(hào)映射到對(duì)應(yīng)領(lǐng)域里。如果報(bào)錯(cuò)出現(xiàn)在財(cái)務(wù)月結(jié)報(bào)表明細(xì)上你就進(jìn)入 SAP 業(yè)務(wù)流程審計(jì)如果報(bào)錯(cuò)出現(xiàn)在內(nèi)核日志和 EDAC 事件里你就進(jìn)入硬件鏈路排查。第三步用最小化實(shí)驗(yàn)去驗(yàn)證假設(shè)比如換內(nèi)存條位置、單獨(dú)跑 memtest、重新執(zhí)行某個(gè)年結(jié)步驟實(shí)驗(yàn)越小越容易定位。第四步修復(fù)完成后做回歸驗(yàn)證內(nèi)存要跑壓力測(cè)試年結(jié)要核對(duì)期初余額芯片測(cè)試要重新跑覆蓋率。這個(gè)方法聽(tīng)起來(lái)樸素但很多同事問(wèn)題恰恰出在第一步。看到“Uncorr. ECC 顯示2”就立刻下單換內(nèi)存條結(jié)果換完還報(bào)錯(cuò)回頭再看日志才發(fā)現(xiàn)報(bào)錯(cuò)來(lái)自另一根槽位。同樣SAP 年結(jié)報(bào)錯(cuò)后不審視年結(jié)步驟清單上來(lái)就調(diào)整 OB52 配置結(jié)果把期間開(kāi)合狀態(tài)調(diào)亂反而給后續(xù)關(guān)賬留下隱患。6.2 日志與文檔比修好當(dāng)下更值錢(qián)的事第二個(gè)經(jīng)驗(yàn)是完整記錄故障處理過(guò)程。我在負(fù)責(zé)的服務(wù)器上會(huì)為每臺(tái)機(jī)器建一個(gè)“硬件事件臺(tái)賬”記錄事件發(fā)生時(shí)間、報(bào)錯(cuò)內(nèi)容、排查動(dòng)作、更換備件、回歸測(cè)試結(jié)果。處理 SAP 年結(jié)時(shí)我也會(huì)在項(xiàng)目共享盤(pán)里保留一份“年結(jié)操作變更記錄”包括每次 OB52 改動(dòng)了什么、誰(shuí)在什么時(shí)候改的、前后截圖什么樣。這些記錄在故障重復(fù)出現(xiàn)時(shí)價(jià)值巨大。比如同一臺(tái)服務(wù)器半年后再次報(bào) UE我翻臺(tái)賬發(fā)現(xiàn)上次已經(jīng)換過(guò)內(nèi)存條那就知道要往主板和 CPU 方向查而不是又去換條子。SAP 年結(jié)更是如此很多項(xiàng)目一年才做一次年結(jié)去年的操作細(xì)節(jié)今年早忘了如果沒(méi)有文檔支撐等于每年都從零開(kāi)始踩坑。6.3 一點(diǎn)個(gè)人體會(huì)如果說(shuō)所有和 ECC 相關(guān)的工作教會(huì)了我什么那就是系統(tǒng)越復(fù)雜越要在設(shè)計(jì)階段就給錯(cuò)誤留出逃生通道。內(nèi)存 ECC 是在電路層為比特翻轉(zhuǎn)留的逃生通道MBIST 是在芯片出廠前為缺陷留的逃生通道SAP 年結(jié)是在財(cái)務(wù)流程上為賬務(wù)錯(cuò)誤留的逃生通道。三者的共同點(diǎn)不是“永不犯錯(cuò)”而是“犯了錯(cuò)還能被識(shí)別、被隔離、被修復(fù)”。我最后想說(shuō)的是做這類(lèi)工作心態(tài)上要有“長(zhǎng)期主義”。你不可能保證每次報(bào)錯(cuò)都能在五分鐘內(nèi)解決但你只要堅(jiān)持把每一次報(bào)警、每一次排查、每一次修復(fù)都記錄清楚下次遇到類(lèi)似問(wèn)題一定會(huì)更快、更準(zhǔn)。技術(shù)工具會(huì)換平臺(tái)會(huì)升級(jí)但這種“識(shí)別異常—隔離影響—驗(yàn)證修復(fù)—沉淀經(jīng)驗(yàn)”的方法論不會(huì)過(guò)時(shí)。希望這篇文章能幫你在下次看到“ECC”三個(gè)字母時(shí)不再被領(lǐng)域切換搞暈。下次再有人問(wèn)“ECC 出問(wèn)題怎么辦”你可以先問(wèn)一句你說(shuō)的是內(nèi)存、芯片還是 SAP 年結(jié)
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
site:pzdcoin.com| 丁香五月成人网| 91人人妻人人操| 激情综合六月| 日韩综合久| 大香蕉久久婷婷精品综合| 日日操夜夜操无码免费| 色欲一区二区三区精品A片| 久久婷婷色| 欧美色色色色色| 色色综合成人网| 亚洲色综合| 中文字幕丁香五月| 99热都是精品| A在线观看| 久久多色| 人妻尝试久久久久久久久久久久| 一区二区传媒视频| 怡红院视频| www.婷婷网| 精品夜夜澡人妻无码AV| 色噜噜狠狠一区二区三区| 激情丁香久久久久久| 伊人激情啪啪| 亚洲性图一区二区| 1024手机在线观看看片_日韩精品| 色综合久久44| 99热这里只有精品23| 在线中文字幕免费视频| 五月丁香啪啪婷婷| | 丁香五月激情综合久久| 久久五月丁香| 五月丁香在线综合| 久久最新色色色| seav天堂| 大香蕉啪啪啪| 吉澤明步Av一區二區| 激情五月综合久久| http:色情日本com| 久久久91| 婷婷干五月综合在线播放| 婷五月天六| 久久99网| 人人澡玖玖一| 人人摸人人| 久久人人九九| 鲁鲁色五月| 伊人玖玖网| site:minyis.com| 五月天丁香婷婷视频网址 | 91久久久久久久久18| 七七九九色色| 六月久久婷婷| 丁香花狠狠婷婷亚洲中文字幕| 综合另类视频| 丁香五月六月婷婷殴美综合| 亚洲夜五月| 婷婷伊人综合| 最近中文字幕大全免费版在线 | 婷婷99视频精品| 色亭亭五月天网扯| 九九热黄色| 99热 日韩| www婷婷| 婷婷亚洲在线| www.99热视频在线观看| 日韩啪| 日韩乱轮AV| av在线免费网站 | 丁香五月影视| 色99在线观看| www.亭亭五月天| 久热九九| 五月天伊人综合| 操大屄五月天视频| 精品一区二区三区免费毛片爱 | 九九美女视频| 丁香婷婷AV| 97干在线视频| 色狠狠999综合| 激情五月少妇| 五月天婷婷影院影院| 欧美色色色色色| 久久五月热| 三级三久久线久久99久目本WW| 婷婷婷婷婷开心无码播放| 色狠狠999综合网| 久9视频免费播放| 秋霞少妇AV网站| 天天干天天干天天| 丁香六月激情| 99精品性爱| 96丁香六月婷婷蜜桃综合久久| 精品九九视频| 五月永久激情| 天天做天天干天天综合网| 9|无码久久久久久| 在线视频另类| 久久9视频| 九热久| 激情综合网站| 色五月激情综合| 色婷婷狠狠18| 天天干天天日天天操| 夜夜做夜夜愛| 五月婷婷六月丁香色| 久久久久99精品成人片| 午夜做爱影院| 另类激情综合| 五月婷婷狠狠干| 久久久婷婷五月亚洲97号色| 高清视频一区| 色欲色香综合网| 丁香五月先锋| 超碰人人干| 狠狠色噜噜狠狠| 久久狠狠干| 五月天综合激情网| 99久久五月婷婷| 色色色色色综合| 婷婷五月激情视频| 九九99热久久精品66中文字幕| 99热久久这里只有精品2010| 激情五月影院| 丁香婷婷六月天| 丁香色六月婷婷| 91九色国产熟女| 激情综合一| 色五月婷婷亚洲最大| 色婷婷色五月天| 婷婷色基地| 五月成人天| 色婷婷六月丁香综合欲精品| 激情五月婷黄版| 天天射影院| 国产精品视频| 人人播| 五月婷婷综合在线| 伊人婷婷大香蕉在线| se色婷婷视频| 色99热| 9热精品| 婷婷99狠狠躁天天| 五月综合激情婷婷六月色窝| 在线观看视频1区| 九九九AAA热视频| www.久久色.com| 婷婷五月天综合AV| 激情五月天啪啪视频| peg 2区三区四区的| 人人综合五月人人婷婷| 五月香婷婷| 99热国产| 99精品视频播放| 久青草大香蕉| 99 热国产在| 色五月亚洲五月天| 99精品网| 婷婷激情五月| 欧美在线视频9| 久操福利| 丁香六月毛片| 婷婷五月丁香六月| 婷婷欠久少妇| 九九99精品| 亚洲 25P| 丁香五月av| 伊人婷婷五月天| 九九热免费视频| 国产综合A片| www久久艹| 亚洲va日| 99热这里只有精品在线| 香蕉婷婷| 丁香五月停停基地| 91人妻视频| 九九无码| 99re欧美精品| 97碰在线视频| 日韩成人电影Av| 丁香五月婷婷激情尤物| 婷婷六月网| 橾逼网| 五月亭亭六月天| 玖玖婷婷色欲| 丁香五月激情宗合网| 色情一区二区播放| 亚洲色五月婷婷| 婷婷日本在线| 婷婷综合五月激情| 五月丁香福利| 99caobi| 亚洲欧洲99| 婷婷五月天免费视频在线观看| 五月丁香啪啪综合| 亚洲精品另类| 久久A热| 五月色婷婷影院| 超pen个人视频97| 久久婷婷五月综合精品蜜芽| 九九热国产| 狠狠干在线| 69精品人妻不卡视频| 国产xxxxx在线观看| 五月婷婷 激情五月| 可以看的av网站| 九一牛视频探花| 美女天天久久| 97操在线视频| www.99精品视频| 春色激情第四色| 99久久99九九99九九九| 97久久久免费福利网址| 激情五月www| 五月婷激情| 99热精品网| 五月天久久婷婷婷| 99色综合| 99热 这里只有精品 国产 日韩| 婷婷成人五月天成人文学小说| 99操视频| 久久五月天大美女| 色五月首页| 丁香五月综合激情久久潮喷| 亚洲婷婷乱乱丁香| 亚洲乱码日产精品BD| 久久色区| 五月婷婷啪啪啪| 超碰99成人在线| 99er6| 99热精品在线观看| 婷婷色九月| 啪啪小说五月天| 婷婷色影音天| 五月天自拍视频| 久99久视频| 欧美久久婷婷| 九九婷婷网五月天| 密黄站| 99操久久| 色婷婷狠狠爱| 色色性爱视频| 国产1区2区3区在线观| 第四色大香蕉| 天堂综合久| 99热免费在线| 国产精品国产| 激情爱爱网站| 久9热视频在线观看| 亚洲色视频| 在线播放 精品| 婷婷综合网伊人| 国产FREESEXVIDEOS性中国| 99热r| 97热视频| 去干网av| 久久er99热精品一区二区| 色婷婷WWW| www.超碰在线| 99丁香五月婷| 国产黄色在线| 五月丁香六月婷婷网站| 青青操成人福利| 5月婷婷激情在线| 无码一区二区三区四区五区91c| 色婷婷激情视频| 婷婷香草网| 丁香五月天精品| 99原创自拍视频在线观看| 一本道综合网| 狠狠婷婷日韩| 少妇搡BBBB搡BBB搡毛茸茸 | 婷婷在线精品| 大地资源色婷婷视频在线| 婷婷久久婷婷色五月| 亚洲综合五月天| 五月婷婷伊人网| 久久久av久av久片一区二区| 777色色色| 四川操逼站| 久色大| 9久国产精品| 国产激情AV| 五月婷婷综合激情| 精品国产乱码久久久久久免费| www天天干| 欧美黄色一级录像| www.狠狠| 综合五月草| 99久久国产宗和精品1上映| 色婷婷狠狠色| 五月天久久网站| 99热碰碰热| 久久欧洲久久| 国av网| 五月天成人小说| 91色噜噜狠狠狠狠色综合| 色五月六月| 女人天堂av| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 99热精品无码| 99热精品在线| 一本到不卡高清DVD| 99无码视频| 五月婷婷激情刺激| 久久五月热| 99碰碰视频| Av性爱网站| 亚洲免费成人电影AV| 精品99在线观看| 亚洲一个色| 婷婷六月激情综合| 激情婷婷色色| 亚洲 六月 综合| 久久久久久久久久久97| 99国产精品久久久久久久久久久| 天天狠狠六月婷丁香影院| 碰碰91| 91久久精品国产91性色TV| 丁香五月天激情视频| 婷色五月| 亚洲第一av| 午夜一区| www.婷婷| 激情综合色五月丁香六月亚洲| 日本女人久久| 色婷婷伊人激情在线观看| 色播五月天激情| 色五月婷婷狠狠撸| 久99久视频免费观看| 国产精品激情AV久久久青桔| 日韩亚洲视频| 久久婷婷五月天蜜桃| 亚洲五月天综合色| 色婷婷88| 久99久视频精选| 色播丁香| 丁香五月香蕉| 五月婷婷,六月丁香| 亚洲成人色五月婷婷综合| 久久婷婷草| 欧洲色区| 色色性爱视频| 欧美天堂久久| 色五月综合在线| 天天更新天天亚洲| 人妻AV在线| 玖玖激情网| 超碰国产在线播放| 狠狠精品干练久久久无码中文字幕| 丁香五月婷婷香| 日日鲁鲁夜夜爽爽| 老司机午夜福利视频金瓶梅| 影音先锋一区| 丁香久月| 91刘玥视频在线观看| 无码激情AAAAA片-区区| 夜夜撸天天操| 亚洲不卡| 激情综合网激情五月天| 婷婷六月综合激情| 婷婷综合色五月天| 狠狠操狠狠狠| 午夜 外网 精品 在线| 欧美丁香五月97色| 五月天丁香婷婷社区| 狠狠操狠狠色| 日韩人妻AV在线| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 亚洲综合五月天| 五月丁香婷婷中文网| 婷婷五月天视| 天天天久久久| 五月丁香婷婷综合在线| 秋霞黄色一级久久| www.天天色综合| 国产1区2区3区| 色婷久| 97操碰日本女人| 国产99久久久国产精品免费看| 天天爽天天日| 久久人妻精品| 丁香五月影院| 久草热久草在线视频| 婷婷色播婷婷| 成人无码髙潮喷水A片| 日韩aaa| 色五月琪琪| 99热1| 超碰网站在线观看| 91精品国产99久久久久久天美| 成人精品亚洲性爱| 久久久久这里只有精品| 婷婷在线播放| 亚洲啪啪视频| 六月婷婷色综合| 大香蕉五月天| 六月婷婷开心| 99色综合| 婷婷五月丁香综合亚洲| 操逼电影免费看| 射满了还射免费在线观看 -午夜版全集-新视觉影院 | 五月天婷久精视频| 色域五月婷婷丁香| 丁香五月在线播放| 99精品成人无码A片观看金桔| 99色在线| 婷婷六月激情综合| 九九热青青草| 五月丁香久人妻中文| 91porn一起草| 五月天狠狠网站| 久久久人妻不卡| site:xiongshengzz.com| 丁香六月AV| 激情婷婷亚洲五月| 五月婷婷花| 色视频五月天| 激情性爱五月天| 99色精品| 婷婷丁香红五月91C| 91热久88| 久热69| 久久综合99| 日本无va视频| 丁香五月六月综合激情| 五月天综合婷婷| 天天干,夜夜爽| 777影视理论片大全在线观看| 欧美综合五月天婷婷tin| 99久久婷婷国产综合亚洲| 狠狠久久婷婷| 激情综合五月婷| 五月欧美色色五月| 99无码| 婷婷激情社区| 99re资源在线视频导航| 生活片五区| 熟女重口味αV| 性生活久久人妻| 97操碰在线视频| 99免费在线| 国产精品色情AAAAA片软件| 991自拍视频| 五月婷婷偷拍| 99色色最新视频| 激情五月久久| 国产精产国品一二三在观看| 热婷婷在线视频| 超碰人人操在线| 色视五月天婷婷| 综合久久99| 99无码视频| 婷婷激情五月天桃花网| 色色综合网站| 五月婷婷开心综合| 人人操AV| 久热伊人9| 久久久色婷婷五月天| 激情综合色婷婷啪啪六月天| 久久婷婷精品| 综合激情四射一theav| wwwss在线观看| 噜噜噜精品欧美成人在线观看| 无码动漫av| 色色婷婷五月天| 国产女人十八水真多1| 精品激情| 婷婷伊人网| 精品久久99| 第四色网婷婷| 久久这里99| 日本精品99| 亚洲精级| 新99色色色色色色| 亚洲美女高潮久久久久久69| 色婷婷无吗| 亚洲视频色色| 97超碰综合| 在线日韩av| 五月丁香六月婷婷,婷| 爱婷婷都市激情| 亚洲精品V天堂中文字幕| 在线观看的av| 五月丁香影视| 碰碰碰碰碰99| 综合激情五月丁香| 丁香色五月 97干| 91疯狂操操操操| 99热99这里有免费的精品| 五月丁香激情综合网| 激情国产五月| WWW.桔色成人.COM入口| 色欲一区二区三区精品A片| aV欲望人妻中文字幕| 日日噜狠狠色综合久久| www.久久99| 五月丁香久久网| 五月久视频| 天天干天天日蜜臀av| 欧美大奶熟女噜噜噜噜| 亚洲色综合| 久久超视频| 五月婷婷影| 伊人丁香在线| 婷婷综合成人五月天| 久久九九国产精品怡红院| 五月丁香六月婷婷成人| 狠狠干狠狠干| 色99婷婷五月天| 午夜婷婷五月天| 五月色情| 高清无码一区二区三区四区| 香蕉AV福利精品导航| 丁香五月激情综合| 色999亚洲人成色| 午夜爱爱网站| www.色9| 日韩综合久| 五月色综合网| 午夜丁香 婷婷| 天天草天天摸| 99热国产婷婷| 久久99激情| 玖玖色资源| 狠狠插狠狠插| 婷婷天堂视频| 99在线播放视频| 五月天天天天天天天天天天天天天天天婷婷婷 | 超碰在线94| 人人摸人人搞| 国产超碰人人| 色伊人婷婷| 激情婷婷五月| 99网| 婷婷5月天激情综合| www.狠狠操| 情五月亚洲婷婷| 欧美性生交XXXXX无码小说| 天天色天天爱天天舔| 精品一二三区久久AAA片| 天堂爱爱| 夜夜嗨一区二区三区直播内容| 天天干-天天日| 91精品久久久久久久久久 | 91碰九色| 色婷婷精品视频| 九九亚洲综合| 亚洲五月婷婷| 影音先锋 91工厂| 超碰婷婷色| 丁香六月激情四射| 色图亚洲91| 五月丁香淫淫婷婷婷| www.com色播五月天| 成人网站免费在线播放| 91操人视频| 大香蕉人妻| 丁香五月深爱五月婷婷| 7777久久亚洲中文字幕| 91九色欧美| 99热99在线| 日本猛少妇色XXXXX猛叫| 久久人妻情侣| 99色| 色色国产| 99色最新在线视频网站| 五月天激情啪啪| 六月丁香久久| www.五月天婷婷姐姐| YW无码| 婷婷色色丁香五月天| av中文在线| 精品亚洲国产成AV人片传媒| 夜夜骑天天操| 九九精品网站| www天堂99| 五月天丁香| 婷婷色导航| 人人色人人弄人人操| www.操.com| 99色在线观看免费| Caoub青青超碰| 国产成人网站在线观看| 丁香五月天欧美| 欧美日韩国产一区二区| 99九九精品| 另类激情网| 97资源碰碰| 婷婷五月天 丁香五月天 裸体| 五月天综合在线观看视频| 日日骑夜夜撸| 婷婷日本色| 天天天天干| 精品人妻久久久久| 国产精品久久久久久久久久| 亚洲婷婷免费| 99区视频| 玖玖午夜视频| 五月天婷婷狂暴白浆| 青青草tp| 五月婷婷欧美激情| 丁香5月激情网| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 婷婷无五月无码视频| 夜色综合网| 337p午夜影院| 久久婷婷成人| 五月婷婷综合天天操| 色色色五月婷婷| 播五月丁香六月| 五月五婷婷网| 99热欧美偷拍| 五月丁香婷婷伊人日韩| 99热最新| 狼人婷婷久久| 骚。com| jiujiu无码五区| 成人免费在线电影| 丁香五月婷婷操逼| 国产日韩欧美| 国产99热| 啪色综合| 色五XX| 六月色色综合| 精品思思久久| 久久色五月| 色婷婷四虎| 亚洲爆乳无码精品AAA片蜜桃 | 婷婷激情五月天综合| 国产第99页| 97精品人人A片免费看| 久久久中文| 五月婷婷综合视频| 色狠久| 五月天激情AAAA| 丁香五月香蕉在线| 欧美久久婷婷| 激情五月天的婷婷| 国产中文字幕在线视频免费观看| 色婷婷伊人激情在线观看| 天天搞天天爽| 99视频自拍| 色婷婷AV在线| 色婷婷五月天久久| 婷婷精品性性性性性性性| 激情婷婷五月天网址| 香蕉久久国产AV一区二区| 六月丁香停| 老师把我爽高潮了免费A片| http://www.com久久久精品一区| 色婷婷六月| 啪啪啪综合网| 9999久久久久| 色五月成人| 成人AV中文字幕| 亚洲免费婷婷| 丁香五月天啪啪| 成人丁香五月天| 六月婷婷久久大全| 六月丁AV| 亚洲成人婷婷| 亚洲五月停停| www.色婷婷.com| 五月婷婷亚洲色视频| 五月婷婷中文| 天天日 天天草| 四月丁香五月婷婷久久| 生活片五区| 伊人玖玖婷婷| 五月天婷婷情色| 五月天色色婷婷| 99九无网码| 五月丁香六月综合基地| 五月天堂婷婷| 久久黄A片| 免费成人va| 99r久久这里只有精品| 丁香五月六月久久综合| 青青草搞屄视频网站| 九九热在视频| 婷婷五月婷婷五月天| 丁香五月综合在线播放| 欧洲第一久色| 看片视频在线免费日产在线看| 亚洲人人操| www.91操| 婷婷激情五月| 婷婷丁香红五月91C| 婷婷五月激情综合网| OUMEIRIHANCHENGREN| 色色婷婷丁香五月天| 久久大香蕉同僚| 五月综合久久| 五月丁香色五月| 性生活久久人妻| 日本色视| 久久久com| 91丨九色丨东北熟女| 色欧美色色色| 亚洲第二AV| 欧美精品啪啪| 六月婷婷狠狠| 人人草人人视| 五月丁香操婷逼| 97操操| 大香蕉综合视频在线| 97人人操人| 黄色片区子| 婷五月天在线草| 婷婷色爱| 亚洲网视屏| 另类少妇人与禽zOZZ0性伦| 五月婷婷久久网| 丁香五月婷婷亚洲色图| 六月婷婷五月丁香首页| 久热A| 超碰在线视屏| 国产伦亲子伦亲子视频观看| 久久婷婷激情四射五月天| www久久99| 青青草婷婷综合五月| 婷婷狠狠操| 五月色网| 天天网曰日曰夜夜综合永久免费| 涩五月婷婷| 丁香五月av在线| 久久92| 99国产在线精品视频| 久久九九re热| 91热er| 丁香五月婷婷网| 欧美色色色| 成人午夜在线视频| 天天拍夜夜撸| 99re这里只有| 国产肥白大熟妇BBBB视频| 在线看黄色| 天天草婷婷五月| 国产美女视频久| 熟妇无码乱子成人精品| 伊人网啪啪| 天天操天天操| 最新色色五月天| 五月丁香久久久| 久久色情| 五月丁香六月婷婷无码| 九九黄色网| 密乳Va| 激情五月天网页| 超碰在线人妻| 欧美色色日韩| 99热这里只有精品2016| 五月丁香啪啪网| 狠狠综合久久综合| 深爱激情九九五月天| 91人人网| 91久久九九| 丁香久久AV| 99久久婷| 性色综合网| 99色播| 丁香五月偷拍| 亚洲综合无码| 久久精品夜色噜噜亚洲a∨| 六月婷婷狠狠做| 婷婷五月天综合在线| 91色干| 婷婷五月天在婷| 97色色婷婷| 色婷婷综合久久久久| 婷婷色五月丁香六月欧美啪| 激情内射人妻1区2区3区| 啊V视频在线观看| 久久久久人妻网址| 五月丁小婷婷激情四射| 色噜噜伊人| 色五月首页| 九九色院| 夜夜干夜夜操| 亚洲超碰中文字幕| 麻豆123区| 五月婷婷色| 99成人网一区| 97操视频| 任你搞网站| 五月天狠狠| 亚洲AV成人精品网站在线播放| 丁香六月av| 五月婷婷影院| aaaaa不卡| 婷婷色中文字幕| 久久性刺激| 欧美性爱五月天| 婷婷五月丁香综合桃花色网| www.色擼擼.com| 婷婷五月激情黄色| 久久99久久99精品免视看婷婷| 性一交一乱一交A片久久四色| 97超碰人人操| 在线成人网址| 久久精品4| www.婷婷五月天| 香蕉久久国产av一区二区| 激情五月天小说网| 久久99精品久久久久久青青AR| 激情五月视频在线婷婷| 第四色色六月色综合| 性生活久久人妻| 人人肏逼视频在线一区二区| 天天做综合网色综合| 三级片AAA久久久AAA久久久AAA | 91操操| WWW.激情| 99这里都是精品| 人人色性网| 99ER热精品视频| www.五月天。com| 九九热视频精品999| 五月天色婷婷基地| 丁香婷婷五月色综合| 激情五月丁香六月婷婷| 色色97丁香婷婷五月天| 丁香婷婷基地| 日本人人干| 丁香色六月婷婷| 成人看片网站| 亚洲人妻av| 天天模,夜夜模夜夜爽| 久久激丁香| 深爱激清网| 99.N在线视频| 日本三级日本三级99| 九九精品在线视频观看| 91狠狠综合久久久久久| 久久五月婷综合网| 老司机视频lsj爱就色| 亚洲第一第二网站| 亚洲一区国产传媒| 婷婷五月激情中文字幕| 五月丁香 久久久| 黄色网址五月婷婷| 丁香六月久久| 婷婷99狠狠躁天天| 色婷婷狠狠| 婷婷六月伊人| 99ri精品视频在线观看| 久久综合综合久久| 99在线观看| 婷婷五月天成人基地| 色色丁香五月天社区| 丁香六月激情四射| 久久婷婷成人视频| 色婷丁香91| 成人在线99| 欧美色图45678| 97在线观视频免费观看| 啪啪六月婷婷| 91婷婷色五月| 国产人妻777人伦精品HD| 99爱精品视频| 欧美视频五区| 男女啪啪做爰高潮无遮挡| 丁香五月激情鲁| w婷婷五月婷婷w| 最近中文字幕2019视频1| 天天做天天爱天天综合网| 五月婷婷激情性爱| 熟妇人妻中文字幕无码老熟妇| 丁香六月无码播放| 碰碰91| 少妇性按摩无码中文A片| 五月丁香六月婷婷国产视频| 亚洲天堂久久| 天堂美国久久| 综合色图区| 开心五月婷| 婷婷激情在线| 91中文狠狠综合| 超碰日日操| 久久A热| 99久re热| 极品人妻VIDEOSSS人妻| 99热日| 五月婷婷开心激情六月蜜桃| 亚洲4区国产欧美| 丁香九月激情| 久久婷婷五月| 色婷婷在线综合色播网| 大香蕉Av在线| 精品一二三区久久AAA片 | 久久女婷| 婷婷五月天av小说| 人人摸人人搞| 色色综合网络| 99rewww| 色哟哟性爱av| 香蕉97碰碰碰欧美| 色狠狠综合| 九九激情视频| 成人片久久网站| 五月天激情网址| AV中文网| 伊人五月综合网| 天天久| 五月丁香久久综合精品| 五月婷婷久久久| 色综啪啪| EEUSS鲁片一区二区三区| 激情图片婷婷| 草做免费在线观看| 琪琪秋霞| 久久婷婷成人| 在线成人av播放| 国产精品涩涩涩视频网站| 五月丁香亭亭操逼| 婷婷开心激情五月激情网| 丁香五月 综合| 99色中文| 婷婷伊人綜合| 99丁香五月| 五月丁香啪啪网| 欧美三级欧美一级| 婷婷丁香人妻天天爽| 第四色婷婷色五月| 久久狠狠高潮亚洲精品 天天摸夜夜摸夜夜狠狠摸| 9久热在线精品| 国产,欧美,学生妹,视频| www.天天日| 91大神操美女| 日日操夜夜爽| 激情久久综合网| 亚洲精品国产A久久久久久| 久久婷婷六月综合| 九月激情综合| 这里只有精品在线视频在线观看| 色五月丁香激情| WWW.激情| 狠狠大香婷婷爱| www.99热视频| 七七九色| 久久婷婷东京热| 亚洲婷婷综合视频| 久久婷婷艹| 狠狠一日| 亚洲午夜成人av电影网| 丰满少妇猛烈A片免费看观看| 婷婷金品综合视频| 九九综合精品| 五月丁香福利| 九九精品综合| 五月天激情四射网站| 五月婷婷成人| 婷婷香五月天| 亚洲综合热| 99re热视频这里只精品5| 天天干、天天日日| 狠狠色 综合色区| 欧洲高清免费久久| 亚洲综合婷婷五月天| 日本成人噜噜噜噜噜| 激情五月天综合图片小说网站| 婷婷五月天播| 五月天婷婷六月激情网| 国产VA播放| 888精品福利地址| 久久久久婷婷五月热综合| 婷婷六月丁香开心深深爱| 九九無碼| 婷婷 久综合| 六月色日韩| 天天免费成年人视频| 六月色婷婷欧美| 久色成人| 婷婷五月开心中文字幕在线| 六月天无码网址| 日韩六六久久电影| 蜜臀嫩草| 丁香五月亚综合图片| www.婷婷五月| 九九热99免费视频| 99热最新网址| 久久九九综合| 性按摩玩人妻HD中文字幕| 成人AV在线中文版| 天天肏天天舔AV| 久久九九九九| 色婷婷综合综合网| 五月丁香啪啪网| 再綫Av免费視品| 内射激情在线| 99爱在线视频观看| 婷婷久久色| 激情六月丁香| 99免费视频| 日本二级毛片二级毛片| 碰人人97| 99热精品观看| 色八月婷婷| 丁香五月综合在线播放| 99热中文字幕久久| 成人免费高清在线播放| 五月天婷婷基地| 国产精品涩涩涩视频网站| 婷婷色色欧美综合网| 伊人热婷婷| 99热偷拍| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | 狠狠色狠狠爱| 久久性视频| 六月婷婷狠狠色在线观看| 国产色五月| 六月丁香婷婷综合狠狠爱夜夜爱| 99爱这里只有精品免费视频| 性做久久久久久久免费看| 亚洲AV成人精品网站在线播放| 免费人人操| 五月天婷婷色在线视频免费观看| 丁香婷婷六月激情| 亚洲成人在线五月天| 久久五月网| 少妇被下春药玩弄A片| 色综合色色色色色色综合| 亚洲无码成人| 五月丁香综合精品| 久久九九色| 婷婷丁香人妻天天爽| 黄网在线免费| 久久综合中文字幕| 丁香五月婷婷久久久| 婷婷五月深深爱| 性爱网五月天| 韩日另类| 26uuu精品一区二区| 天干干夜夜操| 第四色大香蕉| 国产AV一区二区三区日韩| 9热在线视频| 欧美成性色| 亚洲欧美一区二区三区四区爱爱动图| 美女激情综合| 91打屁股免费看| 99操免费视频| 丁香五月98| 99在线观看精品| 青青久在线视频免费观看| 成人在线高清| 激情六月五月婷婷综合网| 天天爽天天| 国产亚洲精品AAAA片APP| 丁香五月网| renrencaoav| 久久免费操| 久久九九激情五月天 | 亚洲国产无线乱码在线观看| 欧美色偷拍| 丁香婷婷五月天色播| 婷婷97碰碰| 97人人干视频| 久久这里都是精品免费| 色亭亭五月天丁香综合AV - 百度 - 百度 | 91视频综合网| 99久久成人| 五月香婷婷| 久久久九九视频精品18| 99成人网站| 97久久精品| 久草婷| 99热这里只有精品21| 激情99| 99在线资源视频| 久久久思思热| 91免费看片| 国产在线网址1| ,99视频久久| 99久久久免费| 丁香久久九九99| 日韩六六久久电影| 久久a热| 97九色视频| 五月天综合图片| 夜夜爽77777妓女免费下载| 亚洲综合久| 五月天成人网在线观看| www免费在线视频| 99国产精品久久久久久久久久久| 亚洲精品视频电影| 26uuu国产激情视频| 亚洲精品V天堂中文字幕| 日本人妻A片成人免费看片| 天天弄天天操| AV变态另类一区二区| caopeng97日韩| 九九热视频在线观看| 超碰99久久| 五月丁香在线| 一区二区三区四区牛| 色五月婷婷天天操夜夜操| 亚洲亚洲人成综合网络| 深爱五月月天| 丁香色五月 97干| 免费亚洲成人电影AV| 婷婷五月综合视频免费播放| 亚洲综合色成丁香五月色| 五月丁香婷婷久久| 综合久久99| 女性自慰系列第五页| 9久久久久| 五月久久网| 五月天六月色| 色情五月天导航| 丁香五月综合在线观看| 婷婷色影音天| 开心五月深爱五月婷| 成人国产欧美大片一区| 这里只有精品,日韩视频| 99无码视频| 人人人操Av| 51国精产品自偷自偷综合 | 亚洲精品国产成人AV在线| 香焦网五月天| 天天综合五月| 婷婷五月丁香91| 日本色图综合| 中文字幕九九九九| 婷婷丁香九月| 亚洲AV人人操| 亚洲中文字幕av| 色五月激情网| 狠狠做深爱婷婷久久综合一区| 97香蕉碰碰人妻国产欧美| 91爱操| 大香网伊人久久综合| 久久综合爱| 操操碰| www.色五月| 五月婷婷综合网在线播放| 五月丁香啪| ss99热| 日本三级第一页| 亚洲日韩欧美综合VA| 色五月,婷婷大香蕉| 婷婷五月综合体验看| 99热在线资源| 99自拍网| 97亚洲色 torrent magnet| 色五月婷婷中文字幕| 蜜桃婷婷丁香五月天狠狠久久综合| 午夜69成人做爰视频| 大狠狠在线| 九九中文色色| 激情五月色婷婷| 99操无码视频观看| 五月花激情| www.狠狠狠狠| 色99综合色88| 亚洲色网络| 色欲天天综合| 五月婷婷久久综合| 五月色丁香国产在线视频| www,setingting| 丁香五月婷婷AV在线| 天天色一道本综合婷婷| 色五月婷婷狠狠撸| 内射干少妇亚洲69XXX| 激情 婷婷 丁香五月天| 另类图片五月天激情| 色九九九九| 9久精品| 色五月婷婷五月天| wwwwww.色| 成人毛片在线免费观看| 久久激情视频| 午夜青草资源| 免费超碰在线| 婷婷五月色| 婷婷色五月久久| 久久99免费视频| 91操熟女| www。五月天。com| 日韩精品无码AV| 在线播放成人网站| 狠狠干五月丁香| 9999热精品| 亚洲激情AV| 五月丁香久久激情网| 色青五月天| 日本欧美成人片AAAA| 色情一区二区播放| 日韩欧美一道四区中文字幕| 俺去也五月天| 五月花丁香婷婷| 久久久久激情| 丁香五月五月婷婷欧美大香蕉| 五月丁香婷婷六月| 色综合网上班开心婷婷久久| 丁香婷婷五月份| 色九月婷婷丁香| 人妻内射一区二区在线视频| 天天狠狠干| www.zbzhongsen.com| 伊人久久丁香狠狠婷婷综合香蕉 | 黄色aaaaa| 狠狠爱成人综合网| 亚洲精品国产setv| 另类小说五月天激情| 99黄色在线视频精品熟女| 8090在线影视少妇| 天天天在线观看| 夜夜www| 熟女91九色| 国产欧美精品AAAAAA片| 成人AV中文字幕| 思思久久思思| 综合久久综合久久| 97综合视频在线| 婷婷伊人五月天| 狠狠色综合网站久久久久| 最新热中文字幕| 久热爱大香蕉在线蜜臀悦色| 亚洲色色色| 丁香婷婷六月| renre人人操国产超碰在线| 99资源在线视频| 综合六月久久| 色婷婷亚洲精品天天综| 婷婷五月天欧美| 色色色在线播放| 五月丁香激| 久久XX日本综合| 婷婷五月天伊人| 丁香六月激情综合| 五月丁香天天| 97超碰人人操| 婷婷五月欧美| 少妇水多A片太爽了| 中文字幕人妻在线| 婷婷色av| 一根材五月婷成人| www.99久| 六月丁香婷婷大香蕉| 嫩草AV久久伊人妇女超级A| 色99在线视频| 亚亚州久久高潮| 九九久久99| 欧美激情丁香五月| 五月激情射| 国产精品 的国产| 99国产精品白浆在线观看免费| 九九热中文| 五月婷综合| 色噜噜在线| www.sd-xiangsu.cpm| 久婷| 9久久AV| 91 久热| 中文字幕日本最新乱码视频| 99爱在线免费视频| 14色综合婷婷| 激情五月天婷婷丁香 | 婷婷色播综合五月| 亚洲人成网亚洲欧洲无码久久| 大香蕉久热| 91丁香婷婷综合资源| 91在线看片|