免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

嵌入式數(shù)據(jù)拷貝選型:DMA、NEON與CPU拷貝性能對比與決策指南

嵌入式數(shù)據(jù)拷貝選型:DMA、NEON與CPU拷貝性能對比與決策指南 1. 抉擇背后的核心問題先說結論沒有最好的拷貝方式只有最適合當前場景的拷貝方式。DMA、NEON、CPU普通拷貝這三條路分別對應的是“解放CPU” “榨干CPU”和“直接用CPU”三種思路選錯了輕則性能白扔重則系統(tǒng)卡頓、數(shù)據(jù)錯亂。我在嵌入式開發(fā)里被這個問題折騰過很多次早期做過一個視頻采集項目Sensor數(shù)據(jù)量大概一幀2MB幀率30fps也就是每秒要搬60MB數(shù)據(jù)。一開始無腦用CPU普通拷貝結果主控芯片的CPU占用率直接被拉到40%以上主線程處理協(xié)議棧的時間被嚴重擠壓丟幀丟到客戶投訴。后來逐個換成NEON優(yōu)化、DMA搬運才把CPU占用率壓到了5%以內(nèi)。所以這個選擇問題的本質其實是四件事的權衡數(shù)據(jù)量大小、拷貝頻率、CPU當前是否緊張、硬件平臺支持情況。這四件事沒有一件是可以拍腦袋決定的。另外一個容易被忽略的關鍵點是很多人以為NEON和DMA是替代關系其實不是。NEON是CPU內(nèi)部的SIMD指令集擴展數(shù)據(jù)搬運路徑依然要經(jīng)過CPU核心DMA是獨立于CPU的數(shù)據(jù)搬運引擎搬數(shù)據(jù)這件事本身不占CPU算力。兩者解決的問題有重疊但定位完全不同。這篇文章會把每個方案的本質、適用邊界、性能天花板和坑都攤開聊一遍最后給你一張可以直接照著選的決策表。2. 三種拷貝方式的本質區(qū)別2.1 DMA把拷貝這件事外包出去DMA全稱Direct Memory Access直接存儲器訪問。它和CPU的關系可以理解成“老板和外包團隊”的關系。老板CPU把活交代下去——比如“把這塊內(nèi)存的數(shù)據(jù)搬到那塊內(nèi)存”——外包團隊DMA控制器自己干完活再回來匯報中間老板該干嘛干嘛不用盯著。從硬件路徑上看DMA控制器是掛在總線上的獨立模塊源地址、目的地址、傳輸長度、傳輸模式這些參數(shù)由CPU配置好之后DMA就自己接管總線進行數(shù)據(jù)傳輸。整個過程CPU不參與數(shù)據(jù)的讀寫只在傳輸完成或出錯時收到中斷信號。DMA的典型使用場景是大塊數(shù)據(jù)的周期性搬運比如ADC采樣數(shù)據(jù)環(huán)形緩沖區(qū)的讀取、串口或SPI接收FIFO的搬移、攝像頭Sensor數(shù)據(jù)到內(nèi)存緩沖區(qū)的傳輸、外部SDRAM和內(nèi)部SRAM之間的數(shù)據(jù)搬移。這些場景共同的特點是數(shù)據(jù)量不小、傳輸行為規(guī)律、頻率固定。用DMA要付出的代價是配置和觸發(fā)開銷也就是所謂的“啟動成本”。完整的DMA傳輸需要經(jīng)歷關中斷、配置源地址、配置目的地址、配置傳輸長度、配置傳輸模式單次/循環(huán)/突發(fā)、使能DMA、等待完成中斷這樣一串流程啟動延遲通常在微妙級別對于幾KB以下的小塊數(shù)據(jù)這個啟動成本可能比CPU直接拷貝還要高。2.2 NEON讓CPU本身變得更快NEON是ARM架構下的SIMD單指令多數(shù)據(jù)擴展技術從ARMv7開始引入到ARMv8AArch64進一步完善。它做的事情用一個生活類比解釋就是普通CPU拷貝像一個人一個人地搬箱子NEON拷貝像給你一個超大的托盤一次可以端八個箱子走。具體到指令層面NEON寄存器寬度是128位AArch64下有32個128位寄存器一條指令可以同時處理4個32位數(shù)據(jù)或者8個16位數(shù)據(jù)。做內(nèi)存拷貝時vld1q_u8一次從內(nèi)存加載16字節(jié)到NEON寄存器vst1q_u8一次把16字節(jié)寫回內(nèi)存。如果配合ldp/stp這樣的64位加載存儲指令做雙路展開再加上循環(huán)展開loop unrolling、預取prefetch和緩存對齊優(yōu)化實際的拷貝帶寬可以逼近CPU內(nèi)存帶寬的理論上限。NEON拷貝和CPU普通拷貝最大的區(qū)別在于它依然消耗CPU核心但單位時間內(nèi)搬運的數(shù)據(jù)量大幅提升。也就是說CPU占用率不會降到零但完成同樣大小數(shù)據(jù)拷貝所需的時間大幅縮短騰出來的“時間片”可以用來做別的任務。NEON特別適合的數(shù)據(jù)特征是數(shù)據(jù)塊較大、內(nèi)存對齊良好、CPU有空閑算力可供調度。比如音視頻幀緩沖處理、圖像預處理、協(xié)議棧數(shù)據(jù)包頭解析重組等。2.3 CPU普通拷貝最樸素但未必最慢CPU普通拷貝就是常見的memcpy實現(xiàn)通過加載/存儲指令逐字節(jié)或逐字搬運數(shù)據(jù)。在C語言層面寫一個循環(huán)for (i 0; i n; i) dst[i] src[i];編譯成匯編后就是ldrb/strb或者ldr/str指令的循環(huán)執(zhí)行。樸素的CPU拷貝有一個常被忽略的優(yōu)勢小數(shù)據(jù)量場景下延遲極低。因為數(shù)據(jù)量小的時候不需要像DMA那樣花時間做配置也不需要像NEON那樣處理向量加載的對齊問題幾條加載存儲指令就直接完事了。如果你的數(shù)據(jù)量只有幾十字節(jié)到幾百字節(jié)CPU普通拷貝往往是最快的方式。但CPU拷貝的性能會隨著數(shù)據(jù)量和拷貝次數(shù)的增加迅速惡化。因為每搬運一個數(shù)據(jù)單元都要執(zhí)行至少兩條指令加載存儲指令開銷直接和數(shù)據(jù)量成正比而且大規(guī)模的搬運會頻繁觸碰Cache Miss和內(nèi)存頁錯誤導致性能斷崖式下降。另外CPU普通拷貝還有一個不為人知的坑如果拷貝操作發(fā)生在中斷上下文耗時過長會直接導致系統(tǒng)抖動特別是在實時性要求高的系統(tǒng)里一個大memcpy會阻塞中斷響應造成微妙到毫秒級的延遲毛刺。2.4 一張圖看懂三者的關鍵差異維度DMANEONCPU普通拷貝CPU參與程度初始化后幾乎不參與全程參與但效率高全程參與數(shù)據(jù)吞吐上限取決于總線帶寬取決于CPU內(nèi)存帶寬取決于指令執(zhí)行速度小數(shù)據(jù)量1KB配置開銷大不劃算有一定開銷中等最快延遲最低大數(shù)據(jù)量100KB最優(yōu)CPU可做其他事很優(yōu)但吃CPU慢且占用CPU實現(xiàn)復雜度中等寄存器配置較多中等需要指令優(yōu)化最低典型場景外設數(shù)據(jù)流、大塊周期性搬運音視頻處理、內(nèi)存密集型運算小塊數(shù)據(jù)、臨時緩沖拷貝3. 選型決策框架四步鎖定正確方案這一節(jié)我把實踐中的判斷流程做成一個四步法照著走大多數(shù)場景都能得出明確結論。3.1 第一步先看數(shù)據(jù)量級數(shù)據(jù)量是最先要判斷的指標因為它直接劃定了方案的大方向。數(shù)據(jù)量小于1KB默認選CPU普通拷貝。這個量級下DMA的配置開銷遠大于節(jié)省下來的搬運時間NEON的好處也體現(xiàn)不出來。比如一個網(wǎng)絡協(xié)議包頭解析、一個結構體備份、一個寄存器配置塊的傳遞直接memcpy就好。數(shù)據(jù)量在1KB到16KB之間需要結合CPU占用情況判斷。如果這段代碼所在的任務對延遲敏感且CPU空閑用NEON如果這段代碼在頻繁調用的路徑里且CPU本身繁忙可以考慮DMA。數(shù)據(jù)量大于16KB優(yōu)先考慮DMA。尤其是周期性出現(xiàn)的搬運任務比如圖像幀、音頻流、大塊日志落盤緩沖。如果不希望引入DMA配置的復雜度NEON是第二選擇但要注意成本是持續(xù)的CPU時間片消耗。我在項目里通常把4KB作為一個參考分割線因為4KB正好是常見內(nèi)存頁大小跨頁拷貝涉及TLB翻譯后備緩沖器重載CPU拷貝性能會有明顯波動。這時候DMA引擎通??梢宰龈玫目偩€調度穩(wěn)定性表現(xiàn)更好。3.2 第二步確認源/目的地址的對齊情況對齊是NEON能否發(fā)揮威力的分水嶺也是DMA能否高效傳輸?shù)那疤釛l件。NEON的vld1q_u8這類指令要求地址按照向量寬度對齊16字節(jié)對齊如果源地址或目的地址沒有對齊要么使用非對齊加載指令性能會打折要么先做對齊預處理增加代碼復雜度。實際工作中我在音頻處理模塊里遇到過源地址是奇數(shù)偏移的情況當時用NEON非對齊加載指令做了處理性能相比對齊場景下降了將近20%但依然比CPU普通拷貝快不少。DMA方面不同硬件平臺的對齊要求差異較大有些控制器要求源和目的地址按照總線寬度對齊有些要求緩沖區(qū)地址4字節(jié)對齊有的還要求傳輸長度是某個值的整數(shù)倍。設計數(shù)據(jù)緩沖結構時在內(nèi)存分配階段就做好對齊預留是避免后續(xù)性能損失最高性價比的做法。C語言里做16字節(jié)對齊分配的方法// 動態(tài)分配16字節(jié)對齊的內(nèi)存 uint8_t *buf NULL; posix_memalign((void **)buf, 16, buffer_size); // 或者在靜態(tài)數(shù)組上做對齊 __attribute__((aligned(16))) uint8_t buf[1024];3.3 第三步評估CPU的繁忙程度和延遲容忍度這一步需要回答兩個問題在這段拷貝發(fā)生的時刻CPU有沒有更重要的任務要做如果拷貝占用了CPU會不會導致其他任務超時答案如果是“有更重要的任務”或者“會導致超時”那就選DMA讓拷貝徹底脫離CPU。典型例子是通信協(xié)議棧的主循環(huán)里做數(shù)據(jù)轉發(fā)CPU的核心任務是解析和封裝協(xié)議如果花大段時間拷貝數(shù)據(jù)網(wǎng)絡響應時間就會飆高觸發(fā)對端超時重傳陷入惡性循環(huán)。答案如果是“CPU有空閑算力”且“拷貝頻率不高”NEON是更好的選擇。因為NEON的實現(xiàn)和調試成本比DMA低沒有中斷處理、沒有DMA控制器資源競爭代碼也更好維護。這里補充一個做實時系統(tǒng)時的經(jīng)驗延遲敏感任務里寧可讓拷貝慢一點也不要讓拷貝阻塞關鍵中斷路徑。我曾經(jīng)把一個批量日志緩沖區(qū)的拷貝放在中斷底半部每次拷貝耗時約700us導致高頻定時器中斷被推遲系統(tǒng)產(chǎn)生了可感知的時序偏移。后來改成DMA異步搬運日志落盤稍慢了幾毫秒但系統(tǒng)時序完全恢復穩(wěn)定。3.4 第四步確認硬件平臺支持情況這一步?jīng)Q定上面三步的結論能不能落地。如果平臺有DMA控制器且驅動完善大多數(shù)主流MCU和SoC都具備DMA方案可行。要注意DMA通道數(shù)量是否夠用多個外設共用DMA通道時的仲裁策略以及DMA描述符是否支持鏈表/環(huán)形緩沖模式。NEON則要確認CPU架構是否支持。Cortex-M系列除部分Cortex-M7/M33/M55/M85等帶DSP/SIMD擴展的型號多數(shù)不支持完整NEONCortex-A系列基本都支持。如果是RISC-V平臺則需要看是否支持V擴展向量指令兼容性需要單獨驗證。4. 實操環(huán)節(jié)三種拷貝方式的典型實現(xiàn)與性能實測4.1 CPU普通拷貝的實現(xiàn)與性能基準作為基準方案直接用標準庫memcpy。注意不同編譯器的memcpy實現(xiàn)優(yōu)化程度差異很大GCC在-O2以上會把memcpy內(nèi)聯(lián)成優(yōu)化的加載存儲序列但有些場景下比如拷貝長度是編譯期未知變量時memcpy會退化為調用庫函數(shù)性能取決于庫的實現(xiàn)質量。測試代碼非常簡單#include stdio.h #include string.h #include time.h #define BUFFER_SIZE (1024 * 1024) // 1MB static uint8_t src[BUFFER_SIZE] __attribute__((aligned(64))); static uint8_t dst[BUFFER_SIZE] __attribute__((aligned(64))); int main(void) { clock_t start, end; double cpu_time_used; int iterations 100; // 先填充源數(shù)據(jù)防止全零頁優(yōu)化 for (int i 0; i BUFFER_SIZE; i) { src[i] (uint8_t)(i 0xFF); } start clock(); for (int i 0; i iterations; i) { memcpy(dst, src, BUFFER_SIZE); } end clock(); cpu_time_used ((double)(end - start)) / CLOCKS_PER_SEC; double bandwidth (double)BUFFER_SIZE * iterations / cpu_time_used / (1024 * 1024); printf(CPU memcpy bandwidth: %.2f MB/s\n, bandwidth); return 0; }在Cortex-A53、主頻1.2GHz的平臺上實測帶Cache的1MB連續(xù)拷貝帶寬約在600~900MB/s之間。如果數(shù)據(jù)量超過Cache容量且源和目的地址都未命中Cache帶寬會掉到200~400MB/s。這個數(shù)字就是后續(xù)對比的基準線。4.2 NEON優(yōu)化的實用寫法NEON優(yōu)化的核心思路就四個字讀寬寫寬。盡量一條指令處理更多字節(jié)減少指令總數(shù)和總線事務數(shù)。下面是一個經(jīng)典的NEON內(nèi)存拷貝實現(xiàn)采用64字節(jié)塊處理配合預取和循環(huán)展開#include arm_neon.h void neon_memcpy_64(uint8_t *dst, const uint8_t *src, size_t size) { // 處理16字節(jié)對齊的主體塊步長64字節(jié) size_t aligned_size size ~(size_t)63; for (size_t i 0; i aligned_size; i 64) { // 預取下一輪數(shù)據(jù)到Cache隱藏內(nèi)存延遲 __builtin_prefetch(src i 256); // 一次加載64字節(jié)4個128位向量 uint8x16_t v0 vld1q_u8(src i); uint8x16_t v1 vld1q_u8(src i 16); uint8x16_t v2 vld1q_u8(src i 32); uint8x16_t v3 vld1q_u8(src i 48); // 一次存儲64字節(jié) vst1q_u8(dst i, v0); vst1q_u8(dst i 16, v1); vst1q_u8(dst i 32, v2); vst1q_u8(dst i 48, v3); } // 處理尾部不足64字節(jié)的數(shù)據(jù) for (size_t i aligned_size; i size; i) { dst[i] src[i]; } }這段代碼有三個關鍵點需要注意第一__builtin_prefetch是GCC的預取內(nèi)建函數(shù)參數(shù)是預取地址和偏移量。預取的距離需要根據(jù)內(nèi)存延遲和Cache命中情況調整太近了沒效果太遠了可能把還沒用到的數(shù)據(jù)擠出去一般取256字節(jié)到1024字節(jié)之間比較安全。第二循環(huán)展開的層數(shù)不是越多越好。展開4路每次處理64字節(jié)通常是比較好的平衡點這個平臺上展開8路每次處理128字節(jié)可能因為寄存器壓力過大導致編譯器Spill寄存器溢出到內(nèi)存反而性能下降。建議實測不同展開層數(shù)選最優(yōu)值。第三NEON版本代碼編譯時需要注意開啟對應架構優(yōu)化選項。GCC需要指定-mfpuneon和適當?shù)?mfloat-abi選項AArch64下一般直接默認啟用arm-linux-gnueabihf-gcc -O2 -mfpuneon -mfloat-abihard -o neon_test neon_test.c在同平臺實測上述64字節(jié)塊NEON拷貝的性能大約是Cache內(nèi)拷貝帶寬可達1.5~2GB/s超過CPU普通拷貝兩倍以上Cache外的內(nèi)存拷貝帶寬約600~900MB/s比CPU普通拷貝也有明顯提升。NEON的核心價值在于把同一條內(nèi)存帶寬曲線上的CPU指令開銷降下來了。4.3 DMA配置的完整流程用STM32系列舉例使用DMA做內(nèi)存到內(nèi)存?zhèn)鬏數(shù)臉藴柿鞒?/ 假設使用DMA1 Channel1做mem-to-mem傳輸 void dma_memcpy_init(void) { RCC_AHBPeriphClockCmd(RCC_AHBPeriph_DMA1, ENABLE); DMA_InitTypeDef DMA_InitStructure; DMA_InitStructure.DMA_PeripheralBaseAddr (uint32_t)src; DMA_InitStructure.DMA_MemoryBaseAddr (uint32_t)dst; DMA_InitStructure.DMA_DIR DMA_DIR_PeripheralSRC; // 外設作為源這里是內(nèi)存 DMA_InitStructure.DMA_BufferSize BUFFER_SIZE; // 傳輸字節(jié)數(shù) DMA_InitStructure.DMA_PeripheralInc DMA_PeripheralInc_Enable; // 源地址遞增 DMA_InitStructure.DMA_MemoryInc DMA_MemoryInc_Enable; // 目的地址遞增 DMA_InitStructure.DMA_PeripheralDataSize DMA_PeripheralDataSize_Word; // 32位 DMA_InitStructure.DMA_MemoryDataSize DMA_MemoryDataSize_Word; DMA_InitStructure.DMA_Mode DMA_Mode_Normal; // 單次傳輸模式 DMA_InitStructure.DMA_Priority DMA_Priority_High; DMA_InitStructure.DMA_M2M DMA_M2M_Enable; // 內(nèi)存到內(nèi)存模式 DMA_Init(DMA1_Channel1, DMA_InitStructure); // 使能傳輸完成中斷 DMA_ITConfig(DMA1_Channel1, DMA_IT_TC, ENABLE); // 注冊中斷服務函數(shù)NVIC配置略 NVIC_InitTypeDef NVIC_InitStructure; NVIC_InitStructure.NVIC_IRQChannel DMA1_Channel1_IRQn; NVIC_InitStructure.NVIC_IRQChannelPreemptionPriority 0; NVIC_InitStructure.NVIC_IRQChannelSubPriority 0; NVIC_InitStructure.NVIC_IRQChannelCmd ENABLE; NVIC_Init(NVIC_InitStructure); } void dma_memcpy_start(uint32_t src_addr, uint32_t dst_addr, uint32_t size) { // 重新配置源/目的地址和長度很多MCU需要先禁用DMA才能改配置 DMA_Cmd(DMA1_Channel1, DISABLE); DMA1_Channel1-CPAR src_addr; DMA1_Channel1-CMAR dst_addr; DMA1_Channel1-CNDTR size; DMA_Cmd(DMA1_Channel1, ENABLE); } // 中斷服務函數(shù) void DMA1_Channel1_IRQHandler(void) { if (DMA_GetITStatus(DMA1_Channel1, DMA_IT_TC)) { DMA_ClearITPendingBit(DMA1_Channel1, DMA_IT_TC); transfer_complete_flag 1; // 通知業(yè)務代碼 } }DMA方案在同等平臺實測1MB數(shù)據(jù)拷貝帶寬可以達到與NEON相近甚至略高的水平。最關鍵的區(qū)別是整個傳輸過程中CPU可以完全退出去做其他事情。我在日志系統(tǒng)里把SPI Flash頁寫入的數(shù)據(jù)緩沖搬運交給DMACPU利用率直接降到了接近0%。4.4 三種方式的實測數(shù)據(jù)對比在同一個Cortex-A53平臺1.2GHz32KB L1 Cache256KB L2 CacheDDR3 800MHz上用100次拷貝取平均值拷貝大小CPU memcpyNEON優(yōu)化DMA64B約25ns約30ns配置開銷約100ns以上不劃算1KB約130ns約95ns配置啟動約2us明顯慢16KB約3us約1.5us約4us含配置開銷不劃算256KB約120us約55us約30us勝出1MB約620us約280us約150us勝出明顯注意以上數(shù)據(jù)只反映該特定平臺的情況具體數(shù)值會因主頻、Cache大小、總線架構和DMA控制器性能不同而變化。但趨勢是一致的——數(shù)據(jù)量越大DMA相對優(yōu)勢越明顯數(shù)據(jù)量越小CPU直接拷貝的延遲優(yōu)勢越強NEON始終卡在中間位置對CPU占用敏感度是它的分水嶺。5. 混合使用與進階優(yōu)化策略5.1 雙緩沖機制讓DMA永遠不空等做周期性數(shù)據(jù)采集時只用一塊緩沖區(qū)DMA搬運期間CPU必須要等搬運完成才能處理數(shù)據(jù)兩個環(huán)節(jié)是串行的白白浪費了DMA解放CPU的優(yōu)勢。雙緩沖的思路是準備兩塊緩沖區(qū)。DMA在往緩沖區(qū)A搬運數(shù)據(jù)的同時CPU在處理緩沖區(qū)B里的上一幀數(shù)據(jù)。DMA搬完A之后自動切換到BCPU處理完B之后等DMA切回A。這樣數(shù)據(jù)采集和處理像流水線一樣并行進行整體吞吐量幾乎可以翻倍。實現(xiàn)上可以借助DMA控制器的雙緩沖特性很多DMA支持自動翻轉兩個緩沖區(qū)的地址或者使用DMA傳輸完成中斷在軟件層面切換緩沖區(qū)指針// 雙緩沖結構 static uint8_t buffer_a[FRAME_SIZE] __attribute__((aligned(16))); static uint8_t buffer_b[FRAME_SIZE] __attribute__((aligned(16))); static uint8_t *current_dma_buffer buffer_a; static uint8_t *current_process_buffer buffer_b; // DMA完成中斷里交換當前緩沖區(qū) void dma_complete_isr(void) { uint8_t *tmp current_dma_buffer; current_dma_buffer current_process_buffer; current_process_buffer tmp; // 重新啟動DMA把下一幀數(shù)據(jù)搬進新緩沖區(qū) dma_memcpy_start(peripheral_addr, (uint32_t)current_dma_buffer, FRAME_SIZE); }這里有一個容易踩的坑CPU正在處理current_process_buffer時千萬不能讓DMA往同一塊地址寫數(shù)據(jù)。否則會出現(xiàn)數(shù)據(jù)競爭輕則數(shù)據(jù)錯亂重則程序崩潰。解決辦法是嚴格執(zhí)行上面代碼里的緩沖區(qū)交換邏輯保證DMA寫入的永遠是CPU當前不在處理的那塊緩沖區(qū)。5.2 按需選擇同一條代碼路徑里做大小分支很多場景下數(shù)據(jù)大小不是固定的比如網(wǎng)絡協(xié)議棧里不同包的大小差別很大。這時候不需要全局只選一種方案可以做一個簡單的大小判定小數(shù)據(jù)走CPU拷貝大數(shù)據(jù)走DMA或NEONvoid smart_copy(uint8_t *dst, const uint8_t *src, size_t size) { if (size 4096) { // 小數(shù)據(jù)直接用CPU memcpy延遲最低 memcpy(dst, src, size); } else if (dma_available cpu_busy) { // 大數(shù)據(jù)且CPU繁忙用DMA異步傳輸 dma_memcpy_start_async((uint32_t)src, (uint32_t)dst, size); } else { // 大數(shù)據(jù)但CPU有空閑用NEON提高效率 neon_memcpy_64(dst, src, size); } }這種混合策略的實際收益非??捎^。我在一個網(wǎng)關項目的轉發(fā)路徑上用了這個方式小包延遲沒有惡化大包吞吐量提升明顯CPU占用率還降了算是“三全其美”的做法。但要注意分支判斷本身也有開銷判定條件要盡量簡化避免引入額外的性能損耗。5.3 Cache一致性DMA方案最容易忽略的深坑DMA搬運數(shù)據(jù)不經(jīng)過CPU所以它更新的內(nèi)存內(nèi)容和CPU Cache里的內(nèi)容可能不一致。如果CPU之前讀過或寫過某塊內(nèi)存Cache里有一份副本DMA把新數(shù)據(jù)寫進了同一塊物理內(nèi)存CPU下次讀的時候可能命中的還是Cache里的舊數(shù)據(jù)。這在高性能平臺上是災難級的Bug。表現(xiàn)為DMA中斷明明觸發(fā)了但CPU讀到的還是舊數(shù)據(jù)或者CPU寫的數(shù)據(jù)丟了一部分。解決思路一般有三個第一在DMA啟動前做Cache Clean操作確保CPU寫入的數(shù)據(jù)全部刷到內(nèi)存在DMA完成后做Cache Invalidate操作讓Cache里的舊數(shù)據(jù)作廢// DMA讀取前清理Cache把CPU寫的數(shù)據(jù)同步到內(nèi)存 clean_dcache_range((uint32_t)src, size); // DMA寫入后作廢Cache確保CPU讀到新數(shù)據(jù) invalidate_dcache_range((uint32_t)dst, size);這兩個函數(shù)的API在不同平臺上名字和參數(shù)格式不同Linux下可以用dma_map_single、dma_unmap_single等標準API裸機環(huán)境下需要查芯片手冊調用對應的Cache維護函數(shù)。第二讓DMA操作的緩沖區(qū)使用不帶Cache的內(nèi)存屬性即在頁表項里把該內(nèi)存區(qū)域標記為“非緩存”或“設備內(nèi)存”。代價是該區(qū)域的讀寫性能會下降因為每次都直接訪問內(nèi)存。第三使用DMA引擎提供的硬件一致性機制如果SoC支持“IO一致”或“硬件一致”特性可以不做Cache維護操作但需要確認平臺手冊并非所有平臺都支持。6. 常見問題與排查技巧實錄6.1 DMA傳輸偶爾丟失數(shù)據(jù)這個問題的典型原因是傳輸長度或地址配置出錯。排查時先確認DMA配置的源地址、目的地址和傳輸長度是否符合硬件要求特別是源和目的地址的遞增設置是否正確。很多時候“丟數(shù)據(jù)”其實是地址配置成了固定模式數(shù)據(jù)互相覆蓋了。還有一種非常隱蔽的原因DMA傳輸完成中斷標志位的清除順序不當。有些MCU要求在讀取狀態(tài)標志后再清除標志如果順序反了中斷標志可能被誤清除導致該次傳輸?shù)耐瓿墒录G失。我在調試串口DMA接收時遇到過類似情況解決方式是確認外設的DMA請求標志在每次傳輸后確實被硬件清除如果使用中斷方式在中斷里先讀狀態(tài)再清標志如果是循環(huán)模式Circular Mode注意設置合適的水位中斷閾值防止數(shù)據(jù)覆蓋。6.2 NEON代碼編譯后反而不如普通拷貝快先檢查內(nèi)存對齊。前面反復提過NEON加載指令在非對齊地址上性能會大幅下降。解決方式有兩個一是用vld1q_u8這類非對齊友好的指令二是確保緩沖區(qū)分配時做16字節(jié)對齊。其次是檢查編譯優(yōu)化選項。如果編譯時沒有開-O2或更高的優(yōu)化級別NEON內(nèi)建函數(shù)可能沒有被有效調度和優(yōu)化生成的低效匯編可能比普通拷貝還慢。我在測試時遇到過GCC開了-O0后NEON比memcpy還慢將近5倍的情況開了-O2之后才反超。另外注意NEON指令在數(shù)據(jù)量小的時候優(yōu)勢不顯著。如果你的數(shù)據(jù)只有幾百字節(jié)NEON的前期準備開銷函數(shù)調用、循環(huán)初始化、尾部處理可能抵消掉指令并行帶來的收益這種情況下直接memcpy反而更簡單高效。6.3 如何判斷“CPU被拷貝拖慢”了最直接的手段是看任務耗時統(tǒng)計。在拷貝函數(shù)前后打時間戳計算每次拷貝的耗時和總CPU時間占比。如果發(fā)現(xiàn)拷貝耗時占比超過20%且數(shù)據(jù)量還在不斷增長就必須考慮用DMA替換了。另一個判斷辦法是觀察系統(tǒng)整體響應性。比如通信系統(tǒng)里如果處理一個數(shù)據(jù)包的延遲明顯波動尤其在數(shù)據(jù)量大的時候抖動更嚴重很可能就是大塊CPU拷貝阻塞了主循環(huán)。這時候用性能分析工具perf、Tracealyzer、SEGGER SystemView等確認熱點函數(shù)看memcpy或copy_from_user等調用占比即可驗證。我自己常用的一個經(jīng)驗是當選型不確定時先用NEON快速頂上因為它不需要改架構只需改一個函數(shù)實現(xiàn)然后再在下一個版本迭代里根據(jù)CPU Profiling數(shù)據(jù)決定要不要引入DMA。這樣風險可控不會一上來就動硬件配置和中斷架構。7. 按需選型的最終決策表判斷條件推薦方案核心原因數(shù)據(jù)量 4KB偶爾拷貝CPU memcpy延遲最低實現(xiàn)最簡單數(shù)據(jù)量 4KB高頻拷貝每秒百次以上NEON壓縮指令開銷降低CPU負載數(shù)據(jù)量 4KB ~ 64KBCPU有余量NEON比DMA配置簡單性能足夠數(shù)據(jù)量 4KB ~ 64KBCPU繁忙DMA釋放CPU時間片數(shù)據(jù)量 64KB周期性拷貝DMA吞吐量高且不占CPU緩存敏感場景實時性要求高DMA 雙緩沖避免大塊拷貝阻塞關鍵路徑從實測數(shù)據(jù)和我這些年的經(jīng)驗來看8成以上的場景其實用NEON就夠用且最優(yōu)DMA的主要價值在于“非阻塞”而不是“最快”。很多項目引入DMA是為了讓CPU在等待數(shù)據(jù)搬移的這段時間里去做協(xié)議處理或響應IO事件這是NEON無法替代的。但如果你的系統(tǒng)CPU資源非常充裕、任務也不多那繼續(xù)用簡單的memcpy也沒有什么問題。性能優(yōu)化的最高原則永遠是不優(yōu)化沒問題的地方。我在實際項目中對三種方式的取舍也經(jīng)歷了幾個階段從一開始只會memcpy到項目緊迫時臨時加NEON加速再到系統(tǒng)復雜到需要DMA才能保證實時性每一步都是被逼出來的但也正好把這三條路的優(yōu)缺點都摸透了。這些經(jīng)驗濃縮成一句話就是先量數(shù)據(jù)再看CPU最后決定要不要動DMA。希望這篇文章能幫你少走一些我曾經(jīng)走過的彎路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
26UUU精品一区二区| 超碰在线精品| 色噜噜狠狠色综合成人网| 人妻操逼视频| wwwxxx五月婷婷小说| 夫妇交换刺激做爰| 婷婷五月丁香五月| 久久色五月天综合网| 婷婷综合在线| 亚洲色优| 亚洲成人AV在线观看| www超碰| 丁香五月六月综合激情| 婷丁香久综合| 色综合久久综合中文综合网| 精品一区二区三区免费毛片爱| 丁香亭亭久久| 99久热这里有精品| 五月网激情| 激情国产五月| av中文字幕免费观看| 日本WwW色偷偷丁香花久久久京东热| 五月婷成人| 1024你懂的欧美曰韩| 综合五月天| 91热er| 久久久久亚洲AV成人无码电影| 日韩一级片| 丁香五月色欲| 日日综合网| 天天做天天爱天天爽在| 色婷婷亚洲| 欧美日韩一区二区三区四区| 五月丁香啪啪网| www.婷婷,com| 色五月婷婷操逼| 婷婷香五月天| 欧美影院| 天天插天天插天天插天天插| 天天婷婷综合亚洲亚洲| 婷婷天天综合| 日本成人噜噜| 久色视频| www.久久久久| 狠狠穞A片一區二區三區| 精品成人a v无码内射| 伊人碰碰婷婷| 五月激情视频| 婷婷丁香第一页| 日本欧美在线| 婷婷亚洲激情在线观看视频 | 97成人在线视频| 99燥99日| 五月色婷婷激情| 99在线精品视频观看免费下载| 九九99精品视频在线观看| 开心五月婷婷激情网| 影音先锋一区二区资源站| 性生活视频98791| 99在线视频播放| 五月天婷婷激情| 五月天婷综合| 这里只有精品视频| 色九月综合网| 淫荡家庭AV| 亚洲色精彩| 婷婷综合网伊人| 久热只有这里精品| 久久综合中文| 九九操屄| 91婷婷在线| 婷婷五月天色| 欧美草久久五月天91| 亚洲小视频免费看| 岛国AV网站| 色吧五月婷婷| 亚洲色五月| 中文字幕精品无码一区二区| 五月天丁香婷婷久久九| 99欧美热| 五月综合亚洲色| 琪琪秋霞| 狠狠综合网| 激情久久久| 色色色com| 青柠影视免费高清电视剧| 色综合婷婷| 免费三级黄色| 久久久人妻不卡| 无码人妻一区二区三区四区| 天天摸天天高潮天天爽| 亚洲六月婷婷| 极品人妻VIDEOSSS人妻| 99草在线免费观看视频| 亚洲综合另类| 美女久久婷婷| 另类视频一区| 99免费热视频| 欧洲第一无人区观看| 丁香六月啪| 91久久国产自产拍夜夜91久久精品文字>91麻豆精品国产 | 99在线观看| caobi四区| 99亚洲日韩| 99久热这里只有精品| 停停五月丁香| 99riAV成人在线视频| 天海翼中文字幕高| 婷婷在线五月天观看| 色色色视频免费无码| 丁香五月婷婷久久久| 99人这里只有精品| 婷婷五月色| 黄色激情网站在线观看| 另类A片| www.六月丁香看AV| 日韩一级一片内射视频4K| 亚洲欧洲另类图片| 五月丁香婷婷久久| 国产婷婷色综合AV蜜臀AV| 两性婷婷丁香五月| 色综合久久88色综合天天人守婷| 激情五月天小说| 久久人妻视频| 丁香五月婷婷久久综合激情网| 开心五月激情| 色综合久| 丁香色播五月天| 狠狠干狠狠色| 激情五月婷婷| 五月天色丁香| 五月天婷婷激情在线色图| 日本色99| 伊人婷婷大香蕉| 丁香五月婷老师| 色欲五月丁香| 五月婷婷六月丁香综合| 色婷婷久久| 大香蕉久久草| 99热亚洲精品| 日本女va| 国产精品18久久久| 五月丁香六月停停| 亚洲永远av在线播放| 91无码视频| 97色啪| 免费在线a| 影音先锋人妻出差| 99在线视频女女视频| 亚洲激情综合色站| 久久精品99国产精品日本| 丁香五月天亚洲综合| 久久九九网| 天天色天天操天天射| www.精品99| 色六月 婷婷| 激情网 五月天| 久久这里只有精品99| 国产人妻人伦精品一区二区| a网站免费观看| 亚洲av网站| 另类伊人婷婷| 99在线观看| av婷婷丁香 六月| 国产这里只有精品| 日本va欧美va欧美va| 色婷久久| 在线观看国产高清视频免费网站| 天天搞夜夜叫| 天天肏天天舔AV| 激情色视频| 欧美色色日韩| 超碰在线国产| 激情影院丁香五月| 色久婷婷网| 亚洲无码影音| 色情综合| 丁香五月婷婷激情蜜桃| 东北熟女高潮99综合99| 激情婷婷啪啪| 婷婷五月天激情网| 久久曰9| 色婷婷超碰| 在线中文字幕视频| 黄色aa观看aaguochan| 天天操夜夜夜拍拍拍| 婷婷色网| 99热97| 九九综合| 美女xx不卡| 色情综合| 婷婷五月天高清无码| 97碰碰九九视频| 五月婷婷69| 久久视频婷婷视频| 日韩精品无码AV| 91综合国免费久入| 激情五月天伊人av| 梁铮版《蜘蛛女侠》在线| 亚洲精品国产成人AV在线| 久久久久8888| 91狼友视频网页更新| 伊人丁香婷婷东京| 天天日天天舔天天摸| 激情性爱五月天| 五月情四婷婷| 欧美色99| 五月天堂色色| 五月天丁香久久综合 | 99久久99久久综合| 成人电影AV在线观看| 99九九视频| 婷婷五月电影| 亚洲综合激情五月久久| 99色综合网| 东京热人妻一区二区三区在线| 久久婷婷五月天激情唯美| 久久99网| 精国产品一区二区三区A片| 五月丁香婷色| 六月丁香基地| 综合色情网| 成人无码免费一区二区中文| 一丁香五月天月AV| 99综合激情久久精品久久| 色综合99色| 五月天狠狠| 天天做天天爱天天玩| 日韩国产在线免费观看| 精品久久人妻| 色婷婷色99国产综合精品| 六月亚洲婷婷6月中文字幕| 开心五月激情网| 停停五月色宗合| 桃色激情婷婷伊人网| 欧美色激情四射| 色综合天天综合成人网| 亚洲日日日| 狠狠狠狠狠狠狠狠草| 色护士综合| 最近中文字幕在线中文视频| 99热免费| 婷婷色操| 午夜色婷婷| 婷婷五月天激情开心网| 亚洲熟妇AV综合网五月丁香伊人 | 国产特黄色精品一区二区三区精品无广告| 国产精品18久久久| 中日韩美欧成人一区二区精品在线| 国产色色色色| 丁香五月社区| 开心五月深爱五月丁香五月激情五月 | 性爱先锋AV| 大香蕉操操| 极品五月天| 欧美A片在线视频免费观看| 色婷婷六月| 五月天六月婷婷电影| 婷婷五月电影| 午夜一区| 婷婷 激情 五月| 玖月婷婷爱丁香| 丁香五月 综合| 另类在线| tingtingzonghewang| 九色91视频| 久久色五月| 色婷婷偷拍| 吊色AV男人的天堂| 人妻狠狠操| 丁香五月天AV在线| 久久人妻情侣| 天天日天天干天天操| 丁香五月综合图片在线观看| 色色激情| 色插综合网| 五月天成人手机在线视频| 六月99天天婷婷激情综合| 婷婷丁香综合网| 色一色综合| 99热免费18| 亚洲无码黄色| 99久久国产宗和精品1上映| 91人人操人人爱| 色婷婷免费观看| 丁香五月天在线视频| WWW,五月| 天天综合插插| 淫视馆AV在线| 人与禽A片啪啪| 成人无码中文| 婷婷在线操| 99色爱| AV性爱网| www.婷婷| 激情九月综合| 激情五月深爱婷婷| 婷婷色导航| 婷色综合| 色97综合婷婷天天色| 色五月婷色彩免播放器| 亚洲丁香五月综合| 色五月婷婷小说亚洲中文字幕组 | 99久久极情精品一区| 色欲五月天| 这里只有精品1| 日本久久99| 亚洲日韩一页精品发布| 思思热99er| 九九色中文| 久久网日本| 狠狠五月天婷婷| 五月天亚洲色| 亚洲国产精品VA在线看黑人| 久热A片| 色狠狠综合| 亚洲婷婷激情888精品久| 九九九成人在线视频| 亚洲AAAA网| 任你搞网站| 秋霞AV吧| 色婷婷丁香五月在线| 亚洲五月综合色播| 日日夜夜狠狠| 综合色色婷婷| 激情婷婷久久| 欧美日韩五月婷婷| 婷婷丁香在线播放| 69超碰在线| 久久婷五月| 色五月在线播放| 亚洲欧洲中文日韩久久AV乱码| 极品人妻VIDEOSSS人妻| 日本久久极品| 天天操电影院色狼性av| 九九热在线99| 欧美日韩999| 99精品视频网站| 99久久人妻精品无码二区| 色五月 婷婷, 大香蕉| 亚洲午夜国产成人电影VA国产欧…| av一区二区电影免费在线观看| 亚洲色五月婷婷| 五月色导航| 五月激情啪啪啪| 亚洲人人操| 五月丁香花婷婷玉莉AV| 亚洲超碰在线| 五月婷婷激情在线| 婷婷五月骚厕所| 五月婷婷六月色| 五月四色激情| 色九九中文字幕| 一根材五月婷成人| 亚洲亚洲人成综合网络| 丁香天堂夜| 狠狠狠狠狠操| 婷婷99狠| 99精品色| 99免费热视频在线| 亚洲色热| 六月丁香深深爱| www.婷婷| 亚洲色亚洲精品| 六月五月天婷婷涩播在线| 五月丁香激情婷婷| 色香蕉影院| 婷婷五月天黄色| 色综合激情| 91vip在线观看| 超碰av在线| 婷婷大香蕉| 亚洲操b| 丁香五月婷婷久久综合激情网| 99久久九九| 亚洲日韩操B| 这里只有精品视频视频在线观看| 婷婷丁香五月网| 色狠狠综合入口| 91婷婷色| 丁香五月亚洲无码| 成人AV网站在线| 五月丁香成人| 激情综合网婷婷久久| 久久资源网五月婷| 午夜青草资源| 婷婷五月综合色中文字幕| 五月婷婷六月激情网| 五月婷婷丁香六月| 噜噜噜久久亚洲精品国产品91| 99色在线观看| 激情五月五月婷婷| 天天狠狠插| 日本熟女啪啪| 九九香蕉网| 99热99免费| 91操屁股| 蜜桃人妻无码AV天堂三区| 丁香五月激情综合| 91碰操| 色婷婷操逼| 日本五月婷婷久久久六月丁香| 六月丁香五月天| 少妇人妻凹凸视频| 成人片在线播放| 国产毛片精品一区二区色欲黄A片 国产人妻777人伦精品HD | 四月婷婷五月丁香| 少妇激情五月婷婷| 天堂久久婷婷| 国产精品第一国产精品| 亚州性爱99| 国产va视频| 在线婷婷| 欧美WW在线网| 天天干天天日蜜臀av| 丁香涩涩五月天| 色婷婷先锋| 青草视频在线播放| 狠狠爱综合网| 99精品热| 欧美激情综合色综合色| www一起操在线观看| 色五月婷婷网| 天天爽综合网| 婷婷瑟五月天久久综合| 亚洲AV永久无码影院黑人| 婷婷五月天AV| 五月激情基地| 婷婷在线五月天观看| 热91久| 五月丁香色婷婷色| 色宗合,宗合网| 亚洲成人无码网站| 色婷婷影音| 国产露脸150部国语对白| 五月丁香婷爱在线| 五月婷婷无码专区| 狠狠999| 99人妻碰碰碰久久久久禁片| 国产乱人偷精品人妻A片| 79色色色色| 狠狠人人| 色婷丁香五月| 亚洲综合色网站| 久久久18| 丁香五月天堂| 色婷婷操逼| 亚洲色图81p| 91av无码| 日本在线视频看se99| 六月婷婷综合| 97人妻碰碰中文无码久热丝袜| 五月丁香va| 九九国产视频| 丁香五月激情啪啪| 九九人妻福利| 亚州激情网站无码| 激情综合五月色在线| 色婷婷精品视频在线播放| 超碰九九热| 99精品无码| 久久激情五月婷婷| 人人操AV| 丁香五月婷婷亚洲综合精品| A久网| 五月婷婷九月婷婷九月婷婷| 九九黄色网| 五月香婷婷| 亚洲欧美综合7777色婷婷| aaaa久久| www五月天com| 99人妻碰碰碰久久久久禁片| 性爱五月婷| 日本猛少妇色XXXXX猛叫| 天天干天天拍| 久久久久9| 日本色道视频网站| 久久九九网| 婷婷五月花| 99热久久这里只有精品| 丁香五月Av| 丁香五月自拍| 激情婷婷狠狠干综合| 婷婷色五月天在线观看| 色婷婷激情| 狼人久草| 五月天激情网站| 狠狠色婷婷| 99热精品在线观看| 国产精女同一区二区三区久| 国产日产亚系列精品版优势| 综合婷婷| 欧美日韩一区二区三区四区| 综合六月久久| 九月婷婷色色| 婷色成人| 婷婷五月婷婷| 色99色| 99在线精品免费视频| 丁香婷婷基地| 国精产品一区二区三区| 99亚洲大片精品永久在线观看| 丁香六月婷婷激情综合| 天天综合网、天天综合色 | 色偷偷综合| 天堂久久精品| 激情婷婷五月丁香啪啪啪| 97夫妻超碰| 丁香五月天激情四射网络不好| 丰满少妇猛烈A片免费看观看| 五月天激情网站| 婷婷欠久少妇| 99热偷拍| 日日日日操| 97香蕉碰碰人妻国产欧美| 五月天婷婷色色网| 黄网在线免费观| 色综合丁香婷婷| 伊人五月久久| 色色五月天激情| 操精品9| 久久久激情| 久久九九蜜| 噜噜噜狠狠色综合| 啪啪五月综合| 九九久久五月天综合伊人| 5月婷婷性视频| 婷婷成人AV| 国产偷人爽久久久久久老妇APP| 综合aV在线| 黄色激情久久| 婷婷五月天免费视频| 丁香五月乱中文字幕| 华人在线免费| 亚洲乱码日产精品BD| 熟女人妻一区二区三区免费看| 另类少妇人与禽zOZZ0性伦| 强辱丰满人妻HD中文字幕| 风流少妇A片一区二区蜜桃| 日韩黄在免| 婷婷丁香社区网| 99免费在线视频| 丁香婷婷五月| 成人 视频免费观看网站| 大香蕉九九| 26uuu日韩| 四色五月婷婷| 久久精品66| 97精品人人A片免费看| 热99色| 99久99热| 国产精品美女| 狠狠做五月| 色综合天堂| 91精品久久久久久综合五月天| 婷婷五月激情天| 婷婷色色网站| 激情综合色| 香蕉AV777XXX色综合一区| 婷婷影院欧美| 五月天婷婷在线视频| 天天日夜夜拍| Www.狠狠| 久碰婷婷视频| 五月丁香激情综合六月涩涩爱| 99热这是里只有精品| 五月天另类视频| 97碰碰九九视频| 色五月婷婷久久大| 91丨九色丨国产打屁股网站| 一级黄色影片| 五月激情小说| 六月婷婷影院| 丁香五月伊人| 婷婷综合五月天| 婷婷欧美激情| 久久久无码精品成人A片小说| 亚洲五月天激情| 人妻狠狠操| wwwss在线观看| 99热久久这里只有精品| 丁香婷婷色色| 在线你懂的亚洲欧| 亚洲99热| 婷婷五月天天| 免费V片在线| 舔色婷婷| 亚洲色久| 五月婷A V在线| 久久偷拍综合五月天| 日本三级韩三级99久久| 超碰97干| www.99在线| 五月综合亚洲婷婷| 日韩在线观看网址| 五月天最新网| 久操人妻| 久久激丁香| 欧美丁香婷婷五月天| 变态 另类 在线 | 99热精品在线播放| 综合欧美五月婷婷| 99九九视频精彩在线| 大香蕉视频99| 五月天精品视频| 五月天影院婷婷在线观看| 夜夜爽天天干| 中字幕视频在线永久在线观看免费| 日韩ac不卡无码| 婷婷五月丁香五月| 久久婷婷五月| 婷婷五月丁香六月伊人网| 亚洲五月婷| 南京搡BBBB搡BBBB| 任你搞网站| 97色婷| 五月天啪啪| www.99色| 99热全是精品| 国产乱妇无乱码大黄AA片| 国产乱码久久| 欧美WW在线网| 亚洲乱码日产精品BD| 天天操夜夜玩!| 六月丁香六月婷婷欧美| 人妻熟妇国产精品| 色狠狠综合入口| 色情五月天视频网| 色欧美日| 玖玖九九超碰| 嫩草AV久久伊人妇女超级A| 天天婷婷操| 色播播婷婷| 亞洲自怕| 亚洲妇女熟BBW| 色哟哟www| 性生活视频98791| 色婷婷基地在线| 五月天怕怕| 狠狠精品干练久久久无码中文字幕 | 蜜臀嫩草| 这里只有精品,日韩视频| 伊人在线视频| 婷婷成人五月天成人文学| 亚洲激情淫网| 中文字幕在线免费观看视频| 免费视频WWW在线观看网站| 五月天 另类图片| 99er6| 婷婷五月天AV| 日韩色五月| 亚洲久艹| 婷婷伊人綜合中文| 九日日夜夜69| 99se丁香| 天天日色情| 国产成人AV| 成人精品在线观看| 色婷五月天| 97精品综合久久| 第四色五月婷婷| 色丁香五月婷婷| 无码任你操| 凹凸操Av| 九九在线这里只有精品视频 | 狠狠狠狠狠狠草| 大战熟女丰满人妻AV| 丁香六月婷婷一区二区三区| www.激情| 婷婷五月激情网| 色婷天天| 天天五月丁香五月| 免费视频舔| 激情综合啪啪啪| 色色五月天激情| 狠狠干婷婷| 这里有精品99| 五月婷婷六月激情在线| 亚洲综合另类| 婷婷涩五月| 国产avapp 网| 79精品视频在线观看,| 婷婷激情六月天视频| 婷婷综合在线| 九九综合久久丁香婷婷,开心激情综合网| 玖玖爱资源站| 五月丁香在线观看99| 久久精品99国产精品日本| 能看的av网站| 这里只有精彩视| 天天色,天天日,天天做| 婷婷丁香成人网址| 六月综合在线| 啊v视频在线观看| 人人操AV| 区欧美日韩成人| 伊人久久中文网| 国产成人av在线播放| 香蕉五月婷婷| 久综合| 婷婷6月综合网| 五月激激网w'w'w| 日本va欧美va欧美va| 天天干夜夜欢| 六月婷婷八月丁香| 99综合视频| 淫视馆av三区| 色五月成人| 精品人妻久久久| 五月久视频| 婷婷丁香人妻天天爽| 六月激情婷婷| 日木WWW视频| 啪啪黄页网| 26uuu.| 日日操日日撸| 噜噜噜狠狠色综合| 成人AV综合在线| 热99国产精品| 五月丁香六月婷婷久久| 久久婷婷综合五月趴| 婷婷五月18永久免费视频| www.色擼擼.com| 99碰碰视频| 天天碰夜夜操| 超碰人人艹| 五月丁香六月婷婷网站| 五月天开心激情综合网| 九九视频这里只有精品| 婷婷精品性性性性性性性| 99热这里只要精品免费| 五月天开心婷婷激情网站| 99精品视频网| 江苏少妇性BBB搡BBB爽爽爽 | 婷婷激情五月天小说校园| 这里只有免费精品| 国产超碰在线| 久久丁香五月| 五月婷婷在线综合| 国产AV一区二区三区最新精品| 国产SUV精品一区二区6| av在线免费播放观看| 伊人久久大香线蕉综合网站| 99热加勒比| 激情综合色五月丁香六月亚洲| 婷婷五月丁香基地| 不卡的AV网站| 亚洲色五月婷婷| 九九99偷拍视频| 婷婷五六日| 丁香五月在线| 九九AV在线| 婷婷五月天综合在线| 成人 在线 日韩| 91丨九色丨老农村| 亚洲天天综合| 天天干在线播放| 深爱激情AV| 操一区| 丁香婷婷大香蕉| 色婷婷综合亚洲| 丁香久久九九99| 亚洲五月色| JlZZJlZZ8JlZZ亚洲熟女| 免费播放片大片| 欧美黄色韩日网| 真实熟女-91九色| 丁香欧美| 思思久久久婷婷| 91啪级电影| 激情五月综合| 五月婷婷久久激情| 国产全是老熟女太爽了| 九九狠狠干| 婷婷综合成人| 色情婷| 欧美性爱五月天| 婷婷久久图片| 色色色网站| 久婷婷五月综合欧美| 伊人六月丁香婷婷| 成人无码髙潮喷水A片| 五月天AV大香蕉| 丁香五月天社区| 久热伊人9| 欧美Va婷色| 久久99激情| 99自拍视频网站| 97操视频| 久操大香蕉| 婷婷五月天Av| 丁香五月婷婷啪啪视频| 亚洲综合激情五月久久| 丁香五月六月| xx久久| 永久精品| 人妻 性久久久久久| 天天色宗合| 狠狠夜夜五月丁香| 怡红院AV亚洲一区二区三区H| 美国少妇性做爰| 另类五月婷婷| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 白人荫道BBWBBB大荫道| 亚洲天堂久久| 激情内射人妻1区2区3区| 激情欧美婷婷| 免费三级黄色| 色情成人五月天| 二色av| 少妇搡BBBB搡BBB搡毛茸茸| 丁香六月激| 影音先锋日本三级资源| 色婷婷在线视频久| 丁J香六月首页| www..999热久| 深爱开心激情网| 一起操最新网址| AV在线大香蕉| 99热大片| 国内一级精品| 精品一二三区久久AAA片| 丁香六月婷婷综合激情欧美| 欧美日朝成人| 激情婷婷另类| 超碰在线9| 亚洲精品国产熟女久久久| 丁香六月天婷婷在线| 99色性爰网络| www.99成人视频| 99久在线| www.韩日视频| 丁香婷婷基地| 综合色播| www婷婷亚洲| 久久九九国产| 丁香五月综合网| 大香蕉婷婷五月天| VA婷婷亚洲| 超碰人人在线| tingtingzonghewang| 国产精品天天狠天天看| 久久久五月激| 免费操超碰| 色婷婷丁香五月| 婷婷成人AV| 久色网五月| 99久热在线精品| 97人人操人| 色色国产| 婷婷亚洲丁香五月| 久99久在线| 日韩AC在线免费观看| 日本熟女一区二区| 综合五月草| 人妻激情视频| 五月伊人91| 久久久久久欧美精品se一二三四| 丁香花五月天| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 97干综合网| 婷婷五月丁香图片人人操| 日韩色五月| 婷婷基地五月色| 丁香婷婷精品视频| 久久久久8888| 狠狠久久婷婷| 色五月色开心开心五月| 伊人婷婷大香蕉| 亚洲视频99| 这里只有精彩亚洲视频推荐| 五月丁香少妇| 激情碰碰碰| 97在线日韩| 色综合色香蕉网| 99在线精品免费视频| 日本狠狠色| 久久 视频这里只有精总| 黄色五月婷婷| 午夜成人综合| 超级碰碰碰碰视频| 美女伊人久久| 日本情色一区二区| 31色区视频免费看| 久久久久久久91| 色综合久久久无码中文字幕999| 色色色在线观看| 六九色综合婷婷五月天| 很很干在线视频| 人妻videos人妻高清| 婷婷五月丁香超碰| 免费亚洲成人电影AV| 日韩一区二区A片免费观看| 欧美成人日韩| 五月丁香色婷婷色| 97视频91| 丁香五月天网站| 涩五月婷婷| 亚洲情欲| 北京熟妇搡BBBB搡BBBB| 夜色综合网| 99狠狠色| 五月天色社区| 久久久婷| 五月婷婷视频| 91久久18| 99人人精品| 亚洲AV人人操| 色综合色综合婷婷热| 日本久草福利| 91九色在线| 色五月丁香五月五月婷婷| 色婷婷88| 丁香五月天激情网址| 中文字幕AV网址| 五月丁香综合激情| 这里只精品| 久久丁香五月婷婷| 日日.c| 欧美日韩成人在线观看| 五月丁香欧美在线| 亚洲无码99| 国产精品18久久久| www。五月,com| 色色色五月天婷婷| 超碰国产在线观看| 久久婷婷五月综合97色一本| 日韩色五月| 丁香五月六月久久综合| 久久五月网| 欧美va视频不用播放器的va视频网| 另类视频在线| 翔田千里无码| 六月丁香五月婷婷| 欧美性爱五月天| 色天使色综合| 在线成人网址| 五月天久久www| 五月天操逼网| 久热在线中文字幕色999舞 | 99热亚洲精品66| 欧美五月婷婷| 99ER热精品视频| 九九大香蕉黄色影院| 9精品视频在线| 天天做天天视天天谢| 激情五婷精品网在线观看网址| 99ri国产| 色色色国产| 大香蕉伊人久久| 青青久久91| 无码se| 激情五月视频在线婷婷| 99爱视频在线观看| 白人荫道BBWBBB大荫道| 少妇性BBB搡BBB爽爽爽视頻| 91在线操逼视频| 9色在线视频| 五月婷婷亞洲中文| 激情四射五月天| 国产色视频网站2| 五月婷人妻| 久月婷婷| 日本天堂网站99| 五月天激情站| 五月天婷婷基地综合网| 操91| 99在线播放| 婷婷六月啪啪| 久久偷拍综合五月天| 九九青草热| 99欧美热| 色色婷五月天| 玖玖综合色| 丁香五月婷婷亚洲天堂| 国产97色在线| 激情www| 色五月婷婷777| 精品色情一区二区三区四区| 狠狠操在线视频| 9久热| 久久新| 日韩在线婷婷五月天综合| 4438激情网| 婷婷中文网站| 亚洲 五月 婷婷 成人| 性色婷婷| 大香蕉伊在| 久久久精品色色色| 黄网在线免费观| 亚洲视频色色| 色婷婷香蕉| 99久久亚洲精品视频| 天天摸天天高潮天天爽| 2020日日干| 丁香五月成人丝袜| 五月婷婷中文| 嫩草视频。| 日屌日日操日日色| 丁香婷婷六月| 综合五月天完整| 五月综合人妻| 国产精品A片| 天天日色情| 玖玖资源天天无码| 97超级碰人人| 狠狠五月综合在线| 狠狠色中色| 天天色综合图片| 色色热日| 日本在线va| 91人人妻人人操| 99视频这里有精品| 日韩精品一品二区三区的使用体验| 4399在线观看免费高清电视剧| 天天操人人干| 99热超| 99精品无码| 天天日夜夜欢| 五月婷亚洲精品AV天堂| 91日本在线免费| 噜噜精品| 97干在线播放| 久热婷婷| 日韩好吊操| 亚洲乱码日产精品BD| 日本久热| 99精品视频免费观看| 国产性爱一级| 九九色逼| WWW色五月天| 超碰在线caop| 久色欧美| 色婷婷色九月| 91chinese在线| 这里只有精品视频国产| 日本综合色色| 电影爱拉战争免费观看| 久久九九网| 久久视频这里都是精品| 丁香六月啪啪| 深爱五月天 开心网| www久久99| 丁香六月视频免费观看| 不卡在线视频| 国产色色视频| 轮奸综合网| 亚洲日韩久久婷婷伊人| 欧美日韩大黄| 精品无码久久久久久久久| 开心婷婷中文字慕| 亚洲成人在线观看av| 五月天婷婷色小说| 久久一伦| 色五月人妻| 伊人婷婷色激情丁香| 亚洲色无码A片一区二区麻豆| 五月婷婷偷| 一区操| 99免费在线| 就99这里只有精品| 久久五月情| 97啪啪| 夜夜操夜夜操| 五月天激情综合网站| 久久99网站| 五月婷婷在线综合| 色10月婷婷视频| 亚洲成人精品三区| 免费视频99| 玖玖资源在线视频| 色之综合网| 伊人久久综合| 婷婷色综合| 久久久久婷| 东北婷婷五月天| 日韩综合天堂| 九色视频九色九色91jiuseshipin| 五月噜噜| 综合色图区| 九九热青青草| 国产人妻777人伦精品HD| 夜夜骑日日夜夜| 婷婷无码视频| 日日操无码| 国产精品国产成人国产三级| 丁香六月天色婷婷| 色色综合网站| 一区二区传媒视频| 99精品偷自拍| www.99久| 激情五月丁香亭亭 | 99re热久久| 丁香五月激情六月欧亚激情综合导航| wuyuedingxiang| 五月激情综合网| 五月天丁香综合| 丁香五月电影| 五月丁香啪啪啪啪| 婷色人人狠| 久久久久久久久久91| 日本天天色| 色色五月天丁香| 五月婷婷香| 五月综合婷婷久久在线| 第四色五月婷婷| 九热网站| 国产69久久久欧美黑人A片| 色色色色色色色色网站| 丁香婷婷网| 婷婷伊人綜合| 色色色综合| 五月激情小说| 色五月婷婷色| 国产激情AV| 成人婷婷| 色99色| 久久99综合网| 开心五月深爱五月| 五月婷婷五月天激情网| 综合激情伊人影视在线| 激情图片亚洲| 五月激情四射网站| 无遮羞AV| 黄色片久久| 国产偷人爽久久久久久老妇APP| 五月丁香自拍| 另类小说五月天| 日本狠狠色| 亚洲无码99| 夜夜骑天天操| 中文AV网站| 99热这里只有精品55| 狠狠狠激情网| 草婷婷在线| 五月丁香六月花| dingxiangtingtingliuyue| 99视频这里只有免费精品| 天堂在线婷婷| 婷婷丁香五月激情密臀av| 婷婷五月丁香图片人人操| 91啪啪视频| 五月天婷婷久久视频| 五月亭亭开心网| 九九干视频| 五月丁香香蕉| 另类视频在线| 91av传媒高清在线视频网| 综合网天天| 激情第四色| 五月天激情美女久久| 国产成人+综合亚洲+天堂| 日本欧美成人片AAAA| 色丁香婷婷| 五月婷婷六月情| 午夜成人AV在线| 五月丁香激情综合| 丁香婷婷五月份| 亚洲国产网站| 欧美三级黄色片久久| 丁香色影院| 色99热| 99热国产国产| 天堂草在线看www| 棕合影院色色| 99色视频| 91主播在线| 91精品婷婷国产综合久久| 97五月综合网| 大香蕉av在线| 9这里只有精品| 丁香五月婷婷基地| 婷婷开心激情| 91妻人人爽人人看片| 午夜少妇在线观看视频| 色99网| 五月丁香影院| 丝雨一区二区| 在线视频你懂得| 六月丁香综合999| 婷婷婷久久久| 丰满少妇猛烈A片免费看观看| 开心五月婷婷| 丁香五月天堂亚洲社区| 色色草97| 如何安全看伊人婷婷| 激情婷婷内射| 老司机日日夜夜青草| 婷婷五月天在线一区| 五月天婷婷在线视频| 亚洲狠狠干| 五月香婷婷| 丁香五月婷婷亚洲另类| 日本97在线| 国熟女视频| 婷婷四色五月| 久综合九综合99| 秋霞免费三级片| 夜夜做天天爽| 96精品久久久久久久久| 激情综合色网| 国产av网| 六月婷婷俺也去| 激情五月综合亚洲另类| 91精品丝袜久久久久久| 99热这里是精品| 伊人九九热| 五月综合婷婷久久在线| 色狠久| 国产成人精品亚洲线观看| 亚洲无码 图片区| 色色色激情| 婷婷亚洲综合| A片天天| 人人草公开操| 五月丁香影院| 一起操最新网址| 五月视频日本免费观看| 日韩色色视频www| 日日日日日| 亚洲精品另类| 欧洲日韩一区二区三区| 91精品久久久久久综合五月天| 任你搞网站| 国产亚洲99久久精品熟女| 99热精国产这里只有精品| 亚洲第一第二网站| 婷婷五月色花丁香社区| 色色色地址| 天天色综合网吨吧| 国产亚洲精品久久久久久豆腐| 在线中文字幕免费视频| 99男人的天堂| 另类五月激情| 大香伊人久色| 天天做天天爰天天爽天天无遮挡| se99视频| 岛国在线观看91| 99极品视频| 丁香六月婷婷| 亭亭色色五月天| 國語久久婷| 狠狠色97| 97操碰在线视频| AVV黄| 五月亭亭六月天| www.99操| 国产色五月| 人妻免费网站| 五月婷婷丁香av| 影音先锋91网站在线观看| 成人婷婷| 久操激情| 黄网在线观看免费| 天天做天天爱天天玩| 乱岳熟女50岁| www.狠狠色.com| 办公室少妇激情呻吟A片在线观看| 操逼巨乳91| 色综合五月| 天堂综合久| 久热一本| 九月丁香| 在线播放中文字幕| 情情五月天色| 热久综合|