免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

嵌入式Linux驅(qū)動(dòng)開發(fā)實(shí)戰(zhàn):并發(fā)、中斷與NFS調(diào)試經(jīng)驗(yàn)談

嵌入式Linux驅(qū)動(dòng)開發(fā)實(shí)戰(zhàn):并發(fā)、中斷與NFS調(diào)試經(jīng)驗(yàn)談 1. 入行三年我理解的驅(qū)動(dòng)開發(fā)到底在做什么很多剛接觸嵌入式的朋友問我驅(qū)動(dòng)開發(fā)是不是就是對(duì)著芯片手冊(cè)配置寄存器把外設(shè)“點(diǎn)亮”就完事了我入行頭兩年也這么以為。直到被現(xiàn)實(shí)狠狠教育過幾次——產(chǎn)品在實(shí)驗(yàn)室跑得好好的一到產(chǎn)線就偶發(fā)死機(jī)按鍵按下去偶爾沒反應(yīng)網(wǎng)絡(luò)偶爾掉包。這些問題最后都指向同一個(gè)根源我對(duì)驅(qū)動(dòng)的理解太淺了。真正的驅(qū)動(dòng)開發(fā)本質(zhì)上是在做兩件事一是把硬件的時(shí)序和協(xié)議翻譯成軟件能調(diào)用的接口二是在這層翻譯里扛住一切不確定性和并發(fā)沖突。前者是基礎(chǔ)功后者才是決定一個(gè)驅(qū)動(dòng)工程師能走多遠(yuǎn)的分水嶺。我見過太多把驅(qū)動(dòng)寫成“一把梭”的代碼初始化函數(shù)里噼里啪啦配一堆寄存器然后read函數(shù)里直接讀數(shù)據(jù)就返回。單看功能好像沒問題可是一旦接入中斷、DMA、多線程立馬出錯(cuò)。因?yàn)橛布遣⑿械摹⑼獠渴录遣淮_定的而你的代碼卻是串行的、順序的——這中間的矛盾就是驅(qū)動(dòng)開發(fā)真正的戰(zhàn)場(chǎng)。這篇文章不講那種“照著寄存器手冊(cè)一步步點(diǎn)燈”的初級(jí)教程而是想聊聊我摸爬滾打幾年后對(duì)驅(qū)動(dòng)開發(fā)核心能力的理解內(nèi)核機(jī)制怎么用、文件系統(tǒng)怎么搭、代碼怎么分層、面試和項(xiàng)目怎么匹配。內(nèi)容比較雜但都是我實(shí)際驗(yàn)證過的經(jīng)驗(yàn)希望能給正在往這個(gè)方向走的同行一些參考。2. 決定驅(qū)動(dòng)質(zhì)量的內(nèi)核機(jī)制并發(fā)、中斷與內(nèi)存屏障2.1 并發(fā)問題不是只有多核才叫并發(fā)我在帶新人時(shí)最常說的一句話是驅(qū)動(dòng)里有九成以上的bug都是并發(fā)引起的。很多新手不理解——我單核CPU單線程執(zhí)行哪來的并發(fā)舉個(gè)最典型的場(chǎng)景。你的驅(qū)動(dòng)注冊(cè)了一個(gè)中斷處理函數(shù)同時(shí)應(yīng)用程序通過read()系統(tǒng)調(diào)用來讀數(shù)據(jù)。中斷隨時(shí)可能到來它會(huì)打斷正在執(zhí)行的read()代碼。假設(shè)read()函數(shù)先讀了狀態(tài)寄存器判斷“數(shù)據(jù)就緒”然后準(zhǔn)備讀數(shù)據(jù)寄存器——就在這一瞬間中斷來了中斷處理函數(shù)把數(shù)據(jù)寄存器里的值讀走了并清除了就緒標(biāo)志。等read()恢復(fù)執(zhí)行時(shí)它讀到的就是空數(shù)據(jù)或者舊數(shù)據(jù)。這就是并發(fā)問題的本質(zhì)單核上的搶占同樣能制造競(jìng)態(tài)。所以寫驅(qū)動(dòng)時(shí)鎖不是可選項(xiàng)是必選項(xiàng)。我在實(shí)際項(xiàng)目里常用的并發(fā)保護(hù)手段按優(yōu)先級(jí)排序是這樣的用mutex保護(hù)那些可能睡眠的臨界區(qū)比如i2c傳輸、spi傳輸因?yàn)檫@類操作本身就會(huì)睡眠等待硬件完成spinlock在這時(shí)候不能用。用spinlock保護(hù)中斷處理函數(shù)和進(jìn)程上下文共享的數(shù)據(jù)持鎖期間絕對(duì)不能睡眠否則就是內(nèi)核oops。用atomic_t或bitops處理簡(jiǎn)單的標(biāo)志位、引用計(jì)數(shù)能不用鎖就不用鎖。用完成量completion實(shí)現(xiàn)“等事件”的同步比信號(hào)量更輕量、語義更清晰。這里要特別提醒一個(gè)細(xì)節(jié)加鎖的粒度一定要小。我見過有人把一個(gè)幾十行的傳輸函數(shù)整體鎖住結(jié)果持鎖時(shí)間太長(zhǎng)實(shí)時(shí)性完全廢了。鎖的粒度應(yīng)該只覆蓋臨界區(qū)也就是“訪問共享數(shù)據(jù)”的那幾行代碼不要順帶把耗時(shí)操作也包進(jìn)去。2.2 中斷上下文的約束一半的驅(qū)動(dòng)問題都出在這中斷處理函數(shù)跑在原子上下文里這意味著你不能調(diào)用任何可能睡眠的函數(shù)。這個(gè)約束從書本到面試題都在講但真正踩過坑的人才知道邊界在哪。我踩過最深的一個(gè)坑是在中斷處理函數(shù)里調(diào)用了kmalloc(GFP_KERNEL)當(dāng)時(shí)覺得“分配內(nèi)存總沒問題吧”。結(jié)果內(nèi)核直接報(bào)“BUG: sleeping function called from invalid context”。因?yàn)镚FP_KERNEL標(biāo)志允許睡眠等待內(nèi)存回收這在進(jìn)程上下文沒問題但中斷上下文根本不允許睡眠。正確做法是用GFP_ATOMIC。另外一個(gè)高頻坑是中斷處理函數(shù)里的耗時(shí)操作。如果中斷處理函數(shù)執(zhí)行時(shí)間太長(zhǎng)會(huì)阻塞其他中斷的響應(yīng)。特別是共享中斷號(hào)的情況你一個(gè)人的延遲會(huì)影響所有共享這個(gè)中斷號(hào)的設(shè)備。我現(xiàn)在處理中斷的思路基本固定為兩步中斷處理函數(shù)只做最快的事讀硬件清中斷標(biāo)志、用workqueue或tasklet把重活挪出去、喚醒等待隊(duì)列。真正的數(shù)據(jù)搬運(yùn)、協(xié)議解析、內(nèi)存拷貝全部放到下半部bottom half去執(zhí)行。這里順便說一句線程化中斷threaded IRQ的事。request_threaded_irq()把中斷處理變成一個(gè)內(nèi)核線程這樣你可以在中斷處理里放心使用mutex和阻塞API調(diào)度開銷也更容易控制。我現(xiàn)在做新驅(qū)動(dòng)默認(rèn)優(yōu)先考慮線程化中斷除非實(shí)時(shí)性要求極高才會(huì)回退到傳統(tǒng)方式。2.3 內(nèi)存屏障編譯器和CPU都會(huì)“重排”你的代碼這個(gè)知識(shí)點(diǎn)屬于“八股文里的高頻、實(shí)際項(xiàng)目里的深坑”。我在做DMA驅(qū)動(dòng)的時(shí)候真切體會(huì)到了它的重要性。場(chǎng)景是這樣的CPU把數(shù)據(jù)寫到DMA描述符的緩沖區(qū)地址字段然后寫“啟動(dòng)”位告訴DMA控制器可以開始搬運(yùn)了。從CPU的角度看這兩次寫操作的順序是明確的。但到硬件層面寫“地址”的操作可能還躺在CPU的寫緩沖區(qū)里DMA控制器卻已經(jīng)看到“啟動(dòng)”位被置位于是它去讀了一個(gè)還沒生效的地址——數(shù)據(jù)全亂了。解決這個(gè)問題就需要內(nèi)存屏障。在ARM架構(gòu)下我常用的屏障是dma_wmb()保證DMA描述符里的數(shù)據(jù)在“啟動(dòng)”位之前寫入內(nèi)存。dma_rmb()保證DMA完成后CPU讀取的數(shù)據(jù)一定是硬件已經(jīng)寫入內(nèi)存的。這里有個(gè)細(xì)節(jié)很多人容易忽略內(nèi)存屏障不是所有架構(gòu)都需要的。x86的存儲(chǔ)模型相對(duì)強(qiáng)一致很多場(chǎng)景下不需要顯式屏障但ARM是弱內(nèi)存模型編譯器優(yōu)化和CPU亂序執(zhí)行都可能重排訪問順序。所以同一個(gè)驅(qū)動(dòng)代碼x86上跑得好好的搬到ARM上就出詭異問題多半就是少了屏障。當(dāng)然大部分情況下你不需要手工去寫屏障——內(nèi)核的DMA API已經(jīng)幫你處理好了。你要做的只是用對(duì)APIdma_alloc_coherent()分配一致性緩沖區(qū)或者用dma_map_single()配合dma_sync_single_for_device()做同步。最好的內(nèi)存屏障是根本不需要你寫的那道屏障。3. 從零折騰根文件系統(tǒng)NFS掛載的實(shí)戰(zhàn)與避坑3.1 為什么開發(fā)階段一定要用NFS啟動(dòng)在開發(fā)Linux驅(qū)動(dòng)和應(yīng)用程序的階段最痛苦的事情莫過于每次改一行代碼都要重新燒寫整個(gè)根文件系統(tǒng)到板子的flash里然后等它啟動(dòng)完再跑測(cè)試發(fā)現(xiàn)問題回到宿主機(jī)改代碼。這個(gè)循環(huán)極其低效。NFSNetwork File System掛載根文件系統(tǒng)的意義在于開發(fā)板的根文件系統(tǒng)不再放在本地存儲(chǔ)上而是通過網(wǎng)絡(luò)直接掛載宿主機(jī)上的一個(gè)目錄。你改代碼、編譯、把新文件放到宿主機(jī)的共享目錄里開發(fā)板重啟后看到的就是最新的文件。整個(gè)過程零燒寫、零等待。我在一個(gè)項(xiàng)目里驗(yàn)證過同樣一輪“改代碼-跑測(cè)試”的迭代用傳統(tǒng)燒寫方式大約需要8到10分鐘換成NFS啟動(dòng)后壓縮到1分半以內(nèi)。一天下來能省下兩個(gè)多小時(shí)而且精神損耗小得多——因?yàn)榈却钊菀紫ツ托摹J褂肗FS有前提條件開發(fā)板能穩(wěn)定聯(lián)網(wǎng)而且網(wǎng)絡(luò)環(huán)境相對(duì)可靠。如果現(xiàn)場(chǎng)環(huán)境惡劣網(wǎng)絡(luò)頻繁掉線那還是老老實(shí)實(shí)用本地存儲(chǔ)啟動(dòng)別和自己過不去。3.2 完整的NFS根文件系統(tǒng)掛載步驟下面是我反復(fù)驗(yàn)證過的完整流程以常見的嵌入式Linux開發(fā)板 宿主機(jī)Ubuntu為例。宿主機(jī)側(cè)配置安裝NFS服務(wù)sudo apt install nfs-kernel-server編輯/etc/exports添加共享目錄配置/opt/nfs_rootfs 192.168.1.0/24(rw,sync,no_root_squash,no_subtree_check)這里解釋一下幾個(gè)關(guān)鍵選項(xiàng)都是踩坑換來的經(jīng)驗(yàn)rw允許讀寫。如果漏了這個(gè)開發(fā)板只能讀不能寫很多程序跑起來會(huì)報(bào)段錯(cuò)誤很難排查。sync強(qiáng)制同步寫入。開發(fā)階段必須開sync否則開發(fā)板上的寫入可能還在宿主機(jī)緩存里開發(fā)板一斷電數(shù)據(jù)就丟了。no_root_squash允許root用戶保持root權(quán)限訪問。如果不加這個(gè)在開發(fā)板上以root身份寫的文件到宿主機(jī)上會(huì)變成nobody用戶的權(quán)限非?;靵y。no_subtree_check減少NFS的子目錄檢查開銷。性能有提升但在某些文件系統(tǒng)上有兼容性小坑如果遇到奇怪問題可以去掉試試。重啟NFS服務(wù)并驗(yàn)證sudo exportfs -ra sudo systemctl restart nfs-kernel-server開發(fā)板側(cè)配置在U-Boot里設(shè)置啟動(dòng)參數(shù)關(guān)鍵在bootargs環(huán)境變量setenv bootargs root/dev/nfs nfsroot192.168.1.100:/opt/nfs_rootfs,v3,tcp rw ip192.168.1.101:192.168.1.100:192.168.1.1:255.255.255.0::eth0:off saveenv這里有個(gè)容易翻車的點(diǎn)內(nèi)核需要開啟NFS_V3和網(wǎng)絡(luò)文件系統(tǒng)相關(guān)選項(xiàng)。我在內(nèi)核配置里經(jīng)常漏了CONFIG_NFS_V4反而開著然后開發(fā)板的NFS客戶端默認(rèn)優(yōu)先用NFSv4去握手如果宿主機(jī)端的NFS服務(wù)器只支持v3或者兩邊版本不匹配就報(bào)mount: Operation not permitted或者直接mount超時(shí)。所以我的建議是掛載參數(shù)里顯式指定v3或v4別讓它自動(dòng)協(xié)商。版本協(xié)商在NFS這里很容易出事明明網(wǎng)絡(luò)通、目錄存在、權(quán)限也對(duì)就是掛不上多半是版本問題。還遇到過兩次詭異的問題最后都定位到同一個(gè)根因開發(fā)板的/etc/nsswitch.conf或DNS解析配置有問題導(dǎo)致mount時(shí)嘗試解析主機(jī)名卡了很久。如果你用的是IP而不是hostname還出現(xiàn)長(zhǎng)時(shí)間卡頓檢查一下是不是同時(shí)開了IPv6。根文件系統(tǒng)本身的內(nèi)容要求NFS掛載成功后開發(fā)板訪問的是宿主機(jī)的目錄但這個(gè)目錄必須是一個(gè)“能用的根文件系統(tǒng)”。我一般從已有系統(tǒng)拷貝骨架目錄過來或者用Buildroot先構(gòu)建一份基礎(chǔ)根文件系統(tǒng)再放到NFS共享目錄里。最低限度得有的目錄/dev /proc /sys /tmp /etc /bin /sbin /usr。特別提醒/dev目錄不能空。至少要先用靜態(tài)方式創(chuàng)建console和null設(shè)備節(jié)點(diǎn)或者在根文件系統(tǒng)的init腳本里提前掛載devtmpfs、sysfs、procfs否則內(nèi)核啟動(dòng)到掛載根文件系統(tǒng)后會(huì)卡在找不到console設(shè)備上。3.3 掛了NFS之后還得處理這些“第一眼看不見”的問題NFS啟動(dòng)成功后開發(fā)板的系統(tǒng)會(huì)有幾個(gè)和本地啟動(dòng)完全不同的表現(xiàn)這些坑如果不提前知道會(huì)浪費(fèi)你半天時(shí)間。第一網(wǎng)絡(luò)啟動(dòng)依賴。根文件系統(tǒng)在網(wǎng)絡(luò)協(xié)議棧起來之后才能掛載所以網(wǎng)卡驅(qū)動(dòng)必須是內(nèi)核內(nèi)置的built-in不能是模塊。內(nèi)核配置里把對(duì)應(yīng)的網(wǎng)卡驅(qū)動(dòng)設(shè)成*y不然啟動(dòng)順序上根本輪不到它。這不是猜的我已經(jīng)見過不止一個(gè)新人把網(wǎng)卡驅(qū)動(dòng)編譯成模塊然后NFS死活起不來。第二寫操作的損耗。開發(fā)中經(jīng)常出現(xiàn)開發(fā)板上創(chuàng)建了一個(gè)文件但宿主機(jī)上看不到或者內(nèi)容還是舊的。這通常是sync選項(xiàng)沒開或者兩邊緩存不一致導(dǎo)致的。開發(fā)階段還是老老實(shí)實(shí)把sync開著別為了那點(diǎn)性能去踩這個(gè)坑。第三掉電壓測(cè)的假象。生產(chǎn)環(huán)境里開發(fā)板都是焊接穩(wěn)定的但開發(fā)階段大家常常直接拔電重來。NFS啟動(dòng)的板子拔電后宿主機(jī)NFS服務(wù)端可能會(huì)有殘留的鎖和連接重啟后偶爾出現(xiàn)文件無法訪問。一個(gè)字等MySQL鎖超時(shí)不是是等幾秒鐘讓NFS服務(wù)自己清掉死鎖或者exportfs -ra一下就好。第四別忘了根文件系統(tǒng)里網(wǎng)絡(luò)配置的優(yōu)先級(jí)。開發(fā)板如果同時(shí)開了DHCP、又配了靜態(tài)IP啟動(dòng)階段可能先DHCP拿到一個(gè)別的網(wǎng)段的IP導(dǎo)致NFS掛載時(shí)用的IP不對(duì)。我一般啟動(dòng)參數(shù)里直接指定ip靜態(tài)地址不讓它走DHCP少一個(gè)變量就少一個(gè)故障點(diǎn)。4. 按鍵驅(qū)動(dòng)不只是“判斷電平”非阻塞掃描里的架構(gòu)思維4.1 為什么我不建議在驅(qū)動(dòng)里用阻塞輪詢講按鍵驅(qū)動(dòng)大部分教程會(huì)讓你在read函數(shù)里死等按鍵事件用阻塞式輪詢或直接讀GPIO電平。但我在實(shí)際項(xiàng)目里幾乎不用這種方式原因不復(fù)雜——嵌入式系統(tǒng)里沒有“只為一個(gè)按鍵服務(wù)”的CPU。按鍵本身是一個(gè)極低速的事件人的手指按下一次保持幾十毫秒然后松開。如果你用while循環(huán)去死等這個(gè)事件CPU就在這一個(gè)按鍵上浪費(fèi)了海量的算力。而同一塊板子上可能還跑著LCD刷新、網(wǎng)絡(luò)協(xié)議棧、傳感器采集、控制算法。所以在我的體系里按鍵永遠(yuǎn)用非阻塞掃描實(shí)現(xiàn)。核心思路是把“掃描”放在一個(gè)周期性的時(shí)間片里而不是放在read函數(shù)的阻塞循環(huán)里。這樣CPU只是每隔幾毫秒查一次按鍵狀態(tài)其他時(shí)間該干嘛干嘛。4.2 非阻塞按鍵掃描的分層設(shè)計(jì)我常用的設(shè)計(jì)分三層這也是我寫代碼一貫的分層習(xí)慣第一層硬件抽象層HAL這一層只管“某個(gè)IO口在某一時(shí)刻是高電平還是低電平”。做到函數(shù)級(jí)別就可以了/* 按鍵硬件抽象層 */ int btn_gpio_get_value(int btn_id);實(shí)際實(shí)現(xiàn)可能是讀GPIO寄存器、也可能是通過GPIO子系統(tǒng)接口但對(duì)上層完全透明。這就是驅(qū)動(dòng)分層的第一層隔離——硬件變了只改這一層。第二層掃描與消抖層按鍵最經(jīng)典的坑就是機(jī)械抖動(dòng)——你按一次電平會(huì)在高低之間來回彈跳好幾毫秒。必須在軟件上做消抖。我用的消抖策略是4毫秒掃描周期 連續(xù)8次采樣一致才認(rèn)為狀態(tài)穩(wěn)定。也就是按下后至少32毫秒的確認(rèn)窗口這個(gè)時(shí)間足夠覆蓋絕大部分機(jī)械按鍵的抖動(dòng)又不至于讓人感覺按鍵遲鈍。消抖層的輸出不是原始電平而是“穩(wěn)定的按鍵事件”按下、抬起、長(zhǎng)按。這些事件需要維持一個(gè)小的狀態(tài)機(jī)來處理不能是簡(jiǎn)單的電平讀取。第三層事件分發(fā)層這一層把按鍵事件翻譯成應(yīng)用層能用的回調(diào)或消息。比如短按、長(zhǎng)按、連續(xù)按多次——這些組合語義不在驅(qū)動(dòng)里做而是在這個(gè)分發(fā)層完成。這樣應(yīng)用層代碼完全不用關(guān)心底層是GPIO按鍵、矩陣鍵盤還是IO擴(kuò)展芯片。4.3 中斷式按鍵與狀態(tài)機(jī)思路的取舍說到這有人會(huì)問既然中斷可以做到“有事件才觸發(fā)”為什么還要用輪詢掃描我的回答是兩者不沖突看場(chǎng)合。系統(tǒng)處于休眠狀態(tài)時(shí)中斷式喚醒是必須的——深度睡眠期間不可能靠輪詢來低功耗掃描按鍵這時(shí)候按鍵必須接到可喚醒中斷源上。但系統(tǒng)正常運(yùn)行時(shí)一個(gè)已經(jīng)休眠不下來的系統(tǒng)里輪詢反而比中斷更可控因?yàn)樗烊粠r(shí)間基準(zhǔn)和消抖能力不依賴硬件觸發(fā)條件。這里有一個(gè)我在實(shí)際項(xiàng)目里踩過的坑說出來供參考一開始做中斷式按鍵每個(gè)按鍵申請(qǐng)獨(dú)立的中斷號(hào)配合debounce timer做消抖。結(jié)果板子上的按鍵一多中斷頻繁觸發(fā)導(dǎo)致主控頻繁在中斷和定時(shí)器之間切換系統(tǒng)的實(shí)時(shí)性反而變差了。后來改成了“一個(gè)定時(shí)器驅(qū)動(dòng)輪詢掃描所有按鍵”的方案CPU開銷更小邏輯也更簡(jiǎn)單。所以我的建議很明確按鍵數(shù)量超過4個(gè)且平時(shí)沒有休眠需求優(yōu)先考慮輪詢掃描數(shù)量少、有休眠喚醒需求才上中斷式。還要補(bǔ)充一下狀態(tài)機(jī)的價(jià)值。按鍵掃描層里設(shè)計(jì)一個(gè)按鍵狀態(tài)機(jī)松開、按下確認(rèn)、長(zhǎng)按觸發(fā)、抬起確認(rèn)能幫你把復(fù)雜按鍵語義理得很清楚。狀態(tài)機(jī)的好處是它把時(shí)間維度的信息顯式建模了——“按下持續(xù)了多少毫秒”是一個(gè)屬于狀態(tài)機(jī)的概念不是屬于電平的概念。用過一次你就會(huì)發(fā)現(xiàn)把按鍵交互做得再?gòu)?fù)雜都不怕。5. 國(guó)產(chǎn)芯片、汽車嵌入式與GPU驅(qū)動(dòng)產(chǎn)業(yè)視角下的技能棧5.1 不同行業(yè)對(duì)嵌入式驅(qū)動(dòng)的需求差異我在嵌入式這行混了幾年一個(gè)最直接的感受是嵌入式是一個(gè)極其寬泛的領(lǐng)域不同行業(yè)對(duì)驅(qū)動(dòng)開發(fā)的要求完全不同。如果你的目標(biāo)是就業(yè)一定要想清楚自己想切入的方向。消費(fèi)電子方向比如手機(jī)、平板、IoT設(shè)備驅(qū)動(dòng)開發(fā)更多是在SoC原廠SDK上做裁剪適配重點(diǎn)是模塊化驅(qū)動(dòng)、低功耗、快速啟動(dòng)對(duì)Linux內(nèi)核機(jī)制的理解要求比較深面試常問的八股文也主要來自這個(gè)方向。工業(yè)控制方向比如PLC、運(yùn)動(dòng)控制卡、數(shù)據(jù)采集模塊驅(qū)動(dòng)開發(fā)的重點(diǎn)是確定性中斷延遲、任務(wù)調(diào)度、通信總線CAN、EtherCAT的實(shí)時(shí)性這塊對(duì)裸機(jī)驅(qū)動(dòng)和RTOS的經(jīng)驗(yàn)更看重。汽車嵌入式方向這幾年非?;?。它跟前面兩者都不一樣它有功能安全等級(jí)ISO 26262約束有AUTOSAR軟件架構(gòu)框架代碼規(guī)范和審查流程非常重。驅(qū)動(dòng)開發(fā)的職責(zé)被極大地“體系化”了——你寫的每一個(gè)驅(qū)動(dòng)都要對(duì)應(yīng)到軟件需求、架構(gòu)設(shè)計(jì)、單元測(cè)試、集成測(cè)試的文檔鏈路上。如果你擅長(zhǎng)寫代碼但不擅長(zhǎng)寫文檔進(jìn)汽車行業(yè)會(huì)很難受。GPU驅(qū)動(dòng)方向說實(shí)話門檻比一般嵌入式高一個(gè)檔次。它要求你同時(shí)懂操作系統(tǒng)內(nèi)核、圖形學(xué)基礎(chǔ)、并行計(jì)算原理和具體GPU硬件架構(gòu)。而且這個(gè)崗位在國(guó)內(nèi)相對(duì)稀缺招聘量不大但薪資也明顯高于一般嵌入式驅(qū)動(dòng)。有機(jī)會(huì)接觸底層圖形棧的話積累的經(jīng)驗(yàn)價(jià)值很高。我的建議是剛?cè)胄械臅r(shí)候不要管哪個(gè)方向先把Linux內(nèi)核驅(qū)動(dòng)基礎(chǔ)打牢然后選擇一個(gè)行業(yè)方向深耕兩年。驅(qū)動(dòng)開發(fā)的技術(shù)??缍群艽鬁\嘗輒止只會(huì)讓你永遠(yuǎn)在低水平項(xiàng)目里循環(huán)。5.2 嵌入式AI傳統(tǒng)驅(qū)動(dòng)開發(fā)者的新機(jī)會(huì)熱搜詞里看到“嵌入式AI測(cè)試”和“AI嵌入式”我多說幾句。很多人覺得AI和驅(qū)動(dòng)開發(fā)是兩條技能樹其實(shí)完全不是。AI嵌入式設(shè)備跑神經(jīng)網(wǎng)絡(luò)的時(shí)候真正卡脖子的恰恰是驅(qū)動(dòng)層NPU驅(qū)動(dòng)要管理內(nèi)存、搬運(yùn)權(quán)重、處理中斷、做DMA調(diào)度——這些內(nèi)核機(jī)制和普通驅(qū)動(dòng)并沒有本質(zhì)區(qū)別只是換了一個(gè)性能要求更苛刻的硬件端點(diǎn)。如果你能寫好普通的Linux驅(qū)動(dòng)上手NPU驅(qū)動(dòng)會(huì)非常順暢。反過來AI測(cè)試這個(gè)方向也值得驅(qū)動(dòng)工程師關(guān)注。因?yàn)轵?qū)動(dòng)是系統(tǒng)里最靠近硬件的一層出的問題往往要在軟硬件交界處排查?,F(xiàn)在的嵌入式AI測(cè)試工具越來越強(qiáng)調(diào)在目標(biāo)板上直接跑模型評(píng)測(cè)而不是只在云端跑仿真。這里面涉及大量驅(qū)動(dòng)層適配和性能剖析工作傳統(tǒng)驅(qū)動(dòng)工程師反而是最合適的人選。5.3 別被“八股文”帶偏面試考的是原理還是應(yīng)用提到嵌入式面試八股文我有點(diǎn)又愛又恨。愛的是它確實(shí)系統(tǒng)地把內(nèi)核機(jī)制梳理成了便于復(fù)習(xí)的知識(shí)點(diǎn)——互斥鎖和自旋鎖的區(qū)別、中斷上半部和下半部、內(nèi)存屏障的作用、死鎖的四個(gè)條件。這些是驅(qū)動(dòng)開發(fā)躲不開的概念背一背沒壞處。恨的是很多人只背了結(jié)論不理解應(yīng)用場(chǎng)景。面試官一問“你項(xiàng)目里哪里用到了自旋鎖”就啞火。八股文背書只能幫你過第一輪篩選真正讓面試官覺得你“靠譜”的永遠(yuǎn)是你對(duì)項(xiàng)目里坑的理解、對(duì)方案的取舍邏輯、對(duì)故障的排查思路。我建議的復(fù)習(xí)方式是這樣的挑一個(gè)自己最熟的驅(qū)動(dòng)模塊把相關(guān)的內(nèi)核機(jī)制、數(shù)據(jù)結(jié)構(gòu)、API調(diào)用鏈全部梳理一遍。比如你寫過I2C驅(qū)動(dòng)就順著“i2c_adapter注冊(cè) → 傳輸函數(shù)封裝 → 從設(shè)備驅(qū)動(dòng)probe → 用戶空間訪問接口”這條鏈路把涉及的知識(shí)點(diǎn)全部串起來。面試官問任何知識(shí)點(diǎn)你都能從這條鏈路里找到一個(gè)具體的對(duì)應(yīng)點(diǎn)講給他聽。這比背一百道八股文效果好得多。5.4 學(xué)習(xí)路線的現(xiàn)實(shí)建議最后給還在打基礎(chǔ)的朋友一些學(xué)習(xí)建議這些是我自己走彎路后總結(jié)出來的先攻硬件基礎(chǔ)看懂原理圖、了解I2C/SPI/UART時(shí)序、熟悉GPIO和中斷控制器這是驅(qū)動(dòng)開發(fā)的前提。不懂硬件只看軟件寫出來的驅(qū)動(dòng)經(jīng)常直接燒板子。再通關(guān)Linux內(nèi)核基礎(chǔ)設(shè)備樹、字符設(shè)備框架、platform驅(qū)動(dòng)模型、中斷子系統(tǒng)、內(nèi)核同步機(jī)制。完成這些后可以嘗試把一個(gè)小外設(shè)的驅(qū)動(dòng)從零寫完包括設(shè)備樹節(jié)點(diǎn)、驅(qū)動(dòng)注冊(cè)、數(shù)據(jù)讀寫接口。然后做一個(gè)小而完整的項(xiàng)目別追求大而全就做一個(gè)溫濕度傳感器驅(qū)動(dòng) 一個(gè)按鍵驅(qū)動(dòng) 應(yīng)用層讀取和展示完整跑通。這個(gè)項(xiàng)目會(huì)逼著你把文件系統(tǒng)、應(yīng)用層接口、調(diào)試手段全部串起來。持續(xù)迭代和閱讀源碼驅(qū)動(dòng)開發(fā)的上限取決于你對(duì)內(nèi)核的理解深度。源碼是最好的老師不要只看注釋要順著調(diào)用鏈往下追讀的時(shí)候隨手畫調(diào)用流程再對(duì)比實(shí)際現(xiàn)象驗(yàn)證猜測(cè)。重視調(diào)試工具我在驅(qū)動(dòng)的調(diào)試上用的最多的三板斧內(nèi)核日志、devmem工具直讀寄存器、萬用表和示波器。真正的驅(qū)動(dòng)調(diào)試是軟硬件聯(lián)合排查只會(huì)打日志的效率太低。6. 我的日常工作流與踩坑記錄寫到最后分享一套我自己沉淀下來的驅(qū)動(dòng)開發(fā)日常流程以及幾個(gè)經(jīng)常被抓來復(fù)盤的坑。如果你能把這套流程內(nèi)化成自己的工作習(xí)慣很多低級(jí)錯(cuò)誤根本不會(huì)出現(xiàn)在你身上。日常開發(fā)流程大概是這樣的拿到新的芯片或板卡先做最小系統(tǒng)驗(yàn)證串口通、時(shí)鐘對(duì)、GPIO能翻轉(zhuǎn)。這一步不要跳過后面所有調(diào)試都依賴于一個(gè)穩(wěn)定的基礎(chǔ)平臺(tái)。設(shè)備樹和啟動(dòng)日志先行。先把板卡的內(nèi)核啟動(dòng)日志完整看一遍確認(rèn)設(shè)備樹解析成功、驅(qū)動(dòng)匹配上了再開始寫功能代碼。很多“驅(qū)動(dòng)不工作”的問題其實(shí)是設(shè)備樹配錯(cuò)了。寫驅(qū)動(dòng)時(shí)遵循“能靜態(tài)驗(yàn)證的先靜態(tài)驗(yàn)證”先檢查寄存器地址、位定義、中斷號(hào)、時(shí)鐘使能不要急著上電調(diào)代碼。每次改動(dòng)只改一個(gè)變量驗(yàn)證通過再改下一個(gè)。這條聽起來像廢話但我在實(shí)際項(xiàng)目里見過太多同時(shí)改三四個(gè)地方然后不知道哪里錯(cuò)的人。驅(qū)動(dòng)代碼合入前必做代碼評(píng)審重點(diǎn)關(guān)注鎖的使用、中斷上下文、內(nèi)存釋放路徑這三個(gè)地方最容易埋雷。幾個(gè)復(fù)盤的深坑每一個(gè)都讓我多熬了兩天夜GPIO復(fù)用沒查清。芯片的同一個(gè)引腳可能同時(shí)承擔(dān)UART、I2C、PWM功能設(shè)備樹里配了I2C但沒改pinmux的復(fù)用關(guān)系結(jié)果I2C波形完全是亂的。排查這類問題用示波器看引腳電平比看代碼更高效。中斷申請(qǐng)失敗。中斷號(hào)在設(shè)備樹里配的是邏輯中斷號(hào)結(jié)果驅(qū)動(dòng)里用了物理中斷號(hào)去請(qǐng)求返回-EINVAL還百思不得其解。內(nèi)核里中斷號(hào)的轉(zhuǎn)換要經(jīng)過irq_of_parse_and_map這一步不是可選的。DMA緩沖區(qū)的cache一致性沒處理好。接收數(shù)據(jù)時(shí)偶爾出現(xiàn)半新半舊的數(shù)據(jù)排查了兩天才意識(shí)到是cache沒有無效化正確處理方式是用dma_sync_single_for_cpu()做同步別試圖靠“手動(dòng)加延遲”這種土辦法繞過。掉電重啟后設(shè)備狀態(tài)不干凈。一些外設(shè)芯片掉電后再上電內(nèi)部狀態(tài)還在上一次的殘留狀態(tài)驅(qū)動(dòng)初始化時(shí)就必須做完整復(fù)位流程寧可多等幾百毫秒不要直接開始操作寄存器。這些坑在教科書上不會(huì)寫每一個(gè)都是實(shí)際項(xiàng)目里真金白銀買回來的教訓(xùn)。我也沒打算把它們變成什么“標(biāo)準(zhǔn)答案”踩坑本身就是一個(gè)驅(qū)動(dòng)工程師成長(zhǎng)最快的過程。希望這篇文章里的一些思路能讓讀到這里的你少走幾個(gè)彎路把更多精力花在真正有價(jià)值的設(shè)計(jì)和優(yōu)化上。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷五月天免费视频| 亚洲视频码| 日本特黄aaaaa| 丁香五月婷婷综合激情啪啪啪啪啪啪啪| 色色色网站| 9999热精品在线免费播放| 97碰碰叉| 色色99| 舔色婷婷| 超碰国产AV| 亚洲天天免费| 亚洲天天免费| 婷婷激情五月天激情在线| 激情五月天.色网| 丁香婷婷色五月| 思思热久久婷婷五月天| www,婷婷五月天777me,com| 123草逼网| 丰满少妇猛烈A片免费看观看| 欧美日韩成人在线网站| 人人操五月天| 思思热99热| 五月天成人伊人| 97香蕉久久超级碰碰高清版| 性高潮久久久久久-九九九九九九九九九九热-成人AV | 激情小说五月天| 激情图片五月天| 婷婷 亚洲图片 丁香| 久久精品婷婷五月丁香| 啪啪黄页网| 久草婷婷在线| 99操网站| 99热一本久道| 99久久婷婷五月综合| 婷婷色色网站| Caoporn公开| 一本大道伊人AV久久综合| 激情综合五| 色婷婷丁香五月| 久热视频这里只有精品68| 激情五月激情综合俺也去婷婷小说| 综合激情肏逼网| 99精品网址| 欲色人妻| 大香蕉天堂| 2016日日夜夜操| 色色色色色色色色色色色色色色,网站| 亚洲第一成人无码A片| 九九综合| 日韩有码一区| 伊人婷婷大香蕉| 操逼综合网| 91seAV| 五月停视频天堂| 婷婷综合性爱网| 婷婷五月丁香第四色超碰在线| 做爰丰满少妇1313| 就去色色五月丁香婷婷久久久| 超碰只有精品在线| 人人爽欧美婷婷久久久五月丁香| 超碰成人在线观看| tingting五月天亚洲| 亚洲丁香五月深爱五月| 色综合色综合色综合色综合| 色狠狠综合网| 99超超碰| 五月丁香婷婷综合久久| www..com色爱| 欧美激情综合色综合啪啪五月| 蜜臀99精品| 97碰碰视频在线观看免费| 九九aV| 九色婷婷| 日韩无码性爱| 91操操操| www..999热久| 天堂久久久久天堂网| 激情丁香久久| 亚洲射激情| 99爱在线视频观看| 久久九九国产精品怡红院| 亚洲成av人影院| tingtingcaobi| 亚洲不卡123| 97资源欧美日韩大香蕉超碰一区| 五月天全国最大成人网| www.婷婷亚洲基地| 伊人喵咪a V| 99在线热视频| www,五月天激情| 国産精品| 欧美月久久| 久久98| 久久这里只有精品1| 亚洲在线操| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 九九色人| 五月天婷婷在线AN| 久久在线视频免费观看| AV电影在线播放| 婷婷综合伊人丁香| 色噜噜狠狠色综合日日| 99A级片| 五月天婷婷在看| 色亚洲激情| 大香蕉啪啪啪| 99riAv1国产在线观看| 日本婷婷丁香五月| 99精品网| 五月丁香另类图片| 国产无人区大片| 99精品国产在热久久| 91丨九色丨老农村| 色五月在线观看| 色婷婷五月在线| 亚洲中文丁香| 天天干天天干天天操| 99色综合久久| 亚洲99在线| 色热久| 91窝窝| 久久色在线视频| 操逼巨乳91| jiujiuxiangjiaowang| 丁香五月天欧美成人| 五月丁香六月激情视频| 激情文学 综合 九月| 成人羞羞啪啪 全 视频| 久久99热这里只频精品6学生| 日本天堂免费99| 激情亚洲婷婷六月| 123日本不卡在线| 五月六月激情婷婷| 婷婷无码视频| 大香蕉婷婷婷| 色亭亭五月天丁香综合AV - 百度 - 百度 | 琪琪理论片| 亚洲综合五月天婷婷丁香| www久久久久久久久久久久久久久久久| 色婷婷综合久色AV五色最新| 69婷婷丁香午夜| 九九热自拍| 激情五月黄色| 99视频在线| 久久激情综合| 激情综合网,婷婷五月天| 天天干天天爽天天操| 天天日,夜夜爽| 激情五月激情综合俺也去婷婷小说 | 青青草tp| 99ri国产在线| 天天搞夜夜爽夜夜爽| 99精品一二三四视频| 日韩精品在线观看9| 开心五月综合激情综合五月| 碰人人97| 变态另类9| AV无码免费| www.色婷婷| 9超碰在线| 色婷婷丁香五月在线观看| 久久受www免费人成| 99热精这里只有精品| 野战J办公桌椅H| 日韩av大全| 久久精品国产AV一区二区三区 | 热久久99热欧美国产亚洲| 免費观看aV在线网址| 天堂AV在线看| 九热...av| 亚洲精品国产成人AV在线| 中文字幕在线观看视频www| 午夜一区| 69er小视频| 操97在线观看| 99热偷拍| www.六月丁香看AV| 中文字幕AV在线播放| 人妻内射视频| 婷婷五月天欧美| 亚洲无码www| 婷婷激情在线| 五月丁香婷婷五月色| 成人草榴视频| 涩五月婷婷| 色五月av伊人| 色久女| 激情五月天色播| 激情都市五月天| 99久久婷婷综合| 熟女网站久久| 日韩在线五月天婷婷| 五月婷婷婷综合网| 五月天婷婷色播综合在线| 欧美xx激情视频在线观看| 超碰免费人妻| 久久丁香九| 亚洲激情综合| 婷婷六月综合基地| 开心五月婷婷99| www99在线观看视频| 五月天激情国产综合婷婷婷| 欧美在线视频免费播放| 五月丁香五月天现场视频| 亚洲无码www| 99在线免费观看| www激情网| 99九九综合久久九九| 欧美色综合天天久久综合精品| 久久99热在线观看| 开心五月婷| 亚洲美女高潮久久久久久69| 中文字幕第四色.999| 人人爱人人草| 99精品自拍| xfplayav在线| 五月天播播综合| 伊人9在线| 国产成人精品一区二区三区视频| 激情五月影院| 激情综合五月丁香| AV成人在线播放| 婷婷五月色网| 视频这里只有精品16| 91精品在线看| 色婷操逼| -91九色大屁股| 色很久综合| 亚洲中字AV电影在线网站| 91丨九色丨大屁股| 色婷婷网| 五月丁香综合| 婷婷在线免费| www99热| 婷婷五月天综合在线| 婷婷激情丁五月| 激情婷婷丁香五月天小说| www.刺激色网站www.| 婷婷丁香激情五月天色色色| 5月丁香美女影院| 五月综合无码| 色婷五月| 亚洲乱码日产精品BD| 97精品欧美91久久久久久久| 五月婷婷啪啪啪| 日本狠狠色| 丁香美女主播视频在线观看 | 人人摸人人| 俺去也在线视频| 五月婷丁香久久久| 亚洲另类噜噜| 色综合色| 玖玖色综合网| 操一区| 婷婷激情综合| 91夫妻视频| 最新高清无码专区| 另类婷婷五月天啪帕帕| 婷婷丁香五月激情密臀av| 色偷偷人人| 丁香五月伊人| 国产精品视频| 天天综合亚洲综合网天天αⅴ| 99re熱| 狠狠五月激情在线| 三十路磁力链接| 99在线看片| 婷婷五月天激情五月天网站| 日本99在线| 色五月91| 亚洲精品又粗又大又爽A片| 无码少妇高潮喷水A片免费| 久久久国产精品黄毛片| 秋霞少妇毛片| 九九亚洲视频| 六月天丁婷婷| 色情久久久| 99无码黄色视频| 色色色综合网| 亚洲成片在线观看| 五月色丁香综合| 五月丁香 久久久| 思思热国产| 天天做天天爱天天爽综合网| 婷婷久久色| 无码人妻少妇色欲AV一区二区 | 久热久色| 99热这里只有免费精品| 久久人妻久久| 久久五月天丁香| 婷婷丁香宗合888| 婷婷色女| 免费看欧美成人A片无码 | 五月激情婷婷国产精品久久久久久| 五月丁香六月综合激情| 人妻熟人中文字幕一区二区| 色天堂在线| 欧美天天爽| 思思热久久爱| 激情综合网激情五月天| 久久99精品久久久| 深爱激情五月天色婷婷| 综激情网| 国产91在线视频| 婷婷九月激情| 玖玖婷婷五月天| 五月婷婷开心网| 日韩人妻在线播放| 婷婷天天插天天爱| 大香蕉婷婷色| 国产在线自| 99热6这里只有精品6| 婷婷情爱五月天6| 播播网色播播| 97色97干| 色色网站| 久久婷婷五月天大香蕉| 深爱 五月天| 99综合网| 9热在线视频| 夜夜躁狠狠 | AⅤ网站在线看| 久久久久亚洲AV成人无码电影| 六月丁香五月激情网| 91色噜噜狠狠狠狠色综合| 成熟妇人A片免费看网站| 亚洲色婷婷五月天| 日日色综合| 日本精品人妻无码77777| 婷婷人人操| 久久性爱视频这里只有精品| 国产免费性爱| sewuyue第四色| 亚洲天堂热| 五月丁香婷婷婷激情爱爱| 婷婷四色五月| 男人先锋久久| 激情都市五月天| 五月婷婷av| 激情文学第四色婷婷丁香五月| 思思精品久久艹| 九九热视频在线观看| 五月天操逼网| 久久婷婷网站| 亚洲成人网在线观看| 天天做好综合色| 99天堂在线观看免费视频| www色婷婷久久综合久色| 中文字幕不卡+婷婷五月| aaaa.黄| 天天操夜夜爽| 五月天激情亚洲| 婷婷六月色情| 雪千夏麻豆| 五月丁香六月综合激情网| 白人荫道BBWBBB大荫道| 狠狠操天天日| 在线色婷婷| 99热只有精| 在线看AV| 99九九热视频| 五月天亚洲图片婷婷| 日韩无码成人电影| bbwcuckold精品熟妇| 亚洲热视频| 丁香五月激情宗合网| 99色婷婷视频| 天天日人人| 疯狂做受XXXX高潮A片| 激情六月五月婷婷综合网| 丁香五月天堂| 婷婷亚洲色| 久久99激情五月天| WWW.婷婷五月天.COM| 日韩综合网络男女香蕉a片| 色域五月婷婷丁香| 五月婷婷伊人网| 色婷婷成人色网| 另类激情网| sewuyuetingtingiii| 色欲婷婷五月天丁香| 91碰| 五月丁香久久综合91| 五月婷婷色激情| 久一网站| 夫妇交换刺激做爰| 五月婷婷成人| 丁香五月天激情婷婷丁香六月| 婷婷香草网| 激情五月婷婷丁香| 久热这里只有精品性色AV| 日韩一区二区A片免费观看 | 午夜在线成人网站免费观看| 99狠狠| 色婷婷色五月另类综合| 欧亚中文A V| 色婷婷免费观看| 美女婷婷六月色| 亚洲视频码| 欧美精品999| 伊人丁香五月| 99热新网址| 午夜无码熟熟妇丰满人妻| 婷婷五月天精品| 久久这里只有精品久久| 性爱五月婷| 无码色色色| 巴基斯坦粉嫩无码视频| 婷婷五月天美女| 麻豆忘忧草午夜| AV大香蕉| 狠狠干在线| 九九99视频精品| 五月婷婷色色网址| 思思9久久| 久久92| 五月婷六月丁香| 爱久综合| 婷婷九色| 丁香五月天堂亚洲社区| 欧美内射AAAAAAXXXXX| 久狠狠| 婷婷日| 久久99精品久久久久久噜噜| 六月丁香婷婷爱| 丁香五月天激情综合| 日韩无码色色| 人人人人人人人草| 色九月激情综合网| 丁香五月天欧美成人| 丁香五月777| 综合狠久久| 狠狠干,狠狠操| 五月天精品| 天天影视色综合网| 五月天婷婷色播| 中文字幕在线播放视频| 91网站黄| AV成人在线播放| 久久综合9| 少妇2做爰HD韩国电影| 91人妻PORNY九色大屁股| 五月天激情小说欧美激情| 婷婷丁香视频| 欧美另类五月激情| 五月天自拍视频| 色五月婷婷狠狠撸| 狠狠看狠狠| 香蕉综合在线| 成片免费观看视频大全| 亚洲成人网在线观看| 九伊人网| 丁香婷婷色九月| 欧美一线视频| 色私五月婷婷| 成人五月丁香社区| 天天草人人摸| 五月六月丁香婷婷在线观看| 婷婷丁香五月视频| 色婷婷色情| 五月婷婷香蕉| 天天操夜夜爽| 色欧洲| 亚洲六月婷婷| 91成人品| 久久性视频| 337p大胆噜噜噜噜噜91Av| 99热最新网址| A短视频免费在线观看| 五月天sesese| 亚洲色五月婷婷| 91久久电影| 丁香五月最新地址| 丁香婷婷精品视频| 第四色婷婷五月| 五月婷婷色情| 五月亭亭直播| 婷婷丁香人妻天天爽| 色色亚洲视频| 亚洲天堂婷婷| 日韩超碰在线| 五月丁香六月婷婷在线小说视频| 五月综合缴情网| 99热这里只有精品1| 久婷婷色| 操碰97| 婷婷丁香综合网| 免费观看日韩成人av| 久9精品| 97超碰人人操| 五月天激情无码高清| 中文在线视频久1| 欧美在线视频免费播放| 最近韩国日本免费高清观看| 婷婷久久色| 99热在线精品播放| 亚洲成人电影aaaa| 久久伊人9| 五月婷婷丁香| 97自拍99| 五月天色婷婷视频| 国产精品成人AV在线| 这里只有精品视频| 人人操碰| 婷婷丁香五月激情综合站_久久五月丁香激情综合_开心五月综合激情综合五月_婷 | 激情五月黄色小说| 舔色婷婷| 性av| 久久狼人天堂| 欧美va欧美va差| 六月婷婷av| 精品亚洲国产成AV人片传媒| 色99热| 婷婷六月激情丁香| 大香蕉久操| 婷婷五月另类网站| 色五月婷婷五月丁香五月激情五月视频| 激情五月婷在线精品| 婷婷五月色情天| 牛牛澡牛牛爽| 亚洲综合视频天天精品| 99九九视频精彩在线| 极品人妻VIDEOSSS人妻| 色欲九区| 色丁香五月| 国产午夜成人AV在线播放| 色婷婷激情四射视频| 欧美色碰| 97久久超碰| 日本 色综合| 五月天免费色| 91丨九色丨国产打屁股| 影音先锋男士资源网一区| 色吧五月| 五月天丁香成人| 男女久久婷婷五月天| 天天干狠狠| 久久天堂精品| 99免费在线| 午夜天堂一区人妻| 开心五月激情| 亚州色色色| 七七九色| 97亚洲婷婷| 婷婷综合玖玖五月| 久久66成人网站| 日韩中文字幕| 日本ww亚洲| 色噜噜狠狠色综无码久久合欧美| 原琪琪色影院| 人人操97| 丁香五月婷婷色情综合| 久久婷婷网| 婷婷五月天大香蕉| 99爱视频| 久碰久操| 99在线精品观看99| 天堂A∨在线| 伊人久久五月天| 综合激情肏逼网| 99精品在线观看| 97ai婷婷| 天天综合精品| 日本天堂爱爱| 97碰| 激情欧美婷婷| 极品少妇XXXX精品少妇偷拍| 丁香亚洲婷婷五月| 九九色网专区| 26uuu欧美日本| 综合九九日本| 激情綜合網址| 久久免费精品小视频| 亚洲综合成人网| AV电影在线播放| 色五月婷婷丁香五月| jiujiu热在线视频| 97碰碰碰免费公开在线视频| 五月丁香婷婷伊人| 五月花激情网| 六月 丁香 视频| 色婷婷婷av| 亚洲无AV在线中文字幕| 热成人网| 99视频网址| 精品久久久人妻| 精品网站99| 开心色色五月天综合| 婷婷丁香在线播放| 97色97干| 色色99| 久久婷婷激情视频| 97人人操在线| 色狠狠色噜噜AV天堂五区| 亚洲婷婷激情888精品久| 丁香五月婷婷高清| 国产精品电影| 欧美成人精品老美女噜噜噜| 色99自拍| 美国少妇性做爰| 婷婷五月色播放| 五月丁香六月婷综合成人综合 | 成人丁香五月婷| 9久热| 亚州视频九九99| 久久女人九九| 五月丁香综合激情| 激情五月五月婷婷| 五月激情丁香久久综合网| 91久女| 碰碰91| 婷婷五月综合啪| 激情亚洲婷婷| 91丨九色丨首页| 婷婷综合色色| 五月婷婷开心综合| 欧美天天五月丁香免费观看| 五月五月婷婷| 国产精产国品一二三在观看| 青青草原亚洲天堂| 日韩色色视频www| www.99热视频| 久久女人九九| 欧美色图片88| 精品久久艹| 成人丁香五月天| 婷婷五月天激情四射五月天激情| 九伊人网| 国产激情一区| 成人国产欧美大片一区| 欧美影院婷婷| 99这里只有精品视频| 九九sese| 久久九色| 久婷婷五月综合欧美| 色色色色欧美| www.色五月| 99婷婷国产最新视频| 免费三级黄色| 亚洲亚洲人成综合网络| 色综合婷婷| 久久五月丁香| 婷婷五月天在线观看免费| 亚洲精品va| 天天久综合网永久入口17v| 91怕怕网| 激情综合文学| 五月停视频天堂| 天天色粽合合合合合合合| 日韩一级片| 婷婷五月丁香欧洲| 停婷丁五月在线| 婷婷五月天激情综合深爱激情| 亚洲亚洲人成综合网络| 婷婷五月激情五月激情| 婷婷综合色色| 丁香六月色婷婷| 伊人色综合网| 色情成人五月天| 嫩草乱码一区三区四区| 婷婷丁香人妻天天久久| 五月丁香六月情亚洲| 婷婷激情鹿城五月天| 激情美女五月天| 婷婷丁香五月av| 久久精彩综合视频| 丁香六月婷婷综情欧美| 久久99这里只有精品| www久久久| 99热精品在线观看| 秋霞黄色一级久久| WWW色综合| 亚洲色色爱| 99亚洲综合| 五月婷婷久久开心网| 九九精品这里只有| 婷婷色日本| 1010日日无码| 开心激情五月天网| 色婷婷狠| 六月婷婷色| www.久久| www.色多多婷| 婷婷久久婷婷色五月| 丁香久久九九99| 在线观看亚洲视频影院| 丁香五月婷婷啪啪| 激情五月无码| 99热99热不卡| 97欧美在线| 99性视频| 夜夜嗨一区二区三区直播内容 | 色婷婷综合网站| 婷婷色婷婷| 国产成人AV| 五月丁香A片| 天天操中文字幕| 国产日批视频免费播放| 五月丁香色狠狠干大屄| 激情图片五月天| 色婷婷综合网站| 亚洲亚洲人成综合网络| 亚洲国产网址| 一起草av| 婷婷色情五月| 色综合色综合网| 白人荫道BBWBBB大荫道| 九九激情视频| 综合五月草| 17.c黄色| 开心五月网| 99精品久久久久久| 久久99精品九九久久久婷婷| 九月婷婷丁香| 色玖玖综合网| 婷婷大香焦| 婷婷五月综合社区| 亚洲国产精品成人va在线观看| 另类激情中文| 成人做爰高潮A片免费视频| 一区二区三区四区牛| 狠狠综合| 亚洲五月花| 激情综合五月| 99人人操人人操人人精| 亚州日本欧州韩美高青高潮一| 99色综合| 亚洲九九99精品视频在线播放| 激情久久肏屄视频| 洗浴中心操B视频| 深爱五月激情| 五月丁香久久综合色| 日日夜夜青青草| 伊久久婷婷| 黄色AAAA韩国guochansanji| 亚洲性天天| 婷婷娌伦网| 五月天丁香啪啪网| 综合激情五月丁香9999久久精| 婷婷丁香五月天激情| 97色婷婷| 丁香综合伊人| 国产91视频| 九九激情视频| 丁香五月激情综合啪啪| 亚洲五月天激情| 超碰91人人操| 成人va视频| 国内精品免费一区二区2009| 激情五月天啪啪视频| 九九无码| 日本9区视频| 热这里| av国产精品| 色婷婷五月影视| 99激情网| 黄色成人网站在线播放| 99热成人| 99碰碰中文| 亚洲日日操| 色色色色色色综合网| 99视频久久免费视频| 免费黄色片子| 丁香婷婷黄网站| 亚洲免费av在线| 久久精品女人天堂AAA| 国产精品久久7777777精品无码| 少妇被下春药玩弄A片| 婷婷在线观看五月天在线视频| 亚洲AV网站| 在线观看亚洲视频影院| 激情久久久久久久久| av免费在线网站| 五月天天视频| 天天色99| 97色片| 天堂A∨在线| 99re思思久久| 五月天婷婷基地丁香| 开心五月深爱五月| 久久久er热| 婷婷在线视频| 成人网站免费sxj| 伊人丁香在线| 五月婷婷AV| 99热只有精品在线| 五月天色综合| 99热r| 极品人妻VIDEOSSS人妻| 亚洲综合视频一下| 91男人资源站| 狠狠操天天干| 99人人干| 99热这里| 综合激情网激情五月。| 琪琪色影音先锋| 人人妻人人澡| 五月六月丁香激情视频| 亚洲无AV在线中文字幕| 国产精品五月天婷婷| 99超碰在线免费| 美女精品一级不卡视频| 五月丁香六月激情综合网| 极品少妇高潮啪啪AV无码| 久久丁香五月婷婷| 五月婷婷九| 久草婷婷| 婷婷开心激情综合五月天| 综合激情九月婷婷,激情综合婷婷中文字| 天天插天天爱| 综合激情伊人影视在线| 亚洲偷| 噜噜狠狠色综合久| 久久亚洲A| 一本到不卡高清DVD| 六月色婷婷| 天天爽天天爽天天爽天天爽天天爽| 成人无码精品1区2区3区免费看| 激情五月综合网最新| 日本97在线| 国产看真人毛片爱做A片| 97韩国久久电影院| AV在线观看网站| 艳妇野外情欲放荡HD| 色噜噜五月天| 天天日综合网射| 久青草大香蕉| 婷婷综合在线| 九九热视频在线观看| 草操AV在线| 天天网曰日曰夜夜综合永久免费| 五月婷婷片| 99久久久| 亚洲va日| 六月婷婷综合久久| 日韩人妻AV在线| 99自拍视频网站| 色婷婷五月综合网| 99色综合| 99er热精品视频| 国产精自产拍久久久久久蜜| 少妇人妻人伦A片| α久久| www狠狠| 91色欲综合| 久青草影院| 五月婷婷天堂| 婷婷六月激情综合| 99热这里只有精品手机在线观看| 97久久五月丁香婷婷| 熟妇内谢69XXXXXA片| 91狠狠色丁香| 男人的天堂五月丁香| 婷婷色五月噜噜| 亚洲无码成人| 狠狠久久婷婷| 超极99精品| 俺也去色| 五月丁香六月综合激情| 国产精品色婷婷久久久精品| 天天草天天日| 嫩草综合网| 26uuu视频欧美| 欧美五月婷婷| 国产综合81p| 婷婷五月激情在线| 男人先锋久久| 99国产精品白浆在线观看免费 | 26uuu美女三级视频| 久久总和99| 丁香五月性爱爱五月| 亚洲无码性爱| 国产成人AV不卡| 中文字幕日产A片在线看| 开心激情网五月天| 99久视频| 五月丁香六月香香蕉| 涩婷婷五月天在线精品视频| 六月婷婷久久大全| 99热99热99热99热| 深爱五月亚洲| 精品一区二区三区木瓜| 色天天久婷婷| 色综合xx| 26uuuavcom| 日韩六十路91性交电影| 99re这里只有精品免费| 伊人大香五月天| 色五月丁香总合网| 五月天婷婷午夜丁香| 99免费成人网| 久久激情综合| 欧美毛片www| 综合久久五月| 天天综合天综合| 99精吕视频在线观看了| 婷婷五月花丁香| 婷婷丁香人妻天天爽| 99久久五月婷婷| 看全色黄大色大片| 亚洲AV网址| 国产激情久久| 综合色色网| 亚洲精品久久久久久久久久飞鱼| 成人美女网| 在线播放 精品| 亚洲第二AV| 日本一级特黄大片AAAAA级| 五月久久婷婷丁香| 五月婷丁香花| 精品福利911| 婷婷色欧美激情| 天天噜噜| 精品久热| 久久精品99国产精品日本| 色色欧美色色色| Av在线资源| 亚洲黄色精品| 一夜福利不卡| 26uuu亚洲欧美| 久久婷婷视频| 日本色五月| 玖玖色综合色| 亚洲碰碰碰| 天堂婷婷五月在线| 激情小说之五月| 六月丁丁香| 久久久久久久人妻| 五月久久丁香| 黄色片精品| 5月丁香婷婷| 婷婷婷婷色| 97av在线视频| 伊人丁香在线| 精品牛仔裤超碰| www.日日日.com| 天天狠狠六月婷丁香影院| 91超级碰碰| 五月天丁香婷婷久久九| 五月丁香激情综合啪啪| 天天日狠狠| 五月天激情小说欧美激情| 国产免费AV网站| 影音先锋日本三级资源| 超碰无码318604| 色97综合婷婷天天色| 久久爱婷婷| 99热这里| 在线不卡中文字幕| 激情五月综合色婷婷| 色五婷婷在线视频| 欧美成人AAA片一区国产精品| 九月色婷婷综合| 成人久久天天x资源站| 色噜噜狠噜噜视频| 少妇真实被内射视频三四区| 一起草无码| 五月天激情久色| 激情久久久| 国产综合丁香五月天| 亚洲第一色网站| 激情婷婷五月天| 亚洲三A| 青草青草久热这里只有精品| 精品久久久人妻| 久久精品国产一区二区三区四区| 欧美VA视频| 狠狠色综合五月| 激情AV| 久久久久激情| 人人摸人人搞| 色噜噜丁香| 色婷丁香五月| 色婷婷丁香| 91色碰| 女力报到正好爱上你| 狠狠色婷婷7777久| 五月婷婷三级| 99性爱| 亚洲成人在线观看网址| 婷婷5月开心6月| 日本色五月| 九洲一级A片| 99这里有精品| 91/九色黑人| 五月丁香六月停停| 99热欧美| 婷婷五月天堂网| 超碰99久久| av激情在线| 狠狠草在线观看| 丁香婷婷五月天成人| 国产熟女日日骚五月丁香爱| 久久久GOGO无码啪啪艺术| 久久五月综合| 免费黄色视频网址| 六月99天天婷婷激情综合| 婷婷丁香五月婷婷| 激情综合在线播放| 天天干天天色综合| 亚洲av无码影院| 激情五月天无人视频在线| 男人的天堂婷婷色五月| 天天干肏夜夜| 天天日天天久久青青| 色欲日日躁| AA片在线观看视频在线播放| 无码中文一区二区三区| 国产成人精品一区二三区熟女在线| 99久久99视频只有精品| 激情婷婷丁香| 婷婷激情另类| 超碰在线caop| 5月丁香六月婷婷| 第四色色六月色综合| 狠狠五月激情丁香六月| 国产色香蕉精品五夜婷| 亚洲操B| www.五月天婷婷| 久久综合中文| 婷婷激情五月天网站| 国产美女无遮挡裸体毛片A片 | av人人操| 99性爱视频| 亚洲AV综合在线观看| 99久热| 婷婷成人综合免费视频| 亚洲亚洲人成综合网络| 丁香五月激情无码视频| 激情啪啪五月天| 亚洲不卡欧洲| 欧美日本综合网| 91中文狠狠综合| 婷婷五月天激情免费在线观看| 色婷婷久久视屏| 9久久精品| 五月丁香六月婷婷在线小说视频| 清纯唯美 激情四射| 99热这里只有精品2| 欧美99视频| 午夜天堂啪啪| 99性爱精品| 亚洲综合另类| 色情综合| 丁香五月欧美激情| av在线观看网站| 五月婷丁香| 99色色色色| 91九色国产| 亚洲午夜成人av电影网| 色综合99| 狠狠香婷婷五月| yw.av| 五月婷婷,六月丁香| 5月婷婷六月丁香| 99亚洲精品视频| 大香蕉手机视频| 五月婷婷激情综合网| 91Chinese在线| 婷婷五月天97干| 中文字幕综合| 亚洲综合视频一下| 色欲影香| 精品国产AV色一区二区深夜久久 | 五月天成人综合| 国产午夜精品一区二区三区四区 | 99在线免费视频播放| 99九九久久| 在线可以看的av网址| 五月婷婷综合激情网| 国产在线网址1| 伊人久久艹| 可以观看的AV| WWW五月婷婷| 久久嘟嘟丁香| 国产SUV精品一区二区883| 丁香婷婷性久久| 欧美成人网婷婷综合在线| 五月天婷婷爱| 国产97在线日韩亚洲女人被黑人巨大| 亚洲精品视频在线播放| 婷婷五月天电影在线| 五月婷婷干干干| 操逼巨乳91| 丁香婷婷五月份| 六月丁香激情网| 婷婷五月天AV| 五月丁香六月婷婷亚洲| 五月色情婷婷| 色婷婷偷拍| 五月丁香婷久久| 国产全是老熟女太爽了| 色丁香久久| 久久99精品久久只有精品| 春色激情第四色| 97色干| 琪琪色热色色| 色综啪啪啪啪啪啪| 欧美色男人网站| 五月丁香六月激情综合| 久热黄色| 四色五月婷婷| 婷婷五月深爱五月| 99热日| 激情婷婷色小说| 97福利视频| 国产97色在线| 丁香五月激情综合婷综| 9精品国产在热久久| 精品少妇人妻AV无码专区偷人 | 六月丁香啪啪| 另类激情五月| 六月婷欧美| 日韩久综合| 久久五月天免费网站| 伊人狼人干| 日本操B视频| 国产SUV精品一区二区883| av九九| 五月丁香色综合| 婷婷网五月天| 九九视频这里只有精品| 99精品久久久久久久婷婷| 激情五月色婷婷| 久久色9| 五月激情综合网| 五月天色婷婷综合| 亚洲天天操| 99热这里有精品| 亚洲激情网| 26uuu在线观看| 五月天成人综合| 五月天综合在线| 五月天婷综合| 五月色丁香| 五月激情综合网| 天天色宗合| 日韩无码成人电影| 激情婷婷丁香| AV网在线| 色婷婷小视频| 色色影院黄大片| xxxx久| 五月天婷婷色在线视频免费观看| 久久这里只有国产| 激情5月婷婷狠狠干| 五月婷婷综合色啪首页| 婷婷五月色亚洲| www激情婷婷com| 中文久久婷婷| 玖玖婷婷五月天| 97色婷婷| 色99最新网址| a色婷婷| 91操操| 色狠狠六月| 蜜桃五月天| 干一干xxxx| 色五月激情五月开心五月| 成 人片 黄 色 大 片| 久久男人网婷婷| 九月av| 婷婷久久午夜网| 第四色婷婷色五月| 99九九视频| 婷婷综合色色| 办公室少妇激情呻吟A片在线观看| 人人操9| 丝袜激情网| 5月婷婷综合| 天天日日夜夜爽。| 激情亚洲婷婷| 疯狂做受XXXX高潮A片| 五月婷性爱| 色九月婷婷综合| 六月激情婷婷综合| 日韩色五月| 丁香五月在线观看| 免费91久久精品| 丁香五月亚洲综合| 黄色大片又大粗又爽| 色综合日日| 日韩狠狠色| AA片在线观看视频在线播放| www.五月婷| 亚洲小视频免费看| 久久婷婷五月天综合| 久激情网| 91a片爽| 久久久18| 天天夜夜操| 精品久久久人妻| 五月丁香六月停停停| 丁香九月婷| 天天射色五月天| 五月天色不卡| 亚洲免费电影2| 激情开心五月婷婷| 大香蕉久久婷婷| 色狠狠色综合久久久绯色aⅴ影视| 久久性刺激| 亚洲久热无码| 能看的AV| 琪琪色热色色| 亚洲色综久久五月| 九九热这里只有精品6| 五月丁香六月婷婷综合| 成人色情五月天婷婷丁香| 91狠狠色丁香| 久久男人网婷婷| 99久久这里只有精品免费官网| 欧美狠狠色| 99热10在线高清播放| www.日本久久videos| 激情綜合W W W,激情五月天| 欧洲第一无人区观看| 国产色网站| 日屌日日操日日色| 国产日韩精品SUV| 草草视频91| 婷婷六月天| 狠狠色噜噜色狠狠狠综合色| 五月六月激情婷婷| www.久久| 日韩色久| 久久天天| 丁J香六月首页| 这里只有精品视频看看| 天天插天天插| 丁香五月天堂| 97久久精品| 五月婷婷七月丁香| 婷婷十月激情综合网| 7EzOBIhNq85TO| 婷婷伊人75| 九九99免费视频| 九月停停| 久久久er热| 偷拍五月丁香| 五月婷婷熟女| 五月狠狠| 色五月大| 99热精品中文字幕| 婷婷丁香色女人| 五月色俺婷婷| 99久久户外勾搭| 天天干夜夜b| 午夜不卡久久精品无码免费 | 激情五月婷婷| 欧洲亚洲免费视频9| 伊人婷婷五月天| 色很很96| 五月激情在线| anquye伊人| 天天日天天色| 欧美天天综合网站上去吧| 六月婷婷五月丁香| 五月丁香六月欧美综合| 99热综合| 亚洲射激情| 五月婷婷久久大片| 激情网综合| 97性高潮久久久| 91九色欧美| 色婷婷在线播放| 婷婷久久五月天|