簡介圖像分類是計算機視覺的基礎任務之一深度卷積網(wǎng)絡在該領域取得了突破性進展。實際應用中細粒度圖像分類與復雜背景下的目標識別仍頗具挑戰(zhàn)。利用在ImageNet上預訓練的模型進行遷移學習可以大幅降低對海量標注數(shù)據(jù)和算力的需求有效提升模型在特定圖像識別任務上的性能和訓練效率。在農(nóng)業(yè)植保場景中基于公開數(shù)據(jù)集構建害蟲圖像識別系統(tǒng)具有重要應用價值。本文以Pytorch框架為例系統(tǒng)介紹從環(huán)境搭建、數(shù)據(jù)預處理、模型選擇與微調到訓練參數(shù)調整與分類評估指標分析的完整流程。通過引入預訓練權重并針對數(shù)據(jù)集特點優(yōu)化模型驗證集上取得了良好的分類效果為使用Pytorch進行圖像識別分類、尤其是遷移學習實踐的開發(fā)者提供了一份可復用的工程參考。 Pytorch害蟲圖像識別這個項目我在實際做的時候踩了不少坑也總結出一套比較順手的流程。這里用的數(shù)據(jù)集是IP102預訓練模型作為遷移學習的起點整個方案跑下來在驗證集上能做到不錯的分類效果。這篇文章就把整個實操過程完整拆開來講——從數(shù)據(jù)集怎么組織、模型怎么改、訓練參數(shù)怎么調到分類評估指標怎么看全流程走一遍。打算用Pytorch做圖像識別分類的讀者尤其是剛接觸遷移學習、想用手頭數(shù)據(jù)集快速出一個可用模型的開發(fā)者這份記錄可以直接照著抄。1. 項目整體設計與思路拆解1.1 這個項目要解決什么問題農(nóng)業(yè)植保場景里害蟲識別一直是個剛需。傳統(tǒng)方式靠植保人員肉眼辨別效率低、門檻高而且不同蟲害在幼蟲期形態(tài)相似光靠經(jīng)驗也容易判斷失誤。用深度學習做害蟲圖像識別分類本質上是把問題轉化為一個細粒度圖像分類任務——輸入一張害蟲圖片模型輸出它屬于哪一個類別。Pytorch在這個領域是絕對的主流框架生態(tài)成熟、調試方便網(wǎng)上參考案例多遇到問題基本都能搜到解決方案。我這個項目用的數(shù)據(jù)集是IP102它是目前公開的害蟲分類數(shù)據(jù)集中規(guī)模比較大的一個包含102個類別覆蓋了水稻、玉米、小麥、棉花等主要農(nóng)作物上的常見害蟲。用這個數(shù)據(jù)集做分類既考驗模型的細粒度特征提取能力也考驗對真實田間復雜背景的魯棒性。標題里的包含預訓練模型是整套方案的核心。102類害蟲分類如果從零訓練一個深度卷積網(wǎng)絡不僅需要大量算力還需要海量標注數(shù)據(jù)。但IP102的訓練集規(guī)模大約在4萬多張直接從頭訓練ResNet這類深層網(wǎng)絡很容易過擬合。遷移學習的思路是先在ImageNet上把模型的底層特征提取能力練好然后把這些能力遷移到害蟲識別任務上只需要在頂層做適應性調整。這樣一來訓練時間大幅縮短最終精度也能顯著提升。1.2 為什么選擇IP102數(shù)據(jù)集IP102數(shù)據(jù)集在害蟲識別領域算是繞不開的基準。它由北京郵電大學等機構的研究者整理發(fā)布圖像全部來自真實的田間拍攝場景不是實驗室里干凈背景下的標本照這意味著圖像里的害蟲往往只占畫面的一部分背景有葉片、土壤、光照變化甚至同一種害蟲在不同生長階段形態(tài)差異明顯。數(shù)據(jù)集的規(guī)模分布是這樣的訓練集約45000張、驗證集約7500張、測試集約22000張總計7萬多張圖片涉及102個類別。這里有個必須注意的點——IP102數(shù)據(jù)集的類別分布并不均衡。像稻飛虱、玉米螟這類常見害蟲樣本量可能有上千張但某些稀有害蟲類別樣本數(shù)甚至不足100張。這種不均衡性直接影響了訓練策略和評估指標的選擇后面會細講。另外一個特點是IP102官方發(fā)布時是按類別文件夾組織的文件名沒有統(tǒng)一規(guī)律且原始圖片尺寸不一。我拿到手之后第一步就是寫腳本統(tǒng)一梳理目錄結構生成標準的訓練集、驗證集、測試集劃分文件方便Pytorch的ImageFolder直接加載。這個數(shù)據(jù)準備過程看似瑣碎但做好了對后續(xù)訓練效率影響很大。提示IP102數(shù)據(jù)集公開論文中提到的類別標簽映射文件在下載的數(shù)據(jù)包里不一定有現(xiàn)成CSV需要自己根據(jù)類別文件夾名稱列表整理一份id到類別名的映射訓練完做評估和可視化都離不開它。1.3 為什么必須用預訓練模型我見過不少初學者拿到分類任務第一反應就是自己搭一個CNN從零開始訓。這個做法在像CIFAR-10這樣的小規(guī)模、簡單背景數(shù)據(jù)集上還能跑通但放到IP102這種細粒度、真實場景的數(shù)據(jù)集上效果會非常慘淡。原因不復雜深層網(wǎng)絡參數(shù)量動輒上千萬而IP102單個類別的平均訓練樣本只有400多張信息量遠不足以支撐網(wǎng)絡從隨機初始化狀態(tài)收斂到一個好的局部最優(yōu)。預訓練模型做的事情相當于借力——一個在ImageNet百萬級數(shù)據(jù)集上訓練好的模型它的淺層卷積核已經(jīng)學會了識別邊緣、紋理、顏色塊等通用特征中層的卷積核能組合出形狀、局部模式等語義特征。這些能力對任何視覺任務都是通用的害蟲圖像同樣包含這些基礎特征。所以當我把預訓練模型的參數(shù)作為初始狀態(tài)只讓模型在IP102數(shù)據(jù)上繼續(xù)學習時模型不需要從零摸索那些通用特征可以把學習能力集中在區(qū)分這102類害蟲這個特定目標上。這個選擇的收益直接反映在訓練曲線上。同樣的ResNet50從隨機初始化開始訓可能30個epoch驗證準確率還在50%上下掙扎用預訓練權重做遷移學習往往第一個epoch結束就能到60%以上5-10個epoch就能超過從零訓練30個epoch的水平。而且訓練過程更穩(wěn)定不容易出現(xiàn)loss震蕩發(fā)散的情況。2. 環(huán)境準備與數(shù)據(jù)預處理2.1 Pytorch環(huán)境搭建與CUDA配置動手之前先把環(huán)境準備好。我的配置是Ubuntu 20.04系統(tǒng)、一張RTX 3080顯卡10GB顯存用Anaconda管理Python環(huán)境。Pytorch的安裝推薦用官方pip源關鍵是要選對CUDA版本。首先創(chuàng)建一個干凈的conda環(huán)境conda create -n pest python3.9 conda activate pest然后用pip安裝Pytorch。我裝的是CUDA 11.8版本的Pytorch 2.0.1pip install torch2.0.1 torchvision0.15.2 --index-url https://download.pytorch.org/whl/cu118為什么要指定CUDA版本因為Pytorch的GPU支持和本機顯卡驅動、CUDA運行時是綁定的。如果裝成了CPU版本訓練速度可能慢20倍以上如果CUDA版本和驅動不匹配程序會報CUDA driver version is insufficient之類的錯誤。裝完之后務必驗證一下import torch print(torch.__version__) print(torch.cuda.is_available()) print(torch.cuda.get_device_name(0))如果輸出True和顯卡型號說明GPU環(huán)境沒問題。另外建議順手安裝tensorboard——后面訓練過程可視化監(jiān)控全靠它pip install tensorboard2.2 IP102數(shù)據(jù)集下載與目錄整理數(shù)據(jù)集下載這塊IP102一般從公開渠道獲取下載完是一個壓縮包解壓后內(nèi)部是按類別分文件夾的原始圖像。第一步是把它整理成Pytorch最容易處理的目錄結構datasets/IP102/ ├── train/ │ ├── class001/ │ ├── class002/ │ └── ... ├── val/ │ ├── class001/ │ └── ... └── test/ ├── class001/ └── ...官方數(shù)據(jù)包里有三個文本文件分別記錄了train、val、test的文件路徑列表我寫了一個Python腳本把這些路徑讀出來然后逐個復制到對應目錄。這里有個坑類別文件夾命名是class001到class102但ImageFolder默認按文件夾名的字典序分配label這個順序恰好和官方類別編號一致所以label索引是規(guī)整的省了不少事。整理完目錄后要統(tǒng)計一下每個類別的樣本數(shù)寫個腳本掃一遍from collections import Counter import os def count_samples(root): counter Counter() for cls_dir in os.listdir(root): cls_path os.path.join(root, cls_dir) if os.path.isdir(cls_path): counter[cls_dir] len(os.listdir(cls_path)) return counter train_counts count_samples(datasets/IP102/train) print(類別總數(shù):, len(train_counts)) print(最少樣本類別:, min(train_counts.items(), keylambda x: x[1])) print(最多樣本類別:, max(train_counts.items(), keylambda x: x[1]))運行完之后我統(tǒng)計到的情況是最少的類別訓練樣本只有幾十張最多的有上千張明顯長尾分布。這個信息很重要它直接決定了我在模型評估階段不能只看Accuracy還要看每個類別的Recall和Precision。2.3 數(shù)據(jù)加載器與圖像增強策略數(shù)據(jù)加載部分用torchvision.datasets.ImageFolder讀取目錄然后配合torch.utils.data.DataLoader做批量加載。整個過程的關鍵是數(shù)據(jù)增強策略的差別——訓練集和驗證集/測試集用的增強方式完全不同。訓練集需要做隨機增強目的是讓模型看到更多樣的輸入形態(tài)增強泛化能力。我用的是torchvision.transforms里的組合from torchvision import transforms train_transform transforms.Compose([ transforms.RandomResizedCrop(224, scale(0.6, 1.0)), transforms.RandomHorizontalFlip(), transforms.RandomRotation(15), transforms.ColorJitter(brightness0.2, contrast0.2, saturation0.2), transforms.ToTensor(), transforms.Normalize(mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225]) ])這個組合里每一項都有講究。RandomResizedCrop(224, scale(0.6, 1.0))這個增強方式相當于模擬害蟲在畫面中大小不固定的情況隨機裁剪可以提升模型對目標尺度變化的適應能力同時它還能起到一定的遮擋模擬作用。ColorJitter則是對抗田間光照變化的手段不同時間段拍攝的照片色溫、亮度差異很大提前做色彩擾動可以避免模型過擬合到某個固定的光照模式。驗證集和測試集則只用確定性操作保證評估結果可復現(xiàn)val_transform transforms.Compose([ transforms.Resize(256), transforms.CenterCrop(224), transforms.ToTensor(), transforms.Normalize(mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225]) ])有讀者可能會問為什么驗證集不做增強因為驗證集的目的是評估模型在真實數(shù)據(jù)上的表現(xiàn)如果也做隨機裁剪、翻轉每次評估的結果會有差異不利于公平比較不同模型的性能。驗證集用CenterCrop是業(yè)界慣例保證評估的穩(wěn)定性和可對比性。注意Normalize用的均值和標準差是ImageNet數(shù)據(jù)集的統(tǒng)計值這是為了和預訓練模型的輸入分布對齊。如果用自己統(tǒng)計的均值和標準差反而會破壞預訓練模型已經(jīng)學到的特征分布規(guī)律。這個細節(jié)很多人容易搞錯。3. 模型搭建與遷移學習細節(jié)3.1 預訓練模型選型分析Pytorch的torchvision.models模塊提供了多種預訓練模型從經(jīng)典的ResNet系列到EfficientNet、ConvNeXt都有。我在調參對比過程中試了ResNet50、ResNet101和EfficientNet-B3這里分享一下選型思路。ResNet50是最穩(wěn)妥的選擇。它的殘差結構能有效緩解深層網(wǎng)絡的梯度消失問題ImageNet預訓練權重質量高、社區(qū)認可度高而且顯存占用適中。在10GB顯存下batch size設64訓練一點壓力都沒有。ResNet101精度比ResNet50略有提升但訓練時間增加了將近一倍性價比不高。EfficientNet-B3在理論上精度上限更高但它的預訓練權重來自Google的Noisy Student訓練方法和Pytorch生態(tài)的兼容性稍差而且輸入分辨率需要對應調整調試成本更高。最終我選了ResNet50作為主力模型。這里補充一個最新版本Pytorch的使用注意Pytorch 2.0以后torchvision.models的預訓練權重用weights參數(shù)指定推薦使用帶版本后綴的枚舉類型import torchvision.models as models weights models.ResNet50_Weights.IMAGENET1K_V2 model models.resnet50(weightsweights)IMAGENET1K_V2是精度更高的新權重版本比V1在ImageNet上Top-1準確率高了約1個百分點。雖然這個提升不是針對害蟲任務的但更好的初始特征對遷移學習總歸有正面幫助。3.2 分類頭改造與參數(shù)凍結策略預訓練模型原本是為ImageNet的1000類分類設計的最后全連接層輸出維度是1000。IP102只有102類所以必須把最后一層全連接層替換掉num_classes 102 in_features model.fc.in_features model.fc torch.nn.Linear(in_features, num_classes)model.fc.in_features是ResNet50最后一個卷積層輸出的特征維度等于2048。替換之后模型整體的參數(shù)除最后這個全連接層外都是從ImageNet遷移過來的預訓練參數(shù)。關于參數(shù)凍結策略我這里想多說兩句。初學者常見的做法是把所有層都凍結只訓練新加的全連接層——也就是所謂的線性探測。這個做法在目標域和源域非常接近時有效但放到害蟲識別場景下效果不太好。因為ImageNet的1000類以日常物體為主和害蟲圖像的紋理、形態(tài)差異較大如果完全凍結底層模型無法充分適應害蟲域的特征分布。我采用的做法是微調全部層 分類頭用更大的學習率。具體來說# 為不同層設置不同的學習率 fc_params list(map(id, model.fc.parameters())) base_params filter(lambda p: id(p) not in fc_params, model.parameters()) optimizer torch.optim.SGD([ {params: base_params, lr: 0.001}, {params: model.fc.parameters(), lr: 0.01} ], momentum0.9, weight_decay1e-4)分類頭學習率設為主干層的10倍是因為新初始化的全連接層需要更大幅度地更新參數(shù)才能快速收斂而主干層雖然有預訓練參數(shù)但依然需要以適度速率適應新任務。這種分組學習率策略在遷移學習里非常常用。3.3 訓練超參數(shù)設置超參數(shù)這塊我直接把最終調好的組合列出來超參數(shù)值說明輸入尺寸224x224預訓練模型標準輸入Batch Size64適配10GB顯存初始學習率0.001主干/ 0.01分類頭SGD配合動量動量0.9加速收斂權重衰減1e-4正則化防過擬合訓練輪數(shù)30個epoch觀察loss曲線判斷是否提前停止學習率調度StepLR每10個epoch乘0.1后期降低學習率微調學習率調度的選擇有個細節(jié)。我在第一版實驗里用了CosineAnnealingLR余弦退火效果也還行但發(fā)現(xiàn)訓練后期學習率降得太慢loss曲線尾部長尾拖沓。后來換成StepLR每10個epoch把學習率降為原來的1/10訓練更干脆利落。關鍵依據(jù)是遷移學習場景下早期主干層還在適應階段用相對大的學習率快速調整后期進入精細化階段大幅降低學習率可以避免參數(shù)在小范圍內(nèi)震蕩。Batch size這個參數(shù)同樣有講究。我在實際測試中發(fā)現(xiàn)Batch Size從32提到64訓練速度提升明顯但驗證集精度反而略有下降。這是因為大batch的梯度估計更穩(wěn)定容易收斂到尖銳的極小值泛化性反而變差。綜合考慮訓練速度和精度64這個值是平衡點。4. 訓練流程與核心代碼實現(xiàn)4.1 訓練主循環(huán)與關鍵代碼訓練主循環(huán)的框架在Pytorch里非常固定但有幾個細節(jié)是決定成敗的關鍵。先給出一份完整的訓練函數(shù)骨架def train_one_epoch(model, train_loader, criterion, optimizer, device, epoch): model.train() running_loss 0.0 correct 0 total 0 for batch_idx, (images, labels) in enumerate(train_loader): images, labels images.to(device), labels.to(device) outputs model(images) loss criterion(outputs, labels) optimizer.zero_grad() loss.backward() optimizer.step() running_loss loss.item() * images.size(0) _, predicted torch.max(outputs, 1) total labels.size(0) correct (predicted labels).sum().item() if batch_idx % 50 0: print(fEpoch {epoch} Batch {batch_idx}/{len(train_loader)} fLoss: {loss.item():.4f}) epoch_loss running_loss / total epoch_acc correct / total return epoch_loss, epoch_acc這里有一個新手容易犯的錯忘記在每次梯度更新前調用optimizer.zero_grad()。Pytorch的梯度是累積的如果不清零每個batch的梯度會和上一batch的梯度累加導致更新方向完全錯誤loss曲線會出現(xiàn)詭異的震蕩。訓練過程里我還加了model.train()和model.eval()的狀態(tài)切換。train()會啟用Dropout和BatchNorm的訓練行為eval()則切換到推理行為。如果訓練完直接用模型推理但忘了切換到eval模式BatchNorm層會使用batch統(tǒng)計量而不是全局統(tǒng)計量推理結果會不穩(wěn)定。這個坑我印象很深第一次做遷移學習時就在驗證階段吃了這個虧。4.2 損失函數(shù)與優(yōu)化器的搭配邏輯IP102是102類的多分類任務損失函數(shù)首選交叉熵損失CrossEntropyLoss。Pytorch里的torch.nn.CrossEntropyLoss已經(jīng)把softmax和交叉熵計算合在一起了所以模型最后一層的輸出不需要手動接softmax直接傳給loss即可。但類別不均衡問題讓我對標準交叉熵做了一點調整。前面統(tǒng)計過IP102存在明顯的長尾分布少數(shù)類別的樣本量很少。標準交叉熵對所有類別一視同仁模型會傾向于把樣本分到高頻類別去導致稀有類別的召回率極低。解決方案是給CrossEntropyLoss傳入一個weight參數(shù)讓稀有類別的loss權重更大import torch # class_counts 是每個類別的訓練樣本數(shù) class_weights 1.0 / torch.sqrt(torch.tensor(class_counts, dtypetorch.float32)) class_weights class_weights / class_weights.mean() # 歸一化 criterion torch.nn.CrossEntropyLoss(weightclass_weights.to(device))為什么用1/sqrt(count)而不是簡單的1/count因為1/count的權重跨度太大會讓模型過度關注稀有類別反而導致高頻類別精度崩掉。取平方根是折中方案既提升稀有類別的學習力度又不至于矯枉過正。優(yōu)化器這塊我還是選了傳統(tǒng)的SGD加動量沒有用Adam。原因比較實際在遷移學習場景下SGD配合較小的學習率和權重衰減收斂到的解通常比Adam泛化性更好。Adam的優(yōu)勢在于自適應學習率和訓練初期收斂快但后期容易出現(xiàn)泛化gap。當然這個結論不是絕對的efficientnet這類模型的官方實現(xiàn)里用的也是SGD這也是我沿用SGD的一個參考依據(jù)。4.3 可視化監(jiān)控與模型保存訓練過程中用TensorBoard實時監(jiān)控loss曲線和準確率變化非常必要。我寫了一個簡單的封裝from torch.utils.tensorboard import SummaryWriter writer SummaryWriter(runs/pest_resnet50) # 在每個epoch結束后寫入 writer.add_scalar(Train/Loss, train_loss, epoch) writer.add_scalar(Train/Accuracy, train_acc, epoch) writer.add_scalar(Val/Loss, val_loss, epoch) writer.add_scalar(Val/Accuracy, val_acc, epoch)啟動命令是tensorboard --logdir runs然后在瀏覽器里打開localhost:6006就能看到實時的曲線。我一般關注兩組曲線訓練loss是否持續(xù)下降、驗證集準確率是否同步上升。如果訓練loss下降但驗證準確率停滯或下降說明模型開始過擬合需要提前停止或加大正則化。模型保存這塊我不建議每輪epoch都保存完整模型文件那樣會浪費大量磁盤空間。更合理的做法是跟蹤驗證集準確率只在它刷新最優(yōu)記錄時保存best_val_acc 0.0 for epoch in range(num_epochs): train_loss, train_acc train_one_epoch(...) val_loss, val_acc validate(model, val_loader, criterion, device) if val_acc best_val_acc: best_val_acc val_acc torch.save({ epoch: epoch, model_state_dict: model.state_dict(), optimizer_state_dict: optimizer.state_dict(), best_val_acc: best_val_acc, }, best_model.pth) print(f保存最佳模型驗證準確率: {val_acc:.4f})保存的方式也有講究。只保存model.state_dict()比保存整個模型文件更靈活因為后者會綁定模型類定義的具體路徑換一臺機器加載時如果目錄結構不同就會報錯。另外把optimizer狀態(tài)也一并保存的好處是萬一訓練中途中斷可以恢復斷點繼續(xù)訓練省得從頭再來。5. 分類評估與常見問題排查5.1 分類評估指標怎么選訓練結束后的評估環(huán)節(jié)很多人只盯著Accuracy看這對IP102這種不均衡數(shù)據(jù)集來說是遠遠不夠的。我實際在測試集上統(tǒng)計過最頻繁的幾個害蟲類別加起來占了測試集將近20%的樣本量如果只關注Accuracy模型即便在這些高頻類別上一塌糊涂整體數(shù)字也不會太難看。所以我的評估體系是四個指標一起看from sklearn.metrics import accuracy_score, precision_score, recall_score, f1_score, confusion_matrix y_true [] y_pred [] model.eval() with torch.no_grad(): for images, labels in test_loader: images, labels images.to(device), labels.to(device) outputs model(images) _, predicted torch.max(outputs, 1) y_true.extend(labels.cpu().numpy()) y_pred.extend(predicted.cpu().numpy()) acc accuracy_score(y_true, y_pred) precision_macro precision_score(y_true, y_pred, averagemacro) recall_macro recall_score(y_true, y_pred, averagemacro) f1_macro f1_score(y_true, y_pred, averagemacro) print(fAccuracy: {acc:.4f}) print(fPrecision (macro): {precision_macro:.4f}) print(fRecall (macro): {recall_macro:.4f}) print(fF1 Score (macro): {f1_macro:.4f})這里解釋一下為什么用macro平均而不是micro。Micro平均會把所有樣本混在一起計算指標高頻類別的貢獻更大Macro平均是先分別計算每個類別的指標再取平均每個類別權重相同。對于類別不均衡的IP102Macro指標更能反映模型在全部102個類別上的平均表現(xiàn)。此外我還畫了混淆矩陣來定位具體哪些類別容易混淆。分析之后發(fā)現(xiàn)一個規(guī)律模型最容易搞混的是形態(tài)相近的蛾類害蟲比如斜紋夜蛾和甜菜夜蛾這屬于細粒度分類的典型難題。針對這個問題我在后續(xù)實驗里嘗試了增加Focal Loss來強化困難樣本的學習有一定改善但收益有限最終還是在真實度更高的數(shù)據(jù)增強上下了功夫。5.2 訓練過程中容易踩的坑第一個坑是weights_only參數(shù)報錯。Pytorch 2.6版本開始torch.load的默認行為變了weights_only默認值為True直接加載以前保存的帶有optimizer狀態(tài)的checkpoint會報WeightsUnpicklerError。解決方案有兩種一是加載時顯式設置weights_onlyFalse二是把加載Pytorch 2.6產(chǎn)出的checkpoint時檢查一下兼容性。這里推薦直接用weights_onlyFalse原因是我們保存的文件里有optimizer狀態(tài)這是純粹的推理權重之外的結構。第二個坑是CPU和GPU設備不匹配。在訓練腳本里沒寫model.to(device)模型參數(shù)還在CPU上但數(shù)據(jù)已經(jīng)搬到GPU了運行時會直接報Expected all tensors to be on the same device。這個錯誤雖然低級但幾乎每個新手都會遇到一次。建議在腳本開頭統(tǒng)一寫好device torch.device(cuda if torch.cuda.is_available() else cpu) model model.to(device)第三個坑是ImageFolder加載數(shù)據(jù)集時類別順序和我預想的不一致。前面提到過ImageFolder按文件夾名字符串排序這個規(guī)則在類目文件命名不規(guī)整比如使用中文名或編號不齊時會出問題。我的建議是加載后用dataset.classes打印一遍人工核對一下類別順序確認和標簽文件對齊再開始訓練。5.3 調優(yōu)技巧與精度提升方向訓練穩(wěn)定跑通之后想進一步提高分類精度我實際嘗試過幾個方向按性價比排序分享給大家。第一個是數(shù)據(jù)增強升級。IP102的真實場景特點決定了增強策略的核心是模擬尺度變化和復雜背景。我后來在訓練增強里加入了RandomResizedCrop的scale范圍下探到0.4并增加了一個隨機擦除操作transforms.RandomErasing(p0.3, scale(0.02, 0.15), ratio(0.3, 3.3))隨機擦除是讓模型在部分遮擋條件下也能識別害蟲實測在驗證集上提升了約1.2個百分點的準確率。它的原理類似Cutout正則化強迫模型去學習目標的整體特征而不是過度依賴某個局部區(qū)域。第二個是模型集成。把ResNet50和EfficientNet-B3兩個模型的softmax輸出做平均測試集的Accuracy能再提升約1.5個百分點。代價是推理時間翻倍如果項目對實時性要求高這個方案要慎重。第三個是學習率預熱。在訓練最初2個epoch用較小的學習率線上的1/10做預熱然后線性恢復到目標學習率。這能避免模型在初期參數(shù)變化過快導致訓練不穩(wěn)定。Pytorch里可以直接用torch.optim.lr_scheduler.LinearLR配合SequentialLR實現(xiàn)代碼量不大但效果穩(wěn)定。6. 推理部署與擴展思路6.1 單張圖片推理流程模型訓練完成后把它部署到實際場景中做單張圖片推理流程比訓練簡單很多但有幾個細節(jié)直接影響用戶體驗。下面是我在推理腳本里的核心代碼from PIL import Image def predict_image(model, image_path, class_names, device, transform): model.eval() image Image.open(image_path).convert(RGB) image transform(image).unsqueeze(0).to(device) with torch.no_grad(): outputs model(image) probabilities torch.softmax(outputs, dim1) top_prob, top_class torch.topk(probabilities, k3) results [] for i in range(3): class_id top_class[0][i].item() prob top_prob[0][i].item() results.append((class_names[class_id], prob)) return results推理時需要注意兩點。第一輸入圖片要確保是RGB三通道如果圖片是灰度圖RGBA或L模式一定要先轉RGB否則Normalize操作會報維度錯誤。第二推理預處理要和驗證集保持一致用Resize(256) CenterCrop(224)不要用訓練集的隨機增強。6.2 模型部署到邊緣設備的思路如果項目要落地到田間場景大概率會涉及邊緣設備部署比如Jetson系列開發(fā)板。這類設備上的Pytorch安裝和PC端略有不同需要根據(jù)JetPack版本選擇對應的Pytorch版本——JetPack 6.2.2之類的版本對應關系最好直接從NVIDIA官方索引頁查不要拿PC端的安裝命令硬套。另一個部署方向是把模型導出成ONNX格式再用TensorRT做推理加速。Pytorch轉ONNX的代碼很直接dummy_input torch.randn(1, 3, 224, 224).to(device) torch.onnx.export( model, dummy_input, pest_resnet50.onnx, input_names[input], output_names[output], dynamic_axes{input: {0: batch_size}, output: {0: batch_size}} )導出時有一個常被忽略的環(huán)節(jié)——必須把model切回eval()模式并且用torch.no_grad()包裹導出過程。否則導出的模型里會包含訓練相關的計算圖分支不僅模型體積變大還可能導致推理結果異常。6.3 后續(xù)擴展方向IP102分類是一個很好的起點基于這個基礎可以延伸出不少有價值的應用。一是增加檢測能力。分類模型只能告訴你這張圖里有什么害蟲但實際場景里用戶更想知道害蟲在哪里?？梢栽诂F(xiàn)有模型基礎上疊加目標檢測頭用YOLO系列或Faster R-CNN在IP102的標注框數(shù)據(jù)上訓練完成從分類到檢測的升級。二是做嚴重程度評估。害蟲防治不僅要識別種類還要評估危害等級?？梢栽诜诸惸Ｐ洼敵鲱悇e的基礎上額外訓練一個危害等級回歸分支讓模型同時輸出種類和嚴重程度輔助植保人員做決策。三是數(shù)據(jù)增量迭代。我前面反復強調數(shù)據(jù)驅動的價值在實際部署后可以建立一個回傳機制把用戶上傳的誤判圖片收集下來定期人工復核后補充進訓練集形成采集-標注-再訓練的閉環(huán)。模型精度會隨著數(shù)據(jù)積累持續(xù)提升這才是深度學習項目長期生命力的關鍵。我在做這個項目時最大的體會是分類準確率只是一個數(shù)字真正有價值的是整個流程的穩(wěn)定性和可復現(xiàn)性。數(shù)據(jù)管理要規(guī)范、環(huán)境依賴要鎖定、訓練日志要完整——這樣在調整模型結構或者新增數(shù)據(jù)后才能清晰地知道是哪個改動帶來了提升。如果讀者現(xiàn)在準備跑一個類似的圖像分類項目建議先把數(shù)據(jù)整理和環(huán)境搭建的基礎功做扎實再進入模型調優(yōu)階段會省掉很多返工的時間。本文還有配套的精品資源點擊獲取