直接说结论YOLOv8换到自己数据集上本质上就四步——环境、数据、训练、看结果。但很多人卡的不是不会点鼠标而是环境配置就栽了跟头或者训练完了看不懂指标、不会调参。这篇我按完整链路写从零开始把每一步的坑和原理都拆开看完你大概率能跑通第一版。先说下适用的场景手里有图片但没标注或者标注了一部分但还没凑成标准格式想用自己的数据训练一个能用的目标检测模型。无论是做工业质检、医学影像辅助还是安防场景里的人车检测流程完全一样。这套东西不依赖特定的平台命令行能跑就行。1. 环境、硬件与一次完整训练流程的认知训练自己的数据集之前先把训练这件事情的链路搞清楚否则中途遇到问题你都不知道是环境坏了还是数据坏了。1.1 环境配置为什么要用虚拟环境装YOLOv8实际上靠的是ultralytics这个Python包它封装了模型定义、训练、验证、导出一条龙。我用的是conda管理环境原因很简单Python生态的包依赖冲突太常见了训练脚本一多不同项目可能需要不同版本的torch不用虚拟环境早晚会乱。推荐的具体配置组合Python 3.10、PyTorch 2.x、ultralytics最新版。创建环境并安装依赖conda create -n yolov8 python3.10 conda activate yolov8 pip install torch torchvision --index-url https://download.pytorch.org/whl/cu118 pip install ultralytics这里有个细节torch和torchvision的CUDA版本必须匹配否则GPU能用但你import torch时直接报错。如果用的是NVIDIA显卡装完先验证一下python -c import torch; print(torch.cuda.is_available())输出True说明GPU环境正常。CPU也能训练但速度慢一个数量级强烈建议用GPU哪怕是老卡。1.2 硬件需求与显存估算你的显卡能跑多大模型显存是训练中最现实的约束。以yolov8n为例输入分辨率640x640、batch_size为8的情况下显存占用大概4-6GB如果卡只有6GB显存比如我手里这台GTX 1660Ticover这个配置是极限了。想在相同硬件下扩大batch_size那就得换更小模型或降输入分辨率。模型参数量自带预训练权重大小显存占用估算640分辨率batch16YOLOv8n3.2M6.2MB约6GBYOLOv8s11.2M22.5MB约9GBYOLOv8m25.9M52MB约15GBYOLOv8l43.7M87MB约23GBYOLOv8x68.2M136MB约30GB以上是粗略估算实际会跟着batch_size和图片尺寸线性变化。我的经验是6GB显存老老实实跑n或s12GB可以跑m跑l和x建议至少24GB否则训练过程非常容易OOM。1.3 完整流程全景先走一遍再调优很多人第一次碰目标检测会一头扎进标注工具标了三天数据才发现格式搞错了。正确的流程认知应该是图片采集与整理 → 标注生成YOLO格式txt→ 数据集目录划分 → 写data配置文件 → 选择模型权重 → 启动训练 → 观察训练曲线 → 验证集评估 → 导出部署。数据标注是人力成本最高的环节流程设计得越顺返工越少。接下来我按这条线逐个章节展开。2. 数据集制作从原始图片到YOLO格式的完整链路2.1 LabelImg标注与YOLO格式文件的含义目前最省事的标注工具还是LabelImgpip安装即可启动pip install labelimg labelimg打开后设置标注保存格式为YOLO。一张图标注完会生成一个同名txt文件每一行对应一个目标格式是class_id center_x center_y width height注意这里面所有坐标都是归一化的。假设图片宽度是w、高度是h手动标注拿到的是矩形框左上角(x1,y1)和右下角(x2,y2)工具会把它转换成分数。手动验证一下一个目标框的center_x为0.5说明它横向居中w/h取值在0到1之间。如果生成的文件里出现大于1的坐标多半是标注工具保存的时候出了问题。2.2 数据集目录划分训练集和验证集不能有交集按YOLOv8的约定目录结构来组织datasets/ images/ train/ val/ labels/ train/ val/images和labels顶层目录分开同时train目录里放训练图片val目录里放验证图片。labels目录保持同样的结构文件名与图片一一对应只后缀不同否则训练时会提示找不到标签。划分比例上常用的是8:1或9:1但前提是你的样本量足够。如果总共就几百张图验证集太小会导致评估结果波动大我会倾向于95%训练、5%验证甚至用k-fold交叉验证来判断模型真实水平。划分脚本网上很多但核心逻辑就是遍历图片文件名按随机种子打乱后写入对应目录。2.3 数据质量与标注细节这些坑等不到训练就会爆类别不平衡问题。如果你的数据集里羊只有十几只狗有几千只模型大概率对羊视而不见。这不是YOLOv8的问题是数据本身的分布问题。最简单的处理是给少类别的样本做复制增强或者从公开数据集中补充同类数据。漏标比标错更致命。目标检测模型学习的是哪里有目标、目标是什么。如果一张图里有3个目标但只标了1个训练时模型把另外两个也预测出来就会被当成false positive惩罚效果反而更差。所以宁可放慢标注速度也要把每张图的所有目标都框完整。小目标数据必须有。如果一个目标在整张图中只占20x20像素而你的训练数据全是占图1/4的大目标换到真实场景基本凉凉。收集数据时就要刻意覆盖不同尺度、不同背景、不同光照的目标。3. 训练前的关键决策模型选型、配置文件和预训练权重3.1 先想清楚再用哪个模型n/s/m/l/x怎么选很多人上来就选最大最重的yolov8x觉得越大的模型越准。实际上对自定义数据集模型大小应该和你的数据规模强相关。数据量小几千张内时yolov8n和yolov8s反而是最稳的选择因为大模型在数据不足的情况下更容易过拟合而且训练周期长到让人怀疑人生。我的习惯是第一版永远先跑yolov8n把整个流程链路跑通确认数据标注、配置、训练脚本没问题之后再换yolov8s或yolov8m做精度提升。这样排错的范围会小很多——第一版跑出糟糕的结果问题大概率在数据而不在选型。3.2 配置文件data.yaml到底该怎么写在项目目录下新建一个data.yaml内容如下path: /home/user/datasets train: images/train val: images/val nc: 2 names: [cat, dog]path是数据集根目录的绝对路径。train和val相对path路径填写。nc是类别总数names是类别名称列表顺序必须和标注时定义的class_id一致。这里最常犯的错误是标注软件里的类别编号和names列表对不上比如names里第一个是dog但标注时0号类别用的cat结果模型学到的全是错位的东西。写完配置后可以考虑先做一个快速验证yolo detect train datadata.yaml modelyolov8n.pt epochs1 batch1跑通一个epoch再上正式训练别直接全量训练才发现路径写错。3.3 预训练权重为什么强烈建议用pretrained第一次运行时YOLOv8会自动下载COCO上预训练的yolov8n.pt。预训练权重的意义在于模型已经见过大量通用目标特征我们只是让它迁移到自己的任务上收敛更快、效果更好。如果你换用随机初始化的权重pretrainedFalse从零开始训练自己的数据集数据量不够时模型基本不收敛。从零训练的风险主要在于学习率和训练轮数的平衡很难把握。所以我的建议是除非你的数据集和COCO的分布差异大到离谱比如全是遥感卫星图否则一律用预训练权重。4. 启动训练命令行参数逐个拆解与训练过程观测4.1 训练命令与关键参数详解yolo detect train datadata.yaml modelyolov8n.pt epochs100 batch8 imgsz640 device0epochs训练的轮数默认100。自定义数据集通常100-200轮能看到不错的结果。我一般在第一版跑150然后根据曲线决定加还是减。batch每次迭代喂进GPU的图片张数。显存不够就降这个参数。注意batch太小时批量归一化不稳定建议最低不低于4。imgsz输入分辨率。640是性能和速度的平衡点。如果目标普遍很小可以试1280但显存占用直接翻4倍。device0代表第一张GPU卡。多卡用device0,1。workers数据加载线程数Windows下建议设0或2Linux下可以设8否则可能出现莫名其妙的卡死。amp混合精度训练默认开启显存不够时务必保持开启。4.2 训练过程中的输出目录与观测指标训练开始后会在当前目录生成runs/detect/train/或train2、train3里面有几个关键文件一定要会看results.png是训练过程的汇总图包含box_loss、cls_loss、dfl_loss以及精确率、召回率、mAP曲线。weights/best.pt是验证集上mAP最高的权重weights/last.pt是最后一步的权重。后续预测用best.pt不要用last.pt。训练日志每轮会打一行表格Gpu_mem、Box(P/R/mAP50/mAP50-95)、Cls等指标。很多人第一次训练看到mAP50是0就慌了其实前几十轮mAP为0非常正常尤其是目标小或类别多的情况下。我习惯看loss曲线是否持续下降只要box_loss和cls_loss在降mAP早晚会起来。4.3 中断恢复与常用的进阶调参训练一半断了怎么办不用从头跑加一个参数yolo detect train datadata.yaml modelruns/detect/train/weights/last.pt resumeTrue进阶操作里最常用的还有freeze参数用于冻结骨干网络前N层。epochs不够但不想重来的时候冻结前10层的训练速度会明显加快而且对小数据集能起到一定的正则化作用yolo detect train datadata.yaml modelyolov8s.pt epochs100 batch8 freeze104.4 训练自来水学习率策略YOLOv8默认使用余弦退火学习率调度初始学习率lr0默认0.01。大多数情况默认值够用。如果你发现loss在训练初期就炸了数值上飞可以把lr0降到0.001再试。反过来如果loss降得非常慢半天下不去可以适当调到0.02。这个靠人工观察调节不算精确但比完全不管好很多。5. 实测中常见的坑与排查链路5.1 显存不足OOM的排查顺序训练中途报CUDA out of memory时先别急着换小模型。按这个顺序排查关掉其他占显存的应用包括浏览器里大量图片页面。把batch从16降到8再降到4。把imgsz从640降到480或416。确认ampTrue已开启。最后才换更小的模型。按这个顺序走多数情况下不用换模型就能解决。核心原因是显存占用约等于模型权重 激活值激活值部分的显存消耗随batch和分辨率线性增加但模型权重是固定的。所以降batch和分辨率是成本最低的解法。5.2 损失不下降或直接NaN先查数据再查超参loss输出NaN是很多新手会遇到的情况它不一定是模型问题。我先检查数据txt标签里有没有除以零或越界的坐标再检查图片有没有损坏的图片。YOLOv8训练时遇到损坏图片可能直接跳过但在某些版本里会出现梯度异常。如果数据没问题下一步检查学习率。lr0设置在0.001-0.02范围内比较安全过高很容易导致NaN。还有一个隐藏比较深的坑标签文件与图片文件名不匹配。比如图片是0001.jpg标签却是0001.txt和0001 (1).txt并存训练时数据加载逻辑按文件名索引多余的文件会被忽略或错配。建议标注完成后写个脚本检查一下图片和标签的对应关系。5.3 过拟合与类别不平衡的典型表现训练集loss降到很低但验证集mAP上不去典型过拟合。表现模式是前几十轮val指标稳步上升之后train loss继续降但val基本不动。这种时候最有效的干预手段不是换模型而是加数据增强、减小模型、或者增加数据量。YOLOv8内置了丰富的数据增强马赛克增强、随机仿射变换、色彩抖动等训练时默认开启。如果数据量不大可以调低mosaic概率——马赛克增强在某些极端情况下反而会把小目标切碎造成训练困难。类别不平衡问题最直接的表现是混淆矩阵里某一类的召回率特别低。打开runs/detect/train/confusion_matrix.png如果发现真样本大量被预测成背景或某个大类就该考虑往数据集里补小类的样本了。5.4 标注工具打不开或打不开图片时的解决方案LabelImg在新版系统上偶尔会闪退最常见的原因是图片路径里有中文。解决方法是把数据集路径统一改成纯英文别带空格。另一个常见问题是图片格式有些截图工具保存的png实际是RGBA四通道LabelImg能打开但保存的标注坐标可能偏移。建议统一转化成RGB三通道jpg或png避免玄学问题。6. 评估结果、导出模型与部署简谈6.1 验证指标解读Precision、Recall、mAP到底关注哪个训练结束后的评估主要看验证集上的四类指标。Precision表示预测为正的样本里实际有多少正确Recall表示实际目标有多少被找出来。大多数场景中漏检比误检后果严重所以会优先保Recall。mAP50是IoU阈值取0.5时的平均精度是目标检测任务最常用的效果指标。mAP50-95则会更严格——它看的是从0.5到0.95间隔0.05共10个IoU阈值下mAP的平均值对定位精度更敏感。小目标检测场景mAP50可能很高但mAP50-95很低说明框的位置误差大。另外强烈建议跑一遍混淆矩阵yolo detect val modelruns/detect/train/weights/best.pt datadata.yaml它会输出各类别互相混淆的详细矩阵比只看mAP更能看出模型在哪一类上容易出错。6.2 用训练好的权重做预测yolo detect predict modelruns/detect/train/weights/best.pt sourcetest.jpg saveTruesource可以指向单张图片、一个文件夹或者视频文件。saveTrue会在runs/detect/predict下保存可视化结果。如果目标在图上但没被检出第一反应别调阈值先check推理分辨率。默认推理时图片会缩放填充到640x640但小目标可能本身不足640像素缩放后特征进一步缩水。可以尝试imgsz1280重新预测代价是速度明显变慢。6.3 导出为ONNX与其他部署格式训练完权重是.pt格式的PyTorch权重部署到服务端或边缘设备时通常要转格式yolo export modelbest.pt formatonnx dynamicTrue imgsz640导出ONNX之后可以用ONNX Runtime做推理也可以进一步转TensorRT做GPU加速推理。转换本身不复杂真正要留意的是推理代码里的预处理缩放、归一化必须和训练时保持一致。这是经产被忽略的坑——训练时用letterbox保持长宽比部署时直接resize目标框位置会完全偏掉。7. 后续还能怎么改进跑通基础流程之后可以尝试的方向比较明确。如果你发现小目标检测效果差优先考虑提升输入分辨率同时把马赛克增强关掉或降低概率。如果你发现单类效果特别好但另一类不行大概率是数据量不平衡先补数据再想模型改进。如果你希望进一步压缩模型加速推理可以直接用蒸馏或剪枝但这类技巧建议你先把基础流程摸熟再上。另外关于YOLOv8的改进版本和自定义模块网上讨论非常多。但我个人的建议是尽量先用原版跑通全流程再谈魔改。因为改了网络结构之后预训练权重基本失效训练难度直接上一个台阶。先用原版确保数据、标注、训练、评估这条链路是你熟悉的后面再怎么折腾都有得对比。
YOLOv8自定义数据集训练全流程：从环境配置到部署评估
直接说结论YOLOv8换到自己数据集上本质上就四步——环境、数据、训练、看结果。但很多人卡的不是不会点鼠标而是环境配置就栽了跟头或者训练完了看不懂指标、不会调参。这篇我按完整链路写从零开始把每一步的坑和原理都拆开看完你大概率能跑通第一版。先说下适用的场景手里有图片但没标注或者标注了一部分但还没凑成标准格式想用自己的数据训练一个能用的目标检测模型。无论是做工业质检、医学影像辅助还是安防场景里的人车检测流程完全一样。这套东西不依赖特定的平台命令行能跑就行。1. 环境、硬件与一次完整训练流程的认知训练自己的数据集之前先把训练这件事情的链路搞清楚否则中途遇到问题你都不知道是环境坏了还是数据坏了。1.1 环境配置为什么要用虚拟环境装YOLOv8实际上靠的是ultralytics这个Python包它封装了模型定义、训练、验证、导出一条龙。我用的是conda管理环境原因很简单Python生态的包依赖冲突太常见了训练脚本一多不同项目可能需要不同版本的torch不用虚拟环境早晚会乱。推荐的具体配置组合Python 3.10、PyTorch 2.x、ultralytics最新版。创建环境并安装依赖conda create -n yolov8 python3.10 conda activate yolov8 pip install torch torchvision --index-url https://download.pytorch.org/whl/cu118 pip install ultralytics这里有个细节torch和torchvision的CUDA版本必须匹配否则GPU能用但你import torch时直接报错。如果用的是NVIDIA显卡装完先验证一下python -c import torch; print(torch.cuda.is_available())输出True说明GPU环境正常。CPU也能训练但速度慢一个数量级强烈建议用GPU哪怕是老卡。1.2 硬件需求与显存估算你的显卡能跑多大模型显存是训练中最现实的约束。以yolov8n为例输入分辨率640x640、batch_size为8的情况下显存占用大概4-6GB如果卡只有6GB显存比如我手里这台GTX 1660Ticover这个配置是极限了。想在相同硬件下扩大batch_size那就得换更小模型或降输入分辨率。模型参数量自带预训练权重大小显存占用估算640分辨率batch16YOLOv8n3.2M6.2MB约6GBYOLOv8s11.2M22.5MB约9GBYOLOv8m25.9M52MB约15GBYOLOv8l43.7M87MB约23GBYOLOv8x68.2M136MB约30GB以上是粗略估算实际会跟着batch_size和图片尺寸线性变化。我的经验是6GB显存老老实实跑n或s12GB可以跑m跑l和x建议至少24GB否则训练过程非常容易OOM。1.3 完整流程全景先走一遍再调优很多人第一次碰目标检测会一头扎进标注工具标了三天数据才发现格式搞错了。正确的流程认知应该是图片采集与整理 → 标注生成YOLO格式txt→ 数据集目录划分 → 写data配置文件 → 选择模型权重 → 启动训练 → 观察训练曲线 → 验证集评估 → 导出部署。数据标注是人力成本最高的环节流程设计得越顺返工越少。接下来我按这条线逐个章节展开。2. 数据集制作从原始图片到YOLO格式的完整链路2.1 LabelImg标注与YOLO格式文件的含义目前最省事的标注工具还是LabelImgpip安装即可启动pip install labelimg labelimg打开后设置标注保存格式为YOLO。一张图标注完会生成一个同名txt文件每一行对应一个目标格式是class_id center_x center_y width height注意这里面所有坐标都是归一化的。假设图片宽度是w、高度是h手动标注拿到的是矩形框左上角(x1,y1)和右下角(x2,y2)工具会把它转换成分数。手动验证一下一个目标框的center_x为0.5说明它横向居中w/h取值在0到1之间。如果生成的文件里出现大于1的坐标多半是标注工具保存的时候出了问题。2.2 数据集目录划分训练集和验证集不能有交集按YOLOv8的约定目录结构来组织datasets/ images/ train/ val/ labels/ train/ val/images和labels顶层目录分开同时train目录里放训练图片val目录里放验证图片。labels目录保持同样的结构文件名与图片一一对应只后缀不同否则训练时会提示找不到标签。划分比例上常用的是8:1或9:1但前提是你的样本量足够。如果总共就几百张图验证集太小会导致评估结果波动大我会倾向于95%训练、5%验证甚至用k-fold交叉验证来判断模型真实水平。划分脚本网上很多但核心逻辑就是遍历图片文件名按随机种子打乱后写入对应目录。2.3 数据质量与标注细节这些坑等不到训练就会爆类别不平衡问题。如果你的数据集里羊只有十几只狗有几千只模型大概率对羊视而不见。这不是YOLOv8的问题是数据本身的分布问题。最简单的处理是给少类别的样本做复制增强或者从公开数据集中补充同类数据。漏标比标错更致命。目标检测模型学习的是哪里有目标、目标是什么。如果一张图里有3个目标但只标了1个训练时模型把另外两个也预测出来就会被当成false positive惩罚效果反而更差。所以宁可放慢标注速度也要把每张图的所有目标都框完整。小目标数据必须有。如果一个目标在整张图中只占20x20像素而你的训练数据全是占图1/4的大目标换到真实场景基本凉凉。收集数据时就要刻意覆盖不同尺度、不同背景、不同光照的目标。3. 训练前的关键决策模型选型、配置文件和预训练权重3.1 先想清楚再用哪个模型n/s/m/l/x怎么选很多人上来就选最大最重的yolov8x觉得越大的模型越准。实际上对自定义数据集模型大小应该和你的数据规模强相关。数据量小几千张内时yolov8n和yolov8s反而是最稳的选择因为大模型在数据不足的情况下更容易过拟合而且训练周期长到让人怀疑人生。我的习惯是第一版永远先跑yolov8n把整个流程链路跑通确认数据标注、配置、训练脚本没问题之后再换yolov8s或yolov8m做精度提升。这样排错的范围会小很多——第一版跑出糟糕的结果问题大概率在数据而不在选型。3.2 配置文件data.yaml到底该怎么写在项目目录下新建一个data.yaml内容如下path: /home/user/datasets train: images/train val: images/val nc: 2 names: [cat, dog]path是数据集根目录的绝对路径。train和val相对path路径填写。nc是类别总数names是类别名称列表顺序必须和标注时定义的class_id一致。这里最常犯的错误是标注软件里的类别编号和names列表对不上比如names里第一个是dog但标注时0号类别用的cat结果模型学到的全是错位的东西。写完配置后可以考虑先做一个快速验证yolo detect train datadata.yaml modelyolov8n.pt epochs1 batch1跑通一个epoch再上正式训练别直接全量训练才发现路径写错。3.3 预训练权重为什么强烈建议用pretrained第一次运行时YOLOv8会自动下载COCO上预训练的yolov8n.pt。预训练权重的意义在于模型已经见过大量通用目标特征我们只是让它迁移到自己的任务上收敛更快、效果更好。如果你换用随机初始化的权重pretrainedFalse从零开始训练自己的数据集数据量不够时模型基本不收敛。从零训练的风险主要在于学习率和训练轮数的平衡很难把握。所以我的建议是除非你的数据集和COCO的分布差异大到离谱比如全是遥感卫星图否则一律用预训练权重。4. 启动训练命令行参数逐个拆解与训练过程观测4.1 训练命令与关键参数详解yolo detect train datadata.yaml modelyolov8n.pt epochs100 batch8 imgsz640 device0epochs训练的轮数默认100。自定义数据集通常100-200轮能看到不错的结果。我一般在第一版跑150然后根据曲线决定加还是减。batch每次迭代喂进GPU的图片张数。显存不够就降这个参数。注意batch太小时批量归一化不稳定建议最低不低于4。imgsz输入分辨率。640是性能和速度的平衡点。如果目标普遍很小可以试1280但显存占用直接翻4倍。device0代表第一张GPU卡。多卡用device0,1。workers数据加载线程数Windows下建议设0或2Linux下可以设8否则可能出现莫名其妙的卡死。amp混合精度训练默认开启显存不够时务必保持开启。4.2 训练过程中的输出目录与观测指标训练开始后会在当前目录生成runs/detect/train/或train2、train3里面有几个关键文件一定要会看results.png是训练过程的汇总图包含box_loss、cls_loss、dfl_loss以及精确率、召回率、mAP曲线。weights/best.pt是验证集上mAP最高的权重weights/last.pt是最后一步的权重。后续预测用best.pt不要用last.pt。训练日志每轮会打一行表格Gpu_mem、Box(P/R/mAP50/mAP50-95)、Cls等指标。很多人第一次训练看到mAP50是0就慌了其实前几十轮mAP为0非常正常尤其是目标小或类别多的情况下。我习惯看loss曲线是否持续下降只要box_loss和cls_loss在降mAP早晚会起来。4.3 中断恢复与常用的进阶调参训练一半断了怎么办不用从头跑加一个参数yolo detect train datadata.yaml modelruns/detect/train/weights/last.pt resumeTrue进阶操作里最常用的还有freeze参数用于冻结骨干网络前N层。epochs不够但不想重来的时候冻结前10层的训练速度会明显加快而且对小数据集能起到一定的正则化作用yolo detect train datadata.yaml modelyolov8s.pt epochs100 batch8 freeze104.4 训练自来水学习率策略YOLOv8默认使用余弦退火学习率调度初始学习率lr0默认0.01。大多数情况默认值够用。如果你发现loss在训练初期就炸了数值上飞可以把lr0降到0.001再试。反过来如果loss降得非常慢半天下不去可以适当调到0.02。这个靠人工观察调节不算精确但比完全不管好很多。5. 实测中常见的坑与排查链路5.1 显存不足OOM的排查顺序训练中途报CUDA out of memory时先别急着换小模型。按这个顺序排查关掉其他占显存的应用包括浏览器里大量图片页面。把batch从16降到8再降到4。把imgsz从640降到480或416。确认ampTrue已开启。最后才换更小的模型。按这个顺序走多数情况下不用换模型就能解决。核心原因是显存占用约等于模型权重 激活值激活值部分的显存消耗随batch和分辨率线性增加但模型权重是固定的。所以降batch和分辨率是成本最低的解法。5.2 损失不下降或直接NaN先查数据再查超参loss输出NaN是很多新手会遇到的情况它不一定是模型问题。我先检查数据txt标签里有没有除以零或越界的坐标再检查图片有没有损坏的图片。YOLOv8训练时遇到损坏图片可能直接跳过但在某些版本里会出现梯度异常。如果数据没问题下一步检查学习率。lr0设置在0.001-0.02范围内比较安全过高很容易导致NaN。还有一个隐藏比较深的坑标签文件与图片文件名不匹配。比如图片是0001.jpg标签却是0001.txt和0001 (1).txt并存训练时数据加载逻辑按文件名索引多余的文件会被忽略或错配。建议标注完成后写个脚本检查一下图片和标签的对应关系。5.3 过拟合与类别不平衡的典型表现训练集loss降到很低但验证集mAP上不去典型过拟合。表现模式是前几十轮val指标稳步上升之后train loss继续降但val基本不动。这种时候最有效的干预手段不是换模型而是加数据增强、减小模型、或者增加数据量。YOLOv8内置了丰富的数据增强马赛克增强、随机仿射变换、色彩抖动等训练时默认开启。如果数据量不大可以调低mosaic概率——马赛克增强在某些极端情况下反而会把小目标切碎造成训练困难。类别不平衡问题最直接的表现是混淆矩阵里某一类的召回率特别低。打开runs/detect/train/confusion_matrix.png如果发现真样本大量被预测成背景或某个大类就该考虑往数据集里补小类的样本了。5.4 标注工具打不开或打不开图片时的解决方案LabelImg在新版系统上偶尔会闪退最常见的原因是图片路径里有中文。解决方法是把数据集路径统一改成纯英文别带空格。另一个常见问题是图片格式有些截图工具保存的png实际是RGBA四通道LabelImg能打开但保存的标注坐标可能偏移。建议统一转化成RGB三通道jpg或png避免玄学问题。6. 评估结果、导出模型与部署简谈6.1 验证指标解读Precision、Recall、mAP到底关注哪个训练结束后的评估主要看验证集上的四类指标。Precision表示预测为正的样本里实际有多少正确Recall表示实际目标有多少被找出来。大多数场景中漏检比误检后果严重所以会优先保Recall。mAP50是IoU阈值取0.5时的平均精度是目标检测任务最常用的效果指标。mAP50-95则会更严格——它看的是从0.5到0.95间隔0.05共10个IoU阈值下mAP的平均值对定位精度更敏感。小目标检测场景mAP50可能很高但mAP50-95很低说明框的位置误差大。另外强烈建议跑一遍混淆矩阵yolo detect val modelruns/detect/train/weights/best.pt datadata.yaml它会输出各类别互相混淆的详细矩阵比只看mAP更能看出模型在哪一类上容易出错。6.2 用训练好的权重做预测yolo detect predict modelruns/detect/train/weights/best.pt sourcetest.jpg saveTruesource可以指向单张图片、一个文件夹或者视频文件。saveTrue会在runs/detect/predict下保存可视化结果。如果目标在图上但没被检出第一反应别调阈值先check推理分辨率。默认推理时图片会缩放填充到640x640但小目标可能本身不足640像素缩放后特征进一步缩水。可以尝试imgsz1280重新预测代价是速度明显变慢。6.3 导出为ONNX与其他部署格式训练完权重是.pt格式的PyTorch权重部署到服务端或边缘设备时通常要转格式yolo export modelbest.pt formatonnx dynamicTrue imgsz640导出ONNX之后可以用ONNX Runtime做推理也可以进一步转TensorRT做GPU加速推理。转换本身不复杂真正要留意的是推理代码里的预处理缩放、归一化必须和训练时保持一致。这是经产被忽略的坑——训练时用letterbox保持长宽比部署时直接resize目标框位置会完全偏掉。7. 后续还能怎么改进跑通基础流程之后可以尝试的方向比较明确。如果你发现小目标检测效果差优先考虑提升输入分辨率同时把马赛克增强关掉或降低概率。如果你发现单类效果特别好但另一类不行大概率是数据量不平衡先补数据再想模型改进。如果你希望进一步压缩模型加速推理可以直接用蒸馏或剪枝但这类技巧建议你先把基础流程摸熟再上。另外关于YOLOv8的改进版本和自定义模块网上讨论非常多。但我个人的建议是尽量先用原版跑通全流程再谈魔改。因为改了网络结构之后预训练权重基本失效训练难度直接上一个台阶。先用原版确保数据、标注、训练、评估这条链路是你熟悉的后面再怎么折腾都有得对比。
