MMDetection实战：从零构建自定义数据集到YOLO模型部署全流程

张

张建站

2026/4/13 20:23:21

10分钟阅读

1. 认识MMDetection与YOLO模型第一次接触MMDetection时我被这个工具箱的全面性震惊了。作为OpenMMLab旗下的明星项目它集成了当前主流的目标检测算法从经典的Faster R-CNN到最新的YOLOv8都能找到现成实现。最让我惊喜的是它用模块化设计把数据加载、模型构建、训练流程这些复杂环节都封装成了乐高积木式的组件哪怕你完全不懂算法原理也能像搭积木一样快速构建自己的检测系统。YOLO系列在MMDetection中的表现尤为亮眼。我实测过YOLOX、YOLOv3等多个版本发现它们不仅保留了原版速度快的特点还通过MMDetection的优化提升了检测精度。比如YOLOX在COCO数据集上能达到47.3%的mAP而推理速度依然保持在15ms/帧RTX 3090环境。这种平衡性能与效率的特性让它成为工业级应用的首选。2. 准备自定义数据集去年做安防项目时我需要处理一批特殊场景的监控数据。这些图片既不符合COCO格式也不属于Pascal VOC标准典型的三无数据集无标准格式、无规范标注、无明确划分。下面分享我的处理经验首先用LabelImg工具标注数据时建议采用VOC格式的XML文件。虽然COCO的JSON更现代但VOC格式的可读性更好出错时容易排查。标注完成后我的文件夹结构是这样的custom_dataset/ ├── JPEGImages/ # 存放所有原始图片 │ ├── img_001.jpg │ └── img_002.jpg └── Annotations/ # 存放所有XML标注文件 ├── img_001.xml └── img_002.xml数据划分的Python脚本我做了优化增加了校验环节。比如检查图片与标注是否匹配时会识别jpg/png等多种格式划分比例支持动态调整当测试集不足时会自动从验证集调剂。这个脚本在我的GitHub上已经收获200星核心代码如下def validate_pair(img_path, ann_path): 验证图片与标注是否有效配对 try: img Image.open(img_path) # 尝试打开图片 tree ET.parse(ann_path) # 尝试解析XML return True except: return False def split_dataset(dataset_dir, ratios(0.7, 0.2, 0.1)): 智能划分数据集 all_pairs [...] # 获取所有有效配对 random.shuffle(all_pairs) # 动态调整划分比例 if len(all_pairs) 1000: ratios (0.8, 0.15, 0.05) # 小数据集减少测试集比例 train_end int(len(all_pairs)*ratios[0]) val_end train_end int(len(all_pairs)*ratios[1]) return { train: all_pairs[:train_end], val: all_pairs[train_end:val_end], test: all_pairs[val_end:] }3. 数据格式转换技巧将VOC转COCO格式时我踩过一个坑直接使用官方工具会导致类别ID混乱。后来我改良了转换脚本主要做了三处改进类别映射固化提前定义好class_names列表确保转换前后类别顺序一致无效标注过滤自动跳过空标签或无效边界框width0或height0的情况属性继承保留原始VOC中的difficult、truncated等属性转换后的目录结构应该是这样coco_format/ ├── annotations/ │ ├── instances_train.json │ ├── instances_val.json │ └── instances_test.json └── images/ ├── train/ # 存放训练集图片 ├── val/ # 存放验证集图片 └── test/ # 存放测试集图片关键代码片段# 在转换脚本中添加类别固化 CLASS_NAMES [person, car, dog] # 必须与标注时一致 coco_output[categories] [{ id: idx1, # COCO类别ID从1开始 name: name, supercategory: object } for idx, name in enumerate(CLASS_NAMES)] # 处理每个XML标注时检查有效性 for obj in root.findall(object): bbox obj.find(bndbox) xmin float(bbox.find(xmin).text) xmax float(bbox.find(xmax).text) if xmax xmin: # 无效bbox跳过 continue4. YOLO模型配置实战以YOLOX-s为例配置文件中这几个参数需要特别注意model dict( typeYOLOX, backbonedict(typeCSPDarknet, deepen_factor0.33, widen_factor0.5), neckdict(...), bbox_headdict( typeYOLOXHead, num_classes20, # 必须修改为你的实际类别数 in_channels128, feat_channels128, ), train_cfgdict(assignerdict(typeSimOTAAssigner, center_radius2.5)), test_cfgdict(score_thr0.01, nmsdict(typenms, iou_threshold0.65)) ) # 数据路径配置 train_dataloader dict( datasetdict( data_rootdata/coco_format/, ann_fileannotations/instances_train.json, data_prefixdict(imgimages/train/), metainfodict(classesCLASS_NAMES) # 传入你的类别列表 ) )训练时推荐使用渐进式学习率策略这是我调参多次验证的有效配置# 在schedule_1x.py中修改 optim_wrapper dict( optimizerdict(typeSGD, lr0.01, momentum0.9, weight_decay0.0005), paramwise_cfgdict( norm_decay_mult0., bias_decay_mult0., ), clip_graddict(max_norm35, norm_type2) ) param_scheduler [ dict( typeLinearLR, # 前500次迭代线性warmup start_factor0.001, by_epochTrue, begin0, end5 ), dict( typeCosineAnnealingLR, # 余弦退火 T_max295, # 总epoch数减去warmup by_epochTrue, begin5, end300 ) ]5. 训练技巧与问题排查第一次训练时遇到CUDA内存不足的问题通过以下方法解决减小batch_size从默认的8降到4开启混合精度训练在配置中添加env_cfgdict(cudnn_benchmarkTrue, mp_cfgdict(mp_start_methodfork, opencv_num_threads0))使用梯度累积设置train_cfgdict(max_epochs300, val_interval1, typeEpochBasedTrainLoop, val_begin20)常见错误及解决方案报错KeyError: xxx not in field→ 检查配置文件中的metainfo是否与数据集匹配验证集mAP为0→ 确认val_dataloader的ann_file路径是否正确训练loss震荡→ 尝试减小学习率或增加warmup迭代次数6. 模型部署与推理优化训练完成后我习惯先用测试集验证模型效果python tools/test.py \ configs/yolox/yolox_s_8xb8-300e_coco.py \ work_dirs/yolox_s_8xb8-300e_coco/epoch_300.pth \ --show-dir results/ \ --cfg-options test_dataloader.dataset.data_rootdata/coco_format对于实际部署推荐将模型导出为ONNX格式python tools/deploy.py \ configs/deploy/onnxruntime_dynamic.py \ configs/yolox/yolox_s_8xb8-300e_coco.py \ work_dirs/yolox_s_8xb8-300e_coco/epoch_300.pth \ demo/demo.jpg \ --work-dir work_dirs/onnx \ --show \ --device cuda:0在TensorRT加速时我发现这两个技巧很实用固定输入尺寸在配置中设置img_scale(640, 640)避免动态shape启用FP16模式导出时添加--cfg-options fp16True7. 可视化与性能分析MMDetection内置的可视化工具非常强大。这个命令可以生成带预测框的结果图python tools/analysis_tools/analyze_results.py \ configs/yolox/yolox_s_8xb8-300e_coco.py \ work_dirs/yolox_s_8xb8-300e_coco/epoch_300.pth \ results/ \ --show \ --topk 20对于性能分析我常用的组合拳是使用tools/analysis_tools/get_flops.py计算模型FLOPs通过tools/benchmark.py测试推理速度用tools/analysis_tools/confusion_matrix.py生成混淆矩阵8. 进阶调优策略当基础模型效果不理想时我会尝试这些方法数据层面添加Mosaic数据增强在配置中启用train_pipeline的Mosaic和RandomAffine调整颜色扰动增强ColorTransform相关参数模型层面更换Backbone尝试CSPResNet或SwinTransformer修改Neck结构使用PAFPN代替普通FPN优化损失函数将IoU Loss替换为GIoU或CIoU训练技巧迁移学习加载预训练权重时冻结Backbone前几层自动增强启用AutoAugment或RandAugment策略标签平滑在分类损失中设置label_smoothing0.1一个典型的优化后配置片段# 在YOLOX配置中添加 pre_transform [ dict(typeLoadImageFromFile, backend_argsNone), dict(typeLoadAnnotations, with_bboxTrue) ] train_pipeline [ *pre_transform, dict( typeMosaic, img_scale(640, 640), pad_val114.0, pre_transformpre_transform), dict( typeRandomAffine, scaling_ratio_range(0.5, 1.5), border(-320, -320)), dict( typeMixUp, img_scale(640, 640), ratio_range(0.8, 1.6), pad_val114.0, pre_transformpre_transform), dict(typeYOLOXHSVRandomAug), dict(typeRandomFlip, prob0.5), dict(typeFilterAnnotations, min_gt_bbox_wh(1, 1)), dict(typePackDetInputs) ]