保姆级教程：用Labelme标注并训练YOLOv5-seg分割模型（附完整代码）

从零构建YOLOv5-seg图像分割模型Labelme标注到训练全流程实战第一次接触图像分割任务时我被那些精准勾勒物体边缘的算法效果震撼了。但当我真正开始尝试训练自己的分割模型时才发现从原始图片到可训练数据集的转化过程充满陷阱。本文将带你完整走通这条路径——不需要任何前置经验只要准备好你的图片集合和一台配置了Python环境的电脑我们就能一起构建出可识别自定义物体的分割模型。1. 环境配置与工具准备工欲善其事必先利其器。在开始标注前我们需要搭建好工作环境。不同于常规的目标检测任务分割模型训练需要更精细的标注工具和特定的数据格式转换流程。核心工具清单Labelme 3.16.7多边形标注工具YOLOv5-seg 7.0版本分割专用分支Python 3.8推荐使用Anaconda管理环境安装过程最常遇到的依赖冲突问题通常源于torch版本不匹配。建议按以下顺序安装conda create -n yolov5_seg python3.8 conda activate yolov5_seg pip install labelme3.16.7 git clone -b v7.0 https://github.com/ultralytics/yolov5 cd yolov5 pip install -r requirements.txt提示如果下载速度慢可在pip命令后添加-i https://pypi.tuna.tsinghua.edu.cn/simple使用国内镜像源验证安装是否成功import labelme import torch print(labelme.__version__, torch.__version__) # 应输出3.16.7 1.12.1cu113或类似版本号2. 数据标注实战Labelme高效使用技巧标注质量直接决定模型上限。对于分割任务我们需要用多边形精确勾勒物体轮廓这比画矩形框的检测任务更耗时。以下是我总结的高效标注工作流目录结构规划推荐方案dataset/ ├── images/ │ ├── train/ │ └── val/ └── labels/ ├── train/ └── val/Labelme标注规范使用Ctrl鼠标滚轮调整图像缩放按Enter完成当前多边形绘制标注命名规则类别_序号如dog_1保存后的JSON文件建议与图片同名批量标注技巧对相似物体使用复制多边形功能快捷键CtrlC/CtrlV对对称物体标注一半后使用镜像翻转工具复杂边缘可采用Ctrl单击增加关键点密度标注完成后典型的JSON文件结构如下{ version: 5.0.1, flags: {}, shapes: [ { label: cat_1, points: [[302,240],[335,210],...], shape_type: polygon } ], imagePath: 001.jpg }3. 数据格式转换从JSON到YOLO格式的完整方案YOLOv5-seg需要特定的TXT标注格式每个多边形点需要归一化并平铺存储。以下是我优化后的转换脚本解决了原始方案中的三个典型问题处理多类别场景自动过滤无效标注保留层级关系import os import json import numpy as np from pathlib import Path def convert_labelme_to_yolo(json_dir, output_dir, classes): json_files [f for f in Path(json_dir).glob(*.json)] os.makedirs(output_dir, exist_okTrue) for json_file in json_files: with open(json_file, r) as f: data json.load(f) img_h, img_w data[imageHeight], data[imageWidth] txt_lines [] for shape in data[shapes]: label shape[label].split(_)[0] # 去除实例编号 if label not in classes: continue points np.array(shape[points]) # 归一化处理 points[:, 0] / img_w points[:, 1] / img_h # 平铺坐标并保留6位小数 flattened .join([f{x:.6f} for x in points.ravel()]) txt_lines.append(f{classes.index(label)} {flattened}) if txt_lines: output_path Path(output_dir) / f{json_file.stem}.txt with open(output_path, w) as f: f.write(\n.join(txt_lines)) # 使用示例 classes [cat, dog, person] # 你的类别列表 convert_labelme_to_yolo(dataset/images/train, dataset/labels/train, classes)转换后的TXT文件示例0 0.302083 0.250000 0.348958 0.218750 ... 1 0.456250 0.312500 0.489583 0.281250 ...注意务必验证转换结果使用下面的可视化脚本检查标注是否对齐import cv2 import glob def visualize_annotations(img_dir, label_dir): for img_path in glob.glob(f{img_dir}/*.jpg): img cv2.imread(img_path) h, w img.shape[:2] label_path f{label_dir}/{Path(img_path).stem}.txt with open(label_path, r) as f: for line in f: parts line.strip().split() class_id int(parts[0]) points np.array([float(x) for x in parts[1:]]).reshape(-1, 2) points[:, 0] * w points[:, 1] * h cv2.polylines(img, [points.astype(int)], True, (0,255,0), 2) cv2.imshow(Preview, img) if cv2.waitKey(0) ord(q): break4. 模型训练YOLOv5-seg的定制化配置准备好数据集后关键的配置环节往往被大多数教程忽略。以下是经过实战验证的配置方案数据集配置文件data/custom_seg.yamlpath: ../dataset train: images/train val: images/val test: # 可选 # 类别信息 names: 0: cat 1: dog 2: person模型配置文件models/yolov5s-seg-custom.yaml需要修改两处关键参数nc: 3 # 你的类别数 depth_multiple: 0.33 width_multiple: 0.50启动训练的命令行参数需要特别注意分割任务特有的设置python segment/train.py \ --data data/custom_seg.yaml \ --cfg models/yolov5s-seg-custom.yaml \ --weights yolov5s-seg.pt \ --batch-size 16 \ --epochs 100 \ --img 640 \ --optimizer AdamW \ --bbox_iou_optim 0.7 # 分割专用参数训练过程中的关键指标解读指标名称健康范围异常处理建议mask_precision0.5-0.9检查标注质量mask_recall0.6-0.95增加负样本val/mAP0.50.7调整anchor大小当在Colab等云端环境训练时推荐使用以下监控命令# 实时查看GPU利用率 watch -n 0.5 nvidia-smi # 训练日志可视化 tensorboard --logdir runs/train5. 模型调优与常见问题解决训练完成后我们通常会遇到三类典型问题案例一边缘锯齿严重解决方案在segment/predict.py中增加后处理参数--mask-thres 0.5 # 调高掩模阈值 --smooth-pred # 启用平滑滤波案例二小物体识别效果差修改模型配置中的检测头参数# 在yolov5s-seg-custom.yaml中增加 small_object_params: detect_layers: [17, 20, 23] # 增加浅层特征 loss_weights: [1.0, 0.5, 0.2]案例三类别混淆通过混淆矩阵分析后可采用以下策略增加困难样本调整分类损失权重python train.py ... --cls_pw 1.5 # 增大分类损失权重最后分享一个实用技巧当标注数据不足时可以使用segment/autolabel.py脚本进行半自动标注python segment/autolabel.py \ --weights runs/train/exp/weights/best.pt \ --source unlabeled_images/ \ --output autolabeled/ \ --conf-thres 0.7