新建一个项目文件夹,用于存放接下来训练所需要的文件。
mkdir train # 或者其他英文名
切换至工作文件夹
cd train
按照下图所示建立相关文件夹和文件。
.
├── JPEGImages
├── Annotations
├── labels
├── backup
├── data
│ ├── train.data
│ ├── train.names
│ ├── yolov4.cfg
│ ├── yolov4-tiny.cfg
├── darknet
├── gen_files.py
├── yolov4.conv.137
├── yolov4-tiny.conv.29
相关文件夹的作用
文件/文件夹 | 作用 |
---|---|
JPEGImages | 用于存放训练需要使用的图片 |
Annotations | 用于存放训练图片对应的XML标注文件 |
labels | 用于存放YOLO格式的txt标注文件 |
backup | 用于存放训练出来的模型文件 |
data | 用于存放模型训练需要的一些参数文件 |
相关文件的作用
文件 | 作用 | 如何获取 |
---|---|---|
darknet | darknet可执行文件 | 编译darknet后,将darknet可执行文件拷贝进来 |
gen_files.py | 用于对训练图片和标注进行处理归档 | 见下面的gen_files.py文件内容 |
yolov4.conv.137 | yolov4在coco数据集上的预训练权重文件(不含yolo head层) | 自行下载 |
yolov4-tiny.conv.29 | yolov4-tiny在coco数据集上的预训练权重文件(不含yolo head层) | 自行下载 |
train.data | 训练数据 | 自行建立,一会在里面添加文本内容 |
train.names | 训练的标签 | 自行建立,一会在里面添加文本内容 |
yolov4.cfg | 训练YoloV4需要的结构文件 | 在darknet项目的cfg文件夹里,拷贝进来即可 |
yolov4-tiny.cfg | 训练YoloV4-Tiny需要的结构文件 | 在darknet项目的cfg文件夹里,拷贝进来即可 |
gen_files.py内容如下:
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
import random
# 类别列表
classes=["ball"]
# 递归清除Linux隐藏文件
def clear_hidden_files(path):
dir_list = os.listdir(path)
for i in dir_list:
abspath = os.path.join(os.path.abspath(path), i)
if os.path.isfile(abspath):
if i.startswith("._"):
os.remove(abspath)
else:
clear_hidden_files(abspath)
# PASCAL VOC格式的xml标注文件 转换为 YOLO格式的txt文本标注文件
def convert(size, box):
'''
size = (w, h)
box = (xmin, xmax, ymin, ymax)
'''
dw = 1./size[0]
dh = 1./size[1]
x = (box[0] + box[1])/2.0
y = (box[2] + box[3])/2.0
w = box[1] - box[0]
h = box[3] - box[2]
x = x*dw
w = w*dw
y = y*dh
h = h*dh
return (x,y,w,h)
# 执行单个标注文件的转换
def convert_annotation(image_id):
in_file = open('Annotations/%s.xml' %image_id)
out_file = open('labels/%s.txt' %image_id, 'w')
tree=ET.parse(in_file)
root = tree.getroot()
size = root.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in root.iter('object'):
difficult = obj.find('difficult').text
cls = obj.find('name').text
if cls not in classes or int(difficult) == 1:
continue
cls_id = classes.index(cls)
xmlbox = obj.find('bndbox')
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text), float(xmlbox.find('ymax').text))
bb = convert((w,h), b)
out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
in_file.close()
out_file.close()
# 当前目录
wd = os.getcwd()
# 检查是否存在Annotations文件夹
annotation_dir = os.path.join(wd, "Annotations/")
if not os.path.isdir(annotation_dir):
os.mkdir(annotation_dir)
# 清除隐藏文件
clear_hidden_files(annotation_dir)
# 检查是否存在JPEGImages文件夹
image_dir = os.path.join(wd, "JPEGImages/")
if not os.path.isdir(image_dir):
os.mkdir(image_dir)
# 清除隐藏文件
clear_hidden_files(image_dir)
# 检查是否存在backup文件夹
backup_dir = os.path.join(wd, "backup/")
if not os.path.isdir(backup_dir):
os.mkdir(backup_dir)
# 清除隐藏文件
clear_hidden_files(backup_dir)
# 检查是否存在labels文件夹
labels_dir = os.path.join(wd, "labels/")
if not os.path.isdir(labels_dir):
os.mkdir(labels_dir)
# 清除隐藏文件
clear_hidden_files(labels_dir)
# 新建文件train.txt、test.txt
# 存放需要训练和测试的完整文件路径
train_file = open(os.path.join(wd, "train.txt"), 'w')
test_file = open(os.path.join(wd, "test.txt"), 'w')
train_file.close()
test_file.close()
# 训练数据集
train_file = open(os.path.join(wd, "train.txt"), 'a')
# 测试数据集
test_file = open(os.path.join(wd, "test.txt"), 'a')
# 列出所有图片文件
list = os.listdir(image_dir)
# 设置训练集/测试集划分比例的随机数
probo = random.randint(1, 100)
print("Probobility: %d" % probo)
for i in range(0,len(list)):
path = os.path.join(image_dir,list[i])
if os.path.isfile(path):
image_path = image_dir + list[i]
# 根据文件名,得到没有后缀的文件名和后缀名
(nameWithoutExtention, extention) = os.path.splitext(os.path.basename(image_path))
# 标注文件名
annotation_name = nameWithoutExtention + '.xml'
# 标注文件地址
annotation_path = os.path.join(annotation_dir, annotation_name)
# 设置训练集/测试集划分比例的随机数
probo = random.randint(1, 100)
print("Probobility: %d" % probo)
# 训练集和测试集的划分,这里的75代表训练集/测试集的划分比例为75:25
# 训练集
if(probo < 75):
if os.path.exists(annotation_path):
# 在当前目录下的train.txt文本文件中,写入训练图片的完整地址
train_file.write(image_path + '\n')
# 执行标注格式转换
convert_annotation(nameWithoutExtention)
# 测试集
else:
if os.path.exists(annotation_path):
# 在当前目录下的test.txt文本文件中,写入训练图片的完整地址
test_file.write(image_path + '\n')
# 执行标注格式转换
convert_annotation(nameWithoutExtention)
# 文件操作结束后,关闭文件流
train_file.close()
test_file.close()
2-1将训练所需的图片拷贝至JPEGImages文件夹下。
2-2将训练图片对应的XML标注文件拷贝至Annotations下。
确保labels文件夹下没有文件及隐藏文件
确保训练图片和标注一一对应
2-3修改gen_files.py中的classes为自己的标签。
例如:
classes = ["person", "phone", "chair"]
有几个标签修改为几个。
2-4在终端运行gen_files.py
python3 gen_files.py
此时会在当前训练文件夹生成文本文件train.txt和test.txt。
labels文件夹下会生成YOLO格式的txt标注文件。
train.txt文件内容为训练集图片的绝对地址的集合,一行一条。
test.txt文件内容为测试集图片的绝对地址的集合,一行一条。
可以看到train.txt和test.txt中的条目数的比例大致为之前设置的75:25。
当然也可以设置为其他的训练集/测试集划分比例。
labels下的文件是JPEGImages文件夹下每一个图像的YOLO格式的标注文件,这是由Annotations文件夹的xml标注文件转换来的。
最终训练只需要:
此时训练文件夹的目录树如下所示:
.
├── JPEGImages
├── Annotations
├── labels
├── backup
├── data
│ ├── train.data
│ ├── train.names
│ ├── yolov4.cfg
│ ├── yolov4-tiny.cfg
├── darknet
├── gen_files.py
├── yolov4.conv.137
├── yolov4-tiny.conv.29
├── train.txt
├── test.txt
新增train.txt、test.txt。
labels文件夹下新增n个YOLO格式的txt标注文件。
3-1新建data/train.names文件
可以复制darknet目录下的data/voc.names到训练目录下的data/train.names。
再根据自己情况的修改,可以重新命名如:data/train.names。
names文件存放训练的标签,一行一个标签,不要有空行。
例如3个标签的情况下,可以修改为:
person
phone
chair
替换为自己训练的标签即可。
3-2新建data/train.data文件
可以复制darknet目录下的cfg/coco.data到训练目录下的data/train.data。
再根据自己情况的修改,可以重新命名如:data/train.data。
data文件存放类别数、训练集位置、测试集位置、names文件位置、训练出来的模型的存放地址等信息。
例如:
classes = 80
train = train.txt
valid = test.txt
#valid = data/coco_val_5k.list
names = data/train.names
backup = backup
eval = coco
这里的文件地址都是相对于训练工作文件夹的。
train.data相关参数及其作用
参数名 | 作用 |
---|---|
classes | 类别数,标注、训练了几个类别,就写几 |
train | 训练集train.txt的文件地址 |
valid | 测试集test.txt的文件地址 |
names | names标签文件的文件地址 |
backup | 训练出来的模型的存放文件夹 |
eval | 评估参数(暂时没有搞明白) |
3-3和3-4二选一,看需要训练的模型是YoloV4还是YoloV4-Tiny。
3-3新建data/yolov4-tiny.cfg
可以复制darknet目录下的cfg/yolov4-tiny.cfg到训练目录下的yolov4-tiny.cfg。
再根据自己情况的修改,可以重新命名data/yolov4-tiny-xxx.cfg。
batch = 64
subdivisions = 32
在data/yolov4-tiny.cfg文件中,两个yolo层和各自前面的convolutional层的参数需要修改:
例如:
yolo层:classes=1;convolutional层:filters=18
yolo层:classes=2; convolutional层:filters=21
yolo层:classes=4;convolutional层:filters=27
3-4新建data/yolov4.cfg
可以复制darknet目录下的cfg/yolov4.cfg到训练目录下的yolov4.cfg。
再根据自己情况的修改,可以重新命名data/yolov4-xxx.cfg。
batch = 64
subdivisions = 32
在data/yolov4.cfg文件中,两个yolo层和各自前面的convolutional层的参数需要修改:
例如:
yolo层:classes=1;convolutional层:filters=18
yolo层:classes=2; convolutional层:filters=21
yolo层:classes=4;convolutional层:filters=27
4-1使用k-means聚类获得自己数据集的先验框大小
对于YoloV4-Tiny:
./darknet detector calc_anchors data/train.data -num_of_clusters 6 -width 416 -height 416
对于YoloV4:
./darknet detector calc_anchors data/train.data -num_of_clusters 9 -width 416 -height 416
4-2修改cfg文件中的先验框大小
cfg文件中的anchors位置的几个数字
4-3重新训练和测试
5-1确保yolov4-tiny.conv.29或者yolov4.conv.137在训练文件夹下
5-2开始训练
训练命令:
./darknet detector train data文件地址 cfg文件地址 预训练权重文件(不含yolo head层) -map
如需无须显示训练过程的map变化,在命令末尾加-map,即:
./darknet detector train data/train.data data/yolov4-tiny.cfg yolov4-tiny.conv.29
如需要显示训练过程的map变化,在命令末尾加-map,即:
./darknet detector train data/train.data data/yolov4-tiny.cfg yolov4-tiny.conv.29 -map
对于YoloV4模型的训练,只需要把命令里的cfg配置文件和预训练权重文件替换为YoloV4版本的就可以。
5-3训练建议
训练好后可以在backup目录下看到权重文件。
测试图片
./darknet detector test data/train.data data/yolov4-tiny.cfg backup/yolov4-tiny_best.weights xxx.jpg
测试视频
./darknet detector demo data/train.data data/yolov4-tiny.cfg backup/yolov4-tiny_best.weights xxx.mp4
模型的性能主要体现在:mAP
6-1统计 mAP@IoU=0.50:
./darknet detector map data/train.data data/yolov4-tiny.cfg backup/yolov4-tiny_best.weights
6-2统计 mAP@IoU=0.75:
./darknet detector map data/train.data data/yolov4-tiny.cfg backup/yolov4-tiny_best.weights -iou_thresh 0.75