| # DenseNet-CIFAR10 训练与特征提取 | |
| 这个项目实现了DenseNet模型在CIFAR10数据集上的训练，并集成了特征提取和可视化所需的功能。 | |
| ## time_travel_saver数据提取器 | |
| ```python | |
| #保存可视化训练过程所需要的文件 | |
| if (epoch + 1) % interval == 0 or (epoch == 0): | |
| # 创建一个专门用于收集embedding的顺序dataloader | |
| ordered_trainloader = torch.utils.data.DataLoader( | |
| trainloader.dataset, | |
| batch_size=trainloader.batch_size, | |
| shuffle=False, | |
| num_workers=trainloader.num_workers | |
| ) | |
| epoch_save_dir = os.path.join(save_dir, f'epoch_{epoch+1}') #epoch保存路径 | |
| save_model = time_travel_saver(model, ordered_trainloader, device, epoch_save_dir, model_name, | |
| show=True, layer_name='avg_pool', auto_save_embedding=True) | |
| #show:是否显示模型的维度信息 | |
| #layer_name:选择要提取特征的层,如果为None,则提取符合维度范围的层 | |
| #auto_save_embedding:是否自动保存特征向量 must be True | |
| save_model.save_checkpoint_embeddings_predictions() #保存模型权重、特征向量和预测结果到epoch_x | |
| if epoch == 0: | |
| save_model.save_lables_index(path = "../dataset") #保存标签和索引到dataset | |
| ``` | |
| ## 项目结构 | |
| - `./scripts/train.yaml`：训练配置文件，包含批次大小、学习率、GPU设置等参数 | |
| - `./scripts/train.py`：训练脚本，执行模型训练并自动收集特征数据 | |
| - `./model/`：保存训练好的模型权重 | |
| - `./epochs/`：保存训练过程中的高维特征向量、预测结果等数据 | |
| ## 使用方法 | |
| 1. 配置 `train.yaml` 文件设置训练参数 | |
| 2. 执行训练脚本： | |
| ``` | |
| python train.py | |
| ``` | |
| 3. 训练完成后，可以在以下位置找到相关数据： | |
| - 模型权重：`./epochs/epoch_{n}/model.pth` | |
| - 特征向量：`./epochs/epoch_{n}/embeddings.npy` | |
| - 预测结果：`./epochs/epoch_{n}/predictions.npy` | |
| - 标签数据：`./dataset/labels.npy` | |
| - 数据索引：`./dataset/index.json` | |
| ## 数据格式 | |
| - `embeddings.npy`：形状为 [n_samples, feature_dim] 的特征向量 | |
| - `predictions.npy`：形状为 [n_samples, n_classes] 的预测概率 | |
| - `labels.npy`：形状为 [n_samples] 的真实标签 | |
| - `index.json`：包含训练集、测试集和验证集的索引信息 |