项目详情描述
本项目基于 ResNet50 深度卷积神经网络，结合 CBAM 注意力机制，实现了垃圾图片智能分类系统，能够准确识别 13 类不同垃圾，为智能垃圾分类和环保事业提供技术支持。
★ 问题分析
（1）传统垃圾分类依赖人工识别，效率低下且容易出错，无法满足大规模垃圾处理的需求。随着环保意识的增强和垃圾分类政策的推广，急需智能化的垃圾分类解决方案。
（2）垃圾图像识别面临的主要挑战：垃圾种类繁多，同类垃圾外观差异较大；不同类别垃圾可能存在相似特征；图像采集环境复杂，光照、角度、背景等因素影响识别准确性。
（3）核心问题在于如何构建高精度的深度学习模型，能够从复杂的垃圾图像中提取有效特征，实现准确的多分类识别。
★ 解决方案
（1）采用 ResNet50 作为基础网络架构：利用其残差连接机制解决深度网络梯度消失问题，提供强大的特征提取能力。
（2）集成 CBAM 注意力机制：在网络中引入通道注意力和空间注意力，增强模型对重要特征的关注度，抑制无关信息干扰。
（3）设计完整的数据预处理和增强策略：通过图像缩放、裁剪、旋转、翻转、噪声添加等技术提高模型泛化能力。
★ 实施过程
（1）数据集构建与分析：使用约 9 万张已标注垃圾图片，涵盖 13 个类别。通过数据分析发现图片长宽比大多集中于 1，据此设计输入尺寸为 288×288 的正方形格式。
（2）数据预处理流程：对原始图像以最大边为基准进行等比缩放，不足部分用 0 填充，然后裁剪至 288×288 尺寸。实施数据增强策略包括轻微角度旋转、水平翻转、高斯噪声添加等。
（3）模型选择与对比：对比测试了 SeNet154、EfficientNet-b7 等多个先进模型，综合考虑精度和计算效率，最终选择 ResNet50 作为基础架构。
（4）数据集划分：按照 9:1 的比例划分训练集和测试集，确保各类别样本分布均衡。
★ 优化过程
（1）网络结构优化：在 ResNet50 最后全连接层前添加 Dropout 层降低过拟合风险；在首层卷积后集成 CBAM 注意力机制，增强特征表征能力。
（2）训练策略优化：损失函数采用交叉熵损失；对比测试 Radam、Adam、SGD 三种优化器，最终选择精度最高的 SGD；采用动态学习率衰减策略，初始学习率 0.1，衰减率 0.98。
（3）训练环境与过程：使用单卡 RTX3090 GPU 进行训练，经过 100 个 epochs 达到最佳收敛状态。通过监控训练集和测试集精度变化，及时发现并避免过拟合现象。
（4）性能提升：最终测试集准确率达到 96.94%，显著超越传统机器学习方法和基础 CNN 模型。
★ 反思改进
（1）模型压缩优化：考虑对训练好的网络进行量化和知识蒸馏，在保证精度的前提下提高推理速度，便于部署到移动端或嵌入式设备。
（2）数据集扩充：收集更多样化的垃圾图像数据，包括不同光照条件、拍摄角度、背景环境的样本，进一步提升模型泛化能力。
（3）实时性优化：研究轻量化网络架构如 MobileNet、EfficientNet 等，在保持高精度的同时提升推理速度。
项目涉及技术
★ ResNet50 网络
（1）ResNet 出现背景：传统深度卷积网络随着层数增加容易出现梯度消失问题。根据链式法则，梯度在反向传播过程中逐层相乘，当梯度值小于 1 时会越乘越小，导致前层网络难以得到有效训练，网络性能趋于饱和甚至下降。
（2）残差连接核心思想：引入恒等快捷连接（skip connection），直接跳过一个或多个层。残差块的数学表达式为：y = F(x, \{W_i\}) + x，其中F(x, \{W_i\})表示残差映射，x为恒等映射。
（3）残差连接优势：即使梯度消失导致残差映射F(x)学习困难，恒等映射仍能保证信息传递，相当于在深层网络上堆叠"复制层"，至少不会比浅层网络性能差。当梯度正常传播时，网络能学习到更丰富的特征表示。
（4）维度匹配机制：当输入输出维度相同时直接相加；当维度不同时，通过 1×1 卷积或池化操作调整维度后再相加，确保残差连接的有效性。
★ CBAM 注意力机制
CBAM（Convolutional Block Attention Module）注意力机制分为 空间注意力（Spatial Attention Module） 和 通道注意力 （Channel Attention Module）两部分。由上图可见，红色方框内为通道注意力，蓝色方框内为空间注意力。通道注意力 在前，空间注意力 在后。
特征图输入后，先进入 通道注意力，基于特征图的宽、高进行 GAP、GMP，然后经过 MLP 得到通道的注意力权重，然后通过 Sigmoid 函数获得归一化注意力权重，最后通过乘法逐通道加权到原始输入特征图上，完成通道注意力对原始特征的重新标定。
为了获得在空间维度的注意力特征，经通道注意力输出的特征图同样基于特征图的宽度和高度进行全局最大池化和全局平均池化，将特征维度由 H×W 转变成 1×1，接着经过卷积核为 7×7 的卷积和 Relu 激活函数后降低特征图的维度，然后再经过一次卷积后提升为原来的维度，最后将经过 Sigmoid 激活函数标准化处理后的特征图与通道注意力输出的特征图进行合并，从而在空间和通道两个维度上完成对特征图的重标定。
在空间注意力模块中，全局平均池化和最大池化获得了空间注意力特征，通过两个卷积建立了空间特征间的相关性，同时保持了输入输出维度的不变。通过卷积核为 7×7 的卷积操作，极大地减少了参数和计算量，有利于建立高维度的空间特征相关性。
经过 CBAM 后，新的特征图将得到通道和空间维度上的注意力权重，大大提高了各个特征在通道和空间上的联系，更有利于提取目标的有效特征。
（1）整体架构：CBAM包含通道注意力模块和空间注意力模块，按顺序串联使用。
（2）通道注意力机制：
全局平均池化：F_{avg}^c = \frac{1}{H \times W} \sum_{i=1}^{H} \sum_{j=1}^{W} F(i,j)
全局最大池化：F_{max}^c = \max_{1 \leq i \leq H, 1 \leq j \leq W} F(i,j)
MLP 处理：M_c(F) = \sigma(MLP(AvgPool(F)) + MLP(MaxPool(F)))
通道权重计算：通过共享 MLP 网络分别处理平均池化和最大池化结果，然后相加并通过 Sigmoid 激活得到通道注意力权重。
（3）空间注意力机制：
通道维度池化：F_{avg}^s = \frac{1}{C} \sum_{i=1}^{C} F^i，F_{max}^s = \max_{1 \leq i \leq C} F^i
卷积处理：M_s(F) = \sigma(f^{7×7}([AvgPool(F); MaxPool(F)]))
使用 7×7 卷积核建立空间特征相关性，在减少参数量的同时保持较大的感受野。
（4）特征融合：最终输出特征图F'' = M_s(F') \otimes F'，其中F' = M_c(F) \otimes F，\otimes表示逐元素相乘。
★ 深度学习优化算法
（1）SGD（随机梯度下降） ：
更新公式：\theta_{t+1} = \theta_t - \eta \nabla_\theta J(\theta_t)
优点：收敛稳定，在大数据集上表现良好，内存占用小
缺点：收敛速度较慢，容易陷入局部最优
（2）Adam 优化器：
动量估计：m_t = \beta_1 m_{t-1} + (1-\beta_1) g_t
二阶矩估计：v_t = \beta_2 v_{t-1} + (1-\beta_2) g_t^2
偏差修正：\hat{m}_t = \frac{m_t}{1-\beta_1^t}，\hat{v}_t = \frac{v_t}{1-\beta_2^t}
参数更新：\theta_{t+1} = \theta_t - \frac{\eta}{\sqrt{\hat{v}_t} + \epsilon} \hat{m}_t
（3）RAdam 优化器：在 Adam 基础上增加了方差修正项，解决了训练初期方差估计不准确的问题，提高了收敛稳定性。
★ 数据增强
（1）几何变换：
旋转变换：\begin{bmatrix} x' \\ y' \end{bmatrix} = \begin{bmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{bmatrix} \begin{bmatrix} x \\ y \end{bmatrix}
水平翻转：增加数据多样性，提高模型对镜像对称的鲁棒性
随机裁剪：从原图中随机选择区域进行裁剪，增强模型对目标位置变化的适应性
（2）噪声添加：
高斯噪声：I_{noisy} = I_{original} + \mathcal{N}(0, \sigma^2)
椒盐噪声：随机将像素值设为 0 或 255，模拟图像采集过程中的噪声干扰
（3）颜色空间变换：
亮度调整：I_{bright} = I_{original} + \alpha
对比度调整：I_{contrast} = \alpha \cdot I_{original}
饱和度调整：在 HSV 颜色空间中调整 S 通道值
★ 损失函数与评估指标
（1）交叉熵损失函数：
多分类交叉熵：L = -\sum_{i=1}^{N} \sum_{j=1}^{C} y_{ij} \log(p_{ij})，其中 y_{ij}为真实标签的 one-hot 编码，p_{ij}为模型预测概率
优点：能够有效处理多分类问题，梯度计算简单，收敛稳定
（2）模型评估指标：
准确率：Accuracy = \frac{\text{正确预测样本数}}{\text{总样本数}}
精确率：Precision_i = \frac{TP_i}{TP_i + FP_i}
召回率：Recall_i = \frac{TP_i}{TP_i + FN_i}
F1 分数：F1_i = \frac{2 \times Precision_i \times Recall_i}{Precision_i + Recall_i}
宏平均F1：F1_{macro} = \frac{1}{C} \sum_{i=1}^{C} F1_i
★ 学习率调度
（1）指数衰减：lr_t = lr_0 \times \gamma^t，其中 \gamma 为衰减率（本项目中\gamma = 0.98）
（2）余弦退火：lr_t = lr_{min} + \frac{1}{2}(lr_{max} - lr_{min})(1 + \cos(\frac{t}{T}\pi))
（3）分段常数衰减：在特定 epoch 处将学习率乘以固定因子
（4）自适应学习率：根据验证集性能动态调整学习率，当性能停止改善时降低学习率
★ 过拟合检测与防止
（1）Dropout 正则化：训练时随机将部分神经元输出置零：y = \frac{1}{1-p} \cdot mask \odot x，其中 p 为 dropout 概率，mask 为随机生成的二进制掩码，有效防止神经元间的复杂共适应，提高模型泛化能力
（2）早停机制：监控验证集性能，当连续多个 epoch 无改善时停止训练
（3）权重衰减：在损失函数中添加 L2 正则项：L_{total} = L_{CE} + \lambda \sum_{i} w_i^2
★ 模型压缩与加速
（1）量化技术：
INT8 量化：将 32 位浮点数权重量化为 8 位整数，减少模型大小和计算量
量化公式：q = round(\frac{r}{s}) + z，其中s 为缩放因子，z为零点偏移
（2）知识蒸馏：
教师-学生网络框架：大型教师网络指导小型学生网络学习
蒸馏损失：L_{KD} = \alpha L_{CE} + (1-\alpha) \tau^2 KL(\sigma(z_t/\tau), \sigma(z_s/\tau))，其中\tau为温度参数，z_t和 z_s分别为教师和学生网络的 logits
（3）网络剪枝：
结构化剪枝：移除整个通道或层
非结构化剪枝：移除权重幅值较小的连接
剪枝后需要微调恢复性能
★ 计算机视觉中的数据预处理
（1）图像标准化：ImageNet 标准化：x_{norm} = \frac{x - \mu}{\sigma}，其中 \mu = [0.485, 0.456, 0.406]，\sigma = [0.229, 0.224, 0.225]（RGB 三通道）
（2）图像缩放策略：
等比缩放：保持长宽比，避免图像变形
填充策略：使用零填充、边缘填充或反射填充
中心裁剪：从缩放后图像中心区域裁剪目标尺寸
（3）颜色空间转换：RGB 到 HSV：H = \arctan2(\sqrt{3}(G-B), 2R-G-B)，便于进行颜色相关的数据增强操作。
评论区