预训练 CNN 迁移学习可避免从零训练的高数据与算力需求，因 ImageNet 预训练模型已具备通用特征提取能力；推荐 ResNet18/50 入门，EfficientNet-B3 或 ViT-Base 追求精度，MobileNetV2 适合资源受限场景；四步为冻结主干、替换分类头、选择性解冻微调、加强数据增强与合理训练；需注意输入尺寸、模型模式切换及分层学习率设置。
为什么 用预训练 CNN 做迁移学习
直接从零训练深度卷积网络需要大量标注数据和算力，而 ImageNet 等大规模数据集上预训练的模型（如 ResNet、VGG、EfficientNet）已具备强大的通用图像特征提取能力。迁移学习就是复用这些“学到的视觉经验”，在小样本新任务上快速收敛、提升准确率。
常用预训练模型及选择建议
PyTorch 和 TensorFlow/Keras 都内置主流模型。初学者推荐从 ResNet18/50 起步：结构清晰、参数适中、微调友好；追求精度可选 EfficientNet-B3 或ViT-Base（需注意 ViT 对数据增强更敏感）；若设备资源有限，MobileNetV2兼顾速度与效果。不建议直接用原始 VGG16——参数多、收敛慢、易过拟合。
四步完成迁移学习实战
1. 加载预训练模型并冻结主干
用torchvision.models.resnet18(pretrained=True) 加载，然后执行 for param in model.parameters(): param.requires_grad = False 冻结全部层（或仅冻结前几层）。
2. 替换分类头（Classifier Head）
将最后一层全连接层（如model.fc）替换为适配你任务类别数的新层：model.fc = nn.Linear(512, num_classes)（ResNet18 输出特征维度是 512）。
3. 选择性解冻 + 微调
若新数据与 ImageNet 差异较大（如医学影像、卫星图），可解冻最后 1–2 个残差块，配合更低学习率（如 1e-4）训练；其余层仍保持冻结。
4. 数据增强与训练策略
小数据集务必加强增强：随机裁剪、水平翻转、色彩抖动、AutoAugment 或 RandAugment；使用带权重衰减的 AdamW 优化器；早停（Early Stopping）配合验证集准确率监控，防止过拟合。
避坑提醒：常见失效原因
• 输入尺寸不匹配：确保预处理时统一缩放到模型要求尺寸（如 ResNet 默认 224×224），且归一化参数用 ImageNet 均值标准差（[0.485,0.456,0.406], [0.229,0.224,0.225]）。
• 忘记切换模型模式：训练时调model.train()，验证 / 推理时必须调model.eval()，否则 BatchNorm 和 Dropout 行为异常。
立即学习“Python 免费学习笔记（深入）”；
• 学习率设得太高：新 fc 层可用 1e-3，但微调主干时建议 1e-5～1e-4；用分层学习率（如torch.optim.AdamW([{'params': model.fc.parameters(), 'lr': 1e-3}, {'params': model.layer4.parameters(), 'lr': 1e-4}])）更稳妥。
