PyTorch 快速上手:FashionMNIST 图像分类

记录 quickstart(Quickstart — PyTorch Tutorials)这个教程,便于后续快速套用结构。

数据集用 FashionMNIST,10 类服饰灰度图,28×28,训练 6 万张、测试 1 万张,模型是个三层全连接。

导包与全局设置

import torch
import torch.nn as nn
import torch.nn.functional as F
from torch.utils.data import DataLoader, Dataset
from torchvision import datasets
from torchvision.transforms import v2
import numpy as np
import random
import matplotlib.pyplot as plt


# 设置随机种子
def set_seed(seed=27):
    torch.manual_seed(seed)
    torch.cuda.manual_seed_all(seed)
    np.random.seed(seed)
    random.seed(seed)


set_seed(27)

# 硬件配置
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
print(f"Using device: {device}")

输出:

Using device: cpu

torch.manual_seed 管 CPU 和权重初始化,torch.cuda.manual_seed_all 管多卡,np.random / random 管 numpy 和数据打乱相关的随机性。

数据准备

datasets.FashionMNIST 会自动下载并缓存到 root 目录。变换用 torchvision.transforms.v2,两步:

training_data = datasets.FashionMNIST(
    root="data",
    train=True,
    download=True,
    transform=v2.Compose([
        v2.ToImage(),                              # PIL Image -> Tensor(uint8), 形状 [C,H,W]
        v2.ToDtype(torch.float32, scale=True),     # 转 float32, 像素从 [0,255] 缩放到 [0,1]
    ]),
)

test_data = datasets.FashionMNIST(
    root="data",
    train=False,
    download=True,
    transform=v2.Compose([v2.ToImage(), v2.ToDtype(torch.float32, scale=True)]),
)

这里 v2 和老的 transforms 有一点区别:v2.ToDtype(torch.float32, scale=True) 一步就完成了「转类型 + 归一化」,不用再写 ToTensor()。scale=True 这个参数不能省,否则像素还是 0–255 的浮点数,训练会直接发散。

接着套 DataLoader 分批,并确认一下张量形状:

batch_size = 64

train_dataloader = DataLoader(training_data, batch_size=batch_size)
test_dataloader = DataLoader(test_data, batch_size=batch_size)

for X, y in test_dataloader:
    print(f"Shape of X [N,C,H,W]: {X.shape}")
    print(f"Shape of y: {y.shape} {y.dtype}")
    break
Shape of X [N,C,H,W]: torch.Size([64, 1, 28, 28])
Shape of y: torch.Size([64]) torch.int64

y 是 int64(即 long),这点很重要——CrossEntropyLoss 只接受 long 类型的类别索引,不接受 one-hot,也不接受 float。

网络结构

class NeuralNetwork(nn.Module):
    def __init__(self):
        super().__init__()
        self.flatten = nn.Flatten()      # 把除 batch 维以外的维度全部拉平
        self.linear_relu_stack = nn.Sequential(
            nn.Linear(28 * 28, 512),
            nn.ReLU(),
            nn.Linear(512, 512),
            nn.ReLU(),
            nn.Linear(512, 10),
        )

    def forward(self, x):
        x = self.flatten(x)
        logits = self.linear_relu_stack(x)
        return logits


model = NeuralNetwork().to(device)
print(model)

nn.Flatten() 默认从第 1 维开始拉平,所以 [64,1,28,28] 进来变成 [64,784],batch 维保留。最后一层输出 10 个 logits,不要接 softmax——CrossEntropyLoss 内部已经做了 log-softmax,重复做一次会让梯度变小、收敛变慢。

print(model) 能看到完整结构:

NeuralNetwork(
  (flatten): Flatten(start_dim=1, end_dim=-1)
  (linear_relu_stack): Sequential(
    (0): Linear(in_features=784, out_features=512, bias=True)
    (1): ReLU()
    (2): Linear(in_features=512, out_features=512, bias=True)
    (3): ReLU()
    (4): Linear(in_features=512, out_features=10, bias=True)
  )
)

model.to(device) 是原地操作、返回 self,所以两种写法等价;但数据也要 .to(device),两者不在同一设备上会直接报错。

训练与评估

损失函数和优化器:

loss_fn = nn.CrossEntropyLoss()
optimizer = torch.optim.SGD(model.parameters(), lr=1e-3)

训练循环的四步顺序是固定的,写熟了就是肌肉记忆:

def train(dataloader, model, loss_fn, optimizer):
    size = len(dataloader.dataset)
    model.train()
    for batch, (X, y) in enumerate(dataloader):
        X, y = X.to(device), y.to(device)

        # 前向 + 损失
        pred = model(X)
        loss = loss_fn(pred, y)

        # 反向 + 更新 + 清零
        optimizer.zero_grad()      # 清空上一轮梯度
        loss.backward()
        optimizer.step()

        if batch % 100 == 0:
            loss_val, current = loss.item(), (batch + 1) * len(X)
            print(f"loss: {loss_val:>7f}  [{current:>5d}/{size:>5d}]")


def test(dataloader, model, loss_fn):
    size = len(dataloader.dataset)
    num_batches = len(dataloader)
    model.eval()

    test_loss, correct = 0, 0
    with torch.no_grad():
        for X, y in dataloader:
            X, y = X.to(device), y.to(device)
            pred = model(X)
            test_loss += loss_fn(pred, y).item()
            correct += (pred.argmax(1) == y).type(torch.float).sum().item()

    test_loss /= num_batches
    correct /= size
    print(f"Test Error:\n Accuracy: {(100 * correct):>0.1f}%, Avg loss: {test_loss:>8f}\n")

三个细节值得记:

  • optimizer.zero_grad() 放哪都行,但放在 backward() 之前更不容易漏;漏了梯度会跨 batch 累加。
  • 评估必须 model.eval() + torch.no_grad(),前者关掉 dropout / 改 BatchNorm 行为,后者省显存。
  • 统计 loss 时用 .item() 取出 Python 标量,否则整个计算图会被一直挂着,显存越跑越多。

跑 5 轮:

epochs = 5
for t in range(epochs):
    print(f"Epoch {t + 1}\n-------------------------------")
    train(train_dataloader, model, loss_fn, optimizer)
    test(test_dataloader, model, loss_fn)
print("Done!")

结果汇总:

轮次 测试准确率 平均损失
1 41.2% 2.164549
2 50.9% 1.906974
3 58.9% 1.539680
4 63.6% 1.270485
5 65.1% 1.100129

单轮日志长这样(第 5 轮):

Epoch 5
-------------------------------
loss: 1.336771  [   64/60000]
loss: 1.329332  [ 6464/60000]
loss: 1.161400  [12864/60000]
loss: 1.278819  [19264/60000]
loss: 1.150099  [25664/60000]
loss: 1.176580  [32064/60000]
loss: 1.187575  [38464/60000]
loss: 1.121785  [44864/60000]
loss: 1.168132  [51264/60000]
loss: 1.079935  [57664/60000]
Test Error:
 Accuracy: 65.1%, Avg loss: 1.100129

65% 确实偏低(FashionMNIST 上 MLP 一般能到 85% 左右),主要原因是 SGD + lr=1e-3 太小、只跑了 5 轮,曲线还在稳步下降、远没收敛。换成 Adam(lr=1e-3) 或把轮次加到 15 轮,数字会明显不同。这份代码的目标是跑通流程,不追指标。

保存与加载

只存参数,不存整个模型对象——存 state_dict 体积小、依赖少,跨版本、跨代码结构都更稳。

torch.save(model.state_dict(), "model.pth")
print("Saved PyTorch Model State to model.pth")
Saved PyTorch Model State to model.pth

加载时先用同一套结构实例化,再灌参数:

model = NeuralNetwork().to(device)
model.load_state_dict(torch.load("model.pth", weights_only=True))
<All keys matched successfully>

weights_only=True 是个安全设置:只反序列化张量,不执行任意 pickle 代码。PyTorch 2.6 之后默认就是 True,所以老代码里显式写 weights_only=False 的地方要留意。

推理与可视化

classes = [
    "T-shirt/top", "Trouser", "Pullover", "Dress", "Coat",
    "Sandal", "Shirt", "Sneaker", "Bag", "Ankle boot",
]

model.eval()
x, y = test_data[1][0], test_data[1][1]
with torch.no_grad():
    x = x.to(device)
    pred = model(x)
    predicted, actual = classes[pred[0].argmax(0)], classes[y]
    print(f'Predicted: "{predicted}", Actual: "{actual}"')
Predicted: "Pullover", Actual: "Pullover"

注意这里 test_data[1][0] 是 [1,28,28] 的单张图(没有 batch 维),所以前向输出是 [1,10],取 pred[0] 才是这一张图的 10 个 logits,再 argmax(0) 拿到类别下标。

最后抽 9 张训练图看看数据长什么样:

labels_map = {
    0: "T-Shirt", 1: "Trouser", 2: "Pullover", 3: "Dress", 4: "Coat",
    5: "Sandal", 6: "Shirt", 7: "Sneaker", 8: "Bag", 9: "Ankle Boot",
}

figure = plt.figure(figsize=(8, 8))
cols, rows = 3, 3
for i in range(1, cols * rows + 1):
    sample_index = torch.randint(len(training_data), size=(1,)).item()
    img, label = training_data[sample_index]
    figure.add_subplot(rows, cols, i)
    plt.title(labels_map[label])
    plt.axis("off")
    plt.imshow(img.squeeze(), cmap="gray")
plt.show()

从 FashionMNIST 训练集随机抽取的 9 张图,含 T-Shirt、Trouser、Pullover 等类别

img 的形状是 [1,28,28],imshow 需要二维数组,所以先 squeeze() 掉通道维;灰度图要指定 cmap="gray",否则 matplotlib 会用彩色映射表,看着不像衣服。

小结

整份流程就是六步,写别的任务时把中间两块换掉即可:

步骤 这段代码做什么 换任务时改什么
数据 datasets.FashionMNIST + DataLoader 换成自己的 Dataset,注意标签是 long
模型 三层 MLP,784→512→512→10 换成 CNN / Transformer,输出维度 = 类别数
损失 CrossEntropyLoss 回归换 MSELoss,多标签换 BCEWithLogitsLoss
优化 SGD(lr=1e-3) 一般直接上 AdamW,常配 cosine 调度
训练 前向→损失→清梯度→反向→更新 加大 batch、混精度、梯度裁剪
保存 state_dict + weights_only=True 结构改了要同步改实例化代码

顺带记三个这次遇到的坑:v2.ToDtype 不写 scale=True 会导致像素不归一化;模型和数据忘了同时 .to(device) 会报设备不一致;CrossEntropyLoss 前面多接一个 softmax 会让收敛变慢。