1. PyTorch张量基础重塑操作

刚接触PyTorch时，最让我头疼的就是张量的维度操作。记得第一次处理图像数据时，面对(B,C,H,W)这种四维张量完全不知所措。后来发现，掌握view和reshape这两个基础操作，就能解决80%的维度转换问题。

view和reshape都能改变张量的形状而不改变数据本身。比如我们有个3x4的矩阵：

tensor = torch.tensor([[1,2,3,4], [5,6,7,8], [9,10,11,12]])

想把它变成2x6的矩阵，两种写法效果相同：

tensor.view(2,6) tensor.reshape(2,6)

但有个关键区别：view要求张量在内存中是连续的，否则会报错。reshape则会自动处理连续性问题。我建议新手先用reshape，等熟悉内存布局后再用view。

实际项目中，最常用的场景是把卷积层的输出展平后输入全连接层。假设有个batch_size=32的图片数据，经过卷积后变成32x256x7x7的张量：

# 展平操作 flatten = conv_output.reshape(conv_output.size(0), -1) # 变成32x(256*7*7)

这里-1表示自动计算该维度大小，非常实用。但要注意，一个张量只能有一个-1。

2. 维度的增删操作

squeeze和unsqueeze是我在数据预处理时最常用的工具。squeeze能删除所有大小为1的维度，unsqueeze则是在指定位置插入大小为1的维度。

举个例子，加载单张图片时通常会得到3x224x224的张量，但模型需要的是1x3x224x224（带batch维度）：

image = torch.randn(3,224,224) # 原始图片 batched = image.unsqueeze(0) # 变成1x3x224x224

反过来，处理模型输出时经常需要去掉多余的维度：

output = model(input) # 假设输出是1x10 pred = output.squeeze(0) # 变成10

更精细的控制可以指定维度：

# 只在第二维插入 tensor = torch.randn(3,4) expanded = tensor.unsqueeze(1) # 变成3x1x4 # 只压缩第二维 squeezed = expanded.squeeze(1) # 变回3x4

3. 高级维度变换技巧

当需要交换维度顺序时，permute就派上用场了。比如把BCHW格式转为BHWC：

tensor = torch.randn(32,3,224,224) # BCHW transposed = tensor.permute(0,2,3,1) # BHWC

permute和view/reshape最大的区别是它会改变内存中数据的排列顺序。我曾在模型部署时踩过坑：用permute转换维度后直接保存，导致推理时性能下降。正确做法是先用contiguous()确保内存连续：

tensor.permute(0,2,3,1).contiguous()

expand和repeat都能扩展张量，但原理不同。expand是逻辑上的扩展，不复制数据；repeat是物理上的复制：

base = torch.tensor([[1,2]]) # 1x2 # expand逻辑扩展 expanded = base.expand(3,2) # 3x2，内存中还是[1,2] # repeat物理复制 repeated = base.repeat(3,1) # 3x2，内存中是6个元素

4. 张量拼接与分割实战

cat和stack都能拼接张量，但cat是沿现有维度拼接，stack会创建新维度：

a = torch.randn(2,3) b = torch.randn(2,3) # 沿第0维拼接 cat_result = torch.cat([a,b], dim=0) # 4x3 # 创建新维度 stack_result = torch.stack([a,b], dim=0) # 2x2x3

在数据增强时，我常用stack把多个变换结果合并：

augmented = [] for _ in range(4): augmented.append(transform(image)) batch = torch.stack(augmented) # 4xCxHxW

分割操作split和chunk也很实用。split可以按指定大小分割：

tensor = torch.randn(5,10) part1, part2 = tensor.split([3,2], dim=0) # 分成3x10和2x10

chunk则是均等分割：

chunks = tensor.chunk(5, dim=1) # 得到5个5x2的张量

5. 实际项目中的维度陷阱

在图像分类项目中，我曾因为维度问题debug了一整天。问题出在自定义数据集读取时，忘记给灰度图添加通道维度：

# 错误写法 gray_img = transform(img) # 得到224x224 # 正确写法 gray_img = transform(img).unsqueeze(0) # 1x224x224

另一个常见错误是混淆了expand和repeat。有次在注意力机制中误用repeat导致显存爆炸：

# 错误用法（显存爆炸） attention = query.repeat(1, num_heads, 1) @ key.repeat(1, num_heads, 1).transpose(1,2) # 正确用法 attention = query.expand(-1, num_heads, -1) @ key.expand(-1, num_heads, -1).transpose(1,2)

6. 性能优化小技巧

处理大张量时，我总结了几个优化经验：

1. 尽量使用in-place操作减少内存分配：

tensor.squeeze_(0) # 原地操作

2. 预先分配好内存：

output = torch.empty(1000,256) for i in range(1000): output[i] = process(input[i])

3. 善用爱因斯坦求和约定：

# 比permute+matmul更高效 torch.einsum('bchw,bkhw->bck', [features, kernels])

7. 调试维度问题的工具

当维度转换出错时，我常用的调试方法：

1. 打印形状和步长：

print(tensor.shape, tensor.stride())

2. 检查连续性：

assert tensor.is_contiguous()

3. 使用assert确保维度匹配：

assert x.shape == (B,C,H,W), f"Expected {(B,C,H,W)} but got {x.shape}"

这些技巧帮我节省了大量调试时间，特别是在处理复杂模型时。