functional接口不构建计算图，仅调用torch.nn.functional中无参数、不注册到nn.module的纯函数式操作；梯度依赖输入张量的requires_grad属性，权重需手动设requires_grad=true并传入优化器。
Functional接口不构建计算图，它只是函数式调用
PyTorch的torch.nn.functional（常缩写为F）里所有函数——比如F.relu()、F.conv2d()、F.linear()——本身**不持有参数**，也不自动注册到nn.Module中。它们只是对输入张量做纯函数式变换，是否参与梯度计算，完全取决于输入张量是否带requires_grad=True。所谓“动态构建计算图”，其实是Autograd在反向传播时根据前向执行路径自动追踪，而不是Functional主动“构建”。
为什么直接用F.conv2d()却得不到梯度？
常见错误是把权重张量当作普通torch.Tensor传入，但忘了设requires_grad=True，或者没把它加入优化器参数列表。Autograd只跟踪“可求导张量之间的运算”，如果权重是torch.randn(32, 3, 3, 3)这种默认requires_grad=False的，整个路径就断了。
实操建议：
- 手动创建权重时务必加
requires_grad=True：weight = torch.randn(32, 3, 3, 3, requires_grad=True) - 调用
F.conv2d(input, weight, bias)前，确认input.requires_grad为True（通常来自上层输出或原始输入） - 若需更新权重，必须显式把
weight和bias传给优化器：optimizer = torch.optim.SGD([weight, bias], lr=0.01) - 注意
F.conv2d()不支持nn.Parameter自动管理，你得自己保管、保存、加载这些张量
F.linear()和nn.Linear()在计算图上的行为一致吗？
行为一致——只要输入和权重都可导，两者生成的计算图结构完全相同。区别只在封装层级：nn.Linear是nn.Module子类，内部调用F.linear()；而直接调用F.linear()绕过了模块机制。
关键差异点：
-
nn.Linear(10, 5)自动把权重注册为self.weight（nn.Parameter，默认requires_grad=True） -
F.linear(x, W, b)中的W和b只是普通张量，不会被model.parameters()捕获 - 使用
F.linear()时，torch.no_grad()或torch.inference_mode()仍生效，不影响计算图逻辑，只控制梯度记录开关 - 性能上无差异，但
F.linear()更灵活：可配合torch.vmap做批量权重推理，或用于元学习中快速切换参数
想动态切换激活函数？别用if-else判断，用字典映射
Functional接口的优势在于运行时选择。但写if activation == "relu": x = F.relu(x)这类分支，在JIT或Triton场景下会阻碍图优化。更稳妥的方式是预定义映射：
ACTIVATIONS = {
"relu": F.relu,
"gelu": F.gelu,
"silu": F.silu,
}
x = ACTIVATIONS[activation_name](x)
这样既保持动态性，又避免Python控制流打断Autograd追踪。注意：F.silu()在旧版PyTorch（AttributeError；F.gelu()默认使用近似算法，如需精确版本需传approximate="none"。
容易被忽略的一点：所有F.*函数对inplace=True的支持有限——F.relu(x, inplace=True)是合法的，但F.gelu(x, inplace=True)会直接报错。别假设所有激活函数都支持原地操作。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
