EXERCISE BANK
脱离引导的独立练习：计算、轨迹、方案与 WebGPU 实验；错题进入错题本。
房价模型 y = w1 * 面积 + w2 * 房间数 + b 训练完成后，用新房特征做预测。 下面哪组量会随输入样本变化？
计算图：a = 2、b = 3、c = 4、d = a + b、e = d * c。 下面哪个执行顺序是合法拓扑序？
一个神经元有 128 个输入，计算加权和 sum(w_i * x_i) + b。 忽略偏置，需要多少次乘法？
X 的形状是 32×128，W 的形状是 128×64，计算 Y = XW。 Y 的形状是？
输入特征图 32×32，卷积核 3×3，stride 1，padding 1。 输出特征图的边长是多少？
两层 3×3 卷积堆叠，stride 1、无 padding。 第二层一个神经元能看到的输入区域边长是多少？
y = (2x + 1)^2。 求 x = 1 处的 dy/dx。
真实标签 one-hot 为 [0, 1]，模型预测概率为 [0.2, 0.8]。 交叉熵 -sum(y_i * log(p_i))，用自然对数，保留两位小数。
多分类模型输出 softmax 概率。请说明为什么训练时常选交叉熵而不是均方误差。 从下面三个角度各写一点： 1. 概率解释； 2. 梯度形式； 3. 优化行为。
序列长度为 n，单头 self-attention 中 QK^T 的计算量随 n 的多少次方增长？ 填指数。
用 f(x) = sqrt(x) 在 x = 4 处的线性近似估计 sqrt(4.2)。 结果保留三位小数。
e^x 在 x = 0 处的二阶泰勒多项式，在 x = 1 处的值是多少？
在收敛半径内，增加泰勒展开的阶数，截断误差通常怎样变化？
f(x, y) = x^2 + 2y^2。 对 x 的偏导数是什么？用 Python 表达式写，例如 2*x。
训练时学习率取得过大，最典型的现象是什么？
小批量 SGD 用一批样本估计梯度。这个估计和全量数据的梯度是什么关系？
动量法（momentum）的主要作用是什么？