EXERCISE BANK
脱离引导的独立练习:计算、轨迹、方案与 WebGPU 实验;错题进入错题本。
自回归生成 1000 个 token。没有 KV cache 时,旧位置被重复完整前向的总次数约为多少? 填整数近似值。
模型层数、头数、头维度固定时,KV cache 的显存占用随序列长度如何增长?