方案题 挑战

分类为什么常用交叉熵

科学、工程与AI中的数学 · 1.5.3 为什么这个组合的梯度这么干净

评分要点

  • 交叉熵对应最大似然或负对数似然 2 分 关键词:最大似然、负对数似然、概率
  • 与 softmax 组合时梯度形式简洁,误差大时梯度大 2 分 关键词:梯度、softmax、误差
  • 均方误差配 softmax 容易梯度消失或收敛慢 2 分 关键词:均方误差、梯度消失、收敛
  • 说明交叉熵与分类目标(标签分布)的关系 2 分 关键词:分布、概率、标签

通过线:60%