大模型参数训练原理：Softmax、交叉熵、反向传播、梯度下降优化器、学习率调度器与训练数据划分

大模型训练先用 Softmax 将输出向量归一化为各 token 的概率，再以交叉熵损失函数量化预测与正确答案的差距，最终经反向传播与梯度下降更新参数。前置数学基础包括矩阵乘法、对数、偏导数与链式法则，用于推导 Softmax 归一化与信息量、交叉熵的数学性质。