CS231n: Convolutional Neural Networks for Visual Recognition [2017] 课程笔记 Note 8 发表于 2022-03-10 分类于 🌙学习资源 , ⭐Stanford CS231n 阅读次数: Valine: 本文字数: 246 阅读时长 ≈ 1 分钟Note 8原文:Neural Nets notes 3翻译:神经网络笔记3(上)(下)该笔记讲解了神经网络的动态部分,即神经网络学习参数和搜索最优超参数的过程。内容列表如下:梯度检查合理性(Sanity)检查检查学习过程损失函数训练集与验证集准确率权重:更新比例每层的激活数据与梯度分布可视化 译者注:上篇翻译截止处参数更新一阶(随机梯度下降)方法,动量方法,Nesterov动量方法学习率退火二阶方法逐参数适应学习率方法(Adagrad,RMSProp)超参数调优评价模型集成总结拓展引用