内容简介:
谷歌大脑 深度学习参数调参指南 | GitHub 15k Star
目录
这份手册是为谁准备的?
为什么需要这份调优手册?
开始新项目的指南
选择模型架构
选择优化器
选择BatchSize
选择初始配置
提高模型性能的科学方法
增量调整策略
探索与利用
选择下一轮实验的目标
设计下一轮实验
确定是否采用此训练工作流更改或超参数配置
探索结束后
确定每次训练运行的步数
当训练不受计算限制时如何决定该训练多久
当训练受计算限制时如何决定该训练多久
关于训练工作流的额外补充
优化输入管道
评估模型性能
保存检查点并追溯选择最佳检查点
设...
查看原文
? 谷歌大脑 深度学习参数调参指南 | GitHub 15k Star