谷歌大脑 深度学习参数调参指南 | GitHub 15k Star

CSDN头条 2年前 (2023) csdnhot
1.6K 0

内容简介:

谷歌大脑 深度学习参数调参指南 | GitHub 15k Star

目录

这份手册是为谁准备的?
为什么需要这份调优手册?

开始新项目的指南

选择模型架构
选择优化器
选择BatchSize
选择初始配置

提高模型性能的科学方法

增量调整策略
探索与利用
选择下一轮实验的目标
设计下一轮实验
确定是否采用此训练工作流更改或超参数配置
探索结束后

确定每次训练运行的步数

当训练不受计算限制时如何决定该训练多久
当训练受计算限制时如何决定该训练多久

关于训练工作流的额外补充

优化输入管道
评估模型性能
保存检查点并追溯选择最佳检查点
设...

查看原文

? 谷歌大脑 深度学习参数调参指南 | GitHub 15k Star

版权声明:csdnhot 发表于 2023-02-06 12:47:56。
转载请注明:谷歌大脑 深度学习参数调参指南 | GitHub 15k Star | 程序员导航网

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...