探索

Adam 把一阶动量与二阶量级估计写入同一更新规则，使大多数深度模型更容易开箱训练。它显著降低了学习率手调负担，并成为跨架构的常用默认优化器。