PyTorch Lightning 是一个基于 PyTorch 的高级深度学习框架,旨在将科研代码的灵活性与工程化最佳实践结合,通过标准化训练流程大幅减少模板代码。其中,继承LightningModule之后,可以很方便的把自己的训练过程,验证以及测试过程都给集成起来,包括优化器的配置等函数,可以比较容易的进行配置和训练。定义Trainer之后,结合继承至LightningModule对象,就可以实现完整的训练了(除了一些额外的配置之外)。这个视频和文字教程就是想让大家快速的上手PyTorch Lightning,这也是自己在看代码的时候遇到的问题。虽然PyTorch Lightning帮我们集成了很多东西,但是在调试和解决错误的时候会比较麻烦。我相信本文讲解之后,你对PyTorch Lightning会有不同的看法,甚至想上手去尝试快速写出自己的代码。
自动支持以下功能,无需手动实现:多GPU/TPU训练;混合精度训练;梯度裁剪;早停(Early Stopping);模型检查点保存;跨平台兼容性
同一代码可无缝运行于:CPU/GPU/TPU;单机或多节点集群;云平台(AWS、GCP等)


