如果要将训练的模型部署到实际的应用中,这个过程其实是非常的具有挑战性,因为我们的终端设备或者边缘设备算力方面比较欠缺,所以要在算力资源有限的设备上部署模型是比较难的,这也是目前计算机视觉领域实际应用比较多的。如果模型做出来不能实际应用的话,其实是没有太大意义的。
如果使用pytorch训练的模型可以将其转换为onnx中间表示格式,同时对模型也做了优化,最后的实际模型大小会更小。当然模型部署的框架比较多,比如腾讯优图的ncnn和pnnx,关于更多的框架大家可以去了解一下。

共7节 已有9人学过
主讲老师张旭波
更新时间2025-03-31 16:13:13
课件资料暂无
免费
如果要将训练的模型部署到实际的应用中,这个过程其实是非常的具有挑战性,因为我们的终端设备或者边缘设备算力方面比较欠缺,所以要在算力资源有限的设备上部署模型是比较难的,这也是目前计算机视觉领域实际应用比较多的。如果模型做出来不能实际应用的话,其实是没有太大意义的。
如果使用pytorch训练的模型可以将其转换为onnx中间表示格式,同时对模型也做了优化,最后的实际模型大小会更小。当然模型部署的框架比较多,比如腾讯优图的ncnn和pnnx,关于更多的框架大家可以去了解一下。

对计算机视觉(图像分类,目标检测,语义分割),NLP,文生图以及GAN领域感兴趣。 B站:https://space.bilibili.com/625095571 CSDN博客:https://blog.csdn.net/Keep_Trying_Go? spm=1010.2135.3001.5421 GitHub: https://github.com/KeepTryingTo
这门课程围绕“模型训练之后如何真正落地”展开,带你从 Flask + ONNX Runtime 在线部署,走到 Android 端图像分类与目标检测部署,并进一步掌握 TorchScript 与 NCNN 两条移动端路线。课程不只讲概念,而是以真机 Demo 串联模型加载、图像预处理、推理、Softmax/Top-K、NMS、阈值过滤、坐标映射、检测框绘制和摄像头实时检测等关键环节。你还会接触 JNI/NDK、CMakeLists、PNNX、模型转换与 Android 工程配置,理解 ONNX、TorchScript、NCNN 的差异和适用场景。适合有 Java/Android 或 Python/PyTorch 基础,想把模型部署到 Web、手机或嵌入式设备的学生与开发者。学完后,你能建立从服务端到移动端的完整部署思维,独立完成图像分类、目标检测的基础部署与调试,并为更复杂的移动端 AI 应用打底。
张旭波
对计算机视觉(图像分类,目标检测,语义分割),NLP,文生图以及GAN领域感兴趣。 B站:https://space.bilibili.com/625095571 CSDN博客:https://blog.csdn.net/Keep_Trying_Go? spm=1010.2135.3001.5421 GitHub: https://github.com/KeepTryingTo
给该课程打分:
发表