深度学习模型部署-1
本系列以pytorch为例,其他框架请移步别处.
前言
深度学习的教程很多,网上也有很多现成的简单的模型训练的例子和预训练模型,然而在实际的工业场景中,我们往往更加关注如何部署一个已经训练好的模型.
- 我们希望可以客户端/移动端访问网页就可以看到模型的效果,计算由服务器帮我们处理.
- 我们希望在一个没有python环境的地方依然可以执行模型的效果
- 我们希望加速模型的计算,python换成c++提高计算性能
本系列关注的是:
- 如何将一个深度学习模型部署到服务器,并且可以通过网页的方式呈现效果
- 如何利用前向推理框架生成不依赖python环境的exe可执行文件
基本介绍
笔者假定读者已经训练了一个神经网络模型,并且对python/pytorch有一定了解,并且对c++的编写有一定了解,对html/css/javascript有基本了解
作为教程/学习记录,笔者提供了较为基础的网页代码和较为基础的c++/python代码,以供学习使用.
本系列所有的代码都可以在pytorch模型部署仓库中找到,请留意对应分支和博客的内容
希望这个系列可以对你有所帮助,那我们开始吧~
参考
https://zhuanlan.zhihu.com/p/35879835
https://github.com/lxztju/pytorch_classification