深度学习 · 12月 5, 2021 0

Bentoml部署拓展示例

内容纲要

借助Bentoml可以快速的实现模型的部署,这里写了几个Frameworks,用来实现快速的模型部署。

安装

pip install tkitBentomlFrameworksExpand

包含了两个Artifact,TokenizerArtifact和PytorchLightningArtifact,后续会继续添加新的模块。

from tkitBentomlFrameworksExpand.TokenizerArtifact import TokenizerArtifact

https://github.com/napoler/tkit-bentoml-frameworks-expand

%d 博主赞过: