深度阅读

Bentoml部署拓展示例

作者
作者
2023年08月22日
更新时间
3.45 分钟
阅读时间
0
阅读量

借助Bentoml可以快速的实现模型的部署,这里写了几个Frameworks,用来实现快速的模型部署。

安装

pip install tkitBentomlFrameworksExpand

包含了两个Artifact,TokenizerArtifact和PytorchLightningArtifact,后续会继续添加新的模块。

from tkitBentomlFrameworksExpand.TokenizerArtifact import TokenizerArtifact

https://github.com/napoler/tkit-bentoml-frameworks-expand

博客作者

热爱技术,乐于分享,持续学习。专注于Web开发、系统架构设计和人工智能领域。