深度阅读

Compacter更高效的训练方案

作者
作者
2023年08月22日
更新时间
1.76 分钟
阅读时间
0
阅读量

通过仅训练 0.047% 的预训练模型参数,Compacter 在 GLUE 上的性能与标准微调相当,并且在低资源设置中优于微调。我们的代码在此 https URL 中公开可用

不得不说这个太厉害了。

https://arxiv.org/abs/2106.04647

相关标签

博客作者

热爱技术,乐于分享,持续学习。专注于Web开发、系统架构设计和人工智能领域。