文章预览 "pytorch版本的reformer库推荐 中文实现也很轻松reformer-pytorch… 2023年08月22日 624 字 Transformer很强大但是消耗资源有点多,还好google又搞出来了reformer在资源消耗上做了很大的优化,这也让我们能够以更小的代价进行尝试,毕竟GPU真的不便宜。 [reformer-pytorch](https://github.com/lucidrains/reformer-pytorch)可以试用下 默认 pytorch nlp 自然语言 nlg reformer 阅读全文 浏览 评论
文章预览 "reformer生成内容确实很强" 2023年08月22日 749 字 不得不说谷歌新推出这个模型确实在生成文本方面确实很强。不过也存在的问题,就是感觉在生存速度上会比之前gpt2模型要慢一些。这这速度我估计让人很崩溃,有收获。 我我正在尝试使用这个模型训练下中文生成。确实在生成长文本方面会比模之前的模型要强的很多。 #### 示例1 知识提取 我尝试使用reformer做知识提取,先看一看效果 使用百度AI开源的知识提… 默认 gpt2 nlp 人工智能 nlg reformer 阅读全文 浏览 评论
文章预览 reformer-pytorch中文版本 高效的生成模型 类似GPT2的效果 2023年08月22日 531 字 reformer-chinese-pytorch ======================== reformer-pytorch中文版本,简单高效的生成模型。类似GPT2的效果。 之前做过一个类似项目,这次重新写了,各方面都做了很多的优化,训练也更加便捷了。 reformer最大的优点就是节省资源,而且对于长文本更加有效。 之后有时间会做一个基于P… pytorch gpt2 reformer gpt 阅读全文 浏览 评论