"基于BERT微调做实体对应的信息抽取 抽取实体描述和属性"

这是我在知乎上的一点分享，还有点价值，转过来备份下. 基本上就是提取 实体+关系+描述 这一套。 比如前面的描述这个，点开每一条你就会发现基本都是 实体+是+描述。 至于下面的高度体重什么的也是类似，关系词固定下就是了。 要实现类似的也不是很难，现在模型这么多，随便用个Bert都可以做出类似的效果。 就拿抽取描述来说，先对文章抽取实体，然后 用实体+文章，…

"pytorch版本的reformer库推荐 中文实现也很轻松reformer-pytorch…

Transformer很强大但是消耗资源有点多，还好google又搞出来了reformer在资源消耗上做了很大的优化，这也让我们能够以更小的代价进行尝试，毕竟GPU真的不便宜。 [reformer-pytorch](https://github.com/lucidrains/reformer-pytorch)可以试用下

"reformer生成内容确实很强"

不得不说谷歌新推出这个模型确实在生成文本方面确实很强。不过也存在的问题，就是感觉在生存速度上会比之前gpt2模型要慢一些。这这速度我估计让人很崩溃，有收获。 我我正在尝试使用这个模型训练下中文生成。确实在生成长文本方面会比模之前的模型要强的很多。 #### 示例1 知识提取 我尝试使用reformer做知识提取，先看一看效果 使用百度AI开源的知识提…

tkitSeg多领域中文分词工具

tkitSeg ======= 多领域中文分词工具 安装 ``` pip install tkitSeg ``` 或者从源码安装 ``` pip install git+https://github.com/napoler/tkit-seg.git ``` ``` # 使用示例 from tkitSeg import tkitS…

pkuseg词典使用

``` pip install pkuseg ``` 使用默认词典 ------ ``` import pkuseg seg = pkuseg.pkuseg(model_name='medicine',postag=True,user_dict = "default") # 程序会自动下载所对应的细领域模型 text = seg.cut('我…

如何解决自然语言模型训练中数据不足？进行文本数据增强方法分享

句自然语言任务中数据标注的成本一般都比较高，所以获取高质量数据集便成了最大的难题. 虽然最近几年各种预训练模型大行其道，但是如果能够有足够好的数据集也是能够解决问题的关键。 Mask ---- 如果使用bert作为模型一部分微调数据，mask方案没准是最廉价的创造数据的方法。之前看到有人说用mlm做内容替换生成训练，为什么不直接搞个动态mask呢？…

How to load a text corpus into Gensim?

To load a text corpus into Gensim, you can use the `corpora` module to create a dictionary from the corpus and transform the corpus into a bag-of-words format. Here is an example …

How to tokenize text using NLTK?

NLTK (Natural Language Toolkit) is a popular Python library used for natural language processing tasks, including text tokenization. Here is an example of how to use the NLTK to t…

How to remove stop words using NLTK?

To remove stop words using NLTK in Python, you can follow these steps: 1. Install the NLTK library if it's not already installed in your system. ``` pip install nltk ``` 2. I…

How to stem or lemmatize words using NLTK?

To stem or lemmatize words using NLTK in Python, you can follow these steps: 1. Install the NLTK library if it's not already installed in your system. ``` pip install nltk ``…