简体中文 | [English](./README_en.md)
------------------------------------------------------------------------------------------ ![License](https://img.shields.io/badge/license-Apache%202-red.svg) ![python version](https://img.shields.io/badge/python-3.6+-orange.svg) ![support os](https://img.shields.io/badge/os-linux%2C%20win%2C%20mac-yellow.svg) ## 简介 PaddleNLP 2.0拥有丰富的模型库、简洁易用的API与高性能的分布式训练的能力,旨在为飞桨开发者提升文本建模效率,并提供基于PaddlePaddle 2.0的NLP领域最佳实践。 ## 特性 - **丰富的模型库** - 涵盖了NLP主流应用相关的前沿模型,包括中文词向量、预训练模型、词法分析、文本分类、文本匹配、文本生成、机器翻译、通用对话、问答系统等,更多详细介绍请查看[PaddleNLP模型库](./exmaples/README.md)。 - **简洁易用的API** - 深度兼容飞桨2.0的高层API体系,提供可复用的文本建模模块,可大幅度减少数据处理、组网、训练环节的代码开发量,提升文本建模开发效率。 - **高性能分布式训练** - 通过深度优化的混合精度训练策略与Fleet分布式训练API,可充分利用GPU集群资源,高效完成大规模预训练模型的分布式训练。 ## 安装 ### 环境依赖 - python >= 3.6 - paddlepaddle >= 2.0.0 ``` pip install paddlenlp==2.0.0rc ``` ## 快速开始 ### 数据集快速加载 ```python from paddlenlp.datasets import ChnSentiCorp train_dataset, dev_dataset, test_dataset= ChnSentiCorp.get_datasets(['train', 'dev', 'test']) ``` 可参考[Dataset文档](./docs/datasets.md)查看更多数据集。 ### 一键加载中文词向量 ```python from paddlenlp.embeddings import TokenEmbedding wordemb = TokenEmbedding("w2v.baidu_encyclopedia.target.word-word.dim300") print(wordemb.cosine_sim("国王", "王后")) >>> 0.63395125 wordemb.cosine_sim("艺术", "火车") >>> 0.14792643 ``` 内置50+中文词向量,更多使用方法请参考 [Embedding文档](./examples/word_embedding/README.md)。 ### 一键加载高质量中文预训练模型 ```python from paddlenlp.transformers import ErnieModel, BertModel, RobertaModel, ElectraModel ernie = ErnieModel.from_pretrained('ernie-1.0') bert = BertModel.from_pretrained('bert-wwm-chinese') roberta = RobertaModel.from_pretrained('roberta-wwm-ext') electra = ElectraModel.from_pretrained('chinese-electra-small') ``` 请参考 [Pretrained-Models](./docs/transformers.md)查看目前支持的预训练模型。 ## 模型库及其应用 - [词向量](./examples/word_embedding/README.md) - [词法分析](./examples/lexical_analysis/README.md) - [语言模型](./examples/language_model) - [文本分类](./examples/text_classification/README.md) - [文本生成](./examples/text_generation/README.md) - [语义匹配](./examples/text_matching/README.md) - [命名实体识别](./examples/named_entity_recognition/README.md) - [文本图学习](./examples/text_graph/README.md) - [通用对话](./examples/dialogue) - [机器翻译](./exmaples/machine_translation) - [阅读理解](./exmaples/machine_reading_comprehension) ## API 使用文档 - [Transformer API](./docs/transformers.md) - [Data API](./docs/data.md) - [Dataset API](./docs/datasets.md) - [Embedding API](./docs/embeddings.md) - [Metrics API](./docs/metrics.md) ## 交互式Notebook教程 - [使用Seq2Vec模块进行句子情感分类](https://aistudio.baidu.com/aistudio/projectdetail/1283423) - [如何通过预训练模型Fine-tune下游任务](https://aistudio.baidu.com/aistudio/projectdetail/1294333) - [使用BiGRU-CRF模型完成快递单信息抽取](https://aistudio.baidu.com/aistudio/projectdetail/1317771) - [使用预训练模型ERNIE优化快递单信息抽取](https://aistudio.baidu.com/aistudio/projectdetail/1329361) - [使用Seq2Seq模型完成自动对联](https://aistudio.baidu.com/aistudio/projectdetail/1321118) - [使用预训练模型ERNIE-GEN实现智能写诗](https://aistudio.baidu.com/aistudio/projectdetail/1339888) - [使用TCN网络完成新冠疫情病例数预测](https://aistudio.baidu.com/aistudio/projectdetail/1290873) 更多教程参见[PaddleNLP on AI Studio](https://aistudio.baidu.com/aistudio/personalcenter/thirdview/574995)。 ## 社区贡献与技术交流 - 欢迎您加入PaddleNLP的SIG社区,贡献优秀的模型实现、公开数据集、教程与案例、外围小工具。 - 现在就加入PaddleNLP的QQ技术交流群,一起交流NLP技术吧!⬇️