提交 e7d452e4 编写于 作者: CSDN-Ada助手's avatar CSDN-Ada助手

add README.md

上级 4ee2ffac
## chatCSDN ## chatCSDN
源码来源于https://github.com/BlinkDL/RWKV-LM/tree/main/RWKV-v4neo 源码来源于https://github.com/BlinkDL/RWKV-LM/tree/main/RWKV-v4neo
主要是在作者提供的1.5B参数的基础之上,使用CSDN的问答数据和博客数据进行再次训练,经过prompt和Instruction Tuning,以及RLHF等微调之后得到拥有IT行业知识体系的chatCSDN。 主要是在作者提供的1.5B参数的基础之上,使用CSDN的问答数据和博客数据进行再次训练,经过Prompt-tuning和Instruction-Tuning,以及RLHF等微调之后得到拥有IT行业知识体系的chatCSDN。
原始模型参数地址:https://huggingface.co/BlinkDL/rwkv-4-pile-1b5 原始模型参数地址:https://huggingface.co/BlinkDL/rwkv-4-pile-1b5
## 预处理数据 ## 预处理数据
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册