From e7d452e46748c2f16c11bb10f3f598c059847bcb Mon Sep 17 00:00:00 2001 From: chenlong Date: Mon, 27 Feb 2023 14:54:24 +0800 Subject: [PATCH] add README.md --- README.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/README.md b/README.md index d02b1ca..c1db3a5 100644 --- a/README.md +++ b/README.md @@ -1,7 +1,7 @@ ## chatCSDN 源码来源于https://github.com/BlinkDL/RWKV-LM/tree/main/RWKV-v4neo -主要是在作者提供的1.5B参数的基础之上，使用CSDN的问答数据和博客数据进行再次训练，经过prompt和Instruction Tuning，以及RLHF等微调之后得到拥有IT行业知识体系的chatCSDN。 +主要是在作者提供的1.5B参数的基础之上，使用CSDN的问答数据和博客数据进行再次训练，经过Prompt-tuning和Instruction-Tuning，以及RLHF等微调之后得到拥有IT行业知识体系的chatCSDN。 原始模型参数地址：https://huggingface.co/BlinkDL/rwkv-4-pile-1b5 ## 预处理数据 -- GitLab