Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
CSDN 技术社区
llm-coding-eval
提交
78f49aa7
L
llm-coding-eval
项目概览
CSDN 技术社区
/
llm-coding-eval
通知
19
Star
3
Fork
1
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
1
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
L
llm-coding-eval
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
1
合并请求
1
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
提交
78f49aa7
编写于
9月 12, 2023
作者:
又三郎丶
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update README.md
上级
cfa33e4c
变更
1
显示空白变更内容
内联
并排
Showing
1 changed file
with
5 addition
and
5 deletion
+5
-5
README.md
README.md
+5
-5
未找到文件。
README.md
浏览文件 @
78f49aa7
...
...
@@ -86,17 +86,17 @@ python main.py --task_type evaluate
## 测试结果
受限于模型推理速度,目前只测试了pass@1指标。
受限于模型推理速度,目前只测试了pass@1指标。
()里面是官方给出的准确率
| | python | java | cpp | js | go |
|----------------------|--------|--------|--------|--------|--------|
| chatgpt | 64.02% | 42.68% | 26.22% | 47.00% | 31.70% |
| chatgpt | 64.02%
(67.0%)
| 42.68% | 26.22% | 47.00% | 31.70% |
| bbt-7B | 0.61% | 1.83% | 1.22% | 1.83% | 0.00% |
| bbt-13B | 2.49% | 0.00% | 1.90% | 1.83% | 0.61% |
| chatglm2-6B | 7.93% | 5.45% | 0.61% | 6.70% | 1.83% |
| codegeex2-6B | 29.90% | 27.43% | 6.70% | 24.40% | 17.68% |
| llama2-7B | 5.49% | 8.54% | 1.22% | 3.66% | 6.10% |
| baichuan-7B | 7.93% | 1.83% | 0.00% | 6.71% | 6.71% |
| codegeex2-6B | 29.90%
(35.9%)
| 27.43% | 6.70% | 24.40% | 17.68% |
| llama2-7B | 5.49%
(12.8%)
| 8.54% | 1.22% | 3.66% | 6.10% |
| baichuan-7B | 7.93%
(9.20%)
| 1.83% | 0.00% | 6.71% | 6.71% |
| chatgpt+codegeex2-6B | 64.02% | 43.90% | 30.49% | 50.66% | 44.51% |
| iflycode | 46.95% | 29.87% | 32.91% | 43.29% | 21.34% |
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录