Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
GitCode官方
Python专题
提交
10c290ad
Python专题
项目概览
GitCode官方
/
Python专题
通知
4272
Star
1622
Fork
355
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
Python专题
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
10c290ad
编写于
5月 28, 2021
作者:
M
MaoXianxin
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
删除两篇OneFlow文章
上级
7897faef
变更
3
隐藏空白更改
内联
并排
Showing
3 changed file
with
0 addition
and
54 deletion
+0
-54
OneFlow/OneFlow 线上交流会I Eager 项目讨论-2020-08-04.md
OneFlow/OneFlow 线上交流会I Eager 项目讨论-2020-08-04.md
+0
-30
OneFlow/一流科技登上开源供应商名录-2021-05-20.md
OneFlow/一流科技登上开源供应商名录-2021-05-20.md
+0
-18
README.md
README.md
+0
-6
未找到文件。
OneFlow/OneFlow 线上交流会I Eager 项目讨论-2020-08-04.md
已删除
100644 → 0
浏览文件 @
7897faef
2020年8月3日晚,OneFlow 在线上进行了第一次有社区朋友参加的会议,由李新奇分享 OneFlow 的分布式并行易用性以及进行中的 Eager 项目,内容主要包括三个部分:
-OneFlow 的分布式并行易用性
-Eager 的设计
-Eager 的性能优化
# OneFlow 的分布式并行易用性
内容提要:
其它深度学习框架对数据并行有比较好的支持,但是 OneFlow 对数据并行、模型并行、模型数据混合并行都有很好的支持而且易用。
分享中展示了2个矩阵乘法,运行在2块 GPU 上:第一个矩阵是 S = A
* B,对 A的第0维做切分,对应数据并行;第二个是 S = S *
A,对 A 的第1维做切分,对应模型并行;两个矩阵的串联执行,对应数据模型混合并行。通过展示可以看到,只需指定数据切分的维度,便可以自动实现数据并行、模型并行、数据模型混合并行,这些并行依赖的数据切分合并、数据搬运等操作 OneFlow 在框架层面已经自动解决。
# Eager 设计
内容提要:
Eager 是实验性项目,目的是让 OneFlow 能够支持动态计算图,边构图边计算。
通过演示可以看到,只需一行代码打开开关,即可实现动态图,边执行边打印中间结果。不同于其它框架的单机Eager执行视角,OneFlow Eager 定位支持多机多卡 Eager 执行,引入了 Eager 虚拟机,Python 前端接收指令发送给虚拟机,虚拟机来控制发射真正的执行指令,通过这一层抽象,可以支持 SIMD、乱序发射等,实现多机多卡 Eager 执行。
# Eager 性能优化
内容提要:
Eager 的正确性已经基本实现,效率还需优化。当前 Eager 的第二个迭代及之后仍然执行了 Python 前端的 Op 创建、序列化、传输控制等,带来了同第一迭代执行基本重复的开销。计划采用指令、指令块缓存的的设想加以优化,尽量去掉重复的执行开销。
\ No newline at end of file
OneFlow/一流科技登上开源供应商名录-2021-05-20.md
已删除
100644 → 0
浏览文件 @
7897faef
近日,中国信通院发布首批开源供应商名录。其中,一流科技凭借OneFlow新一代深度学习框架位列其中。
![](
./imgs/26.jpg
)
开源供应商全景图(源自信通院)
2021年1月底,中国信息通信研究院开展了第一批开源供应商名录征集活动,征集范围涵盖云计算、大数据、中间件、数据库、操作系统、开发框架和安全等领域,企业服务范围包括开源商业解决方案、开源云服务和开源服务。
据信通院介绍,活动一经发布得到了众多企业的积极反馈,经过历时3个月的前期调研、公开征集、申报资料验证与分析,2次专家研讨会和近30次的企业实际调研访谈,本次发布的第一批开源供应商名录,共收录26家开源供应商。
![](
./imgs/27.jpg
)
信通院公布的开源供应商产品列表(部分)
OneFlow秉承“效率为王”的开发理念,拥有完全自主知识产权,所有代码全部自研。其独创的自动数据模型混合并行、静态调度、去中心化和全链路异步流式执行四大核心技术,使用纯软件技术完美地解决了大数据、大模型、大计算所带来的异构集群分布式横向扩展挑战,技术水平世界领先。
目前,OneFlow深度学习框架已经收到多家头部互联网企业和人工智能公司的使用需求,将创新转化为市场落地成果。
\ No newline at end of file
README.md
浏览文件 @
10c290ad
...
...
@@ -20,16 +20,10 @@
[
TensorFlow和PyTorch迎来了后浪-2020-08-02
](
./OneFlow/TensorFlow和PyTorch迎来了后浪-2020-08-02.md
)
[
一流科技登上开源供应商名录-2021-05-20
](
./OneFlow/一流科技登上开源供应商名录-2021-05-20.md
)
### 2021-05-25
[
张建浩:一个开源爱好者的框架开发之路 OneFlow U-2021-05-21
](
./OneFlow/张建浩:一个开源爱好者的框架开发之路
OneFlow U-2021-05-21.md)
### 2021-05-24
[
OneFlow 线上交流会I Eager 项目讨论-2020-08-04
](
./OneFlow/OneFlow
线上交流会I Eager 项目讨论-2020-08-04.md)
往期精彩链接:
[
点击这里
](
./OneFlow
)
## CSDN-极客头条
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录