Created by: Superjomn

目前现象如下：

• 多线程压同一张卡吞吐完全没有变化
  • 之前有过结论，现有框架在一个device上全局只分配了一个固定的streaming，因此多线程只有一个stream

其他的情况请 @qingqing01 补充下

希望框架同学帮修下