Created by: Superjomn

CPU 下，很多模型都出现多线程下，QPS 效果变差

多线程调用 executor 预测，即使每个线程一个单独的 instance，还是会发生 QPS 下降；正常应该是接近线性增长。

初步推测是 allocator ，scope 等加锁影响了性能。