paddle::PaddlePredictor Clone() + ZeroCopyRun() 不是线程安全的
Created by: FrankWork
paddle::PaddlePredictor Clone() + ZeroCopyRun() 不是线程安全的
- 版本、环境信息: 1)PaddlePaddle版本:1.6 2)CPU: 3)系统环境:centos -预测信息 1)C++预测:
const auto predictor = _executor->Clone();
std::unique_ptr<paddle::ZeroCopyTensor>
auto input_t = predictor->GetInputTensor("word");
input_t->Reshape({seq_len, 1});
input_t->SetLoD({lod_input});
input_t->copy_from_cpu<int64_t>(input_ids.data()); // data() 数据指针
// 模型推理
if (!predictor->ZeroCopyRun()) {
return false;
}