如何让模型启动后一直保持待机状态?
Created by: Derek-Kun
比方说我这里有好几批图片,我用图片分类的网络做预测,每次通过命令行 python infer.py --pretrained_model=${path_to_pretrain_model} 来预测一批图片,但是等下一批图片过来的时候,又要执行 python infer.py --pretrained_model=${path_to_pretrain_model} 我注意到模型每次加载都需要10秒左右,真正用来预测图片的时间可能只有0.01秒,请问有办法让模型加载以后就一直处于待机状态,有新图片传输进来就直接预测吗?