Adlik,加速深度学习模型落地

深度学习目前在图像识别，自然语言处理，声音识别等多项AI领域中解决了很多复杂的模式识别难题。训练完成的模型，要转化为生产实践活动，就需要有模型的推理应用服务来支撑。当前的深度学习模型推理，存在不少痛点：如模型优化，多种推理框架的学习成本，异构计算引擎的支持，各类部署场景工程化方案的支持等。#而Adlik可以为用户提供价值可以从四个方面来考量：#1.提供给用户统一的推理框架，包括编译，优化，运行时引擎等2.提供了运行时引擎的诸多高级管理功能，包括有模型的版本管理，统一的服务接口，便捷的服务部署方案，以及多模型多实例的高效调度器#3.提供了模型优化能力，包括模型的剪枝和量化。模型优化在推理应用时，能够提升模型推理计算速度，并可以有效降低模型大小，是很实用的工具。#4.支持了机器学习算法，对机器学习模型计算提供加速和异构硬件的计算能力。