T/AI 117-2022 深度学习推理引擎应用编程接口（API）

团体标准

标准编号：T/AI 117-2022

标准名称：深度学习推理引擎应用编程接口（API）

英文名称：Application Programming Interface (API) for Deep Learning Inference Engine

发布日期：2022-12-30

实施日期：2022-12-30

团体名称：中关村视听产业技术创新联盟

起草人

胡晓光、杨超、翟季冬、梅敬青、蒋慧、党青青、严春伟、冯海军、李笑如、李雨芮、马艳军、于佃海、高铁柱、赵乔、徐浩、蒋晓琳、张小飞、张艺伯、吴庚、毕然

北京百度网讯科技有限公司、北京大学、北京大学计算与数字经济研究院、清华大学、北京旷视科技有限公司、上海商汤智能科技有限公司、上海燧原科技有限公司

本文件规定了深度学习推理引擎应用编程接口，定义了模型管理接口、设备管理接口、输入输出接口、推理接口四类接口规范。

本文件适用于部署在设备上的深度学习推理引擎，包括云侧（服务器端）推理引擎及端侧（移动端、边缘端）推理引擎，可用于指导推理引擎 API 的设计与开发。