论文 / 摘要阅读
te-comp:为MCU生成自包含C推理引擎的完整MLIR编译器
te-comp: A Complete MLIR Compiler Generating Self-Contained C Inference Engines for MCUs
AI 导读 · 根据来源整理
te-comp是首个完整的MLIR编译器,可将.tflite或.safetensors格式模型编译为部署所需的全部C源码,包括推理引擎与RTOS集成层,且零运行时依赖。在10个MCUNet CNN基准上,其SRAM占用比MCUNet TinyEngine少38%(最高5.9倍),Flash少15%。研究还用te-comp编译8.3M参数的GPT-Neo(TinyStories-v2),部署于160MHz单核Cortex-M7。
本站目前提供摘要
以上是对来源材料的中文整理,不是完整论文或全文。研究方法、数据与完整论述请到来源页面核对。
前往 arXiv · cs.RO 阅读原文 ↗来源:arXiv · cs.RO · arxiv.org