技術名稱 應用於智慧光達之輕量化AI推論引擎
計畫單位 國立陽明交通大學
計畫主持人 郭峻因
技術簡介
本技術針對低延遲、低能耗smart LiDAR系統,發展了一低功耗、高效能AI推論引擎,透過模型輕量化技術與模型快取技術,大幅度減少AI推論時的頻寬需求,處理輕量化 YOLOv7-Tiny模型時,可以僅用38mW實現4500FPS,適合低延遲、低能耗需求之邊緣應用。
科學突破性
透過模型輕量化技術與模型快取技術,本技術成功減少大量AI推論時的頻寬需求,對於短延遲、低功耗AI應用非常有利。並且透過支持多規模動態定點數運算,即便模型非常輕量也能夠維持高準確率,適合用於邊緣AI應用。
產業應用性
此技術能夠提供低延遲、低功耗等優勢,適合整合進邊緣AI系統。可用於需要迅速反應應用,如高速飛行載具或是高速行駛的車輛;也可用於需要長時間運行之低功耗系統,如監視、監控系統。
  • 聯絡人
  • 陳佩琪