技術名稱 | 應用於智慧光達之輕量化AI推論引擎 | ||
---|---|---|---|
計畫單位 | 國立陽明交通大學 | ||
計畫主持人 | 郭峻因 | ||
技術簡介 | 本技術針對低延遲、低能耗smart LiDAR系統,發展了一低功耗、高效能AI推論引擎,透過模型輕量化技術與模型快取技術,大幅度減少AI推論時的頻寬需求,處理輕量化 YOLOv7-Tiny模型時,可以僅用38mW實現4500FPS,適合低延遲、低能耗需求之邊緣應用。 |
||
科學突破性 | 透過模型輕量化技術與模型快取技術,本技術成功減少大量AI推論時的頻寬需求,對於短延遲、低功耗AI應用非常有利。並且透過支持多規模動態定點數運算,即便模型非常輕量也能夠維持高準確率,適合用於邊緣AI應用。 |
||
產業應用性 | 此技術能夠提供低延遲、低功耗等優勢,適合整合進邊緣AI系統。可用於需要迅速反應應用,如高速飛行載具或是高速行駛的車輛;也可用於需要長時間運行之低功耗系統,如監視、監控系統。 |