恩智浦Ara240独立神经处理单元全解析
如今模型越来越大并走向多模态,还出现了设备端生成式AI和智能体AI,AI工作负载不断增长,边缘系统需要的已不仅仅是渐进式的算力提升,而是专门的加速能力,以实现实时性能、更低功耗、强大的数据隐私保护以及可扩展性。Ara240独立神经处理单元 (DNPU)正是为了满足这些边缘AI需求而构建。
作为恩智浦首个独立神经处理单元 (DPNU),Ara240提供了AI优化的架构,拥有高达40 eTOPS的算力、大容量片上存储器和高片外带宽。总而言之,它专为运行先进AI、大语言模型 (LLM)、视觉语言模型 (VLM)、多模态语言模型以及下一代边缘推理而打造。
借助Ara240 DNPU带来的更高