进迭时空 Upstream|全球主流大模型开源项目 llama.cpp
作为全球最火的本地大模型推理引擎 llama.cpp,进迭时空(SpacemiT)基于 K3 芯片的 AI 扩展指令集(IME2)成功合入全球主流开源项目 llama.cpp 主线,为端侧大模型推理提供了重要的技术支撑。这意味着进迭时空的AI 软件接口开始全面对外开放,为 RISC-V AI 生态提供了原生、可持续维护的加速基础。
llama.cpp 简介
llama.cpp 是由 ggml-org 维护的开源大模型推理项目,也是当前端侧和本地部署生态中最具影响力的基础设施之一。它以纯 C/C++ 实现为核心,强调少依赖、易部署、跨平台和高性能,已覆盖 CPU、GPU 以及多种异构后端,广