跳转到内容

@capgo/capacitor-llm

直接在设备上运行 LLM 模型,具有原生 Apple Intelligence 集成和硬件加速。

设备端隐私

直接在设备上运行 LLM 模型以实现隐私保护和离线功能 🤖

Apple Intelligence

iOS 26.0+ 上的原生 Apple Intelligence 集成 🍎

多种格式

支持 .task 和 .litertlm 模型格式 📦

硬件加速

使用原生硬件加速实现快速推理 ⚡

流式响应

使用事件监听器实现实时流式响应 🔄