跳转到正文

@capgo/capacitor-llm

用于与设备端语言模型交互的 LLM 插件接口。

@capgo/capacitor-llm 运行 在设备上 无需将 prompts 发送到服务器即可使用聊天模型。iOS 可使用 Apple Intelligence 或 LiteRT bundles。Android 在支持的情况下可使用 Gemini Nano 或 LiteRT .litertlm models。Web 端通过 MediaPipe GenAI(CDN runtime,本地模型文件)使用 Gemma。

平台后端
iOSApple Intelligence,自定义 .litertlm
AndroidGemini Nano, LiteRT, 传统 MediaPipe .task 备选
Web 端通过 Gemma @mediapipe/tasks-genai
  • createChat - 创建新的聊天会话。
  • sendMessage - 在特定聊天会话中向 AI 发送消息。
  • getReadiness - 获取 LLM 的就绪状态。
  • setModel - 设置模型配置 - iOS:使用 “Apple Intelligence” 作为系统模型路径,或提供 MediaPipe 模型路径 - Android:MediaPipe 模型文件的路径(位于 assets 或 files 目录)。
方法描述
createChat创建一个新的聊天会话。
sendMessage在指定的聊天会话中向 AI 发送消息。
getReadiness获取 LLM 的就绪状态。
setModel设置模型配置 - iOS:使用 “Apple Intelligence” 作为系统模型路径,或提供 MediaPipe 模型路径 - Android:MediaPipe 模型文件的路径(位于 assets 或 files 目录)。
downloadModel从 URL 下载模型并保存到相应位置 - iOS:下载到应用的 documents 目录 - Android:下载到应用的 files 目录。
addListener添加接收 AI 文本内容的监听器。
addListener添加 AI 完成事件的监听器。
addListener添加模型下载进度事件的监听器。
addListener添加就绪状态变更的监听器。
getPluginVersion获取原生 Capacitor 插件版本。

此参考文档同步自 src/definitions.ts 中的 capacitor-llm.

如果你正在使用 @capgo/capacitor-llm 要规划迁移和企业运营,请将其与 使用 @capgo/capacitor-llm 关于“使用 @capgo/capacitor-llm”中的原生能力, Capgo 企业版 用于 Capgo Enterprise 中的产品工作流, Ionic Enterprise 插件替代方案 用于 Ionic Enterprise 插件替代方案的产品工作流, Capgo 替代方案 适用于 Capgo Alternatives 的产品工作流,以及 Capgo 咨询 适用于 Capgo Consulting 的产品工作流。