跳过主要内容
返回到插件
@capgo/capacitor-llm
教程
@capgo/capacitor-llm

LLM

在Apple Intelligence和MLX支持下,使用本地设备运行大型语言模型

指南

关于LLM的教程

在设备上测试

下载Capgo应用程序,然后扫描QRcode。

LLM 插件预览二维码 code

使用 @capgo/capacitor-llm

设备语言模型的LLM插件接口。

安装

bun add @capgo/capacitor-llm
bunx cap sync

此插件暴露的内容

  • createChat - 创建一个新的聊天会话。
  • sendMessage - 在特定的聊天会话中发送消息给AI。
  • getReadiness - 获取LLM的就绪状态。
  • setModel - 设置模型配置 - iOS: 使用"Apple Intelligence"作为系统模型的路径,或者提供MediaPipe模型的路径 - Android: 提供MediaPipe模型文件的路径(在assets或files目录中)。

示例使用

createChat

创建一个新的聊天会话。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Sends a message to the AI in a specific chat session.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Gets the readiness status of the LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Sets the model configuration - iOS: 使用 "Apple Intelligence" 作为系统模型的路径,或者提供 MediaPipe 模型的路径 - Android: 提供一个 MediaPipe 模型文件的路径(在 assets 或 files 目录中)。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

全局参考

继续使用 @capgo/capacitor-llm

如果您正在使用 使用 @capgo/capacitor-llm 来规划仪表板和 API 操作,连接它与 @capgo/capacitor-llm 关于 @capgo/capacitor-llm 的实现细节 开始使用 关于开始使用的实现细节 API概述 关于API概述的实现细节 介绍 关于介绍的实现细节 API密钥 关于API密钥的实现细节