跳过主要内容
返回插件
@capgo/capacitor-llm
教程
@capgo/capacitor-llm

LLM

使用 Apple Intelligence 和 MLX 支持在设备上运行大型语言模型

指南

关于 LLM 的教程

使用 @capgo/capacitor-llm

设备上的语言模型与 LLM 插件接口

安装

bun add @capgo/capacitor-llm
bunx cap sync

此插件暴露的内容

  • createChat - 创建一个新的聊天会话。
  • sendMessage - 在特定的聊天会话中发送消息给 AI。
  • getReadiness - 获取 LLM 的就绪状态。
  • setModel - 设置模型配置 - iOS: 使用 "Apple Intelligence" 作为系统模型的路径,或者提供 MediaPipe 模型的路径 - Android: 在 assets 或 files 目录中的 MediaPipe 模型文件的路径。

示例使用

createChat

创建一个新的聊天会话。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

在特定的聊天会话中发送消息给 AI。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

获取 LLM 的就绪状态。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

设置模型配置 - iOS: 使用 "Apple Intelligence" 作为系统模型的路径,或者提供 MediaPipe 模型的路径 - Android: 在 assets 或 files 目录中的 MediaPipe 模型文件的路径。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

全局参考

继续使用@capgo/capacitor-llm

如果您正在使用 使用@capgo/capacitor-llm 规划仪表板和API操作时,将其与 @capgo/capacitor-llm 在@capgo/capacitor-llm中获取实现细节 入门 在入门中获取实现细节 API概述 为实现细节在API概述中 简介 为实现细节在简介中, API密钥 为实现细节在API密钥中。