跳过主要内容
返回到插件
@capgo/capacitor-llm
教程
@capgo/capacitor-llm

LLM

使用Apple Intelligence和MLX支持,实现本地设备上的大型语言模型的运行

指南

LLM教程

在设备上测试

Download the Capgo app, then scan the QR code.

LLM插件预览二维码code

使用@capgo/capacitor-llm

LLM插件接口,用于与设备上的语言模型进行交互。

安装

bun add @capgo/capacitor-llm
bunx cap sync

此插件暴露的内容

  • createChat - 创建一个新的聊天会话。
  • sendMessage - 在特定的聊天会话中发送消息给AI。
  • getReadiness - 获取LLM的就绪状态。
  • setModel - 设置模型配置 - iOS:使用"Apple Intelligence"作为系统模型的路径,或者提供MediaPipe模型的路径 - Android:提供MediaPipe模型文件的路径(在assets或files目录中)。

示例用法

createChat

创建一个新的聊天会话。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

发送消息到特定聊天会话中的AI。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

获取LLM的就绪状态。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

设置模型配置 - iOS:使用"Apple Intelligence"作为系统模型的路径,或者提供MediaPipe模型的路径 - Android:提供MediaPipe模型文件的路径(在assets或files目录中)。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

完整参考

继续使用@capgo/capacitor-llm

如果您正在使用 使用@capgo/capacitor-llm 来规划仪表板和API操作,连接它到 @capgo/capacitor-llm 为 @capgo/capacitor-llm 的实现细节 开始使用 为 Getting Started 的实现细节 API 简介 为 API 简介 的实现细节 介绍 为 Introduction 的实现细节, 和 API 密钥 为 API 密钥 的实现细节