Saltar al contenido principal
Volver a plugins
@capgo/capacitor-llm
Tutoriales
por github.com/Cap-go

LLM

Ejecuta modelos de lenguaje grande localmente en el dispositivo con soporte de Apple Intelligence y MLX

Guía

Tutorial sobre LLM

Usando @capgo/capacitor-llm

Interface de plugin LLM para interactuar con modelos de lenguaje en dispositivo.

Instalar

bun add @capgo/capacitor-llm
bunx cap sync

¿Qué se expone con este plugin?

  • createChat - Crea una nueva sesión de chat.
  • sendMessage - Envía un mensaje al AI en una sesión de chat específica.
  • getReadiness - Obtiene el estado de preparación del LLM.
  • setModel - Establece la configuración del modelo - iOS: Utilice "Inteligencia de Apple" como ruta para el modelo del sistema, o proporcione la ruta al modelo de MediaPipe - Android: Ruta a un archivo de modelo de MediaPipe (en el directorio de activos o archivos).

Ejemplo de uso

createChat

Crea una nueva sesión de chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Envía un mensaje al modelo de lenguaje en una sesión de chat específica.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Obtiene el estado de preparación del modelo de lenguaje.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

- Establece la configuración del modelo - iOS: Utilice "Inteligencia de Apple" como ruta para el modelo del sistema, o proporcione la ruta al modelo de MediaPipe - Android: Ruta a un archivo de modelo de MediaPipe (en el directorio de activos o archivos).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Referencia completa