Saltar al contenido principal
Volver a plugins
@capgo/capacitor-llm
Tutorial
@capgo/capacitor-llm

LLM

Ejecuta modelos de lenguaje grande localmente en el dispositivo con soporte de Apple Intelligence y MLX

Guía

Tutoría sobre LLM

Probar en dispositivo

Descargar la aplicación Capgo, luego escanea el código QR code.

QR code de vista previa del plugin LLM

Usando @capgo/capacitor-llm

Interfaz del plugin LLM para interactuar con modelos de lenguaje en dispositivo.

Instalar

bun add @capgo/capacitor-llm
bunx cap sync

¿Qué se expone con este plugin?

  • createChat - Crea una nueva sesión de chat.
  • sendMessage - Envía un mensaje al AI en una sesión de chat específica.
  • getReadiness - Obtiene el estado de preparación del LLM.
  • setModel - Establece la configuración del modelo - iOS: Utilice "Inteligencia de Apple" como ruta para el modelo del sistema, o proporcione la ruta al modelo de MediaPipe - Android: Ruta a un archivo de modelo de MediaPipe (en directorio de activos o directorio de archivos).

Uso de Ejemplo

createChat

Crear una nueva sesión de chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Enviar un mensaje al modelo en una sesión de chat específica.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Obtener el estado de preparación del modelo.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Configurar el modelo - iOS: Utilice "Inteligencia de Apple" como ruta para el modelo del sistema, o proporcione la ruta al modelo de MediaPipe - Android: Ruta a un archivo de modelo de MediaPipe (en la carpeta de activos o archivos).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Referencia Completa

Sigue adelante desde Usando @capgo/capacitor-llm

Si estás utilizando Usando @capgo/capacitor-llm para planificar la consola y API operaciones, conecte con @capgo/capacitor-llm para obtener detalles de implementación en @capgo/capacitor-llm Inicio para obtener detalles de implementación en Inicio Resumen de API para obtener detalles de implementación en Resumen de API Introducción para obtener detalles de implementación en Introducción, y Claves de API para obtener detalles de implementación en Claves de API