Pasar al contenido principal
Volver a plugins
@capgo/capacitor-llm
Tutoriales
@capgo/capacitor-llm

LLM

Ejecuta modelos de lenguaje grande localmente en el dispositivo con soporte de Apple Intelligence y MLX

Guía

Tutorial sobre LLM

Usando @capgo/capacitor-llm

Interface de plugin de LLM para interactuar con modelos de lenguaje en dispositivo

Instalación

bun add @capgo/capacitor-llm
bunx cap sync

¿Qué se expone en este plugin?

  • createChat - Crea una nueva sesión de chat.
  • sendMessage - Envía un mensaje al modelo de inteligencia artificial en una sesión de chat específica.
  • getReadiness - Obtiene el estado de disponibilidad del modelo de lenguaje.
  • setModel - Establece la configuración del modelo - iOS: Utilice "Inteligencia de Apple" como ruta para el modelo del sistema, o proporcione la ruta al modelo de MediaPipe - Android: Ruta a un archivo de modelo de MediaPipe (en la carpeta de activos o archivos).

Ejemplo de uso

createChat

Crea una nueva sesión de chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Envía un mensaje al modelo de inteligencia artificial en una sesión de chat específica.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Obtiene el estado de disponibilidad del modelo de lenguaje.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Establece la configuración del modelo - iOS: Utilice "Inteligencia de Apple" como ruta para el modelo del sistema, o proporcione la ruta al modelo de MediaPipe - Android: Ruta a un archivo de modelo de MediaPipe (en la carpeta de activos o archivos).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Referencia completa

Sigue adelante desde Usando @capgo/capacitor-llm

Si estás utilizando Usando @capgo/capacitor-llm para planificar la consola de dashboard y las operaciones de API, conecta con @capgo/capacitor-llm para obtener detalles de implementación en @capgo/capacitor-llm, Inicio para obtener detalles de implementación en Inicio, Resumen de API para los detalles de implementación en API Resumen, Introducción para los detalles de implementación en Introducción, y API Claves para los detalles de implementación en API Claves.