Saltar al contenido principal
@capgo/capacitor-llm API de dispositivos Fuente abierta

LLM plugin de Capacitor

Ejecuta modelos de lenguaje grande localmente en el dispositivo con soporte de Apple Intelligence y MLX.

Instalar

bun add @capgo/capacitor-llm bunx cap sync
npm, pnpm o yarn
  • npm install @capgo/capacitor-llm
  • pnpm add @capgo/capacitor-llm
  • yarn add @capgo/capacitor-llm

Guía

Cómo usar LLM en Capacitor

Probar en dispositivo

Descargue la aplicación Capgo, luego escane el código QR code.

Vista previa del plugin LLM QR code

Usando @capgo/capacitor-llm

Interfaz del plugin LLM para interactuar con modelos de lenguaje en dispositivo.

Install

bun add @capgo/capacitor-llm
bunx cap sync

- Crea una nueva sesión de chat.

  • createChat Crea una nueva sesión de chat.
  • sendMessage - Obtiene el estado de preparación del LLM.
  • getReadiness Obtiene el estado de preparación del LLM.
  • setModel - Establece la configuración del modelo - iOS: Utilice "Inteligencia de Apple" como ruta para el modelo del sistema, o proporcione la ruta al modelo de MediaPipe - Android: Ruta a un archivo de modelo de MediaPipe (en el directorio de activos o archivos).

Uso de ejemplo

createChat

Crear una nueva sesión de chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.createChat();
console.log(result);

sendMessage

Enviar un mensaje al modelo de lenguaje en una sesión de chat específica.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({
  chatId: 'chat-id-123',
  message: 'Hello from Capacitor',
});

getReadiness

Obtiene el estado de preparación del LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.getReadiness();
console.log(result);

setModel

Establece la configuración del modelo - iOS: Utilice "Inteligencia de Apple" como ruta para el modelo del sistema, o proporcione la ruta al modelo de MediaPipe - Android: Ruta a un archivo de modelo de MediaPipe (en el directorio de activos o archivos).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({
  path: 'path/to/file',
  modelType: 'task',
});

Referencia completa

Sigue adelante desde Usando @capgo/capacitor-llm

Si estás utilizando Usando @capgo/capacitor-llm para planificar la consola y las operaciones de API, conectarlo con @capgo/capacitor-llm para los detalles de implementación en @capgo/capacitor-llm Getting Started para los detalles de implementación en Inicio Resumen de API para los detalles de implementación en Resumen de API Introducción para los detalles de implementación en Introducción, y Claves de API para los detalles de implementación en Claves de API

FAQ

FAQ sobre el plugin LLM

¿Cómo instalo el plugin LLM en una aplicación Capacitor?

Ejecuta "bun add @capgo/capacitor-llm" (o "npm install @capgo/capacitor-llm"), luego ejecuta "bunx cap sync" para que los proyectos iOS y Android capturen el code nativo. Importa desde "@capgo/capacitor-llm" en tu aplicación code.

¿Funciona @capgo/capacitor-llm con React, Vue y Angular?

Sí. LLM es un paquete de Capacitor, por lo que funciona con cualquier framework web que se ejecute dentro de Capacitor, incluyendo Ionic, React, Vue, Angular, Svelte y JavaScript puro.

¿Qué versión de Capacitor soporta @capgo/capacitor-llm?

Los plugins de Capgo siguen la versión mayor de Capacitor: utilice la versión mayor del plugin que coincida con la versión mayor de Capacitor (por ejemplo, plugin v8 con Capacitor 8). La tabla de compatibilidad en el README del GitHub lista las versiones mantenidas.

¿Es @capgo/capacitor-llm gratuito y de código abierto?

Sí. El código fuente de code está disponible en GitHub en https://github.com/Cap-go/capacitor-llm/ y el paquete es gratuito para instalar desde npm. Se aceptan informes de errores y solicitudes de cambios.

¿Puedo actualizar code que utiliza LLM sin una revisión de la Tienda?

Instalar o actualizar el plugin cambia la code nativa, por lo que necesita una nueva compilación de la tienda. Después de eso, los cambios en JavaScript, HTML y CSS que llaman al plugin pueden enviar directamente con Capgo actualizaciones en vivo.

Envíe cambios de LLM sin esperar a la revisión de la aplicación

Una vez que el plugin esté en tu tienda de construcción, Capgo actualizaciones en vivo envían cambios en JavaScript, HTML y CSS a los usuarios en minutos.

Comienza con Capgo