Saltare al contenuto principale
@capgo/capacitor-llm API di dispositivo Sorgente aperta

LLM plugin Capacitor

Esegui i Modelli di Lingua Grande localmente sul dispositivo con supporto per l'intelligenza Apple e MLX.

Installa

bun add @capgo/capacitor-llm bunx cap sync
npm, pnpm o yarn
  • npm install @capgo/capacitor-llm
  • pnpm add @capgo/capacitor-llm
  • yarn add @capgo/capacitor-llm

Guida

Come utilizzare LLM in Capacitor

Testa sul dispositivo

Scarica l'app Capgo, poi scansione il QR code.

Collegamento QR di anteprima del plugin LLM code

Utilizza @capgo/capacitor-llm

Interfaccia del plugin LLM per l'interazione con i modelli linguistici di dispositivo.

Installa

bun add @capgo/capacitor-llm
bunx cap sync

Cos'è questo plugin

  • createChat - Crea una nuova sessione di chat.
  • sendMessage - Invia un messaggio all'AI in una sessione di chat specifica.
  • getReadiness - Ottiene lo stato di disponibilità del LLM.
  • setModel - Imposta la configurazione del modello - iOS: Utilizza "Intelligenza Apple" come percorso per il modello di sistema, o fornisce il percorso al modello di MediaPipe - Android: Percorso a un file di modello di MediaPipe (in directory di asset o file).

Esempio di utilizzo

createChat

Crea una nuova sessione di chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.createChat();
console.log(result);

sendMessage

Invia un messaggio all'AI in una sessione di chat specifica.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({
  chatId: 'chat-id-123',
  message: 'Hello from Capacitor',
});

getReadiness

Ottenere lo stato di prontezza dell'LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.getReadiness();
console.log(result);

setModel

Imposta la configurazione del modello - iOS: Utilizza "Intelligenza Apple" come percorso per il modello di sistema, o fornisce il percorso al modello di MediaPipe - Android: Percorso a un file di modello di MediaPipe (in directory di asset o file).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({
  path: 'path/to/file',
  modelType: 'task',
});

Riferimento completo

Continua da qui: Utilizzo di @capgo/capacitor-llm

Se stai utilizzando Utilizzando @capgo/capacitor-llm per pianificare la dashboard e le operazioni di API, connettilo con @capgo/capacitor-llm per i dettagli di implementazione in @capgo/capacitor-llm, Avvio rapido per i dettagli di implementazione in Avvio rapido, Panoramica di API per i dettagli di implementazione in Panoramica di API, Introduzione per i dettagli di implementazione in Introduzione, e Chiavi di API per i dettagli di implementazione in Chiavi di API.

FAQ

Cos'è il plugin LLM

Come posso installare il plugin LLM in un'app Capacitor?

Esegui "bun add @capgo/capacitor-llm" (o "npm install @capgo/capacitor-llm"), quindi esegui "bunx cap sync" per far assorbire i progetti iOS e Android del nativo code. Importalo da "@capgo/capacitor-llm" nella tua app code.

Funziona @capgo/capacitor-llm con React, Vue e Angular?

Sì. LLM è un pacchetto Capacitor, quindi funziona con qualsiasi framework web che esegue all'interno di Capacitor, compresi Ionic, React, Vue, Angular, Svelte e JavaScript puro.

Quale versione di Capacitor supporta @capgo/capacitor-llm?

Capgo plugin seguono la versione maggiore di Capacitor: utilizzare la versione maggiore del plugin che corrisponde alla tua versione maggiore di Capacitor (ad esempio plugin v8 con Capacitor 8). La tabella di compatibilità nel README di GitHub elenca le versioni mantenute.

È @capgo/capacitor-llm gratuito e open source?

Sì. Il codice sorgente di code è pubblico su GitHub all'indirizzo https://github.com/Cap-go/capacitor-llm/ e il pacchetto è gratuito per l'installazione da npm. I rapporti di bug e le richieste di pull sono accetti.

Posso aggiornare code che utilizza LLM senza una revisione dell'App Store?

L'installazione o l'aggiornamento del plugin modifica la code nativa, quindi richiede una nuova costruzione del store. Dopo di che, le modifiche JavaScript, HTML e CSS che chiamano il plugin possono essere spediti immediatamente con Capgo live updates.

Condividi le modifiche LLM senza dover attendere la revisione dell'app

Una volta che il plugin è presente nella tua build di store, Capgo le aggiornamenti in tempo reale inviano le tue modifiche JavaScript, HTML e CSS agli utenti in pochi minuti.

Starta con Capgo