Salta al contenuto principale
@capgo/capacitor-llm API dei dispositivi Open source

LLM Plugin Capacitor

Esegui Large Language Models localmente sul dispositivo con supporto Apple Intelligence e MLX

Installa

bun add @capgo/capacitor-llm bunx cap sync
npm, pnpm o yarn
  • npm install @capgo/capacitor-llm
  • pnpm add @capgo/capacitor-llm
  • yarn add @capgo/capacitor-llm

Guida

Come usare LLM in Capacitor

Testa sul dispositivo

Scarica l'app Capgo, poi scansiona il QR code.

Anteprima QR plugin LLM code

Utilizzando @capgo/capacitor-llm

Interfaccia del plugin LLM per interagire con i modelli linguistici on-device.

Installa

bun add @capgo/capacitor-llm
bunx cap sync

Cosa espone questo plugin

  • createChat - Crea una nuova sessione di chat.
  • sendMessage - Invia un messaggio all'IA in una sessione specifica.
  • getReadiness - Ottiene lo stato di disponibilità dell'LLM.
  • setModel - Configura il modello - iOS: usa "Apple Intelligence" come path per il modello di sistema, o indica il path di un modello MediaPipe - Android: path di un file modello MediaPipe (nella directory assets o files).

Esempio d'uso

createChat

Crea una nuova sessione di chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.createChat();
console.log(result);

sendMessage

Invia un messaggio all'IA in una specifica sessione di chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({
  chatId: 'chat-id-123',
  message: 'Hello from Capacitor',
});

getReadiness

Verifica lo stato di disponibilità dell'LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.getReadiness();
console.log(result);

setModel

- Configura il modello - iOS: usa "Apple Intelligence" come path per il modello di sistema, o indica il path di un modello MediaPipe - Android: path di un file modello MediaPipe (nella directory assets o files).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({
  path: 'path/to/file',
  modelType: 'task',
});

Riferimento completo

Continua da Using @capgo/capacitor-llm

Se stai usando Utilizzo di @capgo/capacitor-llm per pianificare le operazioni della dashboard e di API, collegalo a @capgo/capacitor-llm per i dettagli di implementazione in @capgo/capacitor-llm, Per iniziare per i dettagli di implementazione nella guida introduttiva, Panoramica API per i dettagli di implementazione in Panoramica di API, Introduzione per i dettagli implementativi nell'Introduzione, e Chiavi API per i dettagli implementativi in API Keys.

FAQ

FAQ sul plugin LLM

Come installo il plugin LLM in un'app Capacitor?

Esegui "bun add @capgo/capacitor-llm" (o "npm install @capgo/capacitor-llm"), poi esegui "bunx cap sync" in modo che i progetti iOS e Android integrino il code nativo. Importalo da "@capgo/capacitor-llm" nel code della tua app.

@capgo/capacitor-llm funziona con React, Vue e Angular?

Sì. LLM è un pacchetto Capacitor, quindi funziona con qualsiasi web framework in esecuzione su Capacitor, inclusi Ionic, React, Vue, Angular, Svelte e JavaScript puro.

Quale versione di Capacitor supporta @capgo/capacitor-llm?

I plugin Capgo seguono la major version di Capacitor: usa la major version del plugin che corrisponde alla tua major version di Capacitor (ad esempio plugin v8 con Capacitor 8). La tabella di compatibilità nel README di GitHub elenca le versioni mantenute.

@capgo/capacitor-llm è gratuito e open source?

Sì. Il codice sorgente di code è pubblico su GitHub all'indirizzo https://github.com/Cap-go/capacitor-llm/ e il pacchetto si installa gratuitamente da npm. Bug report e pull request sono i benvenuti.

Posso aggiornare code che usa LLM senza la revisione dell'App Store?

Installare o aggiornare il plugin modifica il code nativo, quindi serve una nuova build per lo store. Dopo, le modifiche a JavaScript, HTML e CSS che chiamano il plugin possono essere rilasciate subito con le live updates di Capgo.

Distribuisci aggiornamenti LLM senza attendere la revisione dell'app

Una volta incluso il plugin nel tuo store build, Capgo invia le modifiche a JavaScript, HTML e CSS tramite live updates in pochi minuti.

Inizia con Capgo