Saltare al contenuto principale
Torna ai plugin
@capgo/capacitor-llm
Tutorial
@capgo/capacitor-llm

LLM

Esegui modelli linguistici di grandi dimensioni localmente sul dispositivo con supporto per l'intelligenza Apple e MLX

Guida

Tutoriale su LLM

Testare sul dispositivo

Scarica l'app Capgo, poi scansione il codice QR code.

Collegamento QR di anteprima del plugin LLM code

Utilizza @capgo/capacitor-llm

Interfaccia del plugin LLM per l'interazione con i modelli di linguaggio sul dispositivo.

Installa

bun add @capgo/capacitor-llm
bunx cap sync

Cos'è che questo plugin espone

  • createChat - Crea una nuova sessione di chat.
  • sendMessage - Invia un messaggio all'AI in una sessione di chat specifica.
  • getReadiness - Ottiene lo stato di disponibilità del LLM.
  • setModel - Imposta la configurazione del modello - iOS: utilizza "Intelligenza Apple" come percorso per il modello di sistema, o fornisce il percorso al modello MediaPipe - Android: percorso a un file di modello MediaPipe (nella directory degli asset o dei file).

Utilizzo di esempio

createChat

Crea una nuova sessione di chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Invia un messaggio all'IA in una sessione di chat specifica.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Ottiene lo stato di disponibilità dell'LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Imposta la configurazione del modello - iOS: utilizza "Intelligenza Apple" come percorso per il modello di sistema, o fornisce il percorso al modello MediaPipe - Android: percorso a un file di modello MediaPipe (nella directory degli asset o dei file).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Riferimento Completo

Continua da Utilizza @capgo/capacitor-llm

Se stai utilizzando Utilizza @capgo/capacitor-llm per pianificare il dashboard e le operazioni di API, connettilo con @capgo/capacitor-llm per i dettagli di implementazione in @capgo/capacitor-llm, Iniziare per i dettagli di implementazione in Iniziare, Panoramica di API per i dettagli di implementazione in Panoramica di API Introduzione per i dettagli di implementazione in Introduzione, e Chiavi di API per i dettagli di implementazione in Chiavi di API