Vai direttamente al contenuto principale
Indietro ai plugin
@capgo/capacitor-llm
Tutorial
da github.com/Cap-go

LLM

Esegui modelli di linguaggio di grandi dimensioni localmente sul dispositivo con supporto per Apple Intelligence e MLX

Guida

Tutorial su LLM

Utilizzo di @capgo/capacitor-llm

Interfaccia plugin LLM per l'interazione con i modelli di linguaggio su dispositivo.

Installa

bun add @capgo/capacitor-llm
bunx cap sync

Cosa questo plugin espone

  • createChat - Crea una nuova sessione di chat.
  • sendMessage - Invia un messaggio all'AI in una sessione di chat specifica.
  • getReadiness - Ottiene lo stato di disponibilità del LLM.
  • setModel - Imposta la configurazione del modello - iOS: Utilizza "Intelligenza Apple" come percorso per il modello del sistema, o fornisce il percorso al modello MediaPipe - Android: Percorso a un file di modello MediaPipe (in directory di asset o file).

Esempio di utilizzo

createChat

Crea una nuova sessione di chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Invia un messaggio all'AI in una sessione di chat specifica.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Ottieni lo stato di prontezza del LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Imposta la configurazione del modello - iOS: Utilizza "Intelligenza Apple" come percorso per il modello del sistema, o fornisce il percorso al modello MediaPipe - Android: Percorso a un file di modello MediaPipe (in directory di asset o file).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Riferimento completo