Guida
Tutorial su LLM
Utilizzo di @capgo/capacitor-llm
Interfaccia plugin LLM per l'interazione con i modelli di linguaggio su dispositivo.
Installa
bun add @capgo/capacitor-llm
bunx cap sync
Cosa questo plugin espone
createChat- Crea una nuova sessione di chat.sendMessage- Invia un messaggio all'AI in una sessione di chat specifica.getReadiness- Ottiene lo stato di disponibilità del LLM.setModel- Imposta la configurazione del modello - iOS: Utilizza "Intelligenza Apple" come percorso per il modello del sistema, o fornisce il percorso al modello MediaPipe - Android: Percorso a un file di modello MediaPipe (in directory di asset o file).
Esempio di utilizzo
createChat
Crea una nuova sessione di chat.
import { CapgoLLM } from '@capgo/capacitor-llm';
await CapgoLLM.createChat();
sendMessage
Invia un messaggio all'AI in una sessione di chat specifica.
import { CapgoLLM } from '@capgo/capacitor-llm';
await CapgoLLM.sendMessage({} as { chatId: string; message: string });
getReadiness
Ottieni lo stato di prontezza del LLM.
import { CapgoLLM } from '@capgo/capacitor-llm';
await CapgoLLM.getReadiness();
setModel
Imposta la configurazione del modello - iOS: Utilizza "Intelligenza Apple" come percorso per il modello del sistema, o fornisce il percorso al modello MediaPipe - Android: Percorso a un file di modello MediaPipe (in directory di asset o file).
import { CapgoLLM } from '@capgo/capacitor-llm';
await CapgoLLM.setModel({} as ModelOptions);
Riferimento completo
- GitHub: https://github.com/Cap-go/capacitor-llm/
- Documentazione: /docs/plugins/llm/