Zum Inhalt springen

@capgo/capacitor-llm

LLM-Plugin zur Interaktion mit On-Device-Sprachmodellen.

@capgo/capacitor-llm läuft on-device Chat-Modelle, ohne Prompts an deinen Server zu senden. iOS kann Apple Intelligence oder LiteRT-Bundles nutzen. Android nutzt Gemini Nano, sofern verfügbar, oder LiteRT- .litertlm Modelle. Web nutzt Gemma über MediaPipe GenAI (CDN-Runtime, lokale Modelldatei).

PlattformBackends
iOSApple Intelligence, benutzerdefiniert .litertlm
AndroidGemini Nano, LiteRT, Legacy MediaPipe .task Fallback
WebGemma über @mediapipe/tasks-genai
  • createChat - Erstellt eine neue Chat-Session.
  • sendMessage - Sendet eine Nachricht an die KI in einer bestimmten Chat-Session.
  • getReadiness - Ruft den Readiness-Status des LLM ab.
  • setModel - Konfiguriert das Modell - iOS: Nutze „Apple Intelligence“ als Pfad für das Systemmodell oder gib den Pfad zum MediaPipe-Modell an - Android: Pfad zu einer MediaPipe-Modell-Datei (im assets- oder files-Verzeichnis).
MethodeBeschreibung
createChatErstellt eine neue Chat-Session.
sendMessageSendet eine Nachricht an die KI in einer bestimmten Chat-Session.
getReadinessRuft den Readiness-Status des LLM ab.
setModelLegt die Modellkonfiguration fest – iOS: „Apple Intelligence“ als Pfad für das Systemmodell verwenden oder den Pfad zum MediaPipe-Modell angeben – Android: Pfad zu einer MediaPipe-Modell-Datei (im assets- oder files-Verzeichnis).
downloadModelLädt ein Modell von einer URL herunter und speichert es am richtigen Ort – iOS: Download in das Documents-Verzeichnis der App – Android: Download in das Files-Verzeichnis der App.
addListenerFügt einen Listener für empfangenen KI-Text hinzu.
addListenerFügt einen Listener für AI-Completion-Events hinzu.
addListenerFügt einen Listener für Fortschritts-Events beim Modell-Download hinzu.
addListenerFügt einen Listener für Änderungen des Readiness-Status hinzu.
getPluginVersionDie native Capacitor Plugin-Version abrufen.

Diese Referenz wird synchronisiert von src/definitions.ts in capacitor-llm.

Wenn du es nutzt @capgo/capacitor-llm um Migration und Enterprise-Betrieb zu planen, verbinde es mit Verwendung von @capgo/capacitor-llm für die native Funktionalität in Verwendung von @capgo/capacitor-llm, Capgo Enterprise für den Produkt-Workflow in Capgo Enterprise, Ionic Enterprise Plugin-Alternativen für den Produkt-Workflow in Ionic Enterprise Plugin-Alternativen, Capgo Alternativen für den Produkt-Workflow in Capgo Alternativen, und Capgo Consulting für den Produkt-Workflow in Capgo Consulting.