Zum Hauptinhalt springen
@capgo/capacitor-llm Device-APIs Open Source

LLM Capacitor Plugin

Large Language Models lokal auf dem Gerät ausführen – mit Apple Intelligence und MLX-Support

Installieren

bun add @capgo/capacitor-llm bunx cap sync
npm, pnpm oder yarn
  • npm install @capgo/capacitor-llm
  • pnpm add @capgo/capacitor-llm
  • yarn add @capgo/capacitor-llm

Anleitung

LLM in Capacitor nutzen

Auf dem Gerät testen

Lade die Capgo App herunter und scanne den QR code.

QR-Code zur LLM-Plugin-Vorschau code

Verwendung von @capgo/capacitor-llm

LLM-Plugin zur Interaktion mit On-Device-Sprachmodellen.

Installieren

bun add @capgo/capacitor-llm
bunx cap sync

Was dieses Plugin bereitstellt

  • createChat - Erstellt eine neue Chat-Session.
  • sendMessage - Sendet eine Nachricht an die KI in einer Chat-Session.
  • getReadiness - Ruft den Readiness-Status des LLM ab.
  • setModel - Legt die Modellkonfiguration fest – iOS: "Apple Intelligence" als Pfad für das Systemmodell verwenden oder Pfad zum MediaPipe-Modell angeben – Android: Pfad zu einer MediaPipe-Modell-Datei (im assets- oder files-Verzeichnis).

Anwendungsbeispiel

createChat

Erstellt eine neue Chat-Session.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.createChat();
console.log(result);

sendMessage

Sendet eine Nachricht an die KI in einer bestimmten Chat-Session.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({
  chatId: 'chat-id-123',
  message: 'Hello from Capacitor',
});

getReadiness

Ruft den Readiness-Status des LLM ab.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.getReadiness();
console.log(result);

setModel

Legt die Modellkonfiguration fest – iOS: "Apple Intelligence" als Pfad für das Systemmodell verwenden oder Pfad zum MediaPipe-Modell angeben – Android: Pfad zu einer MediaPipe-Modell-Datei (im assets- oder files-Verzeichnis).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({
  path: 'path/to/file',
  modelType: 'task',
});

Vollständige Referenz

Weiter mit Using @capgo/capacitor-llm

Wenn du es nutzt Verwendung von @capgo/capacitor-llm um Dashboard- und API-Operationen zu planen, verbinde es mit @capgo/capacitor-llm für die Implementierungsdetails in @capgo/capacitor-llm, Erste Schritte für die Implementierungsdetails in Erste Schritte, API Übersicht für Details zur Implementierung im API Overview, Einführung für die Implementierungsdetails in der Einleitung und API Schlüssel für die Implementierungsdetails in den API Keys.

FAQ

LLM-Plugin FAQ

Wie installiere ich das LLM-Plugin in einer Capacitor App?

Führe "bun add @capgo/capacitor-llm" (oder "npm install @capgo/capacitor-llm") aus und danach "bunx cap sync", damit die iOS- und Android-Projekte die nativen code übernehmen. Importiere es in deiner App code aus "@capgo/capacitor-llm".

Funktioniert @capgo/capacitor-llm mit React, Vue und Angular?

Ja. LLM ist ein Capacitor Package und funktioniert daher mit jedem Web-Framework, das in Capacitor läuft, einschließlich Ionic, React, Vue, Angular, Svelte und reinem JavaScript.

Welche Version von Capacitor unterstützt @capgo/capacitor-llm?

Capgo Plugins folgen der Major-Version von Capacitor: Nutze die Plugin-Major-Version, die zu deiner Capacitor Major-Version passt (z. B. Plugin v8 bei Capacitor 8). Die Kompatibilitätstabelle im GitHub README listet die gepflegten Versionen auf.

Ist @capgo/capacitor-llm kostenlos und Open Source?

Ja. Der Quellcode von code ist auf GitHub öffentlich einsehbar unter https://github.com/Cap-go/capacitor-llm/ und das Package lässt sich kostenlos über npm installieren. Bug-Reports und Pull Requests sind willkommen.

Kann ich code mit LLM-Nutzung ohne App Store Review aktualisieren?

Die Installation oder ein Upgrade des Plugins ändert den nativen code, weshalb ein neuer Store-Build nötig ist. Danach können JavaScript-, HTML- und CSS-Änderungen, die das Plugin aufrufen, sofort per Capgo Live Updates ausgeliefert werden.

LLM-Änderungen deployen, ohne auf das App-Review zu warten

Sobald das Plugin in deinem Store-Build ist, bringt Capgo mit Live-Updates deine JavaScript-, HTML- und CSS-Änderungen in Minuten zu den Nutzern.

Starte mit Capgo