Zum Hauptinhalt springen
@capgo/capacitor-llm Geräte-APIs Open Source

LLM Capacitor-Plugin

Große Sprachmodelle lokal auf dem Gerät mit Apple Intelligence und MLX-Unterstützung ausführen

Installieren

bun add @capgo/capacitor-llm bunx cap sync
npm, pnpm oder yarn
  • npm install @capgo/capacitor-llm
  • pnpm add @capgo/capacitor-llm
  • yarn add @capgo/capacitor-llm

Anleitung

LLM in Capacitor verwenden

Gerätetest

Laden Sie die Capgo-App herunter, dann scannen Sie die QR-Code code.

QR-code für die LLM-Plugin-Vorschau

Verwendung von @capgo/capacitor-llm

LLM-Plugin-Interface für die Interaktion mit Sprachmodellen auf dem Gerät.

Installieren

bun add @capgo/capacitor-llm
bunx cap sync

Was dieses Plugin bereitstellt

  • createChat - Erstellt eine neue Chat-Sitzung.
  • sendMessage - Sendet eine Nachricht an den AI in einer bestimmten Chat-Sitzung.
  • getReadiness - Holt den Status der LLM-Bereitschaft ab.
  • setModel - Konfiguriert die Modellkonfiguration - iOS: Verwende "Apple Intelligence" als Pfad für das Systemmodell oder bereitstellen Sie einen Pfad zu einem MediaPipe-Modell - Android: Pfad zu einem MediaPipe-Modell-Datei (in assets- oder Dateiverzeichnis).

Beispielhafte Verwendung

createChat

Erstellt eine neue Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.createChat();
console.log(result);

sendMessage

Sendet eine Nachricht an das AI in einer bestimmten Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({
  chatId: 'chat-id-123',
  message: 'Hello from Capacitor',
});

getReadiness

Erhält den Status der Bereitschaft des LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.getReadiness();
console.log(result);

setModel

Konfiguriert die Modellkonfiguration - iOS: Verwende "Apple Intelligence" als Pfad für das Systemmodell oder bereitstellen Sie einen Pfad zu einem MediaPipe-Modell - Android: Pfad zu einem MediaPipe-Modell-Datei (in assets- oder Dateiverzeichnis).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({
  path: 'path/to/file',
  modelType: 'task',
});

Vollständige Referenz

Fortsetzen Sie mit der Verwendung von @capgo/capacitor-llm

Wenn Sie die Verwendung von Mit @capgo/capacitor-llm um das Dashboard und API-Operationen zu planen und es mit @capgo/capacitor-llm für die Implementierungsdetails in @capgo/capacitor-llm, Getting Started für die Implementierungsdetails in Einstieg, API-Übersicht für die Implementierungsdetails in API-Übersicht, Einführung für die Implementierungsdetails in Einführung und API-Schlüssel für die Implementierungsdetails in API-Schlüssel.

FAQ

FAQ für das LLM-Plugin

Wie installiere ich das LLM-Plugin in einer Capacitor-Anwendung?

Führe "bun add @capgo/capacitor-llm" (oder "npm install @capgo/capacitor-llm") aus, führe dann "bunx cap sync" aus, damit die iOS- und Android-Projekte die native code-Datei erkennen. Importiere sie aus "@capgo/capacitor-llm" in deiner code-Anwendung.

Funktioniert @capgo/capacitor-llm mit React, Vue und Angular?

Ja. LLM ist ein Capacitor-Paket, daher funktioniert es mit jedem Webframework, das innerhalb von Capacitor läuft, einschließlich Ionic, React, Vue, Angular, Svelte und plain JavaScript.

Welche Capacitor-Version unterstützt @capgo/capacitor-llm?

Capgo-Plugins folgen der Capacitor-Majorenversion: Wählen Sie die Plugin-Majorenversion, die Ihrer Capacitor-Majorenversion entspricht (z.B. Plugin v8 mit Capacitor 8). Die Kompatibilitäts-Tabelle im GitHub-README enthält die unterstützten Versionen.

Ist @capgo/capacitor-llm kostenlos und Open-Source?

Ja. Der Quellcode von code ist öffentlich auf GitHub unter https://github.com/Cap-go/capacitor-llm/ verfügbar und das Paket kann kostenlos installiert werden von npm. Bug-Berichte und Pull-Anfragen sind willkommen.

Kann ich code mit LLM aktualisieren, ohne eine App-Store-Bewertung abzuwarten?

Die Installation oder das Upgrade des Plugins ändert die native code, daher benötigt es eine neue Store-Build. Anschließend können JavaScript-, HTML- und CSS-Änderungen, die den Pluginaufruf enthalten, sofort mit Capgo-Live-Updates verschickt werden.

Schiffe LLM-Änderungen ohne auf die App-Überprüfung warten

Sobald das Plugin in Ihrem Store-Build ist, Capgo Live-Updates drücken Ihre JavaScript-, HTML- und CSS-Änderungen an Benutzer in Minuten.

Starten Sie mit Capgo