Zum Hauptinhalt springen
Zurück zu plugins
@capgo/capacitor-llm
Tutorial
@capgo/capacitor-llm

LLM

Lokale Ausführung von großen Sprachmodellen auf dem Gerät mit Apple Intelligence und MLX-Unterstützung

Leitfaden

Tutorial zum LLM

Auf Gerät testen

Laden Sie die Capgo-App herunter, dann scannen Sie das QR-code-Code.

Vorschau-Link für LLM-Plugin code

Verwendung von @capgo/capacitor-llm

LLM-Plugin-Schnittstelle für die Interaktion mit Sprachmodellen auf Geräten.

Installieren

bun add @capgo/capacitor-llm
bunx cap sync

Was dieses Plugin enthüllt

  • createChat - Erstellt eine neue Chat-Sitzung.
  • sendMessage - Sendet eine Nachricht an den AI in einer bestimmten Chat-Sitzung.
  • getReadiness - Holt den Status der Bereitschaft des LLM.
  • setModel - Setzt die Modellkonfiguration - iOS: Verwende "Apple Intelligence" als Pfad für das Systemmodell oder geben Sie den Pfad zum MediaPipe-Modell an - Android: Pfad zu einem MediaPipe-Modell-Datei (in assets oder Dateien-Verzeichnis).

Beispielverwendung

createChat

Erstellt eine neue Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Sendet eine Nachricht an die KI in einer bestimmten Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Erhält den Status der Bereitschaft des LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Setzt die Modellkonfiguration - iOS: Verwenden Sie "Apple Intelligence" als Pfad für das Systemmodell oder geben Sie den Pfad zu einem MediaPipe-Modell an - Android: Pfad zu einem MediaPipe-Modell-Datei (in den assets- oder Dateiverzeichnissen).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Vollständige Referenz

Fortsetzen Sie von Using @capgo/capacitor-llm

Wenn Sie "__CAPGO_KEEP_0__" verwenden Mit @capgo/capacitor-llm um das Dashboard zu planen und API-Operationen durchzuführen, verbinden Sie es mit @capgo/capacitor-llm für die Implementierungsdetails in @capgo/capacitor-llm Einstieg für die Implementierungsdetails in Einstieg API Übersicht für die Implementierungsdetails in API Übersicht Einführung für die Implementierungsdetails in Einführung und API Schlüssel für die Implementierungsdetails in API Schlüssel