Zum Hauptinhalt springen
Zurück zu Plugins
@capgo/capacitor-llm
Anleitung
@capgo/capacitor-llm

LLM

Große Sprachmodelle lokal auf dem Gerät mit Apple Intelligence und MLX-Unterstützung ausführen

Anleitung

Tutorial zur LLM

Gerät testen

Herunterladen Sie die Capgo-App, dann scannen Sie die QR-code.

LLM-Plugin-Vorschau QR code

Verwendung von @capgo/capacitor-llm

LLM-Plugin-Schnittstelle für die Interaktion mit Sprachmodellen auf Geräten.

Installieren

bun add @capgo/capacitor-llm
bunx cap sync

Dieses Plugin enthüllt

  • createChat - Erstellt eine neue Chat-Sitzung.
  • sendMessage - Sendet eine Nachricht an den AI in einer bestimmten Chat-Sitzung.
  • getReadiness - Holt den Zustand der LLM-Bereitschaft ab.
  • setModel - Setzt die Modellkonfiguration - iOS: Verwenden Sie "Apple Intelligence" als Pfad für das Systemmodell oder geben Sie den Pfad zu einem MediaPipe-Modell an - Android: Pfad zu einem MediaPipe-Modell-Datei (in den Assets- oder Dateiverzeichnissen).

Beispielanwendung

createChat

Erstellt eine neue Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Sendet eine Nachricht an den AI in einer bestimmten Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Ermittelt den Status der LLM-Bereitschaft.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Setzt die Modellkonfiguration - iOS: Verwenden Sie "Apple Intelligence" als Pfad für das Systemmodell oder geben Sie den Pfad zum MediaPipe-Modell an - Android: Pfad zu einem MediaPipe-Modell-Datei (in den assets- oder Dateiverzeichnissen).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Vollständige Referenz

Fahren Sie mit der Verwendung von @capgo/capacitor-llm fort.

Wenn Sie @__CAPGO_KEEP_0__/__CAPGO_KEEP_1__-llm verwenden Wenn Sie @capgo/capacitor-llm verwenden um das API-Dashboard und -Operationen zu planen und zu verbinden @capgo/capacitor-llm zur Implementierung in @capgo/capacitor-llm Anleitung zum Starten zur Implementierung in Anleitung zum Starten API-Übersicht zur Implementierung in API-Übersicht Einführung zur Implementierung in Einführung und API-Schlüssel zur Implementierung in API-Schlüssel