Zum Hauptinhalt springen
Zurück zu Plugins
@capgo/capacitor-llm
Anleitung
@capgo/capacitor-llm

LLM

Laufen Sie große Sprachmodelle lokal auf dem Gerät mit Apple-Intelligenz und MLX-Unterstützung aus

Anleitung

Tutorial zur LLM

Gerät testen

Herunterladen Sie die Capgo-App, dann scannen Sie die QR-code.

LLM-Plugin-Vorschau-QR code

Mit @capgo/capacitor-llm

LLM-Plugin-Schnittstelle für die Interaktion mit Sprachmodellen auf Geräten.

Installieren

bun add @capgo/capacitor-llm
bunx cap sync

Dieses Plugin enthüllt

  • createChat - Erstellt eine neue Chat-Sitzung.
  • sendMessage - Sendet eine Nachricht an den AI in einer bestimmten Chat-Sitzung.
  • getReadiness - Holt den Status der Bereitschaft des LLM.
  • setModel - Setzt die Modellkonfiguration - iOS: Verwende "Apple Intelligence" als Pfad für das Systemmodell oder bereitstellen Sie den Pfad zum MediaPipe-Modell - Android: Pfad zu einem MediaPipe-Modell-Datei (in den Assets- oder Dateiverzeichnissen).

Beispiel-Verwendung

createChat

Erstellt eine neue Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Sendet eine Nachricht an das AI in einer bestimmten Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Erhält den Status der Bereitschaft des LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Setzt die Modellkonfiguration - iOS: Verwenden Sie "Apple Intelligence" als Pfad für das Systemmodell oder geben Sie den Pfad zu einem MediaPipe-Modell an - Android: Pfad zu einem MediaPipe-Modell-Datei (in den assets- oder Dateiverzeichnissen).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Vollständige Referenz

Fortsetzen Sie mit der Verwendung von @capgo/capacitor-llm

Wenn Sie die Verwendung von Verwendung von @capgo/capacitor-llm um das Dashboard und API-Operationen zu planen, verbinden Sie es mit @capgo/capacitor-llm für die Implementierungsdetails in @capgo/capacitor-llm, Anfahrt beginnen für die Implementierungsdetails in Anfahrt beginnen, API Übersicht für die Implementierungsdetails in API Übersicht, Einführung für die Implementierungsdetails in Einführung, und API Schlüssel für die Implementierungsdetails in API Schlüssel.