Zum Hauptinhalt springen
Zurück zu Plugins
@capgo/capacitor-llm
Tutorial
@capgo/capacitor-llm

LLM

Run Large Language Models lokal auf Geräten mit Apple Intelligence und MLX-Unterstützung

Anleitung

Tutorial zu LLM

Mit @capgo/capacitor-llm verwenden

LLM-Plugin-Interface für die Interaktion mit auf Geräten laufenden Sprachmodellen.

Installieren

bun add @capgo/capacitor-llm
bunx cap sync

Was diese Erweiterung enthüllt

  • createChat - Erstellt eine neue Chat-Sitzung.
  • sendMessage - Sendet eine Nachricht an das AI in einer bestimmten Chat-Sitzung.
  • getReadiness - Holt den Status der LLM-Bereitschaft ab.
  • setModel - Setzt die Modellkonfiguration - iOS: Verwende "Apple Intelligence" als Pfad für das Systemmodell oder bereitstellen Sie den Pfad zum MediaPipe-Modell - Android: Pfad zu einem MediaPipe-Modell-Datei (in assets oder Dateien-Verzeichnis).

Beispielanwendung

createChat

Erstellt eine neue Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Sendet eine Nachricht an das AI in einer bestimmten Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Holt den Status der LLM-Bereitschaft ab.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Setzt die Modellkonfiguration - iOS: Verwende "Apple Intelligence" als Pfad für das Systemmodell oder bereitstellen Sie den Pfad zum MediaPipe-Modell - Android: Pfad zu einem MediaPipe-Modell-Datei (in assets oder Dateien-Verzeichnis).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Vollständige Referenz

Weitermachen von Using @capgo/capacitor-llm

Wenn Sie Mit @capgo/capacitor-llm um einen Überblick über das Dashboard und die API-Operationen zu erhalten, verbinden Sie es mit @capgo/capacitor-llm für die Implementierungsdetails in @capgo/capacitor-llm, Einstieg für die Implementierungsdetails in Einstieg, API-Übersicht zur Implementierungsdetail in API Übersicht Einleitung zur Implementierungsdetail in Einleitung, und API Schlüssel zur Implementierungsdetail in API Schlüssel.