Zum Hauptinhalt springen
Zurück zu Plugins
@capgo/capacitor-llm
Tutorial
@capgo/capacitor-llm

Lokale Sprachmodelle

Run Large Language Models lokal auf Geräten mit Apple Intelligence und MLX-Unterstützung

{"targetLanguage":"Deutsch","protectedTokens":["Cloudflare","Capacitor","GitHub","Capgo","code","API","SDK","CLI","npm","bun"],"texts":["Richtlinie","Tutorial zu LLM","Gerät auf Testen","Laden Sie die __CAPGO_KEEP_0__-App, dann scannen Sie die QR-__CAPGO_KEEP_1__.","Laden Sie __CAPGO_KEEP_0__ im App Store","App Store","Laden Sie __CAPGO_KEEP_0__ auf Google Play","Google Play","Vorschau-Link für LLM-Plugin-QR","LLM-Plugin-Vorschau-QR-__CAPGO_KEEP_0__","Mit @__CAPGO_KEEP_0__/__CAPGO_KEEP_1__-llm","LLM-Plugin-Schnittstelle für die Interaktion mit Sprachmodellen auf Geräten."]}

Richtlinie

Tutorial zu LLM

Download the Capgo app, then scan the QR code.

LLM plugin preview QR code

Using @capgo/capacitor-llm

Mit @__CAPGO_KEEP_0__/__CAPGO_KEEP_1__-llm

Installieren

bun add @capgo/capacitor-llm
bunx cap sync

Was diese Erweiterung offenlegt

  • createChat - Erstellt eine neue Chat-Sitzung.
  • sendMessage - Sendet eine Nachricht an das AI in einer bestimmten Chat-Sitzung.
  • getReadiness - Holt den Status der LLM-Bereitschaft ab.
  • setModel - Setzt die Modellkonfiguration - iOS: Verwende "Apple Intelligence" als Pfad für das Systemmodell oder gib den Pfad zu einem MediaPipe-Modell an - Android: Pfad zu einem MediaPipe-Modell-Datei (in den Assets- oder Dateien-Ordner).

Beispielanwendung

createChat

Erstellt eine neue Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Sendet eine Nachricht an das AI in einer bestimmten Chat-Sitzung.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Holt den Status der LLM-Bereitschaft ab.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Setzt die Modellkonfiguration - iOS: Verwende "Apple Intelligence" als Pfad für das Systemmodell oder gib den Pfad zu einem MediaPipe-Modell an - Android: Pfad zu einem MediaPipe-Modell-Datei (in den Assets- oder Dateien-Ordner).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Vollständige Referenz

Weitermachen von Using @capgo/capacitor-llm

Wenn Sie Mit @capgo/capacitor-llm um das Dashboard und API-Operationen zu planen, verbinden Sie es mit @capgo/capacitor-llm für die Implementierungsdetails in @capgo/capacitor-llm, Einstieg für die Implementierungsdetails in Einstieg, API-Übersicht zur Implementierungsdetail in API Übersicht Einführung zur Implementierungsdetail in Einführung, und API Schlüssel zur Implementierungsdetail in API Schlüssel.