Allez directement au contenu principal
Retour aux plugins
@capgo/capacitor-llm
Tutoriel
@capgo/capacitor-llm

LLM

Exécutez les grands modèles de langage localement sur appareil avec l'aide d'Apple Intelligence et de MLX

Guide

Tutoriel sur LLM

Tester sur appareil

Télécharger l'application Capgo, puis scannez le code QR code.

Lien QR de prévisualisation du plugin LLM code

Utilisation de @capgo/capacitor-llm

Interface du plugin LLM pour interagir avec les modèles de langage sur appareil.

Installer

bun add @capgo/capacitor-llm
bunx cap sync

Ce que ce plugin expose

  • createChat - Crée une nouvelle session de chat.
  • sendMessage - Envoie un message à l'IA dans une session de chat spécifique.
  • getReadiness - Récupère l'état de disponibilité du LLM.
  • setModel - Définit la configuration du modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans les dossiers assets ou fichiers).

Exemple d'utilisation

createChat

Crée une nouvelle session de chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Envoie un message à l'IA dans une session de discussion spécifique.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Obtient l'état de disponibilité du LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Configure le modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez le chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans le répertoire des assets ou des fichiers).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Référence complète

Continuez à utiliser @capgo/capacitor-llm

Si vous utilisez En utilisant @capgo/capacitor-llm pour planifier l'interface de dashboard et les opérations API, connectez-le avec @capgo/capacitor-llm pour les détails d'implémentation dans @capgo/capacitor-llm, Démarrage pour les détails d'implémentation dans Démarrage, API Vue d'ensemble pour les détails d'implémentation dans API Vue d'ensemble, Introduction pour les détails d'implémentation dans Introduction, et API Clés pour les détails d'implémentation dans API Clés.