Allez directement au contenu principal
Retour aux plugins
@capgo/capacitor-llm
Tutoriel
@capgo/capacitor-llm

LLM

Exécutez des modèles de langage de grande taille localement sur appareil avec le support d'Apple Intelligence et MLX

Guide

La formation sur LLM

Tester sur appareil

Télécharger l'application Capgo, puis scannez le code QR code.

Prévisualisation du lien QR du plugin LLM code

En utilisant @capgo/capacitor-llm

Interface du plugin LLM pour interagir avec les modèles de langage sur appareil.

Installer

bun add @capgo/capacitor-llm
bunx cap sync

Ce que ce plugin expose

  • createChat - Crée une nouvelle session de chat.
  • sendMessage - Envoie un message à l'IA dans une session de chat spécifique.
  • getReadiness - Obtient l'état de disponibilité du LLM.
  • setModel - Définit la configuration du modèle - iOS : Utilisez "Intelligence Apple" en tant que chemin pour le modèle système, ou fournissez le chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans le répertoire des assets ou des fichiers).

Exemples d'utilisation

createChat

Crée une nouvelle session de chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Envoie un message à l'IA dans une session de chat spécifique.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Obtient l'état de disponibilité de l'LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Configure le modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans les dossiers assets ou fichiers).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Référence complète

Continuez à utiliser @capgo/capacitor-llm

Si vous utilisez Utilisez @capgo/capacitor-llm pour planifier votre tableau de bord et les opérations API, connectez-le à @capgo/capacitor-llm détails d'implémentation dans @capgo/capacitor-llm, Démarrage détails d'implémentation dans Getting Started, Présentation de API détails d'implémentation dans Présentation de API Introduction détails d'implémentation dans Introduction, et Clés de API détails d'implémentation dans Clés de API.