Allez directement au contenu principal
Retour aux plugins
@capgo/capacitor-llm
Tutoriel
@capgo/capacitor-llm

LLM

Exécutez des modèles de langage à grande échelle localement sur appareil avec le support d'Apple Intelligence et MLX

Guide

Tutoriel sur LLM

Tester sur appareil

Téléchargez l'application Capgo, puis scannez le code QR code.

Lien QR de prévisualisation du plugin LLM code

Utilisation de @capgo/capacitor-llm

Interface du plugin LLM pour interagir avec les modèles de langage sur appareil.

Installer

bun add @capgo/capacitor-llm
bunx cap sync

Ce que ce plugin expose

  • createChat - Crée une nouvelle session de discussion.
  • sendMessage - Envoie un message à l'IA dans une session de discussion spécifique.
  • getReadiness - Obtient l'état de disponibilité du LLM.
  • setModel - Définit la configuration du modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans les dossiers assets ou fichiers).

Utilisation d'exemple

createChat

Crée une nouvelle session de chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Envoie un message à l'IA dans une session de chat spécifique.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Obtient l'état de disponibilité de l'LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Configure le modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans les dossiers assets ou fichiers).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Référence complète

Continuez à utiliser @capgo/capacitor-llm

Si vous utilisez En utilisant @capgo/capacitor-llm pour planifier le tableau de bord et les API opérations, connectez-l’avec @capgo/capacitor-llm pour les détails d'implémentation dans @capgo/capacitor-llm, Prise en main pour les détails d'implémentation dans Prise en main, Vue d'ensemble de API pour les détails d'implémentation dans Vue d'ensemble de API, Introduction pour les détails d'implémentation dans Introduction, et Clés de API pour les détails d'implémentation dans Clés de API.