Allez directement au contenu principal
Retour aux plugins
@capgo/capacitor-llm
Tutoriel
@capgo/capacitor-llm

LLM

Exécutez des modèles de langage de grande taille localement sur appareil avec le support d'Apple Intelligence et MLX

Guide

Tutoriel sur LLM

Tester sur appareil

Télécharger l'application Capgo, puis scannez le code QR code.

Prévisualisation du lien QR du plugin LLM code

En utilisant @capgo/capacitor-llm

Interface du plugin LLM pour interagir avec les modèles de langage sur appareil.

Installer

bun add @capgo/capacitor-llm
bunx cap sync

Ce que ce plugin expose

  • createChat - Crée une nouvelle session de chat.
  • sendMessage - Envoie un message à l'IA dans une session de chat spécifique.
  • getReadiness - Obtient l'état de disponibilité du LLM.
  • setModel - Définit la configuration du modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez le chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans le répertoire des assets ou des fichiers).

Exemples d'utilisation

createChat

Crée une nouvelle session de chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

S'envoie un message à l'IA dans une session de chat spécifique.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Obtient l'état de disponibilité de l'LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Configure le modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans les dossiers assets ou fichiers).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Référence complète.

Continuez à utiliser @capgo/capacitor-llm.

Si vous utilisez Utilisez @capgo/capacitor-llm pour planifier le tableau de bord et les opérations API, connectez-l’avec @capgo/capacitor-llm pour les détails d'implémentation dans @capgo/capacitor-llm, Prise en main pour les détails d'implémentation dans Prise en main, API : Vue d'ensemble pour les détails d'implémentation dans API : Vue d'ensemble, Introduction pour les détails d'implémentation dans l'Introduction, et API Clés pour les détails d'implémentation dans API Clés.