Aller directement au contenu principal
Retour aux plugins
@capgo/capacitor-llm
Tutoriel
@capgo/capacitor-llm

Icône LLM

Run Large Language Models localement sur appareil avec Apple Intelligence et MLX support

Guide

Tutoriel sur LLM

Utilisation de @capgo/capacitor-llm

Interface de plugin LLM pour interagir avec les modèles de langage sur appareil.

Installation

bun add @capgo/capacitor-llm
bunx cap sync

Ce plugin expose les éléments suivants

  • createChat - Crée une nouvelle session de discussion.
  • sendMessage - Envoie un message à l'IA dans une session de discussion spécifique.
  • getReadiness - Récupère l'état de disponibilité du LLM.
  • setModel - Définit la configuration du modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans le répertoire des assets ou des fichiers).

Exemple d'utilisation

createChat

Crée une nouvelle session de discussion.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Envoie un message à l'IA dans une session de discussion spécifique.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Récupère l'état de disponibilité du LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Définit la configuration du modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans le répertoire des assets ou des fichiers).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Référence complète

Continuez à partir de l'utilisation de @capgo/capacitor-llm

Si vous utilisez L'utilisation de @capgo/capacitor-llm pour planifier l'interface de tableau de bord et les opérations API, connectez-le avec @capgo/capacitor-llm pour les détails d'implémentation dans @capgo/capacitor-llm, Démarrage pour les détails d'implémentation dans Démarrage, API Vue d'ensemble Détails d'implémentation pour API Vue d'ensemble, Introduction Détails d'implémentation pour l'Introduction, et API Clés Détails d'implémentation pour API Clés.