Aller directement au contenu principal
Retour aux plugins
@capgo/capacitor-llm
Tutoriel
par github.com/Cap-go

LLM

Exécutez les grands modèles de langage localement sur appareil avec l'appui d'Apple Intelligence et MLX

Guide

Tutoriel sur LLM

Utilisation de @capgo/capacitor-llm

Interface de plugin LLM pour interagir avec les modèles de langage sur appareil.

Installer

bun add @capgo/capacitor-llm
bunx cap sync

Ce que ce plugin expose

  • createChat - Crée une nouvelle session de chat.
  • sendMessage - Envoie un message à l'IA dans une session de chat spécifique.
  • getReadiness - Obtient l'état de disponibilité du LLM.
  • setModel - Définit la configuration du modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans les dossiers assets ou fichiers).

Exemple d'utilisation

createChat

Crée une nouvelle session de discussion.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Envoie un message à l'IA dans une session de discussion spécifique.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Obtient l'état de disponibilité du LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

Configure le modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans les dossiers assets ou fichiers).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Référence complète

Continuez à utiliser @capgo/capacitor-llm

Si vous utilisez Utilisez @capgo/capacitor-llm pour planifier le tableau de bord et les opérations API, connectez-le à @capgo/capacitor-llm pour les détails d'implémentation dans @capgo/capacitor-llm, Getting Started pour les détails d'implémentation dans Getting Started, API Vue d'ensemble pour les détails d'implémentation dans API Vue d'ensemble, Introduction pour les détails d'implémentation dans Introduction, et API Clés pour les détails d'implémentation dans API Clés.