Allez directement au contenu principal
Retour aux plugins
@capgo/capacitor-llm
Tutoriel
par github.com/Cap-go

LLM

Exécutez les grands modèles de langage localement sur appareil avec l'aide d'Apple Intelligence et de MLX

Guide

Tutoriel sur LLM

Utilisation de @capgo/capacitor-llm

Interface de plugin LLM pour interagir avec les modèles de langage sur appareil.

Installer

bun add @capgo/capacitor-llm
bunx cap sync

Ce que ce plugin expose

  • createChat - Crée une nouvelle session de chat.
  • sendMessage - Envoie un message à l'IA dans une session de chat spécifique.
  • getReadiness - Obtient l'état de disponibilité du LLM.
  • setModel - Configure la configuration du modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans le répertoire des assets ou des fichiers).

Exemple d'utilisation

createChat

Crée une nouvelle session de discussion.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

Envoie un message à l'IA dans une session de discussion spécifique.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

Obtient l'état de disponibilité du LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

- Configure la configuration du modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans le répertoire des assets ou des fichiers).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Référence complète