Aller au contenu principal
@capgo/capacitor-llm API de l'appareil Open source

LLM Plugin Capacitor

Exécutez des LLM localement sur l'appareil grâce à Apple Intelligence et au support MLX

Installer

bun add @capgo/capacitor-llm bunx cap sync
npm, pnpm ou yarn
  • npm install @capgo/capacitor-llm
  • pnpm add @capgo/capacitor-llm
  • yarn add @capgo/capacitor-llm

Guide

Comment utiliser un LLM dans Capacitor

Tester sur l'appareil

Téléchargez l'application Capgo, puis scannez le QR code.

Aperçu QR du plugin LLM code

Utiliser @capgo/capacitor-llm

Interface du plugin LLM pour interagir avec les modèles de langage sur l'appareil.

Installer

bun add @capgo/capacitor-llm
bunx cap sync

Ce que ce plugin expose

  • createChat - Crée une nouvelle session de chat.
  • sendMessage - Envoie un message à l'IA dans une session de chat donnée.
  • getReadiness - Récupère le statut de disponibilité du LLM.
  • setModel - Définit la configuration du modèle - iOS : utilisez « Apple Intelligence » comme chemin pour le modèle système, ou indiquez le chemin vers un modèle MediaPipe - Android : chemin vers un fichier de modèle MediaPipe (dans le dossier assets ou files).

Exemple d'utilisation

createChat

Crée une nouvelle session de chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.createChat();
console.log(result);

sendMessage

Envoie un message à l'IA dans une session de chat donnée.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({
  chatId: 'chat-id-123',
  message: 'Hello from Capacitor',
});

getReadiness

Récupère le statut de disponibilité du LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.getReadiness();
console.log(result);

setModel

- Définit la configuration du modèle - iOS : utilisez « Apple Intelligence » comme chemin pour le modèle système, ou indiquez le chemin vers un modèle MediaPipe - Android : chemin vers un fichier de modèle MediaPipe (dans le dossier assets ou files).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({
  path: 'path/to/file',
  modelType: 'task',
});

Référence complète

Continuer avec l'utilisation de @capgo/capacitor-llm

Si vous utilisez Utiliser @capgo/capacitor-llm pour planifier les opérations du dashboard et de API, connectez-l’avec @capgo/capacitor-llm pour les détails d’implémentation dans @capgo/capacitor-llm, Prise en main pour les détails d'implémentation dans Getting Started Aperçu de API pour les détails d'implémentation dans « Vue d'ensemble de API », Introduction pour les détails d'implémentation dans l'Introduction, et Clés API pour les détails d'implémentation dans les clés API.

FAQ

FAQ du plugin LLM

Comment installer le plugin LLM dans une application Capacitor ?

Exécutez "bun add @capgo/capacitor-llm" (ou "npm install @capgo/capacitor-llm"), puis lancez "bunx cap sync" pour que les projets iOS et Android prennent en compte le code natif. Importez-le depuis "@capgo/capacitor-llm" dans le code de votre application.

Est-ce que @capgo/capacitor-llm fonctionne avec React, Vue et Angular ?

Oui. LLM est un package Capacitor, il fonctionne donc avec n'importe quel framework web qui s'exécute dans Capacitor, y compris Ionic, React, Vue, Angular, Svelte et JavaScript pur.

Quelle version de Capacitor @capgo/capacitor-llm prend-il en charge ?

Les plugins Capgo suivent la version majeure de Capacitor : utilisez la version majeure du plugin qui correspond à la version majeure de votre Capacitor (par exemple le plugin v8 avec Capacitor 8). Le tableau de compatibilité du README de GitHub recense les versions maintenues.

Est-ce que @capgo/capacitor-llm est gratuit et open source ?

Oui. Le code source de code est public sur GitHub à l'adresse https://github.com/Cap-go/capacitor-llm/ et le package s'installe gratuitement depuis npm. Les signalements de bugs et les pull requests sont les bienvenus.

Puis-je mettre à jour code qui utilise LLM sans passer par la review de l'App Store ?

L'installation ou la mise à jour du plugin modifie le code natif, ce qui impose un nouveau build pour les stores. Ensuite, les changements JavaScript, HTML et CSS qui appellent le plugin peuvent être livrés instantanément via les live updates de Capgo.

Déployez vos changements LLM sans attendre la validation de l'app

Une fois le plugin intégré à votre build de store, Capgo live updates déploie vos changements JavaScript, HTML et CSS aux utilisateurs en quelques minutes.

Commencez avec Capgo