Aller au contenu principal
@capgo/capacitor-llm API de l'appareil Open source

LLM Plugin Capacitor

Exécutez des LLM localement sur l'appareil grâce à Apple Intelligence et au support MLX

Installer

bun add @capgo/capacitor-llm bunx cap sync
npm, pnpm ou yarn
  • npm install @capgo/capacitor-llm
  • pnpm add @capgo/capacitor-llm
  • yarn add @capgo/capacitor-llm

Guide

Comment utiliser un LLM dans Capacitor

Tester sur l'appareil

Téléchargez l'application Capgo, puis scannez le QR code.

Aperçu du plugin LLM via QR code

Utilisation de @capgo/capacitor-llm

Plugin LLM pour interagir avec les modèles de langage sur l'appareil.

Installer

bun add @capgo/capacitor-llm
bunx cap sync

Ce que ce plugin expose

  • createChat - Crée une nouvelle session de chat.
  • sendMessage - Envoie un message à l'IA dans une session de chat spécifique.
  • getReadiness - Récupère le statut de disponibilité du LLM.
  • setModel - Configure le modèle - iOS : utilisez « Apple Intelligence » comme chemin pour le modèle système, ou indiquez le chemin vers un modèle MediaPipe - Android : chemin vers un fichier de modèle MediaPipe (dans le répertoire assets ou files).

Exemple d'utilisation

createChat

Crée une nouvelle session de chat.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.createChat();
console.log(result);

sendMessage

Envoie un message à l'IA dans une session de chat spécifique.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({
  chatId: 'chat-id-123',
  message: 'Hello from Capacitor',
});

getReadiness

Récupère le statut de disponibilité du LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.getReadiness();
console.log(result);

setModel

- Configure le modèle - iOS : utilisez « Apple Intelligence » comme chemin pour le modèle système, ou indiquez le chemin vers un modèle MediaPipe - Android : chemin vers un fichier de modèle MediaPipe (dans le répertoire assets ou files).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({
  path: 'path/to/file',
  modelType: 'task',
});

Référence complète

Continuer avec l'utilisation de @capgo/capacitor-llm

Si vous utilisez Utiliser @capgo/capacitor-llm pour planifier les opérations du dashboard et de API, connectez-l’avec @capgo/capacitor-llm pour les détails d'implémentation dans @capgo/capacitor-llm, Prise en main pour les détails d'implémentation dans Getting Started Aperçu de API pour les détails d'implémentation dans « Vue d'ensemble de API », Introduction pour les détails d'implémentation dans l'Introduction, et Clés API pour les détails d'implémentation dans les clés API.

FAQ

FAQ du plugin LLM

Comment installer le plugin LLM dans une application Capacitor ?

Exécutez "bun add @capgo/capacitor-llm" (ou "npm install @capgo/capacitor-llm"), puis lancez "bunx cap sync" pour que les projets iOS et Android prennent en compte le code natif. Importez-le depuis "@capgo/capacitor-llm" dans votre code.

Est-ce que @capgo/capacitor-llm fonctionne avec React, Vue et Angular ?

Oui. LLM est un package Capacitor, il fonctionne donc avec n'importe quel framework web tournant sous Capacitor, y compris Ionic, React, Vue, Angular, Svelte et en JavaScript pur.

Quelle version de Capacitor est supportée par @capgo/capacitor-llm ?

Les plugins Capgo suivent la version majeure de Capacitor : utilisez la version majeure du plugin qui correspond à la version majeure de votre Capacitor (par exemple le plugin v8 avec Capacitor 8). Le tableau de compatibilité du README de GitHub recense les versions maintenues.

Est-ce que @capgo/capacitor-llm est gratuit et open source ?

Oui. Le code source de code est public sur GitHub à l'adresse https://github.com/Cap-go/capacitor-llm/ et le package est gratuit à installer via npm. Les rapports de bugs et les pull requests sont les bienvenus.

Puis-je mettre à jour code utilisant LLM sans passer par une revue de l'App Store ?

L'installation ou la mise à jour du plugin modifie le code natif, ce qui impose un nouveau build pour les stores. Ensuite, les changements JavaScript, HTML et CSS qui appellent le plugin peuvent être livrés instantanément via les live updates de Capgo.

Déployez vos changements LLM sans attendre la validation de l'app

Une fois le plugin intégré à votre build de store, Capgo live updates déploie vos changements JavaScript, HTML et CSS aux utilisateurs en quelques minutes.

Commencez avec Capgo