Passer à la navigation principale
@capgo/capacitor-llm APIs de dispositifs Source ouvert

LLM plugin Capacitor

Exécutez les grands modèles de langage localement sur appareil avec l'appui d'Apple Intelligence et de MLX.

Installer

bun add @capgo/capacitor-llm bunx cap sync
npm, pnpm ou yarn
  • npm install @capgo/capacitor-llm
  • pnpm add @capgo/capacitor-llm
  • yarn add @capgo/capacitor-llm

Guide

Comment utiliser LLM dans Capacitor

Tester sur appareil

Téléchargez l'application Capgo, puis scannez le QR code.

Lien QR de prévisualisation du plugin LLM code

Utilisation de @capgo/capacitor-llm

Interface du plugin LLM pour interagir avec les modèles de langage sur appareil.

Installer

bun add @capgo/capacitor-llm
bunx cap sync

Ce que ce Plugin Expose

  • createChat Crée une nouvelle session de discussion.
  • sendMessage Envoie un message à l'IA dans une session de discussion spécifique.
  • getReadiness Obtient l'état de disponibilité de l'LLM.
  • setModel Configure le modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans les dossiers assets ou fichiers).

Exemple d'utilisation

createChat

Crée une nouvelle session de discussion.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.createChat();
console.log(result);

sendMessage

Envoie un message à l'IA dans une session de discussion spécifique.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({
  chatId: 'chat-id-123',
  message: 'Hello from Capacitor',
});

getReadiness

Obtient l'état de disponibilité de l'LLM.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.getReadiness();
console.log(result);

setModel

Configure le modèle - iOS : Utilisez "Intelligence Apple" comme chemin pour le modèle système, ou fournissez un chemin vers le modèle MediaPipe - Android : Chemin vers un fichier de modèle MediaPipe (dans les dossiers assets ou fichiers).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({
  path: 'path/to/file',
  modelType: 'task',
});

Référence complète

Continuez à partir de l'utilisation de @capgo/capacitor-llm

Si vous utilisez L'utilisation de @capgo/capacitor-llm planifier le tableau de bord et les opérations API, connectez-l’avec @capgo/capacitor-llm pour les détails d'implémentation dans @capgo/capacitor-llm Prise en main pour les détails d'implémentation dans Prise en main Vue d'ensemble de API pour les détails d'implémentation dans Vue d'ensemble de API Introduction pour les détails d'implémentation dans Introduction, et API Clés pour les détails d'implémentation dans API Clés.

FAQ

FAQ du plugin LLM

Comment installer le plugin LLM dans une application Capacitor?

Exécutez la commande « bun add @capgo/capacitor-llm » (ou « npm install @capgo/capacitor-llm »), puis exécutez « bunx cap sync » afin que les projets iOS et Android prennent en compte le code natif code. Importez-l’à partir de « @capgo/capacitor-llm » dans votre application code.

Le plugin @capgo/capacitor-llm fonctionne-t-il avec React, Vue et Angular?

Oui. LLM est un package Capacitor, il fonctionne donc avec tout framework web qui s'exécute à l'intérieur de Capacitor, y compris Ionic, React, Vue, Angular, Svelte et JavaScript pur.

Quelle version de Capacitor est prise en charge par @capgo/capacitor-llm?

Capgo plugins suivent la version majeure de Capacitor : utilisez la version majeure du plugin qui correspond à la version majeure de votre Capacitor (par exemple, plugin v8 avec Capacitor 8). La table de compatibilité dans le README du GitHub liste les versions maintenues.

Le plugin @capgo/capacitor-llm est-il gratuit et open source?

Oui. Le code source code est public sur GitHub à l'adresse https://github.com/Cap-go/capacitor-llm/ et le package est gratuit à installer à partir de npm. Les rapports de bogues et les demandes de modification sont les bienvenus.

Peut-on mettre à jour code qui utilise LLM sans passer par une revue de l'App Store?

L'installation ou la mise à jour du plugin change le code natif code, il faut donc une nouvelle build de l'application. Une fois cela fait, les modifications JavaScript, HTML et CSS qui appellent le plugin peuvent être déployées instantanément avec les mises à jour Capgo.

Envoyez les modifications LLM sans attendre l'examen de l'application.

Une fois le plugin est dans votre magasin de build, Capgo les mises à jour en direct poussent vos modifications JavaScript, HTML et CSS vers les utilisateurs en quelques minutes.

Commencez avec Capgo