メインコンテンツにジャンプ
プラグインに戻る
@capgo/capacitor-llm
チュートリアル
by github.com/Cap-go

LLM

Apple Intelligence と MLX のサポートを備えたデバイス上でローカルに Large Language Models を実行する

ガイド

LLMチュートリアル

Using @capgo/capacitor-llm

LLMプラグインは、デバイス上の言語モデルと対話するために使用されるインターフェイスです。

インストール

bun add @capgo/capacitor-llm
bunx cap sync

このプラグインが提供するもの

  • createChat - 新しいチャットセッションを作成します。
  • sendMessage - AIにメッセージを送信します。
  • getReadiness - LLMのリードネスステータスを取得します。
  • setModel - モデル設定を設定します。iOS: Apple Intelligenceをシステムモデルとして使用するか、MediaPipeモデルへのパスを指定します。- Android: アセットまたはファイルディレクトリ内のMediaPipeモデルファイルへのパスを指定します。

例の使用方法

createChat

Creates a new chat session.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

A specific chat sessionにAIにメッセージを送信します。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

LLMの準備状況を取得します。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

モデル設定 - iOS: システムモデルで"Apple Intelligence"を使用するか、MediaPipeモデルへのパスを指定 - Android: アセットまたはファイルディレクトリ内のMediaPipeモデルファイルへのパスを指定します。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Full Reference

@capgo/capacitor-llmを使用して

@__CAPGO_KEEP_0__/__CAPGO_KEEP_1__-llmを使用している場合 @capgo/capacitor-llmを使用してダッシュボードの計画とcapgoのオペレーションを実行する場合は、接続してください。 @API/__CAPGO_KEEP_1__-llmを使用している場合 @capgo/capacitor-llm 実装詳細については @capgo/capacitor-llm を参照してください。 Getting Started 実装詳細については Getting Started を参照してください。 API Overview 実装詳細については API Overview を参照してください。 Introduction 実装詳細については Introduction を参照してください。 API Keys 実装詳細については API Keys を参照してください。