メインコンテンツにスキップ
プラグインに戻る
@capgo/capacitor-llm
チュートリアル
@capgo/capacitor-llm

LLM

Apple Intelligence と MLX のサポートを備えたデバイス上でローカルに Large Language Models を実行します。

Capgoで__CAPGO_KEEP_0__を表示

ガイド

LLMのチュートリアル

Download the Capgo app, then scan the QR code.

LLM プラグイン プレビュー QR code

@capgo/capacitor-llm を使用

デバイス上の言語モデルと対話するための LLM プラグイン インターフェイスです。

インストール

bun add @capgo/capacitor-llm
bunx cap sync

このプラグインが公開するもの

  • createChat - 会話セッションを作成します。
  • sendMessage - 会話セッション内の AI へのメッセージを送信します。
  • getReadiness - LLM の稼動状況を取得します。
  • setModel - iOS: システムモデルを使用する場合は「Apple Intelligence」をパスとして指定してください。MediaPipe モデルを使用する場合はパスを指定してください。- Android: アセットまたはファイルディレクトリ内の MediaPipe モデルファイルのパスを指定してください。

使用例

createChat

会話セッションを作成します。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

__CAPGO_KEEP_0__:

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

__CAPGO_KEEP_0__:

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

__CAPGO_KEEP_0__:

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

__CAPGO_KEEP_0__:

Keep going from Using @capgo/capacitor-llm

__CAPGO_KEEP_0__: Using @capgo/capacitor-llm API: @capgo/capacitor-llm Capacitor-LLMの実装詳細については@capgo/capacitor-llmを参照してください。 はじめに Capacitor-LLMの実装詳細についてははじめにを参照してください。 API Overview for the implementation detail in API Overview, はじめに Capacitor-LLMの実装詳細についてははじめに、 API Keys for the implementation detail in API Keys.