メインコンテンツにスキップ
Capgo ロゴ
プラグインに戻る
@capgo/capacitor-llm
チュートリアル
github.com/Cap-go による

LLM

Apple Intelligence と MLX のサポートを備えたデバイス上でローカルに Large Language Models を実行します。

ダウンロード/週

5.1k

GitHub スター

30

ガイド

LLM についてのチュートリアル

@capgo/capacitor-llm を使用

デバイス上の言語モデルと対話するための LLM プラグイン インターフェイス

インストール

bun add @capgo/capacitor-llm
bunx cap sync

このプラグインが公開するもの

  • createChat - 新しいチャット セッションを作成
  • sendMessage - 特定のチャット セッション内で AI にメッセージを送信
  • getReadiness - LLM のリードネス ステータスを取得
  • setModel - iOS: Apple Intelligence をシステムモデルとして使用するか、MediaPipe モデルへのパスを指定するか、または Android: アセットまたはファイルディレクトリ内の MediaPipe モデルファイルへのパスを指定します。

Example Usage

createChat

新しいチャットセッションを作成します。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

特定のチャットセッション内の AI へのメッセージを送信します。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

LLM の準備状態を取得します。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

- iOS: Apple Intelligence をシステムモデルとして使用するか、MediaPipe モデルへのパスを指定するか、または Android: アセットまたはファイルディレクトリ内の MediaPipe モデルファイルへのパスを指定します。

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

Full Reference