메인 콘텐츠로 바로가기
플러그인으로 돌아가기
@capgo/capacitor-llm
튜토리얼
github.com/Cap-go에서 github

LLM

애플 인텔리전스와 MLX 지원을 통해 장치 내에서 큰 언어 모델을 지역적으로 실행하세요.

가이드

__CAPGO_KEEP_0__에서 사용하는 LLM에 대한 튜토리얼

capgo/capacitor-llm을 사용하는 방법

장치 내 언어 모델과 상호 작용하기 위한 LLM 플러그인 인터페이스

설치

bun add @capgo/capacitor-llm
bunx cap sync

이 플러그인이 제공하는 것

  • createChat - 새로운 채팅 세션을 생성합니다.
  • sendMessage - 특정 채팅 세션에서 AI에게 메시지를 전송합니다.
  • getReadiness - LLM의 준비 상태를 가져옵니다.
  • setModel - iOS에서 시스템 모델을 사용하거나 MediaPipe 모델의 경로를 제공하여 설정합니다. - Android: assets 또는 files 디렉토리에 있는 MediaPipe 모델 파일의 경로를 제공합니다.

예시 사용

createChat

새로운 대화 세션을 생성합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

특정 대화 세션에서 AI에게 메시지를 전송합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

LLM의 준비 상태를 가져옵니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

- iOS에서 시스템 모델을 사용하거나 MediaPipe 모델의 경로를 제공하여 설정합니다. - Android: assets 또는 files 디렉토리에 있는 MediaPipe 모델 파일의 경로를 제공합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

전체 참조