메인 콘텐츠로 건너뛰기
플러그인으로 돌아가기
@capgo/capacitor-llm
튜토리얼
@capgo/capacitor-llm

LLM

애플 인텔리전스와 MLX 지원을 갖춘 장치 내에서 대용량 언어 모델을 지역적으로 실행하세요.

Capgo Builder의 문서 보기

Capgo의 저장소 보기

Capacitor LLM을 npm에서 보기

Download the Capgo app, then scan the QR code.

LLM 플러그인 미리보기 QR code

@capgo/capacitor-llm 사용

장치 내 언어 모델과 상호 작용하기 위한 LLM 플러그인 인터페이스입니다.

설치

bun add @capgo/capacitor-llm
bunx cap sync

이 플러그인이 제공하는 것

  • createChat - 새로운 채팅 세션을 생성합니다.
  • sendMessage - 특정 채팅 세션에서 AI에게 메시지를 전송합니다.
  • getReadiness - LLM의 준비 상태를 가져옵니다.
  • setModel - 모델 구성 설정 - iOS: 시스템 모델을 사용하는 경우 'Apple Intelligence'를 경로로 사용하거나 MediaPipe 모델의 경로를 제공하거나 - Android: MediaPipe 모델 파일의 경로 (자산 또는 파일 디렉토리)를 제공합니다.

예제 사용

createChat

새로운 채팅 세션을 생성합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

AI와 특정 채팅 세션에 메시지를 보냅니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

LLM의 준비 상태를 가져옵니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

모델 구성 설정 - iOS: 시스템 모델을 사용하는 경우 'Apple Intelligence' 경로를 사용하거나 MediaPipe 모델 경로를 제공하거나 - Android: MediaPipe 모델 파일 경로 (자산 또는 파일 디렉토리)를 제공합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

전체 참조

Keep going from Using @capgo/capacitor-llm

__CAPGO_KEEP_0__/__CAPGO_KEEP_1__-llm을 사용하고 있다면 capgo/capacitor-llm을 사용하여 대시보드와 capgo 운영을 계획하고 있다면 API/__CAPGO_KEEP_1__-llm과 연결하세요. capgo/capacitor-llm을 사용하여 계속하세요. Capacitor-LLM 구현 세부 정보를 위해 @capgo/capacitor-llm 시작하기 Capacitor-LLM 구현 세부 정보를 위해 시작하기 API Overview for the implementation detail in API Overview, 소개 Capacitor-LLM 구현 세부 정보를 위해 소개, 그리고 API Keys for the implementation detail in API Keys.