메인 콘텐츠로 건너뛰기
플러그인으로 돌아가기
@capgo/capacitor-llm
튜토리얼
@capgo/capacitor-llm

LLM

애플 인텔리전스와 MLX 지원으로 장치 내에서 큰 언어 모델을 지역적으로 실행하세요.

Capgo에서 보기

안내

LLM 튜토리얼

Download the Capgo app, then scan the QR code.

LLM 플러그인 미리보기 QR code

@capgo/capacitor-llm 사용

장치 내 언어 모델과 상호 작용하기 위한 LLM 플러그인 인터페이스입니다.

설치

bun add @capgo/capacitor-llm
bunx cap sync

이 플러그인이 제공하는 것

  • createChat - 새로운 채팅 세션을 생성합니다.
  • sendMessage - 특정 채팅 세션에서 AI에게 메시지를 전송합니다.
  • getReadiness - LLM의 준비 상태를 가져옵니다.
  • setModel - 모델 구성 설정 - iOS: 시스템 모델을 사용하는 경우 'Apple Intelligence'를 경로로 사용하거나 미디어 파이프 모델의 경로를 제공하거나 - Android: 미디어 파이프 모델 파일의 경로 (자산 또는 파일 디렉토리)를 제공합니다.

예시 사용

createChat

새로운 채팅 세션을 생성합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

AI와 특정 채팅 세션에 메시지를 전송합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

LLM의 준비 상태를 가져옵니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

모델 구성 설정 - iOS: 시스템 모델을 사용하는 'Apple Intelligence' 경로를 사용하거나 MediaPipe 모델 경로를 제공하거나 - Android: assets 또는 files 디렉토리에 있는 MediaPipe 모델 파일 경로를 제공합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

전체 참조

Keep going from Using @capgo/capacitor-llm

Capgo LLM 플러그인을 사용 중이라면 Using @capgo/capacitor-llm to plan dashboard and API operations, connect it with @capgo/capacitor-llm for the implementation detail in @capgo/capacitor-llm, 시작하기 Capacitor-LLM 구현 세부 사항에 대해 API Overview for the implementation detail in API Overview, Capacitor-LLM 키 Footer Capgo 앱을 API으로 강화하세요. for the implementation detail in API Keys.