본문 바로가기
@capgo/capacitor-llm Device API 오픈 소스

LLM Capacitor 플러그인

Apple Intelligence와 MLX를 지원해 기기에서 대규모 언어 모델을 로컬로 실행

설치

bun add @capgo/capacitor-llm bunx cap sync
npm, pnpm 또는 yarn
  • npm install @capgo/capacitor-llm
  • pnpm add @capgo/capacitor-llm
  • yarn add @capgo/capacitor-llm

가이드

Capacitor에서 LLM 사용하는 방법

기기에서 테스트하기

Capgo 앱을 다운로드한 후 QR code을 스캔하세요.

LLM 플러그인 미리보기 QR code

@capgo/capacitor-llm 사용하기

온디바이스 언어 모델과 상호작용하기 위한 LLM 플러그인 인터페이스입니다.

설치

bun add @capgo/capacitor-llm
bunx cap sync

플러그인이 제공하는 기능

  • createChat - 새로운 채팅 세션을 생성합니다.
  • sendMessage - 특정 채팅 세션에서 AI에게 메시지를 보냅니다.
  • getReadiness - LLM의 준비 상태를 확인합니다.
  • setModel - 모델 설정 - iOS: 시스템 모델 경로로 "Apple Intelligence"를 사용하거나 MediaPipe 모델 경로를 지정합니다 - Android: MediaPipe 모델 파일 경로 (assets 또는 files 디렉토리).

사용 예시

createChat

새 채팅 세션을 생성합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.createChat();
console.log(result);

sendMessage

특정 채팅 세션에서 AI에게 메시지를 보냅니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({
  chatId: 'chat-id-123',
  message: 'Hello from Capacitor',
});

getReadiness

LLM의 준비 상태를 가져옵니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

const result = await CapgoLLM.getReadiness();
console.log(result);

setModel

모델 설정 - iOS: 시스템 모델 경로로 "Apple Intelligence"를 사용하거나 MediaPipe 모델 경로를 지정합니다 - Android: MediaPipe 모델 파일 경로 (assets 또는 files 디렉토리).

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({
  path: 'path/to/file',
  modelType: 'task',
});

전체 레퍼런스

@capgo/capacitor-llm 사용하기에서 이어가기

사용 중이라면 @capgo/capacitor-llm 사용하기 대시보드 및 API 운영을 계획하려면, 이를 다음과 연결하세요 @capgo/capacitor-llm @capgo/capacitor-llm의 구현 세부 사항은 시작하기 Getting Started의 구현 상세 내용은 API 개요 구현 세부 사항은 API 개요에서 소개 Introduction의 구현 상세 내용은, 그리고 API 키 API Keys의 구현 상세 내용은

자주 묻는 질문

LLM 플러그인 FAQ

Capacitor 앱에 LLM 플러그인을 어떻게 설치하나요?

"bun add @capgo/capacitor-llm"(또는 "npm install @capgo/capacitor-llm")를 실행한 다음, "bunx cap sync"를 실행해 iOS와 Android 프로젝트가 네이티브 code를 반영하도록 하세요. 앱 code에서 "@capgo/capacitor-llm"로부터 import 하면 됩니다.

@capgo/capacitor-llm가 React, Vue, Angular와 호환되나요?

네. LLM은 Capacitor 패키지라서 Ionic, React, Vue, Angular, Svelte, 순수 JavaScript 등 Capacitor에서 실행되는 모든 웹 프레임워크에서 작동합니다.

@capgo/capacitor-llm에서 지원하는 Capacitor 버전은 무엇인가요?

Capgo 플러그인은 Capacitor의 메이저 버전을 따릅니다. 사용 중인 Capacitor 메이저 버전과 일치하는 플러그인 메이저 버전을 사용하세요 (예: Capacitor 8에는 플러그인 v8). 유지 관리되는 버전은 GitHub README의 호환성 표에서 확인할 수 있습니다.

@capgo/capacitor-llm는 무료 오픈 소스인가요?

네. code 소스 코드는 GitHub의 https://github.com/Cap-go/capacitor-llm/에서 공개되어 있으며, npm에서 무료로 설치할 수 있습니다. 버그 리포트와 pull request를 환영합니다.

App Store 심사 없이 LLM을 사용하는 code를 업데이트할 수 있나요?

플러그인을 설치하거나 업그레이드하면 네이티브 code가 변경되므로 새로운 스토어 빌드가 필요합니다. 그 이후에는 플러그인을 호출하는 JavaScript, HTML, CSS 변경 사항을 Capgo live updates로 즉시 배포할 수 있습니다.

앱 심사 대기 없이 LLM 변경 사항을 즉시 배포하세요

스토어 빌드에 플러그인이 포함되면, Capgo live updates로 JavaScript, HTML, CSS 변경 사항을 몇 분 만에 사용자에게 푸시할 수 있습니다.

Capgo로 시작하기