Skip to main content
플러그인으로 돌아가기
@capgo/capacitor-llm
튜토리얼
@capgo/capacitor-llm

LLM

애플 인텔리전스와 MLX 지원으로 장치 내에서 로컬로 대형 언어 모델을 실행하세요.

장치에서 테스트

앱을 다운로드하고 QR코드를 스캔하세요.

앱 스토어에서 __CAPGO_KEEP_0__ 다운로드

Download the Capgo app, then scan the QR code.

LLM 플러그인 미리보기 QR code

@capgo/capacitor-llm을 사용하는 방법

장치 내 언어 모델과 상호 작용하기 위한 LLM 플러그인 인터페이스입니다.

설치

bun add @capgo/capacitor-llm
bunx cap sync

이 플러그인이 제공하는 기능

  • createChat - 새로운 채팅 세션을 생성합니다.
  • sendMessage - 특정 채팅 세션에 AI에게 메시지를 전송합니다.
  • getReadiness - LLM의 준비 상태를 가져옵니다.
  • setModel - 모델 구성 설정 - iOS: 시스템 모델을 사용하는 경우 'Apple Intelligence' 경로를 사용하거나 MediaPipe 모델 경로를 제공하거나 - Android: MediaPipe 모델 파일 경로 (자산 또는 파일 디렉토리)를 제공합니다.

예시 사용

createChat

새로운 채팅 세션을 생성합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

특정 채팅 세션에서 AI에게 메시지를 전송합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

LLM의 준비 상태를 가져옵니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

모델 구성 설정 - iOS: 시스템 모델을 사용하는 경우 'Apple Intelligence' 경로를 사용하거나 MediaPipe 모델 경로를 제공하거나 - Android: MediaPipe 모델 파일 경로 (자산 또는 파일 디렉토리)를 제공합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

전체 참조

Using @capgo/capacitor-llm에서 계속하세요.

이러한 플러그인을 사용 중이라면 Using @capgo/capacitor-llm 계획 대시보드와 API 작업을 계획하고 연결하세요. capgo/capacitor-llm capgo/capacitor-llm 구현 세부 사항 시작하기 시작하기 구현 세부 사항 API 개요 API 개요 구현 세부 사항 소개 소개 및 __CAPGO_KEEP_0__ Keys API 키 for the implementation detail in API Keys.