메인 콘텐츠로 건너뛰기
플러그인으로 돌아가기
@capgo/capacitor-llm
튜토리얼
github.com/Cap-go에 의해

LLM

Apple Intelligence와 MLX 지원을 통해 장치 내에서 대규모 언어 모델을 지역적으로 실행합니다.

가이드

LLM 튜토리얼

@capgo/capacitor-llm 사용

장치 내 언어 모델과 상호 작용하기 위한 LLM 플러그인 인터페이스입니다.

설치

bun add @capgo/capacitor-llm
bunx cap sync

이 플러그인은 다음을 노출합니다.

  • createChat - 새로운 채팅 세션을 생성합니다.
  • sendMessage - 특정 채팅 세션에서 AI에게 메시지를 전송합니다.
  • getReadiness - LLM의 준비 상태를 가져옵니다.
  • setModel - iOS: 시스템 모델을 사용하여 'Apple Intelligence' 경로를 사용하거나 MediaPipe 모델 경로를 제공하거나, Android: assets 또는 파일 디렉토리 내의 MediaPipe 모델 파일 경로를 제공합니다.

예시 사용

createChat

새로운 채팅 세션을 생성합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

특정 채팅 세션에서 AI에게 메시지를 전송합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

LLM의 준비 상태를 가져옵니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

iOS: 시스템 모델을 사용하여 'Apple Intelligence' 경로를 사용하거나 MediaPipe 모델 경로를 제공하거나, Android: assets 또는 파일 디렉토리 내의 MediaPipe 모델 파일 경로를 제공합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

전체 참조

Keep going from Using @capgo/capacitor-llm

__CAPGO_KEEP_0__을 사용하고 있다면 Using @capgo/capacitor-llm API 대시보드와 API 운영을 계획하고 싶다면 API-llm과 연결하세요. @capgo/capacitor-llm for the implementation detail in @capgo/capacitor-llm, __CAPGO_KEEP_0__-llm의 구현 세부 사항을 참조하세요. __CAPGO_KEEP_0__ 개요 API 개요의 구현 세부 사항을 참조하세요. for the implementation detail in API Overview, 소개 소개의 구현 세부 정보에 대해 API 키 API 키의 구현 세부 정보에 대해