메인 콘텐츠로 바로가기
백으로 플러그인
@capgo/capacitor-llm
튜토리얼
@capgo/capacitor-llm

LLM

Apple Intelligence와 MLX 지원으로 장치 내에서 대규모 언어 모델을 지역적으로 실행하세요.

가이드

LLM에 대한 튜토리얼

장치에서 테스트

다운로드 Capgo 앱, 그리고 QR code를 스캔하세요.

LLM 플러그인 미리보기 QR code

Using @capgo/capacitor-llm

장치 내 언어 모델과 상호 작용하기 위한 LLM 플러그인 인터페이스.

설치

bun add @capgo/capacitor-llm
bunx cap sync

이 플러그인이 제공하는 내용

  • createChat - 새로운 채팅 세션을 생성합니다.
  • sendMessage - 특정 채팅 세션에서 AI에게 메시지를 전송합니다.
  • getReadiness - LLM의 준비 상태를 가져옵니다.
  • setModel - 모델 구성 설정 - iOS: 시스템 모델을 사용하는 경우 'Apple Intelligence'를 경로로 사용하거나 MediaPipe 모델의 경로를 제공하거나 - Android: MediaPipe 모델 파일의 경로 (자산 또는 파일 디렉토리).

예시 사용

createChat

새로운 채팅 세션을 생성합니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.createChat();

sendMessage

특정 대화 세션에서 AI에 메시지를 보냅니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.sendMessage({} as { chatId: string; message: string });

getReadiness

LLM의 준비 상태를 가져옵니다.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.getReadiness();

setModel

모델 구성 설정 - iOS: 시스템 모델을 사용하는 'Apple Intelligence' 경로를 사용하거나 미디어 파이프 모델 경로를 제공하십시오. - Android: 미디어 파이프 모델 파일 경로 (자산 또는 파일 디렉토리)를 제공하십시오.

import { CapgoLLM } from '@capgo/capacitor-llm';

await CapgoLLM.setModel({} as ModelOptions);

전체 참조

capgo를 사용하여 대시보드와 capgo 운영을 계획하고 있다면 @capgo/capacitor-llm을 연결하십시오.

__CAPGO_KEEP_0__를 사용하여 대시보드와 __CAPGO_KEEP_0__ 운영을 계획하고 있다면 __CAPGO_KEEP_0__를 연결하십시오. @capgo/capacitor-llm을 사용하여 API를 사용하여 @capgo/capacitor-llm @capgo/capacitor-llm에 대한 구현 세부 정보를 위해 Getting Started @__CAPGO_KEEP_0__/__CAPGO_KEEP_1__-llm에 대한 구현 세부 정보를 위해 Getting Started API 개요 @API/__CAPGO_KEEP_1__-llm에 대한 구현 세부 정보를 위해 API 개요 소개 @__CAPGO_KEEP_0__/__CAPGO_KEEP_1__-llm에 대한 구현 세부 정보를 위해 소개, API 키 @API/__CAPGO_KEEP_1__-llm에 대한 구현 세부 정보를 위해 API 키.