LLM 연결 구성
사용자가 커스텀 모델을 만들 수 있도록 LLM 공급자 연결을 추가하세요.
참고: 글로벌 설정 개요
지원 공급자
- OpenAI — GPT-4, GPT-3.5, 임베딩
- Ollama — 자체 호스팅 모델
- Azure OpenAI — Azure 호스팅 OpenAI 모델
- 호환 API — OpenAI 호환 엔드포인트
연결 추가
1단계: 연결로 이동
- 사용자 이름 클릭 (오른쪽 상단)
- 글로벌 설정 → 연결로 이동
2단계: 연결 추가 클릭
"+ 연결 추가" 버튼을 클릭하세요.
3단계: 세부 정보 입력
입력:
- API 기본 URL — 엔드포인트 URL (예:
https://api.openai.com/v1) - API 키 — 인증 토큰
4단계: 저장
저장을 클릭하세요. 연결이 목록에 추가됩니다.
사용 가능한 모델 선택
1단계: 연결 편집
연결의 편집 아이콘을 클릭하세요.
2단계: 모델 가져오기
모델 추가를 클릭하여 공급자에서 사용 가능한 모든 모델을 가져오세요.
3단계: 모델 선택
사용자에게 제공할 모델 체크:
- ✅ 체크됨 — 사용자에게 모델 제공
- ⬜ 체크 안 됨 — 모델 숨김 (관리자 전용)
4단계: 업데이트
업데이트를 클릭하여 선택 저장.
참고: 모델이 선택되지 않으면 사용 가능한 모든 모델이 자동으로 가져와지지만 관리자 전용으로 유지됩니다.
연결 관리
활성화/비활성화
연결 옆의 스위치 토글:
- 활성화 — 사용자에게 모델 제공
- 비활성화 — 모델 숨김; 기존 채팅은 계속 작동
편집
편집 아이콘을 클릭하여:
- API 키 업데이트
- 선택된 모델 변경
- 연결 확인
삭제
삭제 아이콘을 클릭하여 연결을 영구적으로 제거하세요.
경고: 연결을 삭제하면 해당 기본 모델을 사용하는 커스텀 모델이 중단됩니다.
문제 해결
연결 실패
원인: 잘못된 URL, API 키, 또는 서비스에 접근할 수 없음.
해결 방법:
- API 기본 URL이 올바른지 확인
- API 키가 유효한지 확인
- 서비스가 실행 중인지 확인
모델을 사용할 수 없음
원인: 모델이 선택되지 않았을 수 있음.
해결 방법: 연결을 편집하고 원하는 모델을 체크하세요.
"연결 성공" 하지만 모델 없음
원인: 모델 목록을 가져오지 않았을 수 있음.
해결 방법: 모델 추가를 클릭하여 공급자에서 가져오세요.