LLM 연결 추가
커스텀 모델을 만들기 전에 관리자가 최소 하나의 LLM 연결 (OpenAI, Ollama 등)을 추가해야 합니다.
참고: 커스텀 모델 개요
사전 조건
다음에 대한 관리자 접근 권한이 필요합니다:
- 글로벌 설정 → 연결
지원 공급자
- OpenAI — GPT-4, GPT-3.5 및 기타 OpenAI 모델
- Ollama — 자체 호스팅 모델
- Azure OpenAI — Azure 호스팅 OpenAI 모델
- 호환 API — OpenAI 호환 엔드포인트
연결 추가
1단계: 글로벌 설정으로 이동
- 사용자 이름 (오른쪽 상단) 클릭
- 글로벌 설정 선택
- 연결 클릭
2단계: 연결 추가 클릭
"+ 추가" 버튼을 클릭하세요.
3단계: 연결 세부 정보 입력
입력:
- API 기본 URL — 엔드포인트 URL (예:
https://api.openai.com/v1) - API 키 — 인증 토큰
4단계: 저장
저장을 클릭하세요. 연결이 목록에 추가됩니다.
사용 가능한 모델 선택
연결을 추가한 후 노출할 모델 선택:
1단계: 연결 편집
연결의 편집 아이콘을 클릭하세요.
2단계: 모델 가져오기
모델 추가를 클릭하여 공급자에서 사용 가능한 모든 모델을 가져오세요.
3단계: 모델 선택
사용자에게 제공할 모델 선택:
- ✅ 체크됨 — 사용자에게 모델 제공
- ⬜ 체크 안 됨 — 모델 숨김 (관리자 전용)
4단계: 업데이트
업데이트를 클릭하여 선택 저장.
참고: 모델이 선택되지 않으면 사용 가능한 모든 모델이 자동으로 가져와지지만 관리자 전용으로 유지됩니다.
연결 관리
활성화/비활성화
연결 옆의 스위치를 토글하여 활성화/비활성화:
- 활성화 — 사용자에게 모델 제공
- 비활성화 — 모델 숨김; 기존 채팅은 계속 작동
편집
편집 아이콘을 클릭하여:
- API 키 업데이트
- 선택된 모델 변경
- 연결 확인
삭제
삭제 아이콘을 클릭하여 연결을 영구적으로 제거하세요.
경고: 연결을 삭제하면 해당 기본 모델을 사용하는 커스텀 모델이 중단됩니다.
문제 해결
연결 실패
원인: 잘못된 URL, API 키, 또는 서비스에 접근할 수 없음.
해결 방법:
- API 기본 URL이 올바른지 확인
- API 키가 유효한지 확인
- 서비스가 실행 중이고 접근 가능한지 확인
모델을 사용할 수 없음
원인: 연결에서 모델이 선택되지 않았을 수 있음.
해결 방법: 연결을 편집하고 모델 목록에서 원하는 모델을 체크하세요.
"연결 성공" 하지만 모델이 표시되지 않음
원인: 모델 목록을 가져오지 않았을 수 있음.
해결 방법: 모델 추가를 클릭하여 공급자에서 목록을 가져오세요.