모델 설정
검색, 프롬프트, 기능에 대한 고급 설정으로 커스텀 모델을 세밀하게 조정하세요.
참고: 커스텀 모델 만들기
모델 편집
모델을 수정하려면:
- 워크스페이스 → 모델로 이동
- 모델 행의 편집 클릭
- 설정 변경
- 업데이트를 클릭하여 저장
설정 가능한 항목
기본 설정
- 이름 — 모델 선택기의 표시 이름
- 설명 — 모델의 역할
- 시스템 프롬프트 — 행동을 정의하는 지침
지식 및 툴
- 연결된 지식 베이스 — 모델이 접근할 수 있는 문서
- 연결된 툴 — 모델이 호출할 수 있는 함수
공개 여부 및 접근
- 공개 여부 — 공개 (모든 사용자) 또는 비공개 (그룹 전용)
- 접근 그룹 — 사용 가능한 그룹 (비공개인 경우)
기능
- 파일 업로드 — 사용자가 문서를 첨부할 수 있도록 허용
- 인용 — 소스 문서 참조 표시
모델의 지식 활용 방식
하이브리드 검색 파이프라인
모델에 지식 베이스가 연결된 경우:
- 쿼리 재작성 — 질문이 여러 쿼리로 다시 작성됨
- 이중 검색 — 다음 두 가지를 사용하여 검색:
- 벡터 검색 — 시맨틱 유사성
- BM25 검색 — 키워드 매칭
- 랭킹 — 결과가 결합 및 순위 지정
- 리랭킹 (선택 사항) — 리랭커가 결과 재점수
- 컨텍스트 삽입 — 상위 청크가 모델 컨텍스트에 삽입됨
- 응답 — 모델이 문서를 사용하여 답변 생성
하이브리드 검색을 사용하는 이유?
어느 한 가지 방법만으로는 모든 것을 찾을 수 없습니다:
- 벡터 검색은 의미 관련 문서를 찾음
- 키워드 검색은 정확한 용어를 찾음
- 함께 사용하면 포괄적인 검색 제공
검색 조정
소스가 관련 없어 보이면 지식 베이스 설정 확인:
- 청킹 전략 — 콘텐츠가 적절하게 분할됨?
- Top K — 검색할 청크 수
- BM25 가중치 — 벡터와 키워드 검색 간 균형
- 리랭킹 — 정확도 향상이 활성화됨?
샘플 쿼리로 설정을 테스트하려면 플레이그라운드를 사용하세요.
고급 설정
커스텀 프롬프트 (모델별)
이 모델의 글로벌 프롬프트 재정의:
- 툴 함수 호출 프롬프트 — 툴 선택 지침
- 쿼리 생성 프롬프트 — 검색을 위해 사용자 쿼리를 다시 작성하는 방법
글로벌 기본값을 사용하려면 비워두세요.
모델 상태
다음 사이에서 전환:
- 활성 — 채팅 모델 선택기에 모델 표시
- 비활성 — 모델 숨김; 기존 채팅은 계속 작동
비활성 모델 관리
모델을 삭제하지 않고 숨기려면:
- 모델의 편집 클릭
- 상태를 비활성으로 전환
- 업데이트 클릭
모델은:
- ✅ 모델 선택기에서 숨겨짐
- ✅ 기존 대화에서 계속 작동
- ✅ 언제든지 다시 활성화 가능
문제 해결
모델이 일반적인 답변 반환
원인: 지식 베이스가 연결되지 않았거나 관련 콘텐츠가 없음.
해결 방법: 모델 설정을 확인하여 지식 베이스가 목록에 있는지 확인. 해당 지식 베이스에 관련 문서를 업로드하세요.
검색된 소스가 관련 없음
원인: 청킹 또는 검색 설정이 문서와 맞지 않음.
해결 방법: 플레이그라운드를 사용하여 다른 항목 테스트:
- 청킹 전략
- 청크 크기
- BM25 가중치
모델 응답이 너무 느림
원인: 리랭킹이 활성화되어 응답 시간이 느려짐.
해결 방법: 지식 베이스 설정에서 리랭킹을 비활성화하거나 Top K를 줄이세요.
사용자가 모델을 볼 수 없음
원인: 모델이 비공개로 설정되었고 사용자가 승인된 그룹에 없음.
해결 방법: 모델을 공개로 만들거나 사용자 그룹을 접근 목록에 추가하세요.