서비스 테스트

Prev Next

VPC 환경에서 이용 가능합니다.

테스트 화면에서는 서비스 생성 시 설정한 각 설정값을 조정하면서 검색 테스트를 진행할 수 있습니다.

서비스 테스트 화면

rag_testmodel01_ko.png

영역 설명
① 서비스명 현재 테스트 중인 서비스 이름
② 설정 탭 검색 서비스 생성을 위해 제공되는 설정 메뉴
③ 상세 설정 각 설정 탭의 상세 설정 메뉴 영역
  • 서비스 정보 탭: 테스트를 진행할 대상인 RAG 서비스 정보 표시
  • 데이터 설정 탭: 검색을 위해 설정된 데이터 정보 확인 및 연동 방식에 따른 색인 진행
    • 데이터 연동 정보
    • 데이터 연동 설정
  • Retrieval 설정 탭: 답변 생성시 활용하는 데이터 검색 설정
    • Chunking 방식
    • 임베딩 모델
    • 백터 DB
  • Generation 설정 탭: 답변 생성시 활용하는 모델 설정
    • 모델 설정
    • Prompt 설정
    • Parameter 설정
④ 펼치기/접기 [TEST접기/열기] 버튼: 검색 테스트 영역의 펼치기/접기 버튼
⑤ 테스트 영역 문답 형식의 테스트 내용을 표시하는 영역
⑥ 입력 영역 검색 실행을 위한 질문 입력 영역
⑦ 설정 적용
  • [이전 설정 복귀] 버튼: 설정을 저장 전 상태로 되돌리기
  • [항목 최종 반영] 버튼: 변경 사항 적용

테스트 화면 접속

서비스 테스트 화면에 접속하는 방법은 다음과 같습니다.

  1. 네이버 클라우드 플랫폼 콘솔의 VPC 환경에서 i_menu > Services > AI Services > RAG 메뉴를 차례대로 클릭해 주십시오.
  2. Services 메뉴를 클릭해 주십시오.
  3. Services 목록에서 임의의 서비스의 [테스트] 버튼을 클릭해 주십시오.
  4. 테스트 화면으로 이동합니다.
참고

RAG 서비스는 CBT(Closed Beta Test)로 제공되며, CBT 기간동안 제한 없이 무료로 이용이 가능합니다. CBT 기간 종료 후에는 요금 정책에 따라 과금으로 전환됩니다. CBT 기간의 서비스 제공에 대한 SLA는 보장되지 않습니다.

서비스 테스트 설정

테스트 화면 우하단의 입력 영역에 질문을 입력 후 검색 결과를 확인할 수 있습니다. 테스트를 진행하면서 필요 시 일부 설정을 변경하고, 변경된 설정값을 최종 반영해 주십시오.

서비스 정보

서비스 정보는 테스트 화면에서 수정이 불가합니다.

데이터 설정

데이터 연동 정보 및 데이터 연동 설정은 테스트 화면에서 수정이 불가하지만, 데이터 연동 방식 중 NCP Object Storage를 선택한 경우 다음의 설정을 변경할 수 있습니다.

  • Object Storage 버킷: Object Storage 상품에서 생성한 버킷 개수 표시
  • [새로 고침] 버튼: 선택된 버킷 내 파일 목록의 새로 고침 실행
    * Object Storage 버킷: Object Storage 상품에서 생성한 버킷 목록
  • 파일 목록: 버킷 내에 보관된 데이터 개수 표시
  • [새로 고침] 버튼: 목록의 새로 고침 실행
    • 파일명: 버킷 내에 보관된 데이터 파일명
    • 문서: [문서보기] 버튼을 클릭하면 미리보기 화면 제공
    • [색인 추가] 버튼: 파일 목록에서 색인 데이터를 선택 후 [색인 추가] 버튼을 클릭하여 색인 대상 목록에 추가
  • 색인 대상: 색인 대상에 추가된 파일 개수 표시
    • 파일명: 색인 목록에 추가된 데이터 파일명
    • 문서: [문서보기] 버튼을 클릭하면 미리보기 화면 제공
    • 색인 현황: 색인 진행 상태 표시 (실패, 완료, 확인 필요, 색인중, 색인 대기중)
    • 삭제: [삭제] 버튼을 클릭하면 색인 대상 등록의 취소 상태로 전환
      • 삭제 취소: [취소] 버튼을 클릭하면 색인 대상 등록 상태로 돌아가기
      • 삭제 실행: [항목 최종 반영] 버튼을 클릭하면 해당 데이터 파일을 색인 대상 목록에서 삭제
참고

RESTful API 연동 방식의 경우, 발급받은 API Key와 서비스 ID를 복사하여 직접 API로 연동 후 데이터 파일을 전송하여 색인을 진행해 주십시오. RAG 서비스의 API 호출 방법은 RAG 서비스 API 가이드를 참조해 주십시오.

Retrieval 설정

Retrieval 설정은 테스트 화면에서 다음의 일부 설정을 수정할 수 있습니다.

Chunking 방식

  • Passage: 검색 결과 문서의 텍스트를 참고할 영역 크기 설정
    • 256~4096 까지 입력 가능
    • 기본 설정값 512
  • Overlap: 검색 결과에서 개별 영역 사이의 겹침 비율을 조절하여 텍스트를 적절하게 분리시키는 설정값
    • 0에서 Passage 값의 절반(0 ~ Passage/2)까지 입력 가능
    • 기본 설정값 128

벡터 DB

  • K: 검색 결과에 표시되는 출처 개수
    • 1~10 까지 입력 가능
    • 기본 설정값 5

Generation 설정

Generation 설정은 테스트 화면에서 다음의 설정을 수정할 수 있습니다.

모델 설정

  • 모델명: 답변 생성에 사용되는 LLM 모델 이름
    • 모델 확인: CLOVA Studio 서비스 화면 으로 이동
      • [수정] 버튼을 클릭하여 모델명 수정 후 [적용] 버튼을 클릭
    • CLOVA Studio API Key: CLOVA Studio 서비스와 연동하기 위한 CLOVA Studio API Key 값
      • [수정] 버튼을 클릭하여 API Key 수정 후 [적용] 버튼을 클릭
참고

CLOVA Studio 서비스에 대한 자세한 정보는 CLOVA Studio 개요 페이지를 참조해 주십시오.

Prompt 설정

  • 서비스에게 답변 방식에 대한 명령어를 입력하는 영역
    • 기본 설정: 사용자가 Prompt 설정을 하지 않을 경우 제공되는 기본 설정값

Parameter 설정

  • Top P: 언어 모델이 결과 생성을 시도한 전체 횟수 중 특정 토근의 생성 횟수를 확인하여 해당 토큰의 생성 확률을 계산. 해당 계산 시 기준값 P를 설정하여 특정 토큰의 확률이 기준값 P에 미치지 못할 경우 결과에서 제외
  • Top K: 검색 결과 적합도가 높은 순서대로 K번째 토큰까지 결과에 포함 후 나머지는 토큰은 제외
  • Maximum Tokens: 결괏값 생성 시 사용하는 최대 토큰 수이며 300~500을 권장
  • Temperature: Temperature의 숫자가 낮을 수록 정형적인 답변을 생성하고 숫자가 높을 수록 다양한 문장을 구사하나 문장의 품질은 다소 떨어질 수 있음
주의

CLOVA Studio 서비스의 LLM 모델을 연동 후 검색 테스트를 시작하면 과금이 발생합니다.

최종 반영

테스트 설정 완료 후, 설정을 되돌리거나 설정값을 최종 반영합니다.

  • [이전 설정 복귀] 버튼: 설정을 저장 전 상태로 되돌리기
  • [항목 최종 반영] 버튼: 변경 사항 적용
주의

검색 테스트를 시작하면 질문 횟수에 따른 과금이 발생합니다.