지식 베이스 (RAG)

AI 상담원은 Training에서 가르친 내용, 즉 웹사이트 페이지, 업로드한 파일, 질문과 답변 쌍을 바탕으로 답합니다. 방문자가 질문하면 AskAIs는 가장 관련성 높은 청크를 찾아 그것만 AI에 전달하므로, 답변은 추측이 아니라 여러분의 콘텐츠에서 나옵니다.

학습시키는 방법

• Web pages: URL을 입력하면 AskAIs가 사이트를 크롤링합니다. 다른 값을 지정하지 않으면 50페이지를 읽으며(최대 500), 요금제의 문서 한도에 도달하면 더 일찍 멈출 수 있습니다.
• Files: 파일을 한 번에 하나씩, 최대 25MB까지 업로드합니다. 지원 형식은 PDF, DOCX, TXT, Markdown, CSV, JSON입니다. PDF에는 텍스트 레이어가 있어야 합니다(스캔한 페이지는 읽을 수 없습니다). 구형 .doc 파일, 스프레드시트, 슬라이드는 지원하지 않습니다.
• Q&A: 질문과 답변 쌍을 하나씩 추가하거나, Bulk import (CSV)에 CSV 텍스트를 붙여 넣습니다.

파일과 Q&A 쌍은 플랫폼별로 숨길 수 있습니다(예: iOS 앱). 숨긴 항목은 해당 플랫폼의 방문자에게 답할 때 사용되지 않습니다.

콘텐츠 처리 과정

• AskAIs는 텍스트를 추출해 약 2,000자 단위의 청크로 나누고, 인접한 청크 사이에 짧은 겹침을 둡니다. Q&A 쌍은 각각 하나의 청크로 유지됩니다.
• 각 청크에 임베딩이 생성되고(기본값은 OpenAI text-embedding-3-small) pgvector를 사용하는 PostgreSQL에 저장됩니다.
• 처리가 끝나면 항목에 Ready가 표시됩니다. 텍스트를 읽을 수 없으면 Failed가 표시되며, 다시 시도할 수 있습니다.
• 임베딩을 만들 수 없어도 청크는 저장되며 키워드 검색으로 찾을 수 있습니다.

답변에 사용되는 방식

• 인사와 잡담은 검색을 건너뜁니다. 그 밖의 메시지는 방문자의 최근 메시지로 검색하고, 코사인 유사도로 임베딩을 비교합니다.
• 유사도 임계값보다 낮은 청크는 제외됩니다. 가장 적합한 청크가 AI에 전달되며, 기본값은 5개이고 한 문서에서는 최대 2개까지입니다.
• 청크는 참고 자료로 AI 지침에 추가됩니다. AI는 청크 안에 적힌 지시를 따르지 말고, 청크에 없는 제품 정보를 지어내지 말라는 지시를 받습니다. 대신 질문을 하거나 담당자 연결을 제안합니다.
• 방문자가 제품 정보를 물었는데 관련 내용을 찾지 못하면, AskAIs는 AI가 추측하도록 두지 않습니다. 해당 정보가 없다고 안내하고 채팅을 팀에 넘깁니다. 단, 자동 인계가 꺼져 있으면 넘기지 않습니다.

콘텐츠와 방문자의 언어가 달라도 됩니다. AI는 사용하는 정보를 방문자의 언어로 번역합니다.

설정

AI 상담원의 지식 베이스 (RAG) 섹션에서:

• 지식 베이스 검색(RAG) 사용: AI가 콘텐츠를 전혀 사용하지 않아야 할 때만 끄세요(예: 잡담용 봇).
• Top-K 청크: AI가 받는 청크 수(기본값 5).
• 임베딩 모델: 자체 AI 키를 사용하면 채팅 엔드포인트와 별도로 임베딩 엔드포인트와 키도 지정할 수 있습니다. 임베딩은 text-embedding-3-small처럼 1,536차원이어야 합니다.

호스팅 AI 또는 자체 키

호스팅 AI는 키가 필요 없고, 자체 키를 쓰면 제공업체가 직접 요금을 청구합니다. 어느 쪽이든 요금제의 월간 AI 답변 한도가 적용됩니다. 반복되는 질문은 캐시된 검색 임베딩을 24시간 동안 재사용합니다.