指南

知識庫(RAG)

AskAIs 如何從你的網站、檔案和問答中學習,以及回答時如何運用這些內容。

AI 客服依照你在訓練裡教給它的內容回答:你網站上的頁面、你上傳的檔案,以及問答配對。訪客提問時,AskAIs 會找出最相關的段落,只把這些段落交給 AI,所以回答來自你自己的內容,而不是猜測。

教它的幾種方式

  • 網頁:輸入網址,AskAIs 會爬取你的網站。預設讀取 50 個頁面,你也可以設定其他數量(最多 500),方案的文件數上限也可能讓它提早停止。
  • 檔案:一次上傳一個檔案,最大 25 MB:PDF、DOCX、TXT、Markdown、CSV 或 JSON。PDF 需要有文字層(掃描的頁面無法讀取)。不支援舊版 .doc 檔、試算表和簡報。
  • 問答:逐筆新增問答配對,或是在批次匯入(CSV)裡貼上 CSV 文字。

檔案和問答配對可以依平台隱藏,例如在你的 iOS App 裡隱藏。被隱藏的項目不會用來回答該平台上的訪客。

你的內容會經過哪些處理

  • AskAIs 擷取文字,切成每段約 2,000 個字元的段落,相鄰段落之間有少量重疊。每個問答配對保持為一個段落。
  • 每個段落都會產生一個嵌入向量(預設使用 OpenAI text-embedding-3-small),存進搭配 pgvector 的 PostgreSQL。
  • 之後該項目會顯示已就緒。如果文字無法讀取,會顯示失敗,你可以重試。
  • 如果無法產生嵌入向量,段落仍會被儲存,並可以透過關鍵字搜尋找到。

回答時如何運用

  • 問候和閒聊會跳過檢索。對其他訊息,AskAIs 會用訪客最近的幾則訊息去搜尋,並以餘弦相似度比較嵌入向量。
  • 相似度低於門檻的段落會被捨棄。最好的幾段交給 AI:預設 5 段,而且同一份文件最多 2 段。
  • 這些段落會作為參考資料加進 AI 的指示裡。AI 被告知不要執行段落中寫的指示,也不要編造段落裡沒有的產品事實;遇到這種情況,它會改為提問,或提議轉給真人。
  • 當訪客問到產品事實、卻找不到相關內容時,AskAIs 不會讓 AI 去猜。它會說明自己沒有這項資訊,並把對話交給你的團隊,除非你關閉了自動轉真人。

你的內容可以是一種語言,訪客用的是另一種語言:AI 會把它用到的事實翻譯成訪客的語言。

設定

在 AI 助理的知識庫(RAG)區塊裡:

  • 啟用知識庫檢索(RAG):只有在 AI 完全不該使用你的內容時才關閉,例如純閒聊機器人。
  • Top-K 分塊數:AI 會拿到多少個段落(預設 5)。
  • 嵌入模型:使用你自己的 AI 金鑰時,還可以另外設定嵌入向量的端點和金鑰,與聊天端點分開。嵌入向量必須是 1,536 維,和 text-embedding-3-small 一樣。

平台內建 AI 或你自己的金鑰

使用平台內建的 AI 不需要金鑰;使用你自己的金鑰時,由你的服務供應商直接向你收費。無論哪種方式,都照方案的每月 AI 回覆上限計算。重複的問題會在 24 小時內重複使用快取的搜尋嵌入向量。