Augmented
What?
Augmented 是什麼?
Augmented 是一種結合多種技術來增強資料處理與資訊檢索能力的架構方式,特別適合在大型語言模型(LLM)無法直接回答複雜問題或需要即時外部知識時使用。核心概念通常包含 Retriever、Embedding、Vector DB和 Retrieval-Augmented Generation(Retriever-Augmented Generation),讓系統能更準確地處理語意搜尋並生成相關內容。
舉例來說,若用戶詢問「公司去年 Q3 的銷售報告內容是什麼?」傳統 LLM 無法基於最新的內部文件進行準確回答,而 Augmented 架構可以輔助 LLM 從內部文件中提取相關資訊並生成答案。
Who?
誰使用、誰受影響?
這套架構主要由技術工程師、資料科學家和產品經理導入,用於增強應用的智慧型檢索功能。企業中的客服系統開發者、知識管理平台設計者,以及任何需要快速從大量非結構化資料中抽取有價值資訊的團隊,都可能使用 Augmented 架構。
例如,當某家電商公司希望透過智能客服解決客戶問題,但又不希望僅限於靜態 FAQ,而是能動態從產品手冊或客戶回饋中提取答案時,就會需要這類架構。
When?
什麼時間點會用到?
Augmented 架構通常在以下情境中被使用:
- 需要精準語意搜尋: 當用戶問題不完全基於關鍵字,而包含上下文或模糊語意,例如「最近我買的手機能支援哪些充電器?」
- 需整合外部知識來源: 若 LLM 的訓練資料不足以提供最新資訊,例如查詢公司內部政策或文件。
- 深層內容生成需求: 在需要同時結合搜索與生成能力,例如自動撰寫報告或回答技術性問題。
Where?
出現在架構哪個部分?
Augmented 通常運作於應用層和資料層之間,由以下幾個核心元件組成:
- LLM 或其他生成模型: 用於將 Retriever 提供的資訊進一步加工成自然語言答案。
Why?
解決什麼問題?
Augmented 最主要目的是提高系統對模糊且複雜問題的回應能力,同時讓 LLM 能利用外部知識庫補足其不足。例如:
- 解決傳統關鍵字搜尋過於依賴匹配詞而缺乏語意理解的痛點。
- 為 LLM 提供即時更新的外部資訊來源,避免因訓練時間點不同而產生落後結果。
- 減少大量人工整理或預處理文件所需成本。
延伸到實務應用,它可以有效提升客服回覆效率、商業報告生成質量,以及企業內部知識檢索速度。
補充說明
🧠 延伸/常見誤解
- Generator ≠ Augmented:
Augmented 著重在結合搜尋與生成,Generator 則僅專注在文本生成功能,因此兩者角色不同。