深度學習知識地圖 · NLP 與 LLM
RAG
檢索增強生成
觀念教學
RAG (Retrieval-Augmented Generation) 結合檢索系統與生成模型，讓 LLM 能使用外部知識庫回答問題，解決「幻覺」與資料時效性問題。
知識圖譜（Knowledge Graph）
用「實體 + 關係」的圖結構組織知識，例如：（台積電）—[創辦人]→（張忠謀）—[畢業於]→（MIT）。
跟向量資料庫的差異
- 向量 DB：把文字切塊變成向量，靠「語義相似度」檢索，擅長模糊匹配
- 知識圖譜：用結構化的節點和邊，靠「關係推理」檢索，擅長多跳推理（A→B→C）
GraphRAG
傳統 RAG 用向量檢索找相關文件片段，GraphRAG 改用知識圖譜做檢索：
傳統 RAG 的痛點
- 問「台積電創辦人的母校在哪個國家？」需要跨兩個文件片段才能回答
- 向量檢索可能只找到其中一段，導致回答不完整
GraphRAG 怎麼解決
- 先從文件中抽取實體和關係，建成知識圖譜
- 查詢時沿著圖譜的邊走：台積電 → 張忠謀 → MIT → 美國
- 把走過的路徑當成 context 餵給 LLM 生成回答
適用場景
醫療（藥物交互作用）、金融（企業關聯網路）、法律（法條引用鏈）
比喻：傳統 RAG 像在圖書館找相關的書頁，GraphRAG 像沿著維基百科的超連結一路點下去，能找到跨好幾層的答案。
應用場景
評估指標
iPAS 歷屆考題詳解(18 題)
先自行作答,再展開詳解。題目出處均為 iPAS AI 應用規劃師正式考題,著作權屬原主辦單位。
某公司建置基於檢索增強生成（RAG）的知識查詢系統，需同時兼顧查詢效能與資料的即時更新。近期發現回應內容偶爾過時，且每次更新文件都需完整重建索引，導致系統在更新期間無法服務。若要解決此問題並提升整體穩健性，下列哪項做法最適合？
- A調整生成模型的回應隨機性參數，以降低答案偏差並提升一致性
- B提升檢索與索引的運算效能，以縮短查詢與更新所需時間
- C採用索引的增量或分段更新方式，使新資料能即時納入而不需全部重建
- D建立常見問題的標準答案集，透過快速檢索回應以降低模型負擔
看正解與逐選項詳解
正解:C
正確答案:(C)
【正解解析】
題幹的兩個痛點是回應內容過時,以及每次更新文件都需完整重建索引,導致更新期間系統無法服務。根本原因在索引更新策略:全量重建耗時,且重建期間查詢中斷。改採增量或分段更新(Incremental Update)後,每次僅對異動或新增的文件建立、替換對應索引,新資料可即時納入檢索範圍,系統得以邊更新邊提供服務,同時解決內容過時與更新停機兩個問題,整體穩健性因此提升。
【為何其他選項錯了?】
- (A):調整回應隨機性參數(如 temperature)只影響生成端輸出的一致性,無法讓過時文件變成新資料,也與索引重建造成的停機無關。
- (B):提升運算效能只能縮短重建時間,更新期間仍需暫停服務,屬於緩解而非根治,並未改變全量重建的架構問題。
- (D):常見問題標準答案集可分流部分查詢,但答案集本身同樣會過時,也未處理索引重建導致服務中斷的核心問題。
提示:看到「更新需重建完整索引、更新期間無法服務」,對策即是索引的增量或分段更新。
某投資公司導入生成式 AI 即時分析股市波動並提供市場背景資訊，若希望兼顧「即時性」與「可靠性」，哪一項設計最能有效提升表現？
- A將 AI 系統連結至公司內部歷史交易資料庫，以便快速調用既有的案例參考
- B調整模型的回應邏輯，讓 AI 優先輸出最新市場行情，而不是完整的背景分析
- C建立與外部即時行情來源同步的查詢模組，確保 AI 能即時擷取最新金融數據
- D增加訓練資料中模擬的金融危機與市場異常案例，以提升 AI 在特殊情境下的表現能力
看正解與逐選項詳解
正解:C
正確答案:(C)
【正解解析】
題幹要求股市分析系統兼顧「即時性」與「可靠性」。大型語言模型的參數化知識截止於訓練時點,無法反映盤中即時變化;建立與外部即時行情來源同步的查詢模組,讓系統在回答前先擷取最新的行情、成交量與市場訊息,再基於這些資料進行分析,即時性來自資料永遠是最新的,可靠性來自分析立基於真實發生的市場數據,是最能同時滿足兩項要求的設計。
【為何其他選項錯了?】
- (A):內部歷史交易資料庫提供的是過去案例,可輔助背景分析,但無法提供盤中最新行情,不能滿足即時性要求。
- (B):讓模型優先輸出最新行情而省略背景分析,等於刪減題目要求的市場背景資訊功能,是犧牲完整性而非提升表現。
- (D):擴充危機與異常案例屬訓練階段的強化,可改善特殊情境的推理,但訓練資料仍有時間截點,無法回應訓練後才發生的即時事件,未回答題幹的即時性需求。
提示:題幹關鍵詞「即時」指向外部即時資料串接;歷史資料庫與訓練資料擴充都無法突破知識時間截點。
某金融機構導入檢索增強生成（RAG）模型，用於客服文件查詢與自動回覆。由於大型模型運算成本過高，若考慮引入知識蒸餾（Knowledge Distillation, KD）技術，下列何者為帶來的主要效益？
- A讓小型模型學習大型模型的知識，在降低運算成本的同時維持檢索與生成品質
- B只能應用於語音或影像辨識，無法提升文字檢索生成效能
- C因為 RAG 已有檢索機制，因此無需額外蒸餾知識
- D僅能依賴特定 API 供應商才能使用，無法在自建模型中實現
看正解與逐選項詳解
正解:A
正確答案:(A)
【正解解析】
知識蒸餾(Knowledge Distillation, KD)的核心概念是以大型模型作為教師模型(Teacher),讓參數量較小的學生模型(Student)學習其輸出分佈與知識,在大幅降低推論運算成本與部署負擔的同時,盡可能保留原模型的表現。應用於 RAG 客服系統時,可將負責生成的大型模型蒸餾為小型模型,降低運算成本並維持檢索與生成品質,正對應題幹「大型模型運算成本過高」的痛點。
【為何其他選項錯了?】
- (B):KD 是通用的模型壓縮技術,在自然語言處理領域應用廣泛,DistilBERT、TinyBERT 等即為文字模型蒸餾的代表,並非僅限語音或影像。
- (C):RAG 的檢索機制負責提供外部知識,生成端仍依賴大型模型的語言能力;蒸餾針對的是生成模型的運算成本,檢索機制無法取代蒸餾的功能。
- (D):KD 是 2015 年 Hinton 等人公開發表的通用技術,開源框架即可實作,自建模型同樣適用,不依賴特定 API 供應商。
提示:題幹關鍵詞「運算成本過高」對應模型壓縮;KD 的定義即是小模型向大模型學習知識。
在 AI 應用設計中，Model Context Protocol（MCP）與檢索增強生成（RAG）都能擴展模型能力，但兩者的核心差異為何？
- AMCP 擴展模型工具，但主要用於補足訓練資料不足
- BMCP 能標準化連接資源，但仍需依賴向量資料庫
- CRAG 常用於擴展知識庫內容，而 MCP 更著重於動態工具與 API 呼叫的整合
- DRAG 透過統一協議，提升回答相關性
看正解與逐選項詳解
正解:C
正確答案:(C)
【正解解析】
兩者都能擴展模型能力,但定位不同。RAG 的重點是知識擴充:透過檢索把外部文件帶入上下文,補足模型參數化知識的不足與過時,常搭配向量資料庫實作。MCP(Model Context Protocol)則是標準化的連接協議,重點在讓模型以一致的介面動態呼叫外部工具、API 與資料源,強調工具整合與動作執行。一個著重讓模型取得更多知識,一個著重讓模型能操作外部資源,選項 (C) 正確刻劃此核心差異。
【為何其他選項錯了?】
- (A):補足模型知識不足是 RAG 的定位;MCP 是工具與資源整合協議,主要目的不在補充資料。
- (B):MCP 透過 Client/Server 架構標準化連接各類外部資源,並不必然依賴向量資料庫;向量資料庫是 RAG 常用的元件。
- (D):RAG 是技術架構,依靠嵌入相似度檢索文件,並非統一協議;「統一協議」是 MCP 的特徵,此選項將兩者屬性對調。
提示:RAG 管知識擴充,MCP 管工具與 API 整合;「協議」二字歸 MCP,「知識庫」歸 RAG。
某顧問公司導入生成式 AI 摘要長篇法規文件，為改善檢索結果不相關或過於分散的問題，決定對文件做文本切分（Chunking）。其主要目的為何？
- A讓模型在回答時能加快推理速度
- B提高檢索相關性與降低長上下文噪音
- C降低系統記憶體和硬體資源的負擔
- D使模型在生成回覆時更具創造性與多樣化
看正解與逐選項詳解
正解:B
正確答案:(B)
【正解解析】
長篇法規文件若整份轉為單一向量,內容涵蓋過多主題,嵌入結果會成為各種語意的平均值,檢索時容易命中不相關內容或回傳過於分散的段落。文本切分(Chunking)把文件切成主題較單純的片段,法規文件常依條、款、項等結構切分,使每個片段的嵌入語意更聚焦,檢索相關性因此提升,同時減少把大量無關文字帶進上下文造成的噪音,正是題幹「檢索結果不相關或過於分散」的對症做法。
【為何其他選項錯了?】
- (A):切分不會減少需要處理的內容總量,若片段之間設置重疊(Overlap)甚至會增加 token 數,加快推理速度並非其目的。
- (C):切分後片段數量大增,嵌入次數、索引儲存與檢索計算量都上升,系統資源負擔通常變重而非變輕。
- (D):法規摘要要求忠於原文,切分的效果是讓引用更精準、更貼近條文,與提升創造性或多樣化無關。
提示:Chunking 的目的在檢索品質:片段語意聚焦、相關性提升、長上下文噪音下降。
某開發團隊在建置企業內部知識檢索系統時，選擇採用多向量檢索器（Multi-vector Retriever），下列何者為協助提升系統查詢的完整性與精準度的主要方式？
- A支援同時處理多種資訊表示，提升跨文本型態的檢索效果
- B透過多向量壓縮與共享權重方式，降低檢索過程的運算與儲存成本
- C以切分並過濾文件片段，減少上下文長度帶來的 Token 負擔
- D透過調整生成階段的溫度參數，使模型在回覆時更穩定一致
看正解與逐選項詳解
正解:A
正確答案:(A)
【正解解析】
多向量檢索器(Multi-vector Retriever)的核心做法是為同一份文件建立多種向量表示,例如全文摘要向量、段落與標題向量、關鍵句向量,以及表格或圖表描述的向量。查詢時系統可同時比對多種表示,不再僅依賴整份文件的單一嵌入,使不同型態、不同粒度的資訊都有機會被命中,因此能提升查詢的完整性(召回率)與精準度,對應選項 (A) 所述同時處理多種資訊表示、提升跨文本型態的檢索效果。
【為何其他選項錯了?】
- (B):向量壓縮與共享權重屬於降低運算與儲存成本的工程最佳化,並非多向量檢索器提升查詢完整性與精準度的主要方式。
- (C):切分與過濾文件片段是 Chunking 等前處理機制的工作,多向量檢索器本身不負責切分或過濾,兩者常搭配使用但概念不同。
- (D):溫度參數作用於生成階段,影響回覆的隨機程度,與檢索元件的查詢品質無關。
提示:名稱中的「多向量」指同一文件的多種表示;與壓縮、切分、生成參數等概念區分開來。
某企業建置基於檢索增強生成(RAG)的法遵知識輔助系統,用於整合法規條 文、內控制度與歷史函釋文件。系統運行後發現,每當法規更新或新增解釋文件 時,需重新建立完整索引,導致更新期間系統暫停服務,且部分回應偶有引用舊 版內容的情形。若希望在兼顧查詢效率的同時提升知識更新彈性與系統穩定性, 下列何者最適合?
- A提升模型推論資源配置,以維持高流量查詢時的回應效能
- B調整語言模型的輸出限制機制,以降低生成內容與法規不一致的風險
- C建立固定法規問答對照表,以規則化方式優先回應常見問題
- D導入可支援增量更新的索引管理方式,使異動文件可即時反映於檢索結果
看正解與逐選項詳解
正解:D
正確答案:(D)
【正解解析】
題幹的核心問題在知識庫的更新效率與即時性:每次法規異動都要重建完整索引,過程耗時且更新期間服務中斷,還造成部分回應引用舊版內容。導入支援增量更新(Incremental Update)的索引管理方式後,每次僅為異動或新增的文件建立索引並併入既有索引庫,不需重建全量資料,更新可在不停機的情況下完成,異動文件也能即時反映於檢索結果,同時滿足查詢效率、知識更新彈性與系統穩定性。
【為何其他選項錯了?】
- (A):提升推論資源處理的是高流量下的查詢效能,與索引更新緩慢、更新期間停機的問題無關。
- (B):調整輸出限制機制屬於生成內容的品質控管,無法解決知識庫更新機制造成的舊版引用與服務中斷。
- (C):固定問答對照表僅能覆蓋常見問題,無法應對新法規與非預期查詢,對照表本身也需要持續維護,缺乏彈性。
提示:「更新需重建索引、期間暫停服務」是指向增量索引更新的典型題型訊號。
下列何者最能正確說明 Model Context Protocol (MCP)與檢索增強生成(Retrieval-Augmented Generation, RAG)在功能定位上的主要差異?
- AMCP 主要用於降低模型訓練成本;RAG 主要用於提升推論速度
- BMCP 著重模型與外部工具或系統互動;RAG 著重補充模型知識來源
- CRAG 必須依賴向量資料庫;MCP 不需任何外部整合
- DRAG 屬標準化通訊協議;MCP 屬資料檢索技術
看正解與逐選項詳解
正解:B
正確答案:(B)
【正解解析】
兩者定位完全不同。RAG 是一種技術架構,核心目的是解決模型知識過時與幻覺問題,做法是「先檢索,再生成」:回答前先到外部知識庫找出相關資料,再把資料連同問題一併提供給模型,讓模型依據這些資料作答,著重「補充模型的知識來源」。MCP(Model Context Protocol)則是標準化的通訊協議,讓模型以一致介面連接並呼叫外部工具與系統,例如查詢資料庫、觸發 API,著重「模型與外部工具或系統的互動」。選項 (B) 正確對應兩者的功能定位。
【為何其他選項錯了?】
- (A):RAG 因多了檢索步驟,通常會增加推論延遲而非提升速度;MCP 的目的也不是降低訓練成本。
- (C):RAG 常搭配向量資料庫但並非必須,亦可採關鍵字或混合檢索;MCP 的本質正是與外部系統整合,「不需任何外部整合」與其定義相反。
- (D):敘述完全顛倒;MCP 才是標準化通訊協議,RAG 是以資料檢索為核心環節的技術架構。
提示:RAG 補知識、MCP 接工具;「標準化協議」歸 MCP,「補充知識來源」歸 RAG。
某企業建置文件型知識查詢系統,將大量長篇內部文件轉換為可供生成式 AI使用的知識來源。在測試過程中,團隊發現若直接以整份文件進行檢索,模型回覆常包含無關內容,且引用段落不夠精準。團隊評估後,決定導入 Chunking 機制的主要目的為何?
- A透過縮短輸入長度,加速模型推理流程
- B提升檢索結果的語意對齊程度,並降低長文件帶來的干擾
- C減少模型執行時的記憶體使用量,以提升系統穩定性
- D讓模型在生成回覆時具備更高的創意發揮空間
看正解與逐選項詳解
正解:B
正確答案:(B)
【正解解析】
整份長文件直接做向量檢索時,單一向量必須概括過多主題,語意被平均化而變得模糊,查詢精確問題時難以命中最相關段落,也容易把無關內容一併帶進回覆。Chunking(分塊)先把長文件切成較小且主題聚焦的片段,再為每個片段各自建立向量索引,查詢時即可精準比對出語意最匹配的片段,提升檢索結果的語意對齊程度,並降低長文件無關內容造成的干擾,正符合題幹「回覆常含無關內容、引用段落不夠精準」的改善目標。
【為何其他選項錯了?】
- (A):Chunking 的主要目的在檢索階段的準確性;送入模型的上下文變短只是可能的附帶效果,並非導入動機。
- (C):分塊會增加前處理複雜度與索引數量,儲存與運算負擔通常上升,不必然減少記憶體使用量。
- (D):知識查詢系統要求引用精準,分塊是讓回覆更貼近原文,而非擴大創意發揮空間。
提示:題幹「引用段落不夠精準」對應檢索端的語意對齊問題,Chunking 是針對此問題的前處理手段。
某支付平台為了強化洗錢行為檢測,計劃導入生成式 AI 技術來輔助分析可疑交易模式。該平台擁有大量歷史交易記錄和已知洗錢案例資料,希望 AI 能自動生成可疑交易的特徵描述報告。下列哪一種生成式 AI 技術最適合此需求?
- A使用 Midjourney 生成交易流程圖像
- B採用 Few-shot Learning 訓練圖像識別模型
- C運用 RAG 檢索增強生成技術結合歷史案例資料庫
- D直接使用 ChatGPT 的基礎模型進行分析
看正解與逐選項詳解
正解:C
正確答案:(C)
【正解解析】
題幹有兩個關鍵需求:一是必須利用平台內部的大量歷史交易紀錄與已知洗錢案例,二是要自動生成文字形式的特徵描述報告。RAG 正好結合兩者:分析新的可疑交易時,先從歷史案例資料庫檢索出模式相似的已知案例,再將這些案例連同當前交易資料一併作為上下文提供給語言模型,由模型基於具體證據生成報告。如此可確保報告內容立基於內部真實資料,降低幻覺風險,兼顧檢索與生成兩端需求。
【為何其他選項錯了?】
- (A):Midjourney 是影像生成工具,產出的是圖像;題目要求生成文字報告,輸出媒介不符。
- (B):Few-shot Learning 是在提示中提供少量範例的技巧,無法有效利用大量歷史資料庫;且選項說的是訓練圖像識別模型,任務型態與文字報告需求不符。
- (D):直接使用基礎模型缺乏平台內部案例知識,難以生成針對性的分析內容,且容易產生幻覺。
提示:「內部大量歷史資料」加「生成文字報告」的組合,即是 RAG 的典型適用情境。
某有機農場累積了十年的病蟲害防治紀錄文件,包含不同作物的病害症狀描述、防治方法和效果評估。農場主人希望建立一個 AI 助手,能根據農民描述的作物症狀,快速提供相關的防治建議和歷史案例。下列哪一種技術最適合解決這個需求?
- A直接使用 ChatGPT 的預訓練知識回答農業問題
- B將所有文件內容加入 ChatGPT 的系統提示詞中
- C採用 RAG 技術,將農場文件建立向量資料庫,結合大語言模型生成回答
- D使用少樣本學習(Few-shot Learning),在提示詞中提供 3-5 個病害案例
看正解與逐選項詳解
正解:C
正確答案:(C)
【正解解析】
需求重點是讓 AI 依據農場自有的十年防治紀錄回答問題,RAG 是此類內部知識問答的標準做法。建置流程分兩段:先將文件分塊(Chunking),以嵌入模型(Embedding Model)轉為向量存入向量資料庫,建立可語意搜尋的索引;農民輸入症狀描述時,系統將描述轉為向量,檢索出最相關的歷史紀錄片段,再連同問題一併送給大型語言模型生成防治建議。既利用模型的語言能力,又確保回答源自農場自身累積的經驗。
【為何其他選項錯了?】
- (A):預訓練知識屬於通用農業常識,不含該農場的作物、環境與防治經驗,可能給出不適用的建議。
- (B):十年累積的文件總量遠超過模型上下文視窗(Context Window)的長度限制,無法全部放入系統提示詞,成本與可行性都不允許。
- (D):少樣本學習僅在提示詞中提供 3-5 個範例,無法讓模型檢索並運用整個十年資料庫的知識,覆蓋範圍不足。
提示:自有大量文件加語意查詢需求,選 RAG;塞滿提示詞與少量範例都無法涵蓋十年資料。
某企業已部署一套預訓練大型語言模型作為內部知識問答系統，主要用於查詢人資、財務與法遵相關的內部規範。由於公司內規每月都會滾動更新，管理層要求系統在文件更新後必須能立即反映最新內容，不能等待模型重新訓練。技術團隊正在評估應採用檢索增強生成（RAG）還是微調（Fine-tuning）來因應此需求。請問下列哪一項評估最為正確？
- A採用Fine-tuning 較為適合，只要定期將更新後的內規文件加入訓練資料，模型便能即時反映最新規範內容；
- B採用RAG 較為適合，將更新後的文件同步至外部知識庫，模型即可在不重新訓練的情況下立即查詢最新內容；
- C採用Fine-tuning 較為適合，因為模型經過內規語料訓練後，回應品質會優於透過RAG 生成的答案；
- D兩者皆可達成需求，差異僅在於建置成本高低，與系統能否即時反映更新內容無關
看正解與逐選項詳解
正解:B
正確答案:(B)
【正解解析】
題幹條件是內規每月滾動更新,且要求文件更新後立即反映最新內容,不能等待模型重新訓練。RAG 把知識存放在模型外部的知識庫:文件更新時只需同步至知識庫並更新對應索引,模型推理時即可檢索到最新內容,完全不需重新訓練,天生符合「即時反映、免重訓」的需求。Fine-tuning 則是把知識寫入模型參數,每次內容異動都需重新訓練與部署,無法滿足即時性。
【為何其他選項錯了?】
- (A):Fine-tuning 需要重新訓練並重新部署模型,文件更新與內容生效之間存在明顯延遲,無法做到立即反映。
- (C):微調適合調整輸出風格或強化特定任務表現;對每月更新的規範查詢而言,重訓成本高且知識維護困難,回應品質未必優於能引用最新文件的 RAG。
- (D):兩者差異不僅是建置成本;能否不重新訓練即反映外部文件更新,正是 RAG 與 Fine-tuning 的本質分野。
提示:知識頻繁更新且不能重訓時,優先考慮外部知識庫檢索;微調適合風格與任務行為,不適合作為即時知識庫。
一家會計師事務所希望透過Low-Code 工具，自動處理客戶提交的各類費用報銷單據，格式涵蓋手寫、PDF 掃描、電子發票等多種形式，且各企業的科目分類規則均不相同。負責評估的專案經理正在比較兩種方案：方案甲為「直接呼叫基礎語言模型API 進行單據內容解析與分類」，方案乙為「使用內建RAG 元件，比對過去已正確分類的報銷單據」。下列分析何者最為正確？
- A方案甲優於方案乙，因為基礎語言模型具備更廣泛的通用知識，足以應對所有格式變化；
- B方案乙優於方案甲，因為RAG 能提供歷史分類案例作為參考上下文，顯著提升非結構化文件的分類準確率；
- C兩者效果相同，差異僅在於系統複雜度，應優先選擇建置較簡單的方案甲；
- D可透過預先設定固定分類規則的方式處理報銷單據，以提升處理效率並降低系統複雜度
看正解與逐選項詳解
正解:B
正確答案:(B)
【正解解析】
題幹情境是單據格式多樣(手寫、PDF 掃描、電子發票),且各企業的科目分類規則互不相同。方案乙以 RAG 元件把過去已正確分類的報銷單據建成可檢索的案例庫,處理新單據時先比對出相似的歷史案例,作為參考上下文提供給模型,使分類判斷有各企業自身的先例可依循,而非僅憑通用知識推測,可顯著提升非結構化文件的分類準確率,故方案乙較優。
【為何其他選項錯了?】
- (A):基礎語言模型的通用知識不包含各企業自訂的科目分類規則,面對客製化規則只能推測,無法保證正確;知識廣泛不等於能應對所有格式與規則差異。
- (C):兩方案效果並不相同;有歷史正確案例作為上下文與僅靠模型內部知識,在客製規則情境下的準確率差異顯著,不能只以系統複雜度取捨。
- (D):題幹已言明格式多樣且各企業規則不同,固定分類規則難以窮舉與維護,遇到新格式或規則變動即失效,不符需求。
提示:「歷史正確案例」加「客製分類規則」的組合,指向把相似案例檢索進上下文的 RAG 方案。
某客服系統導入AI 技術，能先從知識庫中檢索相關文件，再依據查詢內容生成回覆。若需判斷其技術本質，下列敘述何者最適當？
- A屬於純粹資料檢索系統，未涉及生成式AI；
- B屬於傳統規則式系統，依既定流程回應問題；
- C結合檢索與生成機制，仍屬生成式AI 應用範疇；
- D屬於預測分析系統，主要進行結果推估
看正解與逐選項詳解
正解:C
正確答案:(C)
【正解解析】
題幹描述的系統先從知識庫檢索相關文件,再依查詢內容生成回覆,這正是檢索增強生成(RAG)的運作型態:檢索負責提供依據,生成負責產出自然語言答案。由於最終回覆是由模型生成而非直接回傳既有文件,系統仍屬生成式 AI 的應用範疇,選項 (C) 的判斷最適當。
【為何其他選項錯了?】
- (A):純資料檢索系統只回傳既有文件或段落;本系統還會依查詢內容生成回覆,已涉及生成式 AI。
- (B):傳統規則式系統依既定規則與流程回應,不會把檢索到的文件作為上下文再生成自然語言答案。
- (D):預測分析系統的目標是推估數值或分類結果;本題重點是知識檢索結合文字生成,系統性質不同。
提示:「先檢索,再生成」是 RAG 的基本結構;只要回覆由模型生成,即屬生成式 AI 應用。
一家法律科技公司導入RAG 系統協助律師查詢判例，但有時會引用關聯性不足的文件，影響生成內容的可信度。若在流程中引入強化學習（ReinforcementLearning），其主要作用為何？
- A依據律師回饋作為獎勵訊號，優化系統判斷檢索結果品質的能力；
- B改善檢索排序機制，使較相關的文件優先被選用；
- C增加知識庫文件數量，以提升查詢涵蓋範圍；
- D以模型生成取代檢索機制，直接產生答案
看正解與逐選項詳解
正解:A
正確答案:(A)
【正解解析】
強化學習的核心要素是以獎勵訊號(Reward Signal)引導系統調整行為。在此情境中,律師對引用文件是否切題的專業回饋可轉化為獎勵訊號,讓系統從實際使用者的判斷中學習,逐步優化其評估檢索結果品質的能力,減少引用關聯性不足的文件,提升生成內容的可信度。這正是在 RAG 流程中引入強化學習的主要作用。
【為何其他選項錯了?】
- (B):檢索排序的改善可能是優化後的結果之一,但強化學習的核心機制在於以回饋作為獎勵訊號學習判斷,而非直接定義排序規則。
- (C):擴充知識庫文件數量屬於資料建置工作,與強化學習機制無關,文件變多也不必然改善引用的相關性。
- (D):RAG 的價值在於檢索提供可追溯的依據;以生成完全取代檢索會喪失來源可追溯性與可信度,也不是強化學習的作用。
提示:強化學習題先找「回饋」與「獎勵訊號」;本題的獎勵來源是律師的使用回饋。
某企業欲導入AI 知識助理系統，需具備以下需求：員工可查詢內部規範與流程文件、回答需具可追溯來源、資料會頻繁更新及系統需降低模型重新訓練成本。下列哪一種架構最適合？
- A直接微調（Fine-tuning）大型語言模型；
- B使用檢索增強生成（RAG）架構；
- C使用純生成 AI，不連接外部資料；
- D使用規則式專家系統
看正解與逐選項詳解
正解:B
正確答案:(B)
【正解解析】
需求共四項:查詢內部規範文件、回答需具可追溯來源、資料頻繁更新、降低模型重新訓練成本。RAG 架構把內部文件建成外部知識庫,查詢時先檢索相關段落再由模型生成答案,可同時標註引用來源;文件更新只需同步知識庫,不必重新訓練模型。四項需求全部對應 RAG 的特性,故選項 (B) 最適合。
【為何其他選項錯了?】
- (A):Fine-tuning 把知識寫入模型參數,每次資料更新都要重新訓練,成本高;參數化知識也難以指出答案出自哪份文件,無法滿足可追溯性。
- (C):純生成 AI 不連接外部資料,知識停留在訓練時點,容易過時與產生幻覺,同樣無法提供可追溯來源。
- (D):規則式專家系統需人工維護大量規則,面對頻繁更新的自然語言文件維護成本高、彈性不足,也缺乏語意理解與生成能力。
提示:「常更新、要來源、免重訓」三個條件同時出現時,答案通常指向 RAG。
在自然語言處理中，檢索增強生成（Retrieval-Augmented Generation, RAG）是一種結合語言模型與向量搜尋的技術，可有效減少模型知識過時與產生幻覺的問題。若要建立一套高效能的 RAG系統，下列何者為在「檢索階段」最關鍵的挑戰？
- A確保檢索到的文件能被完整納入語言模型的上下文視窗（Context Window）中進行生成
- B選擇使用 Faiss或ScaNN等近似最近鄰搜尋函式庫
- C降低嵌入模型（Embedding Model）在高維空間中的計算成本與記憶體占用
- D避免向量檢索結果僅具語意相似但與查詢意圖無實質關聯的情況
看正解與逐選項詳解
正解:D
正確答案:(D)
【正解解析】
RAG 的檢索品質決定生成品質的上限。向量檢索依賴嵌入空間的語意相似度,但「語意相似」不等於「符合查詢意圖」:查詢退款流程,可能檢索回大量討論退款政策沿革的文件,表面相似卻無助於作答。這種相關性(Relevance)與相似度(Similarity)之間的落差,正是檢索階段最關鍵的挑戰,實務上須以查詢改寫、重排序(Re-ranking)、混合檢索等手段緩解。
【為何其他選項錯了?】
- (A):檢索文件能否完整納入上下文視窗(Context Window)屬於生成階段的工程限制,不是檢索階段的核心挑戰。
- (B):Faiss 或 ScaNN 是近似最近鄰搜尋的工具選型,解決的是速度與規模;選用哪套函式庫並非檢索品質的關鍵。
- (C):嵌入模型的計算成本與記憶體占用屬效能議題,資源節省不代表檢索結果更切題。
提示:檢索階段的核心風險是找到「語意相似」卻「與意圖無關」的內容;效能與工具選型皆屬次要議題。
某工程師建置企業內部知識問答的 RAG 系統，上線後發現部分問題檢索結果與查詢語意不符。分析後確認問題出在向量搜尋的語意匹配不準確。於檢索階段，採取下列哪種方法最能直接改善此問題？
- A將切片大小（Chunk Size）由 512tokens縮小至128tokens，以提升檢索精細度
- B調整向量相似度閾值（Similarity Threshold），以過濾低相關檢索結果
- C採用混合搜尋（Hybrid Search）：結合語意向量搜尋與關鍵字搜尋（BM25），並以RRF（Reciprocal Rank Fusion）融合排序
- D將檢索結果隨機洗牌（Shuffle）後回傳給LLM，避免位置偏誤（Position Bias）
看正解與逐選項詳解
正解:C
正確答案:(C)
【正解解析】
純向量搜尋擅長捕捉語意近似,但對專有名詞、產品代號與精確關鍵字的匹配常不穩定;BM25 關鍵字搜尋在字面精確匹配上恰好互補。混合搜尋(Hybrid Search)同時執行語意向量與關鍵字兩路檢索,再以 RRF(Reciprocal Rank Fusion)融合兩份排名產生最終排序,可直接提升檢索階段的相關性與穩健性,是針對「向量搜尋語意匹配不準確」最直接有效的主流改善手段。
【為何其他選項錯了?】
- (A):縮小切片有時能提升定位精細度,但也可能切碎語境使語意更難匹配,效果方向不確定,並非針對語意匹配不準的直接解方。
- (B):調整相似度閾值只是過濾低分結果;檢索本身不準確時,留下的結果仍然不準,屬治標不治本。
- (D):隨機洗牌是生成階段對抗位置偏誤的技巧,無法改變檢索結果本身的相關性,對題幹問題沒有幫助。
提示:語意靠向量、字面靠 BM25、排序靠 RRF 融合,是 RAG 檢索優化的標準組合。