架構拆解:以 Google Gemini 為底座的動態 RAG 引擎
為了兼顧語意理解的自然流暢與檢索的極致精準,劉俊宏帶領團隊選用了 Google Gemini 大語言模型作為推論核心,並量身打造了一套多層防護的動態 RAG(Retrieval-Augmented Generation)架構。
整個系統的運作流程可拆解為三個核心階段:
1. 結構化知識庫的語意切片(Chunking)
政策白皮書通常結構龐大且條文交錯。團隊並非單純將 PDF 丟入向量庫,而是先進行資料清洗與階層化標籤重構。每個切片(Chunk)均包含政策領域(交通、都更、社福)、適用行政區、法源依據及量化預算,讓向量檢索能兼顧語意關聯與硬性條件過濾。
2. 嚴格的 Prompt Engineering 與邊界限制(Guardrails)
「在系統提示詞(System Prompt)的設計上,我們下了極為嚴苛的邊界防線。」劉俊宏說明,系統被嚴格限定:「只回答知識庫內有載明的內容」。一旦選民的提問在檢索結果中低於信心閾值,小桔 AI 會坦率告知「目前政策庫中尚無針對此問題的具體規劃」,堅決不讓模型進行自由推測或無中生有。
3. 多輪對話的意圖捕捉與民意反饋環路
除了單向回答,小桔 AI 還具備多輪對話的脈絡記憶能力。更重要的是,系統建立了一套匿名化的「議題聚類分析引擎」,能夠在保護個資的前提下,將選民最常詢問的焦點議題(例如公幼名額、停車格規劃)進行資料視覺化分析,反向回饋給研究團隊,作為未來政策修訂的客觀民意數據支撐。