返回所有案例
CASE STUDY / AI 與資料科學
AutoLLM — No-Code RAG 聊天機器人平台
企業軟體、知識管理與生成式 AI生產級 RAG 平台，支援文件上傳、向量檢索、多 LLM 切換（OpenAI / Gemini / Claude），搭配 Redis + PostgreSQL 雙層儲存與 Docker 微服務部署。
Delivery Details
AutoLLM 是一套 No-Code RAG 聊天機器人平台。使用者上傳文件後，系統自動完成解析、分塊、Embedding 生成與向量儲存（pgvector），再透過餘弦相似度檢索相關文件區塊，建立上下文並交由 LLM 生成附引用的答案。架構採用 FastAPI + Next.js，Redis 負責短期對話快取（3 天 TTL）、PostgreSQL 保存永久稽核紀錄，Provider 抽象層可一鍵切換 OpenAI / Gemini / Claude。所有服務以 Docker Compose 編排，支援串流回答（SSE）、JWT 認證、速率限制與自動版本管理。
Industry Context
企業知識分散於文件、系統與部門，通用聊天模型若沒有檢索、權限與來源引用，容易產生不可驗證回答。可產品化的 RAG 平台必須同時處理文件生命週期、向量檢索、模型切換、對話儲存、安全與維運。
Business Problem
企業知識問答常卡在文件上傳、權限、模型切換與稽核紀錄，難以產品化。
What I Built
建立 no-code RAG 流程，串接 pgvector、Redis、PostgreSQL 與多 LLM provider。
Business Impact
讓文件問答從數週建置縮短到數小時，並支援引用、串流與審計。