朱曦霖
联系Available for work
← 全部作品

个人项目 · 独立全栈项目

个人 AI 数字分身

第一人称 Agent、可更新的 RAG 知识库与带来源的流式对话

2026.07 — 至今线上访问源码

为个人网站独立开发 AI 数字分身:上传资料即可更新知识库,Agent 检索已发布内容、调用 DeepSeek 回答,并展示原文依据。

固定题集证据召回(Recall@5)
98.8%
可回答题事实与引用正确率
97.6%
三语虚构验收问题
54
支持文档格式
4
支持语言数
3
后端离线测试通过数
138

Live冷启动中

一个以经我本人审核批准的资料为唯一事实源的第一人称 AI 分身。

回答由大模型生成,只依据我批准过的公开资料。它会说错话,请以简历和我本人为准。

问题

简历只能展示一个时间点的信息,项目进展和技术细节却会持续变化。我希望访客能直接提问,也希望自己更新资料时只需上传文件,就能让分身使用新内容回答。

因此,这个项目从第一人称聊天 Agent 扩展为完整的资料管理与检索增强生成(RAG)系统:身份和表达风格由 Persona 管理,动态事实从知识库查找,回答附上可核对的来源。

做法

  • 聊天服务:FastAPI 提供 Profile、JSON Chat 和 SSE 流式接口;Provider 适配层支持 DeepSeek、OpenAI-compatible API 和本地模型,并处理取消、重试与限流。
  • 可嵌入前端:原生 Custom Element 与 Shadow DOM,无运行时框架依赖;首页分身和独立聊天窗都能显示回答及资料来源。
  • 双人格与三语:专业、闲聊使用独立会话,支持中文、英文、德文;浏览器携带最近历史,服务端不保存聊天会话。
  • 文档知识库:网页拖入文件,自动识别基本信息、解析、分块并建立索引;支持预览、替换、发布、撤回和删除。
  • 实际运行:静态网站部署在 Render,本机知识库通过 Tailscale Funnel 提供公开问答,回答使用 DeepSeek。

RAG 知识库如何工作

  1. 上传资料:拖入 MD、TXT、PDF 或 DOCX,系统自动填写标题、日期等基本信息并提交任务;也可以粘贴文字。默认仅自己预览。
  2. 建立索引:独立 Worker 提取正文,按内容切成片段,保留 PDF 页码、文档段落和表格位置,再用本地多语 Embedding 建立向量与关键词索引。任务有持久状态、重试和中断恢复。
  3. 查找依据:提问时,PostgreSQL 兼容数据库与 pgvector 同时做含义相近的向量检索和精确词项检索,合并并重排结果;只采用当前有权读取的版本。结果类问题优先保留实际实验结果。
  4. 生成回答:把 Persona、相关证据和最近对话交给 DeepSeek,返回流式回答与来源片段。访客可展开查看标题、原文及页段位置;找不到依据时会明确说明。

上传新资料、替换版本或撤回公开内容,都不需要修改 Persona、重新训练模型或重新构建网站。扫描 PDF 没有可提取文字时会提示需要 OCR。

关键工程设计

身份与动态事实分开。 Persona 保留身份、学历权威字段和表达风格,项目进展与技术资料迁入知识库。问学历时按 Persona 回答,问项目算法或结果时查资料;外部论文的成果保留原作者归属。

版本和发布意图贯穿整条链路。 新版本处理成功后才切换,失败时保留旧版;公开问答读取独立镜像,只同步明确发布的当前资料。私有资料用于自己的预览与 Agent 对话,撤回或删除后新请求不再使用对应内容。

两种接口使用同一份证据。 JSON 和 SSE 共享检索准备与来源检查,前端只展示实际引用的来源。停止、重试和断流恢复沿用原 Agent 的交互;指标记录延迟、错误类别和 token 用量,不记录聊天正文。

评测与验证

页首成绩来自固定的中英德虚构验收题集。检索召回要求正确版本、来源位置和原文证据同时匹配;回答质量按可回答问题的事实与引用是否同时正确评分,并另行检查依据不足、私有隔离、身份冲突和外部作者归属。

回答质量采用 DeepSeek 的人工复核记录,最近一轮重新运行了检索回归和真实公开资料的 JSON/SSE 问答,没有重新评分全部模型回答。数字对应这组固定验收问题。

工程验证还覆盖文件解析、任务重试、版本替换、发布撤回、两套前端引用及断流恢复,并完成实际 Windows 登录后自启、数据库与原件冷备份、独立目录恢复。文本 PDF 的暖 Worker 可用时间达到预设目标。

部署与日常更新

数据库、原件、Worker、管理页和检索模型留在个人电脑;Tailscale Funnel 把公开问答 API 接到网站。Windows 登录后后台自动启动,不弹 CMD 窗口,关闭管理页不会停止服务。电脑需要联网并保持唤醒。

这套部署沿用免费静态托管和入口方案,本地上传、向量化与检索不调用付费 Embedding API;公开回答仍按 DeepSeek API 的实际调用计费。管理员选择发布后,镜像同步新资料,网站无需重新部署。

模型实验

本机 llama.cpp 与量化 Qwen3-4B 已接入同一 Provider 接口,作为私有试用。小型 decoder-only GPT 的从零训练是另一条持续推进的实验线,完整的训练、量化导出与服务上线链路仍在构建。

正式网站继续使用 DeepSeek,模型实验不自动切换线上服务。