朱曦霖
联系Available for work
← AI 数字分身

AI 数字分身

工程日志

从第一人称聊天 Agent 到可更新的 RAG 知识库

原 Agent 的对话、前端与运维已完成,文档 RAG 也已接入正式网站;小模型训练作为独立实验继续推进。

阶段进度

阶段解决的问题状态
0 · 骨架从零设计一个可部署的 LLM 应用:配置、安全边界、工程可维护性完成
1 · 人设不做微调,怎么让模型稳定地用第一人称说话;怎么压低幻觉与资料泄露完成,人设经本人审核批准
2 · 后端生产可用的 LLM 后端:SSE 流式、取消、重试、限流、注入防护、成本控制完成
3 · 前端无框架实现可嵌入的对话组件:正确消费 SSE 字节流、取消重试、状态恢复、XSS、无障碍完成
4 · 上线安全上线到免费容器平台:密钥不进 Git 与镜像、生产 CORS、就绪检查、回滚门禁完成,含一次真实回滚演练
5 · 可观测不保存原始对话、不加数据库的前提下,怎么知道系统好不好用完成
6 · 自托管推理把本机量化模型接进同一套调用路径仓库实现与本地验证完成,生产未切换
7 · 从零训练走完从零训练 → 量化导出 → 接入服务的完整链路进行中
8 · RAG 知识库四格式自动入库、混合检索、带来源回答、版本管理、Persona 迁移和本机常驻完成,正式网站接入 DeepSeek 与已发布资料

RAG 升级

原先新增项目事实需要改 Persona。RAG 升级后,管理员拖入文件即可自动识别基本信息、解析并建立索引;需要时发布给网站使用,后续替换或撤回无需重新训练和部署网站。核心身份与风格仍由 Persona 管理,动态事实迁入知识库。

按实际解析材料构建中英德虚构题集,分别验证正确版本的证据召回、事实与引用支持、拒答、身份与作者归属。上线前修复过私有预览提示、技术问题误走学历模板、结果段被背景挤掉,以及首页断流后控件不恢复的问题。

当前运行与后续实验

正式网站通过 Tailscale Funnel 访问本机公开镜像,并使用 DeepSeek 回答。实际 Windows 登录后无窗口自启、固定密码、原件和数据库冷备份及独立恢复已经验证。上传与本地检索无需付费 Embedding API,DeepSeek 按实际调用计费;电脑需保持在线与唤醒。

本地量化模型已接入 Provider,但回答质量尚未达到公开门槛,保留私有试用。小型 GPT 的训练实验继续推进,训练、量化导出和服务上线的完整链路仍未完成;不会自动替换正式网站的 DeepSeek。