阶段进度
| 阶段 | 解决的问题 | 状态 |
|---|---|---|
| 0 · 骨架 | 从零设计一个可部署的 LLM 应用:配置、安全边界、工程可维护性 | 完成 |
| 1 · 人设 | 不做微调,怎么让模型稳定地用第一人称说话;怎么压低幻觉与资料泄露 | 完成,人设经本人审核批准 |
| 2 · 后端 | 生产可用的 LLM 后端:SSE 流式、取消、重试、限流、注入防护、成本控制 | 完成 |
| 3 · 前端 | 无框架实现可嵌入的对话组件:正确消费 SSE 字节流、取消重试、状态恢复、XSS、无障碍 | 完成 |
| 4 · 上线 | 安全上线到免费容器平台:密钥不进 Git 与镜像、生产 CORS、就绪检查、回滚门禁 | 完成,含一次真实回滚演练 |
| 5 · 可观测 | 不保存原始对话、不加数据库的前提下,怎么知道系统好不好用 | 完成 |
| 6 · 自托管推理 | 把本机量化模型接进同一套调用路径 | 仓库实现与本地验证完成,生产未切换 |
| 7 · 从零训练 | 走完从零训练 → 量化导出 → 接入服务的完整链路 | 进行中 |
| 8 · RAG 知识库 | 四格式自动入库、混合检索、带来源回答、版本管理、Persona 迁移和本机常驻 | 完成,正式网站接入 DeepSeek 与已发布资料 |
RAG 升级
原先新增项目事实需要改 Persona。RAG 升级后,管理员拖入文件即可自动识别基本信息、解析并建立索引;需要时发布给网站使用,后续替换或撤回无需重新训练和部署网站。核心身份与风格仍由 Persona 管理,动态事实迁入知识库。
按实际解析材料构建中英德虚构题集,分别验证正确版本的证据召回、事实与引用支持、拒答、身份与作者归属。上线前修复过私有预览提示、技术问题误走学历模板、结果段被背景挤掉,以及首页断流后控件不恢复的问题。
当前运行与后续实验
正式网站通过 Tailscale Funnel 访问本机公开镜像,并使用 DeepSeek 回答。实际 Windows 登录后无窗口自启、固定密码、原件和数据库冷备份及独立恢复已经验证。上传与本地检索无需付费 Embedding API,DeepSeek 按实际调用计费;电脑需保持在线与唤醒。
本地量化模型已接入 Provider,但回答质量尚未达到公开门槛,保留私有试用。小型 GPT 的训练实验继续推进,训练、量化导出和服务上线的完整链路仍未完成;不会自动替换正式网站的 DeepSeek。