Xilin Zhu
KontaktAvailable for work
← KI-Zwilling

KI-Zwilling

Entwicklungslog

Vom ursprünglichen Chat-Agenten zur persistenten Dokumentenwissensbasis

ENTWURF — vom Autor zu prüfen

Der ursprüngliche Agent wurde um Dokumentverarbeitung, mehrsprachige Suche, belegte Antworten und tägliche Wissensverwaltung erweitert. Das lokale Modelltraining läuft als separates Experiment weiter; der öffentliche Agent antwortet über DeepSeek.

Stand der Phasen

PhaseGeliefertes ErgebnisStand
0 · GrundgerüstKonfiguration, Anwendungsstruktur und ein auslieferbarer LLM-DienstAbgeschlossen
1 · PersonaFreigegebene Identität und Sprachstil für einen persönlichen Agenten in der ersten PersonAbgeschlossen
2 · BackendJSON- und SSE-Antworten, Abbruch, Wiederholung, Ratenbegrenzung und KostenkontrolleAbgeschlossen
3 · FrontendEinbettbare Web Component mit Streaming, Wiederholung, Zustandswiederherstellung und BarrierefreiheitAbgeschlossen
4 · InbetriebnahmeFunktionierendes Website-Deployment, Readiness-Prüfungen und eine tatsächliche Rollback-ÜbungAbgeschlossen
5 · BeobachtbarkeitAnonyme Anfragekennzahlen ohne Speicherung von RohgesprächenAbgeschlossen
6 · Lokale InferenzQuantisierte llama.cpp-Inferenz über dieselbe Provider-SchnittstelleCode und lokale Verifikation abgeschlossen; privater Versuch
7 · Training von Grund aufTrainingsversuche mit kleinen Modellen und die Kette vom Training bis zum BetriebIn Arbeit
8 · WissensbasisPersistente Dokumentverarbeitung, Suche, Quellenangaben, Veröffentlichungsverwaltung und HintergrundbetriebFür den lokalen Dienst und die öffentliche Website abgeschlossen

Ergänzungen durch die RAG-Phase

Die Verwaltungsseite nimmt MD, TXT, PDF und DOCX an, erkennt Metadaten und startet Verarbeitungsaufträge im Hintergrund. Die Textextraktion erhält Quellenpositionen; Textabschnitte und lokal erzeugte Embeddings werden persistent gespeichert. Eine Kombination aus semantischer Suche und Stichwortsuche wählt Belege aus zugelassenen aktuellen Dokumentversionen aus.

Die Persona enthält Identität und Sprachstil; Dokumente liefern veränderliche Projektinformationen. JSON- und Streaming-Antworten nutzen dieselben Belege und Quellenangaben. Besucher können die zugehörigen Textstellen auf der Website aufklappen. Private Vorschau und ausdrückliche Veröffentlichung sind getrennt; für Besucherantworten gibt es eine öffentliche Spiegelung.

Ersetzung, Rücknahme, Löschung, wiederholbare Aufträge und die Verwaltung mit festem Passwort machen die Wissensbasis im Alltag nutzbar. Die statische Render-Website verbindet sich über Tailscale Funnel mit dem lokalen Dienst, der nach der Windows-Anmeldung ohne Konsolenfenster startet. DeepSeek beantwortet öffentliche Anfragen.

Prüfung der Fertigstellung

Die Kennzahlen am Anfang der Projektseite beruhen auf einem festen fiktiven Abnahmesatz auf Chinesisch, Englisch und Deutsch. Die Suche wird anhand von Dokumentversion, Quellenposition und Text bewertet. Die Antwortqualität stammt aus der manuellen Prüfung von DeepSeek-Antworten; beim jüngsten Suchregressionstest wurde nicht der gesamte Antwortsatz neu erzeugt.

Offline-Backend-Tests wurden durch isolierte Datenbankprüfungen für Dateiformate, Wiederholungen, Versionen, Berechtigungen, Quellenangaben und öffentliche Spiegelung ergänzt. Tatsächliche Website-Aufrufe, Quellenschnittstellen, Hintergrundstart, die Dauer der PDF-Verarbeitung und die Wiederherstellung eines echten Backups bei gestopptem Dienst wurden separat geprüft.

Die letzten Korrekturen leiten technische Fragen zu Bachelorprojekten zur Wissensbasis, bevorzugen bei Ergebnisfragen tatsächliche Messwerte gegenüber Hintergrundabschnitten und geben die Startseiten-Bedienelemente nach einem Stream ohne Abschlussereignis wieder frei.

Modellversuche laufen weiter

Der lokale llama.cpp-Pfad mit quantisiertem Qwen3-4B funktioniert für private Versuche. Der öffentliche Dienst nutzt DeepSeek; das lokale Modell braucht für diese Aufgabe noch eine höhere Antwortqualität.

Trainingsversuche mit einem kleinen Decoder-only-GPT laufen bereits. Quantisierter Export und Einbindung in die Inferenzschnittstelle folgen später; die vollständige Kette vom Training bis zum Produktionsbetrieb bleibt in Arbeit.