Xilin Zhu
KontaktAvailable for work
← KI-Zwilling

KI-Zwilling

Architektur

FastAPI, eine einbettbare Chat-Oberfläche und eine persistente RAG-Wissensbasis

ENTWURF — vom Autor zu prüfen

Der Browser bringt den Gesprächsverlauf mit; eine lokale Datenbank speichert Dokumente und durchsuchbare Belege. Der öffentliche Agent verbindet eine freigegebene Persona mit ausdrücklich veröffentlichtem Material und antwortet über DeepSeek.

Von der Frage zur Antwort

Persönliche Website / Web Component
                 │ JSON oder SSE über HTTPS
                 ▼
Tailscale Funnel → öffentlicher FastAPI-Dienst
                 │
                 ├── freigegebene Persona: Identität und Sprachstil
                 ├── öffentliche Wissensspiegelung: aktuelle veröffentlichte Textstellen
                 └── Provider-Adapter → DeepSeek
                 │
                 ▼
Antwort + Quellenangaben → aufklappbare Textstellen auf der Website

FastAPI prüft die Anfrage und bereitet dieselben Belege für JSON- und Streaming-Antworten vor. Die Persona legt fest, wen der Agent vertritt und wie er spricht; die Wissensbasis liefert veränderliche Projektinformationen. Semantische Ähnlichkeit, Stichwortsuche und Belegauswahl finden relevante Textstellen, bevor das Modell seine Antwort formuliert.

Der Provider-Adapter trennt den Modellzugriff vom Frontend-Vertrag und übernimmt Abbruch, Wiederholung und Ratenbegrenzung. Lokale llama.cpp-Inferenz nutzt dieselbe Schnittstelle für private Versuche; DeepSeek beantwortet öffentliche Anfragen.

Vom Upload zum durchsuchbaren Dokument

Lokale Verwaltungsseite
        │ MD / TXT / PDF / DOCX hineinziehen
        ▼
Hintergrundprozess → Textextraktion → Abschnitte + Quellenpositionen
        │
        ├── Originaldateien + persistenter privater Dokumentindex
        └── ausdrückliche Veröffentlichung → separate öffentliche Spiegelung

Die Verwaltungsseite erkennt grundlegende Metadaten automatisch. Der Hintergrundprozess extrahiert Text, hält Seiten-, Absatz- und Tabellenpositionen fest und erzeugt mit FastEmbed lokal mehrsprachige Embeddings. Eine PostgreSQL-kompatible Datenbank mit pgvector speichert Textabschnitte und Vektoren zusammen mit Dokumentversionen und Verarbeitungsstatus.

Fertig verarbeitete Uploads werden automatisch zur aktuellen Version; schlägt eine Ersetzung fehl, bleibt die vorherige Version erhalten. Die private Vorschau nutzt die für den Eigentümer zugelassenen Dokumente; Besucher können ausschließlich aktuelle veröffentlichte Versionen aus der öffentlichen Spiegelung abrufen. Ersetzung, Rücknahme und Löschung ändern die Verfügbarkeit ohne erneuten Website-Build. Verarbeitungsaufträge lassen sich wiederholen und nach Unterbrechungen fortsetzen.

Der Quellenzugriff wird anhand der aktuellen Berechtigungen geprüft. Quellen zeigen die zugelassenen Textstellen; Originaldateien bleiben im lokalen Speicher.

Betriebstopologie

Die statische Website läuft auf Render unter meiner eigenen Domain. FastAPI, Hintergrundprozess, Originaldateien und persistente Datenbanken laufen auf meinem Windows-Computer. Tailscale Funnel stellt die öffentliche HTTPS-Verbindung zum Besucherdienst bereit; die Verwaltungsoberfläche bleibt lokal.

Die Dienste starten nach der Windows-Anmeldung ohne sichtbares Konsolenfenster. Sie laufen weiter, wenn ich die Verwaltungsseite im Browser schließe. Für Wissensbasis-Antworten muss der Computer wach und verbunden bleiben; das statische Portfolio ist unabhängig davon erreichbar.

Infrastruktur und lokale Embeddings nutzen kostenlose Ressourcen. DeepSeek wird nach API-Nutzung abgerechnet; Ausgabe- und Anfragelimits begrenzen die Ausgaben. Backups bei gestopptem Dienst enthalten Originaldateien und Indizes; die Wiederherstellung wurde in einer isolierten Datenbank geprüft.

Übernommene Entscheidungen des ursprünglichen Agenten

  • Der Gesprächsverlauf bleibt im Browser. Anfragen enthalten die jüngsten Gesprächsrunden; das Backend speichert keine langfristigen Chat-Sitzungen. Dokumente, Indizes, Versionen und Verarbeitungsstatus werden persistent gespeichert.
  • Ein einbettbares Frontend. Natives Custom Element und Shadow DOM isolieren die Widget-Stile. Berufliche und lockere Verläufe bleiben getrennt; Chinesisch, Englisch und Deutsch werden unterstützt.
  • Gemeinsame Antwortvorbereitung. JSON und SSE nutzen dieselben Belege und Quellenangaben. Abbruch, Wiederholung und Wiederherstellung nach unterbrochenem Streaming halten die Oberfläche bedienbar.
  • Nützliche Betriebskennzahlen. Anonyme strukturierte Kennzahlen erfassen Latenz, Fehler und Token-Verbrauch ohne Rohgespräche. Geschütztes Rendern, CORS für zugelassene Ursprünge und Readiness-Prüfungen bleiben Bestandteil des Dienstes.
  • Ein separater Container-Pfad. Das ursprüngliche Docker-Deployment bleibt verfügbar, mit Lockfile, Laufzeit ohne Root-Rechte und geordnetem Herunterfahren. Der aktuelle persistente RAG-Dienst läuft lokal.