Xilin Zhu
KontaktAvailable for work
← Alle Projekte

Studienprojekt · Karlsruher Institut für Technologie (KIT)

Studienprojekt KI und Computer Vision

Generative Modelle und Transformer-Komponenten, von Grund auf implementiert

2025.04 — 2025.08

PyTorch-Implementierungen eines generativen Modells und der zentralen Komponenten einer Transformer-Architektur für Bilddaten, vom Aufbau über das Training bis zur Inferenz.

Vorgehen

  • Ein GAN auf PyTorch-Basis zur Erzeugung handgeschriebener Ziffern auf MNIST
  • Zentrale Komponenten eines Vision Transformers von Grund auf implementiert
  • Bildinferenz mit einem vortrainierten ViT erprobt

Warum es hier bleibt

Von den sechs Projekten ist dieses das kleinste, und sein Wert liegt in der Grundlage, nicht im Ergebnis: Über Attention, Patch-Embedding und adversariales Training zu lesen ist etwas anderes, als sie selbst zu schreiben. Als die spätere Arbeit in Richtung VLA ging, musste diese Ebene nicht neu erarbeitet werden.