AI Papers — Wichtige Forschung verständlich erklärt
Die wichtigsten Papers zu LLMs, RAG, Agents und AI Safety — auf Deutsch zusammengefasst.
Attention Is All You Need (2017)
Das Transformer-Paper: Warum Self-Attention die gesamte AI-Landschaft verändert hat.
2026-03-21Retrieval-Augmented Generation (2020)
RAG erklärt: Wie LLMs durch externe Wissensquellen besser und zuverlässiger werden.
2026-03-21LoRA: Low-Rank Adaptation (2021)
Parameter-effizientes Fine-Tuning: Große Modelle anpassen ohne alles neu zu trainieren.
2026-03-21ReAct: Reasoning and Acting (2022)
Das Agent-Pattern ReAct: Wie LLMs durch abwechselndes Denken und Handeln Aufgaben lösen.
2026-03-21
Constitutional AI (2022)
AI Safety von Anthropic: Wie man AI-Systeme durch Prinzipien statt durch Menschen aligned.
2026-03-21
Hierarchical Reasoning Model (2025)
Rekurrente Architektur mit nur 27M Parametern die ohne Chain-of-Thought komplexe Aufgaben löst — Sudoku, Pfadfindung, ARC.
2025-06-2611 weitere Artikel (generiert)
Generiert im März 2026, redaktionell nicht geprüft — jeder Artikel sagt das in seinem Kopf.
BERT — Bidirektionale Encoder-Transformers
Masked Language Modeling, Next Sentence Prediction, bidirektionaler Kontext, das Fine-tuning Paradigma, Impact und Legacy (RoBERTa, ALBERT, DeBERTa).
2026-03-21 · generiert, nicht geprüft
Chain-of-Thought — Schritt-für-Schritt Reasoning
Wei et al. 2022, Few-shot CoT prompting, Zero-shot CoT ("Let's think step by step"), Self-consistency, Tree of Thoughts extensions.
2026-03-21 · generiert, nicht geprüft
Die GPT-Serie — Von GPT-1 bis GPT-4
Die Entwicklungsgeschichte von GPT-1 über GPT-2, GPT-3 bis zur aktuellen GPT-4. Architektur-Evolution, Scaling Laws, und warum die Serie den KI-Markt revolutioniert hat.
2026-03-21 · generiert, nicht geprüft
DPO erklärt — Direct Preference Optimization
"Direct Preference Optimization" (Rafailov et al. 2023). DPO ist schneller und billiger als RLHF. Warum manche sagen es ersetzt RLHF, andere nicht.
2026-03-21 · generiert, nicht geprüft
Flash Attention — Effiziente Transformer-Inferenz
IO-aware attention, Tiling, Memory-Hierarchie. Flash Attention 1 vs. 2 vs. 3, Speed/Memory Improvements, praktische Auswirkungen auf Inferenz.
2026-03-21 · generiert, nicht geprüft
LLaMA — Meta's Open-Source Sprachmodelle
Von LLaMA 1 bis LLaMA 3. Training-Strategien, Architektur-Entscheidungen, RLHF in LLaMA 2, und warum Meta diese Modelle open-source stellte.
2026-03-21 · generiert, nicht geprüft
Mixture of Experts erklärt
"Mixtral of Experts" (Mistral 2024) + MoE-Konzept. Sparse Activation, Routing, effiziente große Modelle. DeepSeek MoE und die Zukunft.
2026-03-21 · generiert, nicht geprüft
RLHF erklärt — Training mit menschlichem Feedback
"Training Language Models to Follow Instructions with Human Feedback" (InstructGPT-Paper). RLHF macht Modelle hilfreich und sicher. Wie Reward Models und PPO funktionieren.
2026-03-21 · generiert, nicht geprüft
Scaling Laws erklärt — Compute-Optimal Training
"Scaling Laws for Neural Language Models" (Kaplan et al. 2020) + Chinchilla. Wie viele Parameter? Wie viel Daten? Die mathematischen Regeln hinter großen Modellen.
2026-03-21 · generiert, nicht geprüft
Stable Diffusion — Latente Diffusions-Modelle
Latent Diffusion Models Paper (Rombach et al.), VAE + U-Net + CLIP Architektur, Conditioning. SD 1.5 → SDXL → SD3 Evolution.
2026-03-21 · generiert, nicht geprüft
Whisper — Multilingual Speech Recognition
Radford et al., weak supervision at scale, encoder-decoder transformer architecture, multilingual training, model sizes, accuracy vs speed tradeoffs.
2026-03-21 · generiert, nicht geprüft
Weiter im Lernpfad
Der Lernpfad bringt diese Artikel in eine Reihenfolge, und der Hub führt die Bausteine, die wir im eigenen Betrieb geprüft haben.
- Lokal und selbst gehostet
- Dokumentiert und prüfbar
- Aus eigenem Betrieb
- Made in Austria