Open Source Tools & Projekte
Kuratierte Sammlung empfehlenswerter Open-Source-Tools für lokale AI, Agent-Frameworks, RAG, Monitoring und Automation. Alle Tools sind Self-Hosted-fähig und auf GitHub verfügbar.
69 Tools in 9 Kategorien | Zuletzt aktualisiert: März 2026
LLM Runtimes & Interfaces
Lokale LLM-Ausführung, Inference-Engines und Chat-Interfaces für Self-Hosted AI.
Ollama
Lokale LLM Runtime — get up and running with large language models.
Ollama Python
Python-Library für die Ollama API.
Open WebUI
User-friendly WebUI für LLMs — unterstützt Ollama und OpenAI-kompatible APIs.
LocalAI
Open Source Alternative zu OpenAI — self-hosted, läuft auch ohne GPU.
exo
Run AI models on your own hardware — Cluster über mehrere Geräte.
BitNet
Official inference framework for 1-bit LLMs von Microsoft.
vLLM
High-throughput and memory-efficient inference and serving engine for LLMs.
LibreChat
Enhanced ChatGPT Clone mit MCP-Support, Multi-Provider und Multi-User Auth.
Agent Frameworks
Frameworks und Plattformen für autonome AI-Agenten, Multi-Agent Systeme und Orchestrierung.
CrewAI
Framework for orchestrating role-playing, autonomous AI agents.
CrewAI Examples
Sammlung von CrewAI-Beispiel-Workflows und Use Cases.
AutoGen
An open-source framework for building AI agent systems von Microsoft.
DeepAgents
LangChain/LangGraph Agent mit Planning und Subagents.
mem0
The Memory layer for AI apps — persistentes Gedächtnis für AI Agents.
Hindsight
Agent memory that learns — lernfähiges Agent-Gedächtnis.
Eliza
Autonomous agents for everyone — Agent-Framework für alle.
Agent Squad
Multi-Agent Management Framework von AWS Labs.
Hermes Agent
An agent that grows with you — von NousResearch.
LobeHub
Multi-Agent Collaboration Platform.
Maestro
Agent Orchestration Command Center.
ChatDev
Communicative agents for software development — Multi-Agent Dev Collaboration.
ruflo
Multi-Agent Swarm Orchestration für Claude.
OpenViking
Context Database for AI Agents — Memory, Resources und Skills.
12-Factor Agents
Prinzipien für den Bau von produktionstauglicher LLM-Software.
Awesome AI Agents
Kuratierte Liste autonomer AI Agents und Agent-Frameworks.
Workflow Automation
Workflow-Engines und Automatisierungs-Plattformen mit nativer AI-Integration.
n8n
Fair-code workflow automation platform with native AI capabilities.
n8n Workflows (Community)
Riesige Sammlung von n8n Community-Workflows.
n8n Self-hosted AI Starter Kit
Offizielles Starter Kit von n8n für Self-hosted AI mit Ollama, Qdrant und PostgreSQL.
Kestra
Event-driven orchestration platform to build workflows in code or from UI.
RAG & Knowledge
Vector-Datenbanken, RAG-Frameworks und Knowledge-Management für AI-Anwendungen.
open-notebook
Open Source NotebookLM Alternative — Knowledge-Management mit AI.
Qdrant
High-performance, massive-scale vector search engine written in Rust.
Quivr
Opinionated RAG für generative AI Anwendungen.
OpenRAG
RAG Platform basierend auf Langflow, Docling und OpenSearch.
PageIndex
Document indexing for vectorless RAG — RAG ohne Vector-Datenbank.
LEANN
RAG mit 97% Storage-Einsparung, 100% lokal und privat.
OpenDataLoader PDF
PDF Parser für AI-ready Daten.
Claude Code & OpenClaw Ecosystem
Skills, Plugins, Hooks und Ressourcen rund um Claude Code und das OpenClaw-Ökosystem.
Anthropic Skills
Offizielle Agent Skills Repository von Anthropic.
Claude Cookbooks
Offizielle Claude Notebooks und Recipes von Anthropic.
Claude Plugins Official
Offizielle Claude Code Plugins.
Knowledge Work Plugins
Knowledge Worker Plugins für Claude.
Superpowers
Agentic Skills Framework und Methodik für Claude Code.
Claude Code Hooks Mastery
Umfassender Guide für Claude Code Hooks.
Claude Code Hooks Multi-Agent Observability
Multi-Agent Monitoring und Observability via Claude Code Hooks.
Awesome Claude Code Toolkit
Umfassendes Claude Code Toolkit der Community.
Awesome OpenClaw Use Cases
Community-kuratierte OpenClaw Use Cases.
Context Hub
Andrew Ngs Context Hub für AI Agents.
Infrastructure & DevOps
Reverse Proxies, Dokumentenmanagement, Server-Security und Observability.
Traefik
The Cloud Native Application Proxy — moderner Reverse Proxy und Load Balancer.
Paperless-ngx
Document management system — scan, index, archive your physical documents.
How To Secure A Linux Server
Umfassender Guide zur Absicherung eines Linux-Servers.
Awesome Sysadmin
Kuratierte Liste von Open Source Sysadmin-Tools und Ressourcen.
Playwright
Framework for web testing and automation von Microsoft.
Langfuse
Open source LLM engineering platform — Traces, Evals, Prompt Management, Metrics.
Security & Compliance
AI Security Testing, Red Teaming und Vulnerability Scanning für AI-Systeme.
Sonstige Tools
Web Scraping, Voice AI, API-Entwicklung und weitere nützliche Open-Source-Tools.
Firecrawl
Turn websites into LLM-ready markdown or structured data.
Handy
Open source offline-fähiges Speech-to-Text.
LiveKit Agents
Build real-time multimodal AI applications — Framework für Voice AI Agents.
NocoDB
Open source Airtable alternative — self-hostbare No-Code-Datenbank.
Lightpanda Browser
Headless Browser für AI und Automation.
LLM Server Docs
Komplette Dokumentation für den Aufbau eines eigenen LLM-Servers auf Debian.
Hoppscotch
Open source API development ecosystem.
Remotion
Make videos programmatically with React.
HA LLM Vision
Home Assistant Integration für LLM Vision — Bildanalyse mit lokalen Modellen.
HA Ollama Addon
Home Assistant Addon für Ollama — lokale LLMs im Smart Home.
Lernressourcen
Bücher, Kurse und Sammlungen zum Lernen von AI Engineering, ML und LLMs.
LLMs from Scratch
Build a Large Language Model (From Scratch) — LLM-Implementierung in PyTorch.
Awesome LLM Apps
Collection of awesome LLM apps with AI Agents and RAG using OpenAI, Anthropic, Gemini.
ML Engineering Open Book
Machine Learning Engineering Open Book — umfassendes ML-Nachschlagewerk.
AI Engineering Hub
Tutorials zu LLMs, RAGs und AI Agent Anwendungen.
CS249r ML Systems (Harvard)
Machine Learning Systems — Lehrbuch von Harvard.
DataCamp: Lokale AI Tutorial
Praxistutorial von DataCamp zum Aufsetzen und Nutzen lokaler KI-Modelle.
Diese Liste basiert auf einer systematischen Analyse von 239 GitHub-Starred-Repos. Aufgenommen wurden nur Projekte mit einer Relevanz von mindestens 7/10 für lokale AI-Infrastruktur und Self-Hosted-Setups. Die Beschreibungen stammen aus den offiziellen GitHub-Repositories.
Quellen
Weiterführende Artikel: AI Tools Datenbank · Ollama Tutorial · Lokal vs. Cloud
Für die Umsetzung gibt es Ressourcen auf ai-engineering.at.
Verwandte Artikel
War dieser Artikel hilfreich?
Weiter im Lernpfad
Der Lernpfad bringt diese Artikel in eine Reihenfolge, und der Hub führt die Bausteine, die wir im eigenen Betrieb geprüft haben.
- Lokal und selbst gehostet
- Dokumentiert und prüfbar
- Aus eigenem Betrieb
- Made in Austria