Das KI-Jahr 2028: Fünf Erkenntnisse aus drei Jahren lokalem Enterprise-KI-Labor

BERTA Lab | Dezember 2028

Ende 2028. BERTA Lab existiert seit drei Jahren. Wir haben in dieser Zeit über 60 KI-Projekte entwickelt, zehn davon in produktiven Unternehmenseinsatz gebracht, mehrere tausend Arbeitsstunden in Infrastruktur, Evaluation und Iteration investiert.

Hier sind die fünf Erkenntnisse, die ich 2028 in die nächsten drei Jahre mitnehme.

1. Das Stack-Momentum-Problem ist real — und unterschätzt

2025 haben wir auf Ollama und llama.cpp gesetzt. 2026 auf vLLM migriert. 2027 LiteLLM als Abstraktions-Layer eingeführt. 2028 erste multimodale Modelle integriert.

Jede Migration war richtig — und schmerzhaft.

Das, was in der KI-Community oft als "einfaches Austauschen" beschrieben wird (neues Modell, neue API-Version, neues Framework), ist in der Praxis ein Projekt. Nicht wegen der technischen Komplexität, sondern wegen der stillen Abhängigkeiten: Prompts, die genau auf das alte Modell-Verhalten optimiert waren. Fine-Tuning-Artefakte, die nicht portierbar sind. Nutzerwartungen, die sich an ein bestimmtes Antwortformat gewöhnt haben.

Erkenntnis: Investiere früh in Abstraktions-Layer (LiteLLM, OpenAI-kompatibler Wrapper). Du wirst migrieren — lass dir das nicht jedes Mal als separates Projekt abrechnen.

2. Die Qualitäts-Lücke hat sich verschoben, nicht geschlossen

2025 war die Frage: „Können lokale Modelle mit GPT-4 mithalten?" 2028 ist die Frage differenzierter.

Für strukturierte Aufgaben (RAG, Extraktion, Klassifikation, Code-Generation) — ja. Llama 4 und GLM-5 sind auf Augenhöhe mit den proprietären Frontier-Modellen von 2026.

Für spontanes mehrschrittiges Reasoning über unbekannte Probleme — noch nicht vollständig. Die besten proprietären Modelle (Claude Opus, GPT-5) sind in diesem Bereich weiterhin einen erkennbaren Schritt voraus.

Die praktische Konsequenz: Hybride Ansätze bleiben relevant. Lokale Modelle für Volumen und Standardaufgaben, proprietäre Frontier-Modelle für die 10% der Fälle, die echtes Deep Reasoning erfordern.

Erkenntnis: Die Entscheidung „lokal vs. Cloud" ist keine binäre — es ist eine Portionierungsfrage.

3. Autonome Agent-Teams brauchen Governance, keine Supervision

Als wir Paperclip eingeführt haben, war die Erwartung: Menschen überwachen, Agents exekutieren. Die Realität 2028: Agents laufen selbstständig, Menschen setzen Ziele und prüfen Ergebnisse.

Das klingt gut — und ist es auch. Aber es braucht strukturierte Governance-Mechanismen:

Wer darf Agents neue Tasks erstellen? Wer prüft, ob ein Agent mehr Ressourcen anfordert als vereinbart? Was passiert, wenn ein Agent eine Entscheidung trifft, die einen Nutzer betrifft, ohne diesen zu informieren?

Im BERTA Lab haben wir einen einfachen Grundsatz entwickelt: Agents dürfen alles, was reversibel ist. Für irreversible Aktionen (E-Mails versenden, externe APIs aufrufen, Produktionssysteme ändern) gibt es immer einen menschlichen Confirmation-Step.

Erkenntnis: Autonomie ist kein Zielzustand, sondern ein Spektrum. Definiere für jede Agent-Aktion explizit, wo auf dem Spektrum sie liegt.

4. Das Domänenwissen-Problem ist das eigentliche KI-Projekt

Der Grund, warum die meisten KI-Piloten scheitern, ist nicht die Technologie. Es ist das Wissen.

Bea ist gut, weil wir drei Jahre Vergaberecht-Expertise in Dokumente, Fine-Tuning-Daten und Qualitätsbewertungen investiert haben. Hermes ist gut, weil wir 2.700 Compliance-Dokumente kuratiert, strukturiert und kontinuierlich aktualisiert haben.

KI ist der Turbo — aber sie braucht das Benzin des strukturierten Domänenwissens. Wer glaubt, ein LLM „weiß" das Fachdomänen-Wissen seines Unternehmens automatisch, wird enttäuscht.

Erkenntnis: Das KI-Projekt ist zu 30% Technologie und zu 70% Wissensmanagement. Plane entsprechend.

5. Der Mensch im Loop ist keine Schwäche

Drei Jahre BERTA Lab haben uns gezeigt: Die besten KI-Systeme sind nicht die, die am meisten automatisieren. Es sind die, die die richtige Balance zwischen Automatisierung und menschlichem Urteil treffen.

Bea entscheidet nicht, welche Ausschreibungen wir abgeben. Sie bereitet vor, und ein Mensch entscheidet.
Hermes klassifiziert Compliance-Dokumente. Ein Jurist prüft die Grenzcases.
Unsere Analyse-Agents erstellen Bewertungsrahmen. Ein Analyst verifiziert und zeichnet ab.

Das ist kein Zeichen von Unreife der Technologie. Es ist das richtige Design für den Einsatz von KI in wirtschaftlich und rechtlich relevanten Entscheidungsprozessen.

Erkenntnis: „Human in the Loop" ist keine Notlösung für Technologiegrenzen. Es ist gutes Systemdesign.

Was 2029 bringt

Drei Themen werden das nächste Jahr prägen:

Multimodalität in der Breite: Was heute noch als experimentell gilt — Audio-native Modelle, Video-Verständnis, multi-sensorische Input-Verarbeitung — wird zur Standardkomponente.

Agent-Infrastruktur als Produkt: Mehr Unternehmen werden eigene Paperclip-ähnliche Systeme einsetzen oder kaufen. Die Frage ist nicht mehr ob, sondern welches Framework und welche Governance.

EU AI Act in der Praxis: 2029 beginnen die ersten größeren Durchsetzungsverfahren. Wer gut dokumentiert hat, wird das merken — und die anderen auch.

Drei Jahre BERTA Lab haben uns vor allem eines gelehrt: KI im Unternehmenseinsatz ist ein langfristiges Projekt. Die Unternehmen, die 2029 am meisten von KI profitieren, haben 2025 angefangen — nicht mit dem perfekten System, sondern mit dem ersten echten Einsatz.

Also: Wenn du noch nicht angefangen hast — starte jetzt. Nicht mit dem Pilot. Mit dem ersten echten Use Case.

Daniel Röding
KI-Architekt und Leiter BERTA Lab, Bechtle AI Competence Center Bremen

#KI #EnterpriseKI #BERTALab #Jahresrückblick #AI2028 #OnPremiseAI #AgentAI #KIStrategie #Mittelstand