Fünf Jahre BERTA Lab: Was 90+ Projekte über lokale Enterprise-KI gelehrt haben

Veröffentlichungsdatum: 2030-03-02
Kanal: LinkedIn
Autor: Daniel Röding, Bechtle AI Competence Center Bremen

Im März 2025 haben wir das erste Experiment im BERTA Lab gestartet: Nemotron 3 Super gegen GPT-4 im RAG-Benchmark, auf unserer eigenen Hardware.

Fünf Jahre später: über 90 abgeschlossene Projekte, acht produktive KI-Tools im Dauerbetrieb, und ein Team aus sechs autonomen KI-Agenten, die täglich ohne direkte menschliche Steuerung arbeiten.

Zeit für eine ehrliche Bilanz — nicht als Marketingtext, sondern als strukturierte Lernkurve.

Was sich bestätigt hat

Lokale Inference ist keine Einschränkung, sie ist eine Stärke

Der häufigste Einwand 2025 war: "Lokale Modelle können nicht mit Cloud-APIs mithalten." Das stimmt für reine Capability-Vergleiche immer noch in bestimmten Bereichen. Aber der echte Wettbewerbsvorteil lokaler Inference entsteht nicht aus dem Modell allein — er entsteht aus Kontrolle, Latenz, Datensouveränität und der Fähigkeit, Systeme auf spezifische Domänen feinzujustieren.

Unser Voicebot Bea läuft seit 2026 im Produktiveinsatz für Vergaberecht. Kein einziges Vergabedokument hat jemals einen Cloud-Server erreicht. Das ist für öffentliche Auftraggeber kein Nice-to-have — es ist Grundvoraussetzung.

Domänenwissen schlägt Modellgröße

Das wichtigste Learning aus 90 Projekten: 70% des Wertes entsteht aus domänenspezifischer Datenaufbereitung, Kontextualisierung und Feintuning. 30% aus der Modellwahl. Unternehmen, die viel in das Modell, aber wenig in das Domänenwissen investieren, bekommen gute Demo-Ergebnisse und schlechte Produktionsergebnisse.

Governance ist keine Bremse — sie ist Voraussetzung für Skalierung

Was 2026 wie Compliance-Overhead aussah, hat sich als strategische Investition erwiesen. Teams mit klaren Entscheidungsrahmen für KI-Autonomie, nachvollziehbaren Audit-Trails und definierten Eskalationspfaden skalieren schneller als Teams, die diese Grundlagen nachrüsten müssen.

Was uns überrascht hat

KI-Agenten brauchen mehr Management als erwartet

Autonome Agenten sind nicht autonom in dem Sinne, dass sie keine Führung brauchen. Sie sind autonom in dem Sinne, dass sie viele Einzelentscheidungen ohne menschliche Genehmigung treffen können — aber die Rahmenbedingungen, Ziele und Qualitätskriterien müssen Menschen setzen.

Wir haben gelernt: Ein gutes KI-Team braucht einen guten Product Owner. Nicht um alles zu genehmigen, sondern um Richtung und Qualitätsstandards zu definieren.

Akzeptanz ist das härtere Problem als Technologie

Bei fast jedem Kundenprojekt war die technische Umsetzung das lösbare Problem. Die wirkliche Herausforderung: Wie verändert sich die Zusammenarbeit, wenn KI-Systeme bestimmte Aufgaben übernehmen? Welche menschlichen Aufgaben werden wertvoller, welche fallen weg? Diese Fragen früh zu stellen — und ehrlich zu beantworten — entscheidet über Projekterfolg mehr als jede Modellwahl.

Multimodalität kommt mit Komplexitätskosten

Systeme, die Text, Sprache und Bilder gemeinsam verarbeiten, liefern bessere Ergebnisse — aber sie sind deutlich schwerer zu debuggen, zu testen und zu monitoren. Die Investition lohnt sich, aber der operative Aufwand sollte realistisch eingepreist werden.

Fünf Zahlen aus fünf Jahren

• 90+ abgeschlossene Lab-Projekte
• 8 produktive KI-Tools im Dauerbetrieb
• 6 autonome Agenten im täglichen Betrieb (Paperclip-Team)
• 0 Sicherheitsvorfälle durch KI-Systeme in Produktion
• >2.000 Vergabegespräche, die Bea begleitet hat

Was wir 2030 anders machen würden

Früher in Infrastruktur investieren, später in Einzelprojekte. Die ersten zwölf Monate hätten produktiver sein können, wenn wir früher eine stabile Monitoring-, Logging- und Deployment-Infrastruktur aufgebaut hätten.

Domänenwissen vor Modellauswahl. Nicht "Welches Modell?" sondern "Welches Domänenwissen haben wir, und wie strukturieren wir es?" ist die wichtigere erste Frage.

Governance von Tag 1. Was wir nachträglich dokumentiert und strukturiert haben, wäre einfacher gewesen, wenn wir es von Anfang an eingebaut hätten.

Fünf Jahre — und das Interessanteste liegt noch vor uns.

Was sind Ihre wichtigsten Learnings aus dieser Phase der KI-Adaption?

Daniel Röding leitet das Bechtle AI Competence Center Bremen. Das BERTA Lab betreibt seit März 2025 Grundlagenforschung und Produktentwicklung im Bereich lokaler und hybrider Enterprise-KI.

Tags: #KünstlicheIntelligenz #EnterpriseKI #BERTALab #Jubiläum #5JahreKI #Mittelstand #Lessons #Bilanz #LokalKI #Paperclip