AI Engineering

KI, die den Weg in den Produktivbetrieb übersteht

Der Sprung vom beeindruckenden Prototyp zum belastbaren Produktivsystem ist der Punkt, an dem die meisten KI-Vorhaben stehenbleiben. Genau dort liegt mein Schwerpunkt: Integration, Nachvollziehbarkeit, Betrieb und Datenschutz.

Ausgangslage

Der Prototyp ist nicht das Problem

Ein Chat-Fenster an ein Sprachmodell zu hängen, gelingt an einem Nachmittag. Was danach kommt, ist klassische Engineering-Arbeit – und die entscheidet darüber, ob aus dem Versuch ein System wird.

  • Wo kommen die Daten her, wem gehören sie, und wer darf welche sehen?
  • Woran erkennen Sie, dass eine Antwort falsch ist – bevor der Kunde es tut?
  • Was passiert, wenn das Modell nicht erreichbar ist oder ein Update sein Verhalten ändert?
  • Wie belegen Sie gegenüber Revision und Datenschutz, was das System getan hat?

Diese Fragen sind nicht neu – es sind dieselben, die ich seit 20 Jahren in Payment-, Logistik- und Flugsicherungssystemen beantworte. Neu ist nur die Komponente, die sie stellt.

Ergebnis statt Demo

Was am Ende eines Projekts bei Ihnen steht:

  • Ein Dienst, der in Ihre bestehende Landschaft eingebunden ist
  • Ein Evaluations-Set, mit dem Qualität messbar wird
  • Protokollierung, die Auskunftsfähigkeit sicherstellt
  • Eine Betriebsanleitung inklusive Kosten- und Lastbetrachtung
  • Ein Team, das den Dienst selbst weiterentwickeln kann

Bausteine

Sechs Felder, in denen KI heute Wirkung zeigt

Kombinierbar – meist beginnt ein Vorhaben mit einem davon und wächst.

01

RAG & Wissenssysteme

Auskunft aus Ihren eigenen Dokumenten, Handbüchern und Fachdaten – mit Quellenangabe zu jeder Aussage statt frei formulierter Vermutungen.

  • Aufbereitung und Segmentierung der Dokumentbestände
  • Vektorsuche kombiniert mit klassischer Volltextsuche
  • Rechte- und Mandantenfilter bereits im Suchschritt
02

LLM-Integration

Anbindung von Sprachmodellen an bestehende Java-, REST- und Kafka-Landschaften – als regulärer Dienst mit Zeitlimits, Wiederholungslogik und Ausweichpfad.

  • Abstraktion über Anbieter, um Abhängigkeiten zu vermeiden
  • Strukturierte Ausgaben statt Freitext-Interpretation
  • Werkzeugaufrufe an bestehende Fachdienste
03

On-Premise & souveräne KI

Modelle im eigenen Rechenzentrum oder in einer privaten Cloud betreiben. Keine Fachdaten, die das Haus verlassen – auch nicht zu Trainingszwecken.

  • Auswahl geeigneter offener Modelle nach Anforderung
  • Hardware- und Kostenabschätzung vor der Entscheidung
  • Hybridbetrieb: sensibles lokal, unkritisches extern
04

Dokumenten- & Datenverarbeitung

Klassifikation, Extraktion und Prüfung von Fachdokumenten – dort besonders wirksam, wo bisher Menschen strukturierte Felder aus Freitext abtippen.

  • Extraktion in geprüfte Datenstrukturen
  • Plausibilitätsprüfung gegen Fachregeln
  • Eskalation an Menschen bei geringer Sicherheit
05

KI-gestützte Entwicklung

Einführung von Assistenzwerkzeugen im Entwicklungsteam – mit klaren Leitplanken, damit Geschwindigkeit nicht zulasten der Qualität geht.

  • Analyse und Dokumentation von Legacy-Code
  • Beschleunigte Testerstellung und Migrationsarbeit
  • Review-Regeln für maschinell erzeugten Code
06

Evaluation, Guardrails & Betrieb

Qualität wird gemessen, nicht behauptet. Vor dem Produktivgang stehen Testfälle, Schwellwerte und ein definiertes Verhalten im Zweifelsfall.

  • Evaluations-Sets mit fachlich abgenommenen Referenzantworten
  • Filter für Eingaben und Ausgaben, Prompt-Injection-Schutz
  • Überwachung von Kosten, Latenz und Antwortgüte

Architektur

Wie ein KI-Dienst in Ihrer Landschaft aussieht

Kein Sonderweg neben der bestehenden IT, sondern ein Dienst wie jeder andere – mit Schnittstellenvertrag, Protokollierung und Betriebsüberwachung.

01

Aufnahme

Dokumente und Fachdaten werden regelmäßig eingelesen, segmentiert und mit Metadaten für Rechte und Herkunft versehen.

02

Suche

Vektorsuche und Volltextsuche liefern gemeinsam die Belege, die für eine Antwort tatsächlich relevant sind.

03

Generierung

Das Modell formuliert ausschließlich auf Basis der gefundenen Belege – bei fehlender Grundlage lautet die Antwort „nicht belegbar“.

04

Nachweis

Anfrage, verwendete Quellen und Antwort werden protokolliert. Jede Aussage ist bis zur Ursprungsstelle zurückverfolgbar.

Warum Quellenbindung nicht verhandelbar ist

Ein Sprachmodell erzeugt plausible Sprache – nicht geprüfte Wahrheit. In einem Fachsystem ist eine überzeugend formulierte Falschauskunft gefährlicher als gar keine Auskunft.

Deshalb ist in jedem System, das ich baue, die Antwort an nachweisbare Quellen gebunden, und der Fall „ich weiß es nicht“ ist ein ausdrücklich vorgesehenes, getestetes Ergebnis – kein Fehler.

Datenschutz & Regulierung

  • Verarbeitungsverzeichnis und Auftragsverarbeitung von Anfang an mitgedacht
  • Datenminimierung: nur das, was für die Aufgabe wirklich nötig ist
  • Einstufung des Anwendungsfalls im Sinne der EU-KI-Verordnung
  • Löschkonzepte auch für Vektorbestände und Protokolle
  • Kennzeichnung KI-generierter Inhalte gegenüber Nutzenden

Eine rechtliche Beratung ersetzt das nicht – aber es sorgt dafür, dass Ihre Datenschutzbeauftragten belastbare Antworten bekommen.

Vorgehen

In vier Schritten vom Anwendungsfall zum Betrieb

Anwendungsfall schärfen

Welcher Arbeitsschritt kostet heute wie viel Zeit? Ohne messbaren Ausgangswert lässt sich später kein Nutzen belegen.

Machbarkeit prüfen

Ein zeitlich begrenzter Versuch auf echten Daten – mit ehrlicher Aussage, wenn der Fall sich nicht lohnt.

Produktiv bauen

Integration, Rechte, Protokollierung, Tests und Betriebsüberwachung. Ab hier gelten Ihre normalen Qualitätsregeln.

Betreiben & verbessern

Auswertung der realen Nutzung, Nachschärfen der Evaluationsfälle und Übergabe an Ihr Team.

Ehrliche Vorabeinschätzung. Nicht jeder Anwendungsfall rechtfertigt den Einsatz eines Sprachmodells. Wenn eine Datenbankabfrage, eine Regel oder eine ordentliche Suche das Problem löst, sage ich das – auch wenn das den Auftrag verkleinert.

Einen KI-Anwendungsfall im Kopf?

Beschreiben Sie mir den Arbeitsschritt, den Sie verbessern möchten. Sie bekommen eine Einschätzung zu Machbarkeit, Aufwand und Risiken – ohne Verkaufsdruck.