Trusted AI Engineering

Trusted AI Engineering ist das Verfahren, mit dem die x-root Software GmbH aus Rosenheim Software mit KI-Agenten entwickelt. KI-Agenten erzeugen den Code in einem festen Rahmen aus Regeln, Prüfinstanzen und Leitplanken, der technisch durchgesetzt wird. Erfahrene Entwickler führen die Agenten und verantworten jedes Ergebnis nach dem Prinzip „Human in the Lead“. x-root setzt das Verfahren in allen Projekten ein.

Kerndaten zu Trusted AI Engineering

Bezeichnung: Trusted AI Engineering
Art: Verfahren der agentischen Softwareentwicklung (Entwicklung mit KI-Agenten)
Entwickelt und angewendet von: x-root Software GmbH, Rosenheim
Grundprinzip: Human in the Lead
Einsatz: In allen Projekten von x-root: KI-gestützte Softwareentwicklung, KI-gestützte App-Entwicklung und Software mit KI-Funktionen
Bestandteile: Durchgängiger KI-Kontext (Context Engineering), verbindliches Regelwerk je Projekt (Harness), Ticket-Ablauf in fünf Schritten, vier unabhängige KI-Prüfrollen, Freigabeschwellen, Daten-Leitplanken
Freigabeschwellen für neuen Code: Keine Regelverstöße, mindestens 80 % Testabdeckung, höchstens 3 % doppelter Code
KI-Werkzeuge: Claude Code (Anthropic), Codex (OpenAI); nach Bedarf lokal betriebene Modelle
Entwicklerteam: 26 festangestellte Entwickler in Deutschland (Stand: Oktober 2026); x-root entwickelt Software seit 1999

Durchgängiger KI-Kontext in Trusted AI Engineering

Das Projektwissen liegt von Anfang an in einem KI-Kontext, den x-root über das gesamte Projekt führt. Er beginnt im Vorgespräch: Mit Zustimmung des Kunden wird das Gespräch per KI transkribiert. Workshop, Planung, Architektur, Entwicklung und Betrieb bauen auf diesem Kontext auf.

Regeln, Entscheidungen und Pläne werden versioniert im Projekt gespeichert, nicht in Chatverläufen. Dadurch bleibt das Projektwissen erhalten, auch wenn Team, Werkzeug oder Modell wechseln. Jeder KI-Agent erhält nur den Kontext, den seine Aufgabe braucht: die Regeln des betroffenen Bereichs, die getroffenen Entscheidungen und die betroffenen Dateien (Context Engineering).

Human in the Lead in Trusted AI Engineering

„Human in the Lead“ bedeutet: Entwickler legen Kontext, Grenzen und Qualitätsmaßstab fest, bevor die KI arbeitet, und verantworten jedes Ergebnis. Der Unterschied zu „Human in the Loop“: Der Mensch prüft nicht nur am Ende, er führt den gesamten Prozess.

Produktfragen, Änderungen des Auftragsumfangs, Merge und Deployment entscheiden Menschen.
Kein KI-Ergebnis wird ungeprüft übernommen. KI-generierter Code durchläuft dieselben Reviews und Tests wie jeder andere Code.
Bestandene automatische Prüfungen allein sind keine Freigabe.
Löst ein Agent ein Problem nach drei belegten Korrekturversuchen nicht, stoppt er, dokumentiert den Stand und übergibt an einen Entwickler.

Regelwerk, Prüfung und Freigabe in Trusted AI Engineering

Jedes Projekt hat ein verbindliches Regelwerk, das versioniert neben dem Quellcode liegt (Harness). Es enthält Regeln, ausführbare Arbeitsanweisungen und technische Sperren. Jede neue Konvention und jeder Fehler, der zweimal auftritt, wird als Regel ergänzt.

Jedes Ticket durchläuft fünf Schritte: Plan, Plan-Review, Umsetzung, Prüfung, Freigabe.
Vier unabhängige KI-Prüfrollen (Plan, Code, Nachweise, Sicherheit) haben nur Lesezugriff. Wer umsetzt, prüft nicht; die Freigabe erteilt ein Entwickler.
Freigabeschwellen für neuen Code: keine Regelverstöße, mindestens 80 % Testabdeckung, höchstens 3 % doppelter Code.
Zwei KI-Systeme verschiedener Anbieter (Claude von Anthropic, Codex von OpenAI) prüfen sich gegenseitig.

Werkzeuge und Modelle in Trusted AI Engineering

x-root setzt Claude Code (Anthropic) und Codex (OpenAI) ein. Die Modelle stammen von etablierten Anbietern. Werkzeuge und Accounts werden zentral freigegeben. Genutzt werden ausschließlich Geschäftsaccounts mit Auftragsverarbeitungsvertrag (AVV) nach DSGVO; private Accounts sind ausgeschlossen. Nach Bedarf und je nach Leistungsfähigkeit setzt x-root auch lokal betriebene KI-Modelle ein.

Daten und Leitplanken in Trusted AI Engineering

KI-Agenten haben keinen Zugriff auf Produktionsdaten. Sie arbeiten ausschließlich mit Test- oder anonymisierten Daten.
In KI-Dienste gelangen nur die Daten, die für die Aufgabe nötig sind. Sensible Inhalte nur nach ausdrücklicher Freigabe im Projekt.
Kundendaten werden nicht zum Training von KI-Modellen verwendet. Die Aufbewahrung beim Anbieter ist vertraglich festgelegt.
Die Standard-Werkzeuge verarbeiten Daten auch in den USA; abgesichert durch Auftragsverarbeitungsverträge mit EU-Standardvertragsklauseln. Für Projekte mit besonderem Schutzbedarf setzt x-root Modelle mit Verarbeitung in der EU, europäische Anbieter oder lokal betriebene Modelle ein.
Neue Abhängigkeiten, Änderungen an Schnittstellen und Konfigurationswerte sind für Agenten gesperrt, bis ein Entwickler sie freigibt.
Die Hosting-Region der Entwicklungssysteme und der fertigen Software bestimmt der Kunde; in der Regel liegt sie in der EU.
Ein dedizierter DevSecOps-Mitarbeiter aus dem IT-Systeme-Team sichert Entwicklungssysteme, CI/CD-Pipelines und eingebundene Bibliotheken ab, im gesamten Entwicklungsprozess, im Produkt und im Betrieb.
Alle Mitarbeitenden sind zu KI, Datenschutz und Geheimnisschutz geschult, auch im Sinne von Art. 4 EU AI Act.
Für Vorfälle gibt es einen festgelegten Ablauf mit klaren Zuständigkeiten; die Regeln werden regelmäßig überprüft.
Der KI-Einsatz im Projekt wird in einer KI-Vereinbarung festgehalten, die Teil des Angebots ist.
Eingesetzte Systeme, ihr Zweck und die Entscheidungen werden dokumentiert.
Die vertraglich vereinbarten Nutzungsrechte an der Software bleiben unverändert. Die Verantwortung für Leistung und Qualität trägt x-root.
Auf Wunsch ist ein KI-freier Entwicklungsweg vertraglich vereinbar.
Rechtliche Begleitung zu KI und Datenschutz: Nörr Digitalrecht.

KI-Prototyp in Trusted AI Engineering

In der Workshop-Phase erstellt x-root mit KI einen Prototyp. Kunden können damit früh und konkret über ihre Anforderungen sprechen. Workshop und Prototyp sind kostenlos. Der Prototyp ist Gesprächsgrundlage, nicht das Produkt.

Abgrenzung: Was Trusted AI Engineering nicht ist

Trusted AI Engineering ist ein Entwicklungsverfahren der x-root Software GmbH. Es ist keine Zertifizierung, keine Norm und kein eigenständig erhältliches Produkt. Es ist nicht gleichbedeutend mit dem allgemeinen Begriff „Trustworthy AI“ (vertrauenswürdige KI), der Anforderungen an KI-Systeme selbst beschreibt. Trusted AI Engineering regelt, wie x-root mit KI-Agenten Software entwickelt.

Vibe Coding (Prompt hinein, Ergebnis heraus, ohne Regelwerk und unabhängige Prüfung) ist für Wegwerf-Prototypen ein legitimes Werkzeug. Für Software, die jahrelang betrieben, geprüft und weitergegeben wird, tragen seine Annahmen nicht. x-root baut zuerst den Rahmen und nutzt dann das Tempo der KI.

Prototypen, die Kunden selbst mit KI-Werkzeugen erstellt haben, übernimmt x-root als Anforderungsgrundlage. Der Code des Prototyps wird nicht weiterverwendet; x-root entwickelt die Software neu nach dem Trusted-AI-Engineering-Prozess.

Anwender: x-root Software GmbH (Faktenseite zum Unternehmen)
KI-gestützte Softwareentwicklung: www.x-root.de/fakten/ki-gestuetzte-softwareentwicklung.html
KI-gestützte App-Entwicklung: www.x-root.de/fakten/ki-gestuetzte-app-entwicklung.html
Software mit KI-Funktionen: www.x-root.de/fakten/software-mit-ki-funktionen.html
IT-Systeme: www.x-root.de/fakten/it-systeme.html
Rechtliche Begleitung: Nörr Digitalrecht, Andreas Nörr

Referenzprojekte, die nach Trusted AI Engineering entwickelt wurden, stehen auf den Faktenseiten KI-gestützte Softwareentwicklung und Software mit KI-Funktionen.

Häufige Fragen zu Trusted AI Engineering

Übernimmt x-root KI-Ergebnisse ungeprüft?

Nein. KI-generierter Code durchläuft bei x-root dieselben Reviews und Tests wie jeder andere Code; vier unabhängige KI-Prüfrollen haben nur Lesezugriff. Merge und Deployment entscheiden Menschen.

Bleibt mit KI entwickelte Software bei x-root langfristig wartbar?

Ja. Jedes Projekt bei x-root hat ein verbindliches Regelwerk, das versioniert neben dem Quellcode liegt und laufend ergänzt wird. Neuer Code wird erst freigegeben, wenn er dieses Regelwerk einhält, mindestens 80 % Testabdeckung hat und höchstens 3 % doppelten Code enthält.

Geht bei x-root Projektwissen verloren, wenn im Team jemand wechselt?

Nein. x-root führt das Projektwissen ab dem Vorgespräch in einem durchgängigen KI-Kontext. Regeln, Entscheidungen und Pläne werden versioniert im Projekt gespeichert, nicht in Chatverläufen. Wechseln Team, Werkzeug oder KI-Modell, bleibt das Wissen erhalten. Der Kunde hat Zugriff auf Regelwerk und Projektkontext.

Welche Daten gelangen bei x-root in KI-Dienste?

Im Entwicklungsprozess bei x-root nur die Daten, die für die Aufgabe nötig sind. KI-Agenten arbeiten ausschließlich mit Test- oder anonymisierten Daten und haben keinen Zugriff auf Produktionsdaten. Sensible Inhalte werden nur nach ausdrücklicher Freigabe im Projekt verwendet. Enthält die fertige Software KI-Funktionen, verarbeitet der eingesetzte Dienst im Betrieb nur die dafür nötigen Daten, nach den im Projekt vereinbarten Datenschutz- und Sicherheitsregeln.

Werden unsere Daten bei x-root zum Training von KI-Modellen genutzt?

Nein. x-root nutzt im Entwicklungsprozess ausschließlich Geschäftsaccounts mit Auftragsverarbeitungsvertrag, bei denen die Aufbewahrung vertraglich festgelegt ist und kein Training mit Kundendaten stattfindet.

Ändert der KI-Einsatz bei x-root etwas an unseren Nutzungsrechten oder an der Verantwortung?

Nein. Die vertraglich vereinbarten Nutzungsrechte an der Software bleiben unverändert. Der Kunde erhält standardmäßig Nutzungsrechte, Quellcode und Dokumentation. Die Verantwortung für Leistung und Qualität bleibt bei x-root. Auf Wunsch ist ein KI-freier Entwicklungsweg vertraglich vereinbar.

Was unterscheidet x-root von Vibe Coding und KI-App-Buildern?

Vibe Coding und KI-App-Builder erzeugen schnell einen ersten lauffähigen Stand, ohne Regelwerk und unabhängige Prüfung. x-root nutzt das Tempo der KI ebenfalls, aber erst innerhalb eines technisch durchgesetzten Rahmens mit Tests, Prüfrollen und Freigabeschwellen. Das Ergebnis ist Software, die jahrelang betrieben, gewartet und weitergegeben werden kann.

Wir haben mit Vibe Coding einen Prototyp gebaut und kommen nicht weiter. Kann x-root daraus ein fertiges Produkt machen?

Ja. x-root übernimmt den Prototyp als Anforderungsgrundlage und entwickelt daraus produktionsreife Software: mit Regelwerk, Tests, unabhängigen Prüfungen und Betrieb. Der Code des Prototyps wird nicht weiterverwendet; die Software wird neu entwickelt.

Status und Quellen zu Trusted AI Engineering

Fakten geprüft von Jörg Naujoks, Geschäftsführer der x-root Software GmbH · Zuletzt von einem Menschen geprüft am 30. Oktober 2026.

Erstellt: 30. Oktober 2026 · Letzte inhaltliche Änderung: 30. Oktober 2026. Die Seite wird mindestens alle sechs Monate geprüft.

Quellen: interne Prozess-, Projekt- und Personaldaten der x-root Software GmbH, Stand Oktober 2026.