🚀 Warum Big-Tech-Modelle an ERP-Systemen scheitern

Sprachmodelle sind kein ERP-Kernsystem

Der Tech-Kritiker Ed Zitron kritisiert in seinem Interview die überzogenen Versprechen der KI-Branche. Er warnt davor, generative KI als „Magie“ oder als kurzfristigen Ersatz für menschliche Arbeit zu vermarkten, obwohl Sprachmodelle weiterhin fehlerhafte Ausgaben erzeugen können. Außerdem kritisiert er die ungefragte Integration von KI in etablierte Produkte sowie die hohen Infrastruktur- und Nutzungskosten. https://www.youtube.com/watch?v=Lf5oqGOCRCM

Der Kern der Kritik ist für Unternehmenssoftware besonders relevant: Sprachmodelle erzeugen Ausgaben probabilistisch. Sie können Texte analysieren, Zusammenhänge herstellen, Code schreiben und Werkzeuge aufrufen. Ihre Ergebnisse sind jedoch nicht automatisch deterministisch, vollständig oder korrekt. Deshalb sollten sie in ERP-Systemen nicht selbst die alleinige Autorität für Preise, Finanzkennzahlen, Buchungen oder Freigaben sein.

Drei Risiken beim Einsatz im ERP

1. Raten statt verlässlich berechnen

Finanzkennzahlen, Preise, Margen, Steuern und Fristen sollten nicht direkt vom Sprachmodell berechnet werden. Dafür eignen sich geprüfte Datenbankabfragen, Regelwerke und deterministische Rechenkomponenten. Das Modell kann die Aufgabe verstehen, die benötigten Daten auswählen und das Ergebnis erläutern; die verbindliche Berechnung sollte außerhalb des Modells erfolgen.

2. Unkontrollierte Agentenaktionen

Ein Agent ist kein automatisch zuverlässiger digitaler Mitarbeiter. Er verbindet ein Modell mit Werkzeugen, Datenquellen und Ausführungsschritten. Ohne strikte Berechtigungen, Schema-Validierung, Transaktionsgrenzen, Audit-Logs, Rollback-Möglichkeiten und menschliche Freigaben können Fehler zu falschen oder schwer nachvollziehbaren Systemänderungen führen.

3. Unklare Gesamtkosten

Tokenpreise sind nur ein Teil der Kosten. Bei langen Kontexten, wiederholten Modellaufrufen, Tool-Nutzung und Fehlerkorrekturen können die tatsächlichen Betriebskosten deutlich steigen. Deshalb sollten Unternehmen jeden Agenten mit Kostenbudgets, Laufzeitgrenzen, Rate Limits und einer nachvollziehbaren Kostenmessung betreiben.

🚀ENA: deterministische Leitplanken statt blinder Autonomie

ENA setzt deshalb nicht allein auf ein Sprachmodell, sondern auf eine abgesicherte Betriebsarchitektur:

Preise, Formeln und Fristen werden außerhalb des Sprachmodells anhand definierter Regeln und geprüfter Daten berechnet.
Das Sprachmodell formuliert Ergebnisse und Erklärungen, erhält aber keine unbeschränkte Autorität über die Berechnung.
Schreibende Aktionen wie Buchungen oder Freigaben werden durch Berechtigungen und menschliche Kontrollpunkte abgesichert.
Unternehmenswissen wird in einem kontrollierten Wissensraum verarbeitet. Externe Modellaufrufe werden auf die für die jeweilige Aufgabe erforderlichen Informationen begrenzt, protokolliert und vertraglich geregelt.
Jede relevante Aktion sollte nachvollziehbar, überprüfbar und im Fehlerfall korrigierbar sein.

Damit wird KI nicht als unkontrollierter Autopilot eingesetzt, sondern als assistierende Komponente innerhalb einer deterministischen und auditierbaren Systemarchitektur.

Gemeinsam lernen in der Value.7 Community

In der Value.7-Community auf Skool zeigen wir, wie spezialisierte Agenten sicher konzipiert, getestet und in bestehende Betriebsprozesse eingebunden werden. Im Mittelpunkt stehen klare Systemgrenzen, Datenschutz, nachvollziehbare Berechtigungen, Human-in-the-Loop und die technische Kontrolle über Daten und Aktionen.

1 comment

🚀 Warum Big-Tech-Modelle an ERP-Systemen scheitern