[{"data":1,"prerenderedAt":88},["ShallowReactive",2],{"content:blog:verantwortung-fuer-ki-fehler":3,"content:blog":30},{"slug":4,"title":5,"subtitle":6,"date":7,"metaTitle":8,"metaDescription":9,"excerpt":10,"readingMinutes":11,"tags":12,"toc":16,"body":29},"verantwortung-fuer-ki-fehler","Über 400 beschriebene Aktionen statt Freibrief: Verantwortung für KI-Fehler","Warum ein KI-Agent bei uns nur ausführt, was im Katalog beschrieben ist – und wie sich dadurch klären lässt, wer für einen Fehler geradesteht","2026-08-18","Verantwortung für KI-Fehler: Katalog statt Freibrief","Verantwortung für KI-Fehler klären: warum ein KI-Agent nur beschriebene Aktionen ausführen sollte und wer wofür zuständig ist. Praxis für Unternehmen in DACH.","Wer für den Fehler eines KI-Agenten verantwortlich ist, lässt sich erst sagen, wenn feststeht, was der Agent tun durfte. Wir zeigen, warum unsere KI nur Aktionen aus einem Katalog ausführt, wie die Schuldfrage dadurch in drei beantwortbare Fragen zerfällt und was ein Katalog trotzdem nicht verhindert.",4,[13,14,15],"KI-Agenten","Verantwortung","Arbeitsweise",[17,20,23,26],{"id":18,"text":19},"frage","Wer steht gerade, wenn der Agent danebenliegt?",{"id":21,"text":22},"katalog","Was im Katalog steht – und was bewusst fehlt",{"id":24,"text":25},"verantwortung","Verantwortung für KI-Fehler: drei Fragen statt einer Schuldfrage",{"id":27,"text":28},"grenze","Was ein Katalog bei der Verantwortung für KI-Fehler nicht löst","\u003Cp>Die Verantwortung für KI-Fehler lässt sich nur zuordnen, wenn vorher feststeht, was die KI überhaupt tun durfte. Deshalb führt ein KI-Agent bei uns keine beliebigen Schritte aus, sondern Aktionen aus einem Katalog – über 400 beschriebene Aktionen, die unsere KI ausführt, jede mit kontrolliertem Zugriff. Was dort fehlt, existiert für den Agenten nicht.\u003C\u002Fp>\n\n\u003Ch2 id=\"frage\">Wer steht gerade, wenn der Agent danebenliegt?\u003C\u002Fh2>\n\u003Cp>Spätestens wenn ein Agent Kunden anschreiben oder Datensätze ändern soll, steht diese Frage im Raum. Sie ist berechtigt. Ein Sprachmodell mit Zugang zu Postfach, CRM und Ablage kann im Prinzip alles, was diese Systeme hergeben: schreiben, ändern, löschen, weiterleiten. Baut man einen Agenten so, dass er alles darf, was das Modell kann, lässt sich nach einem Fehler kaum noch auseinanderhalten, woran es lag.\u003C\u002Fp>\n\u003Cp>War die Anweisung unklar? Hatte der Agent einen Zugriff, den niemand hätte vergeben dürfen? Hat das Modell etwas erfunden? Oder hat jemand ein Ergebnis durchgewinkt, ohne hinzusehen? Ohne vorher gezogene Grenzen landet die Antwort bei „die KI“ – und mit einer KI lässt sich kein Gespräch über Zuständigkeit führen. Für die Geschäftsführung ist das keine Stilfrage: Ohne Zuordnung lässt sich weder die Ursache abstellen noch begründet entscheiden, ob der Agent am nächsten Tag weiterlaufen darf.\u003C\u002Fp>\n\n\u003Ch2 id=\"katalog\">Was im Katalog steht – und was bewusst fehlt\u003C\u002Fh2>\n\u003Cp>Unser Katalog ist aus der eigenen Arbeit gewachsen und umfasst heute über 400 beschriebene Aktionen. Die Zahl ist kein Nutzungszähler: Sie sagt nicht, wie oft eine Aktion läuft, sondern wie viele Handgriffe einzeln beschrieben sind. Auf Daten und Systeme greift die KI über kontrollierte Werkzeuge zu, nicht über einen offenen Zugang.\u003C\u002Fp>\n\u003Cp>Wichtiger als die Zahl ist der Zuschnitt. Eine Aktion „Kundenanfrage beantworten“ ist etwas anderes als „E-Mail senden“: Die erste hängt an einem Vorgang, die zweite wäre ein Freibrief. Eine brauchbare Beschreibung ist deshalb eng. Lieber zwei schmale Aktionen, deren Wirkung man vorhersagen kann, als eine breite, bei der man es nicht kann. Wer eine Aktion beschreibt, muss sich festlegen, was sie bewirkt – und genau diese Festlegung fehlt, wenn ein Agent frei handeln darf.\u003C\u002Fp>\n\u003Cp>Wie viel Verantwortung schon in der Einstellung einer Aktion steckt, zeigt die KI-Rezeption. Dort wird je Unternehmen festgelegt, ob eine Antwort als Entwurf auf die Freigabe eines Mitarbeiters wartet oder direkt versendet wird. Dieselbe Fähigkeit ergibt zwei verschiedene Verantwortungslagen, und beide sind entschieden, bevor die erste Anfrage eintrifft.\u003C\u002Fp>\n\u003Cp>Kommt eine Aktion hinzu, läuft die Änderung vor dem Zusammenführen durch dieselben automatischen Prüfungen wie jeder andere Code; eine davon gilt dem Katalog selbst.\u003C\u002Fp>\n\n\u003Ch2 id=\"verantwortung\">Verantwortung für KI-Fehler: drei Fragen statt einer Schuldfrage\u003C\u002Fh2>\n\u003Cp>Mit einem Katalog zerfällt die Frage nach der Schuld in drei Fragen, und jede hat einen Adressaten.\u003C\u002Fp>\n\u003Col>\n\u003Cli>\u003Cstrong>Durfte der Agent diese Aktion ausführen?\u003C\u002Fstrong> Wenn nicht, liegt der Fehler im Zuschnitt von Katalog und Zugriffen. Das ist Bauarbeit und damit Sache dessen, der den Agenten gebaut und zur Abnahme übergeben hat.\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Stimmten die Eingaben?\u003C\u002Fstrong> Hat der Agent mit einem veralteten Preis, einer falschen Adresse oder einem lückenhaften Datensatz gearbeitet, liegt die Ursache im Quellsystem. Zuständig ist, wer diese Daten pflegt – und diese Rolle wird vor dem Start benannt.\u003C\u002Fli>\n\u003Cli>\u003Cstrong>War das Ergebnis einer erlaubten Aktion falsch?\u003C\u002Fstrong> Dann kommt es darauf an, ob für diese Aktion eine Freigabe vorgesehen war. Gab es eine, hat ein Mensch das Ergebnis gesehen. Gab es keine, hat der Fachbereich entschieden, dass diese Aktion ohne Freigabe laufen darf – ausdrücklich und schriftlich, nicht nebenbei.\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cp>So wird aus „die KI war es“ eine Kette mit Rollen. Wo zwischen Modell und Wirkung ein Mensch stehen muss, erklärt der Lexikoneintrag \u003Ca href=\"\u002Flexikon\u002Fhuman-in-the-loop\">Human in the Loop\u003C\u002Fa>.\u003C\u002Fp>\n\n\u003Ch2 id=\"grenze\">Was ein Katalog bei der Verantwortung für KI-Fehler nicht löst\u003C\u002Fh2>\n\u003Cp>Ein Katalog begrenzt, was geschehen kann. Er verhindert nicht, dass innerhalb einer erlaubten Aktion etwas Falsches geschieht. Ein Antwortentwurf mit einem falschen Liefertermin ist eine erlaubte Aktion mit falschem Inhalt; läuft er durch eine Freigabe, bei der niemand genau liest, geht er trotzdem hinaus. Der Katalog macht einen solchen Fehler nachvollziehbar und klein, aber nicht unmöglich.\u003C\u002Fp>\n\u003Cp>Die zweite Grenze liegt in der Beschreibung selbst. Eine automatische Prüfung kann feststellen, dass eine Aktion eingetragen ist. Ob die Beschreibung fachlich stimmt – ob „Anfrage beantworten“ tatsächlich nur antwortet und nicht nebenbei den Status im CRM umstellt –, beurteilt keine Maschine. Das muss jemand lesen, bevor die Aktion in Betrieb geht, und erneut, sobald sich der Vorgang ändert.\u003C\u002Fp>\n\u003Cp>In Kundenprojekten beginnen wir deshalb mit einer kurzen Liste statt mit einem großen Agenten: welche Handgriffe er übernehmen soll, auf welche Systeme er dafür zugreift, welche Aktion eine Freigabe braucht und wer sie erteilt. Diese Liste wird Teil der Abnahmekriterien. Wie wir \u003Ca href=\"\u002Fleistungen\u002Fki-agenten\">KI-Agenten für Unternehmen\u003C\u002Fa> auf dieser Grundlage bauen, beschreibt die Leistungsseite.\u003C\u002Fp>",[31,56,63],{"slug":32,"title":33,"subtitle":34,"date":35,"metaTitle":36,"metaDescription":37,"excerpt":38,"readingMinutes":11,"tags":39,"toc":43},"kassenabgleich-jeden-tag","Kassenabgleich jeden Tag statt Vorführung: 8 Kassen ohne Abtippen","Was einen Vorgang, der jeden Tag im Betrieb läuft, von einer gelungenen Demo unterscheidet – am Beispiel eines Lebensmittelunternehmens mit eigenen Verkaufsstellen","2026-09-09","Kassenabgleich jeden Tag: Betrieb statt Demo","Kassenabgleich jeden Tag ohne Abtippen von Hand: was ein automatisierter Vorgang im Betrieb braucht – Datenstand, Gegenprobe, Meldung. Praxis im Einzelhandel.","Eine Automatisierung, die in der Vorführung funktioniert, beweist nur, dass es geht. Am Beispiel von 8 Kassen eines Lebensmittelunternehmens zeigen wir, was ein Vorgang braucht, der jeden Tag im Betrieb läuft – und warum zu viele Meldungen einer Überwachung genauso schaden wie gar keine.",[40,41,42],"Automatisierung","Betrieb","Einzelhandel",[44,47,50,53],{"id":45,"text":46},"demo","Warum eine Demo fast immer gelingt",{"id":48,"text":49},"vier","Kassenabgleich jeden Tag: vier Dinge, die eine Demo nicht braucht",{"id":51,"text":52},"fehler","Unser Fehler: Wächter, die zu oft riefen",{"id":54,"text":55},"ki","Vom Kassenabgleich jeden Tag zum KI-Vorgang im Betrieb",{"slug":4,"title":5,"subtitle":6,"date":7,"metaTitle":8,"metaDescription":9,"excerpt":10,"readingMinutes":11,"tags":57,"toc":58},[13,14,15],[59,60,61,62],{"id":18,"text":19},{"id":21,"text":22},{"id":24,"text":25},{"id":27,"text":28},{"slug":64,"title":65,"subtitle":66,"date":67,"metaTitle":68,"metaDescription":69,"excerpt":70,"readingMinutes":11,"tags":71,"toc":75},"kostengrenze-fuer-ki","Kostengrenze für KI im Gateway statt Überraschung auf der Monatsrechnung","Warum Anwendungen, die im Betrieb Sprachmodelle nutzen, bei uns über ein eigenes Gateway gehen – und was das klärt, wenn ein Pilot in den Betrieb wechselt","2026-07-29","Kostengrenze für KI: Gateway statt offener Monatsrechnung","Kostengrenze für KI im Betrieb: warum Sprachmodelle über ein Gateway mit harter Grenze aufgerufen werden sollten. Praxis für Unternehmen in der DACH-Region.","Im Pilot fragt niemand, was ein Aufruf des Sprachmodells kostet, im Betrieb landet die Frage bei der Geschäftsführung. Wir beschreiben, warum unsere Anwendungen Sprachmodelle über ein eigenes Gateway mit harter Grenze aufrufen, was das beim Übergang in den Betrieb klärt – und was eine solche Grenze nicht leistet.",[72,73,74],"KI im Betrieb","Kosten","Architektur",[76,79,82,85],{"id":77,"text":78},"pilot","Warum im Pilot niemand nach den Kosten fragt",{"id":80,"text":81},"gateway","Kostengrenze für KI: warum sie im Gateway sitzt",{"id":83,"text":84},"betrieb","Was sich beim Übergang vom Pilot in den Betrieb ändert",{"id":86,"text":87},"grenzen","Was eine Kostengrenze für KI nicht leistet",1789407706920]