Menschen werden sich nie hinter einer KI verstecken können

29. September 2025 – Albanien hat angekündigt, künftig einen KI-Bot als „Ministerin“ für die Vergabe öffentlicher Aufträge einzusetzen, um Korruption zu bekämpfen. Diese Ankündigung muss wohl eher als Provokation verstanden werden denn als ernst gemeintes Vorhaben. Zunächst einmal entscheidet eine Ministerin natürlich über weit mehr als nur Beschaffungsvorschläge: Sie legt die Politik ihres Ressorts fest, treibt Innovationen voran oder entscheidet in Personalangelegenheiten.

Darüber hinaus gibt es aber auch noch einen weiteren Einwand. Der Einsatz des Bots wird damit begründet, dass er „objektiver“ sei. Um diese Behauptung einzuordnen, muss man sich die Worte des Technikhistorikers Melvin Kranzberg (https://de.wikipedia.org/wiki/Melvin_Kranzberg) in Erinnerung rufen: „Technologie ist weder gut noch böse, noch ist sie neutral“. Das gilt auch für KI-Bots. Sie sind keine Zauberei, sondern werden von Menschen anhand bestimmter expliziter Regeln und Logik, Prompt-Anweisungen oder Trainingsdaten entwickelt. Alle diese Design-Entscheidungen führen zu einem Bot, der nicht objektiv sein kann – weil er von vornherein die von Menschen festgelegten Richtlinien und Werte enthält.

Ist das schlecht? Nicht, solange man mit diesen Regeln und Richtlinien einverstanden und sich auch einiger unerwünschter Verzerrungen bewusst ist, die sich möglicherweise eingeschlichen haben. Nur in einer perfekten Welt würde die ordnungsgemäße Anwendung von Papierrichtlinien faire Bewertungen gewährleisten und genau dasselbe gilt für automatisierte Systeme. Mit ihnen kann man aber zumindest eine konsistentere Anwendung garantieren.

Die Systeme sind aber alles andere als wertfrei, objektiv und neutral. Und da sie automatisiert sind und auch in großem Umfang Schaden anrichten können, müssen sie noch höheren Standards unterliegen als Menschen. Wenn sie diese Hürden nimmt, kann eine KI-gesteuerte Beschaffung sicherlich ein Segen sein und viele private und öffentliche Organisationen sind auch schon auf dem Weg, die Beschaffung datengesteuerter, transparenter und überprüfbarer zu gestalten. Und Transparenz ist auch unbedingt erforderlich, insbesondere bei stärker KI-gesteuerten Systemen.

Das bedeutet aber auch, dass sich Menschen niemals hinter einer KI oder einem automatisierten System verstecken können. Als Eigentümer eines solchen Systems werden sie für die Empfehlungen, die es gibt, oder die Entscheidungen, die es trifft, immer verantwortlich gemacht. Insbesondere bei öffentlichen Dienstleistungen und Entscheidungen wird es wichtig sein, dass es Möglichkeiten gibt, Einspruch einzulegen, Bürgern und Unternehmen Gerechtigkeit widerfahren zu lassen, aber auch Feedback zu geben, um die Fehler, Störungen oder unerwünschten Nebenwirkungen zu beseitigen, die Systeme immer enthalten.

Dieses Statement und das Bild in höherer Auflösung können unter www.brandmacher.de/company/pegasystems abgerufen werden.