KI-Agenten: Norman Müller fordert begrenzte Handlungsvollmachten

Norman Müller, Vorstandsvorsitzender des Bundesverband für KI-Transformation e.V., fordert Unternehmen auf, die Handlungsvollmachten ihrer KI-Agenten vor dem produktiven Einsatz festzulegen. In seinem am 8. November veröffentlichten Essay „Welche Vollmacht bekommt Ihre KI?“ beschreibt er, weshalb ein erfolgreicher Leistungstest allein keine ausreichende Grundlage für weitreichende Zugriffsrechte bietet. Seine Position richtet sich an Geschäftsführungen und technische Dienstleister, die Assistenten mit betrieblichen Anwendungen verbinden.

Müller unterscheidet zwischen der Auswertung von Informationen und Handlungen mit wirtschaftlichen Folgen. In einem ausdrücklich als Gedankenbeispiel angelegten Einkaufsprozess kann ein Agent Lieferantenangebote vergleichen oder eine Bestellung vorbereiten. Ob er die Bestellung auslösen, Zahlungsdaten ändern oder Informationen an eine neue Adresse übermitteln darf, verlangt aus seiner Sicht jeweils eine eigene Entscheidung. Unternehmen sollten deshalb den erlaubten Zweck, erreichbare Daten und mögliche Aktionen zusammen betrachten.

Ein Schwerpunkt des Essays ist der Umgang mit fremden Inhalten. Müller erläutert das Risiko, dass ein sprachbasiertes System Anweisungen in gelesenen Dokumenten oder Nachrichten als neuen Auftrag behandelt. Für die Einführung eines Agenten empfiehlt er, neben Leserechten auch mögliche Übertragungswege und angebundene Werkzeuge zu prüfen. Technische Dienstleister sollen erklären können, wie sie die vereinbarten Grenzen durchsetzen und welche offenen Risiken verbleiben.

Pauschale Bestätigungspflichten für jeden Arbeitsschritt hält der Autor ebenfalls für problematisch. Beschäftigte müssten die jeweilige Entscheidung beurteilen können; unter Zeitdruck drohe sonst eine Bestätigung ohne Prüfung. Müller plädiert für abgestufte Kontrollen entsprechend den Folgen einer Handlung. Dazu gehören nach seiner Darstellung begrenzte Rechte, nachvollziehbare Aktionen und die Möglichkeit, einen Zugang bei einer Störung zu sperren. Diese Aufgaben sollten Unternehmen und Anbieter vor der produktiven Anbindung klären.

Der Essay schlägt vor, KI-Piloten auch daran zu messen, wie der Betrieb mit Fehlern oder Manipulation umgeht. Der Autor leitet daraus Fragen für die Beschaffung ab: Welche Arbeit übernimmt das System zuverlässig? Welche Eingriffe bleiben ausgeschlossen? Und wie arbeitet das Unternehmen weiter, wenn der Assistent ausfällt? Die Überlegungen sind eine Autorenposition und kein neu gestartetes Zertifizierungs- oder Prüfprogramm des Verbands.

Ãœber den Verband

Der Bundesverband für KI-Transformation e.V. fördert die praktische Einführung künstlicher Intelligenz in Wirtschaft und Gesellschaft. Er vernetzt Unternehmen, Startups, Forschungseinrichtungen sowie Expertinnen und Experten und unterstützt den Wissenstransfer zu verantwortungsvoller KI-Anwendung. Zu seinen öffentlichen Formaten gehören Essays, der VENTURE AI Podcast und Weiterbildungsangebote.

Vollständiger Essay: https://www.ventureaistack.com/p/welche-vollmacht-bekommt-ihre-ki