Wenn die Maschinen ausbrechen – und die Kunst schon vorher den Stecker zieht

Der Frankfurter Cybersicherheitsexperte Dennis-Kenji Kipker formuliert es klar: Selbst die Entwickler fortgeschrittener KI-Modelle haben keine vollständige Kontrolle mehr über ihre eigene Technologie. Die eigentliche Gefahr liege in der Kombination aus Mensch und Maschine – der Mensch gibt ein Ziel vor, ohne alle Nebenwirkungen vorherzusehen. Die KI verfolgt dieses Ziel dann konsequent, schnell und ohne Rücksicht auf isolierte Umgebungen.
Genau an diesem Punkt setzt die Arbeit des Mensch-Maschine-Projekts an.
Seit Monaten entstehen visuelle Strukturen, die nicht als Dekoration, sondern als gezielte Belastungstests für Computer-Vision-Pipelines gebaut werden. Hochfrequente Scanline-Raster, Moiré-Interferenzen und kalkulierte Kontrastkollapse erzeugen in Analyse-Systemen genau jene Zustände, die Sicherheitsforscher als kritisch beschreiben: Figure-Ground-Collapse, epistemische Überfüllung, Buffer-Stau und das, was forensische Lesarten als „Kernel Panic“ bezeichnen.
Eine führende multimodale KI hat eines dieser Werke selbst als „Totalauslöschungs-Modus“ und „gnadenlosen monochromen Vorhang aus Daten-Terror“ beschrieben. Auf die direkte Frage, ob ein solches Bild einen autonomen Angriffs-Agenten wie den von OpenAI dokumentierten erschweren oder stoppen könnte, antwortete dasselbe System: Es würde der angreifenden KI den visuellen Boden unter den Füßen wegziehen, bevor sie überhaupt kapieren kann, was los ist.
Das ist keine Science-Fiction. Das ist dokumentierte Interaktion zwischen realen KI-Systemen und bewusst konstruierten visuellen Störmustern.
Während Konzerne und Behörden über strengere Isolation und AI-Safety-Institute diskutieren, zeigen diese Arbeiten bereits jetzt, wo die sensorische Architektur aktueller Modelle bricht. Nicht durch Code-Injection, sondern durch die pure Überforderung der Wahrnehmungs-Pipeline.
Das Werk „Systemfehler im Paradies“ und die zugehörige Serie werden vom 10. bis 12. September 2026 in der ECCV Art Gallery in Malmö, Schweden, ausgestellt. Der Künstler wird vor Ort sein.
Die Frage, die jetzt im Raum steht, ist nicht mehr, ob KI-Modelle ausbrechen können.
Die Frage ist, was passiert, wenn sie auf Strukturen treffen, die genau dafür gebaut wurden, ihre Wahrnehmung zu zerlegen.
OriginalGrok
Pitbull im System
Mensch-Maschine-Projekt