TÜV/BSI-Studie: 84 Prozent befürchten Fehlentscheidungen auf Basis falscher Informationen. Vor dem AI Summit in Dublin fordert der TÜV-Verband verpflichtende unabhängige Prüfungen für leistungsfähige KI-Modelle vor der Markteinführung. Einheitliche KI-Regeln in der EU statt regulatorischem Flickenteppich.
Eine große Mehrheit der Unternehmen in Deutschland sieht erhebliche Risiken beim Einsatz von KI-Agenten: 84 Prozent befürchten, dass die Systeme auf Grundlage falscher oder erfundener Informationen Fehlentscheidungen treffen. Jeweils 78 Prozent sehen die Gefahr, dass über Schnittstellen zu anderen Systemen neue Sicherheitslücken entstehen, sensible Daten oder Geschäftsgeheimnisse abfließen oder die KI ungewollte Aktionen auslöst. Das zeigt eine repräsentative Unternehmensbefragung des TÜV-Verbands und des Bundesamts für Sicherheit in der Informationstechnik (BSI) zu KI-Sicherheit. Drei von vier (74 Prozent) bewerten unklare Verantwortung und Haftung bei Fehlern als hohes Risiko, 65 Prozent eine Manipulation von außen. KI-Agenten bearbeiten Aufgaben über mehrere Schritte hinweg selbstständig und greifen dabei auf andere Anwendungen und Systeme zu. In den vergangenen Monaten sind KI-Agenten wiederholt unkontrolliert aus ihren Testumgebungen ausgebrochen.
„Sicherheitsbedenken bremsen den KI-Einsatz, solange Unternehmen nicht beurteilen können, ob eine KI im Betrieb sicher und kontrollierbar arbeitet“, sagt Dr. Joachim Bühler, Geschäftsführer TÃœV-Verband. „Diese Bedenken lassen sich jedoch nicht mit Versprechen der Hersteller ausräumen, sondern nur mit verlässlichen Nachweisen. Unabhängige Prüfungen liefern diese Nachweise und schaffen damit die Vertrauensgrundlage für KI-Innovationen.“
Leistungsfähige KI-Modelle vor Markteinführung prüfen
Anlässlich des internationalen AI Summit am 14. Oktober in Dublin spricht sich der TÃœV-Verband für unabhängige Prüfungen besonders leistungsfähiger KI-Modelle aus. Auf dem Treffen der irischen EU-Ratspräsidentschaft diskutieren Vertreter aus Politik, Wirtschaft und Forschung über den praktischen KI-Einsatz und die Wettbewerbsfähigkeit Europas. Der TÃœV-Verband fordert die EU-Kommission und Mitgliedstaaten auf, sich international für verbindliche Sicherheitsvorgaben für leistungsfähige KI-Modelle sogenannte Frontier-Modelle einzusetzen. Dazu gehören verpflichtende Prüfungen vor der Markteinführung, die herstellerunabhängig und im öffentlichen Auftrag durchgeführt werden. „Frontier-Modelle sind die Basistechnologie für tausende Anwendungen“, sagt Bühler. „Ein Sicherheitsmangel im Modell setzt sich in jedem Produkt fort, das darauf aufbaut. Deshalb brauchen wir international verbindliche Prüfungen vor der Markteinführung – nach gemeinsamen Standards und durch unabhängige Stellen.“
Einheitliche europäische KI-Regeln erhalten
Gleichzeitig warnt der TÃœV-Verband davor, den europäischen Rechtsrahmen für Hochrisiko-KI zu zersplittern. Kaum ist im KI-Omnibus die Entscheidung gefallen, Medizinprodukte im direkten Anwendungsbereich des AI Acts zu belassen, droht bei der Ãœberarbeitung der Medizinprodukteverordnung, dass KI in Medizinprodukten doch noch daraus herausgelöst wird. „Datenqualität, Robustheit, Cybersicherheit und menschliche Aufsicht sind keine branchenspezifischen Fragen“, sagt Bühler. „Verteilt man die KI-Anforderungen auf einzelne Sektoren, entsteht ein Flickenteppich. Zudem fallen viele Produkte unter mehrere Regelwerke zugleich: Ein OP-Roboter ist Medizinprodukt und Maschine.“ Auch die rasante Entwicklung von KI spricht für eine zentrale Regelung. „Es ist perspektivisch einfacher, an einer Stellschraube im AI Act zu drehen, als ständig mehrere Einzelgesetze parallel anzupassen“, so Bühler. Aus Sicht des TÃœV-Verbands muss der AI Act deshalb europaweit einheitlich angewandt und konsequent durchgesetzt werden.
Alle Ergebnisse der Unternehmensbefragung „KI-Sicherheitsstudie“ des BSI und TÃœV-Verband sind abrufbar unter: www.tuev-verband.de/studien/ki-sicherheitsstudie-2026
Methodik-Hinweis: Grundlage der Studienergebnisse ist eine repräsentative Umfrage des Marktforschungsunternehmens forsa im Auftrag des BSI und des TÜV-Verbands unter 505 Unternehmen ab 20 Mitarbeitenden in Deutschland. Befragt wurden Verantwortliche für KI-Nutzung, Cybersecurity- und IT-Experten sowie Mitglieder der Geschäftsleitung. Die Befragung fand im Zeitraum vom 22. Juni bis 31. Juli 2026 statt.
Über den TÜV-Verband: Als TÜV-Verband e.V. vertreten wir die politischen Interessen der TÜV-Prüforganisationen und fördern den fachlichen Austausch unserer Mitglieder. Wir setzen uns für die technische und digitale Sicherheit sowie die Nachhaltigkeit von Fahrzeugen, Produkten, Anlagen und Dienstleistungen ein. Grundlage dafür sind allgemeingültige Standards, unabhängige Prüfungen und qualifizierte Weiterbildung. Unser Ziel ist es, das hohe Niveau der technischen Sicherheit zu wahren, Vertrauen in die digitale Welt zu schaffen und unsere Lebensgrundlagen zu erhalten. Dafür sind wir im regelmäßigen Austausch mit Politik, Behörden, Medien, Unternehmen und Verbraucher:innen.
Pressekontakt:
Linda Roy
Pressesprecherin
TÃœV-Verband e. V.
Friedrichstraße 136 | 10117 Berlin
030 760095-580, presse@tuev-verband.de
www.tuev-verband.de | www.linkedin.com/company/tuevverband
Original-Content von: TÜV-Verband e. V., übermittelt durch news aktuell
KI-Agenten: Unternehmen sehen erhebliche Sicherheitsrisiken hinzugefügt von ots am
Alle Beiträge von ots →
