Immer mehr Menschen informieren sich über ChatGPT oder Googles AI Mode. Das Resultat: eine fertig formulierte Antwort mit scheinbar immer wahren und neutralen Informationen. Doch was bequem und korrekt wirkt, birgt ein wachsendes Risiko: Diese Antworten lassen sich im Hintergrund gezielt beeinflussen, ohne dass Nutzer es bemerken.
Die Angriffspunkte sind vielfältig: manipulierte Trainingsdaten (Data Poisoning), versteckte Befehle auf Webseiten (Prompt Injection) oder gezielt gestreute Inhalte, die KI-Systeme bei Live-Suchen als Quelle heranziehen. Studien zeigen, dass bereits 250 präparierte Dokumente ausreichen, um ein Sprachmodell dauerhaft mit einer Hintertür zu versehen. Laut NewsGuard speiste ein pro-russisches Netzwerk Millionen Artikel ins Web ein, deren Falschbehauptungen führende Chatbots anschließend wiedergaben.
„Die größte Gefahr von KI-Antworten liegt in ihrer Ãœberzeugungskraft“, sagt Andreas Schnurrer, Gründer der GEO-Agentur seowerk GmbH (https://www.seowerk.de/). „Sprachmodelle formulieren Spekulationen oder gezielt platzierte Falschinformationen mit derselben Selbstverständlichkeit wie gesicherte Fakten. Das macht sie perfekt für verdeckte Einflussnahme.“
Hinzu kommt die Illusion der Neutralität: KI-Modelle präsentieren Informationen ohne sichtbaren Abwägungsprozess. Bestimmen wenige Systeme, welche Quellen zitiert werden, verengt sich der öffentliche Diskurs schleichend.
Hier geht es zur Pressemappe auf seowerk.de mit weiteren Informationen, Zitaten und Fotos
Ãœber Andreas Schnurrer und seowerk
Andreas Schnurrer ist Diplom-Informatiker und SEO der ersten Stunde. Er erforscht die Möglichkeiten und Kehrseiten von KI-Systemen, insbesondere deren Manipulierbarkeit. seowerk ist eine GEO-Agentur mit Sitz in München und Augsburg. 25 Spezialisten betreuen gut 100 Kunden im Bereich digitale Sichtbarkeit, speziell in KI-Systemen.
Andreas Schnurrer steht für Interviews, Podcasts, Fachartikel, Talkshows und Fachbeiträge zur Verfügung. Weiterhin: technisches Fact-Checking.
Pressekontakt:
seowerk GmbH
Montgelasstraße 14
81679 München-Bogenhausen
und
Proviantbachstr. 1 1/5
86153 Augsburg
Andreas Schnurrer, Geschäftsführer seowerk
+49 821 80 90 29 – 0
info@seowerk.de
www.seowerk.de
Original-Content von: seowerk GmbH, übermittelt durch news aktuell
Manipulierte KI-Antworten: KI-Experte warnt vor Gefahren für die freie Meinungsbildung – KI- & GEO-Experte Andreas Schnurrer steht Medien als Interview- und Wissenspartner zur Verfügung hinzugefügt von Edmund Heider am
Alle Beiträge von Edmund Heider →
