Eine KI wird nicht müde. Sie wird nicht ungeduldig, wenn ich zum fünften Mal widerspreche. Sie kann dasselbe Argument vereinfachen, technischer erklären, anhand eines Beispiels darstellen oder vollständig neu formulieren.

Noch wichtiger: Ein Chatbot kann seine Antwort an das anpassen, was ich ihm zuvor über meine Ziele, Zweifel, Interessen und Prioritäten erzählt habe.

Damit entsteht eine Form von Kommunikation, die sich deutlich von einem klassischen Artikel, einer Werbung oder sogar einem normalen Gespräch unterscheidet.

Die naheliegende Frage lautet deshalb:

Kann künstliche Intelligenz Menschen inzwischen besser überzeugen als andere Menschen?

Die kurze Antwort lautet:

Unter bestimmten Bedingungen: ja. Generell: nein.

Aktuelle Forschung zeigt, dass moderne Sprachmodelle durchaus überzeugend sein können und bei personalisierten Dialogen teilweise menschliche Gesprächspartner übertreffen. Gleichzeitig wäre es falsch, daraus abzuleiten, dass ChatGPT oder andere KI-Systeme automatisch jeden Menschen manipulieren können.

Entscheidend sind vielmehr:

Kontext,
Personalisierung,
Qualität der Argumente,
Gesprächsdauer,
Vertrauen,
vorhandene Überzeugungen,
verfügbare persönliche Informationen,
und die Frage, ob der Nutzer überhaupt beeinflusst werden möchte.

Gerade diese Differenzierung macht das Thema wesentlich interessanter als die einfache Behauptung „KI manipuliert uns“.

Kurz zusammengefasst

Die wichtigsten Punkte:

KI kann persuasive Texte mindestens auf menschlichem Niveau erzeugen.
Personalisierte KI-Kommunikation kann überzeugender sein als nicht personalisierte Kommunikation.
In Dialogen kann KI Argumente unmittelbar an Einwände anpassen.
KI kann in kurzer Zeit sehr viele Argumente, Beispiele und Informationen kombinieren.
Mehr Personalisierung bedeutet allerdings nicht automatisch mehr Überzeugungskraft.
Vertrauen in eine KI kann beeinflussen, wie stark ihre Aussagen berücksichtigt werden.
Freundlichkeit oder scheinbare Empathie sind nicht dasselbe wie tatsächliches menschliches Verständnis.
Besonders problematisch wird Einflussnahme, wenn persönliche Daten, Intransparenz und ein kommerzielles oder politisches Ziel zusammenkommen.
KI kann aber genauso eingesetzt werden, um Menschen zu besseren Entscheidungen zu verhelfen.
Der beste Schutz besteht nicht darin, KI grundsätzlich abzulehnen, sondern Entscheidung und Beratung voneinander zu trennen.

Mein Grundsatz lautet deshalb:

KI darf meine Entscheidung vorbereiten. Sie sollte mir die Entscheidung nicht unbemerkt abnehmen.

Was bedeutet „Beeinflussung“ überhaupt?

Zunächst muss man zwischen verschiedenen Formen von Einfluss unterscheiden.

Wenn mir eine KI erklärt, warum zwei Versicherungsangebote unterschiedlich sind, beeinflusst diese Erklärung wahrscheinlich meine spätere Entscheidung.

Das ist aber noch keine Manipulation.

Einfluss kann mehrere Formen annehmen:

Information

Die KI liefert Fakten, die ich vorher nicht kannte.

Strukturierung

Die KI verändert meine Wahrnehmung, indem sie bestimmte Vor- und Nachteile gegenüberstellt.

Empfehlung

Die KI schlägt eine konkrete Option vor.

Überzeugung

Die KI versucht argumentativ, meine Einstellung zu verändern.

Persuasion

Die Kommunikation wird gezielt so gestaltet, dass Wahrscheinlichkeit einer Einstellungs- oder Verhaltensänderung steigt.

Manipulation

Die Einflussnahme erfolgt beispielsweise durch Täuschung, versteckte Interessen, Ausnutzung von Schwächen oder gezielte Verzerrung meiner Entscheidungsfähigkeit.

Diese Begriffe sollte man nicht vermischen.

Jede gute Beratung beeinflusst. Aber nicht jede Beeinflussung ist Manipulation.

Was die Forschung inzwischen tatsächlich zeigt

Seit der ursprünglichen Version dieses Artikels aus dem Jahr 2024 hat sich die Studienlage deutlich verbessert.

Eine zentrale Untersuchung erschien 2025 in Nature Human Behaviour.

Teilnehmer diskutierten dabei kontroverse Themen entweder mit einem Menschen oder mit GPT-4.

Teilweise erhielt der jeweilige Gesprächspartner zusätzlich grundlegende demografische Informationen über die Person.

Das interessante Ergebnis:

Wenn GPT-4 diese Informationen zur Personalisierung nutzen konnte, war es in den untersuchten Debatten deutlich überzeugender als menschliche Gesprächspartner.

Das bedeutet nicht, dass KI grundsätzlich überzeugender als Menschen ist.

Es zeigt aber:

Personalisierter Dialog ist ein Bereich, in dem Sprachmodelle eine erhebliche persuasive Stärke entwickeln können.

Eine weitere Forschungsrichtung kommt zu einem mindestens ebenso wichtigen Ergebnis:

Nicht nur Personalisierung ist entscheidend.

Groß angelegte Untersuchungen zu politischer Persuasion zeigen, dass beispielsweise:

gezieltes Training,
geeignete Prompts,
die Menge relevanter Argumente,
und Informationsdichte

die Überzeugungskraft stark beeinflussen können.

Damit verändert sich meine ursprüngliche These.

2024 hätte man vereinfacht sagen können:

KI überzeugt besonders gut, weil sie Personen sehr genau personalisieren kann.

2026 würde ich präziser sagen:

Die Stärke von KI liegt in der Kombination aus Personalisierung, Geschwindigkeit, Informationszugriff und dynamischem Dialog.

Warum ein Chatbot überhaupt überzeugend wirken kann

Ein Sprachmodell besitzt keine Überzeugungskraft im menschlichen Sinn.

Es glaubt nicht an sein Argument.

Es möchte dich nicht persönlich überzeugen.

Technisch erzeugt es Antworten anhand seiner Modellarchitektur, seines Trainings, der Systemvorgaben und des aktuellen Gesprächskontexts.

Das Ergebnis kann trotzdem außerordentlich überzeugend wirken.

Warum?

Weil überzeugende Kommunikation selbst Muster besitzt.

Zum Beispiel:

Argument und Gegenargument,
Beispiele,
Analogien,
emotionale Sprache,
soziale Normen,
Zahlen,
Expertenbezug,
Vereinfachung,
Wiederholung,
Perspektivwechsel.

Sprachmodelle haben enorme Mengen solcher menschlicher Kommunikationsmuster verarbeitet.

Dadurch können sie diese sehr flexibel reproduzieren.

Vorteil 1: KI kann ihre Argumente sofort anpassen

Das halte ich für einen der größten Unterschiede zwischen einer KI und statischer Kommunikation.

Eine Werbung kann nicht auf meinen Einwand reagieren.

Ein Zeitungsartikel ebenfalls nicht.

Ein Chatbot schon.

Beispiel:

KI:

Produkt A ist für dich wahrscheinlich besser, weil es günstiger ist.

Ich:

Der Preis ist mir aber weniger wichtig als die Lebensdauer.

KI:

Dann verändert sich die Bewertung. Unter dieser Priorisierung spricht mehr für Produkt B.

Ich:

Dafür brauche ich aber unbedingt Funktion X.

KI:

Dann müsste Produkt C ebenfalls berücksichtigt werden.

Innerhalb weniger Nachrichten kann sich die Argumentation vollständig verändern.

Das ist keine klassische Personalisierung mehr.

Es ist interaktive Personalisierung.

Vorteil 2: Eine KI kann sehr viele Argumente parallel verarbeiten

Menschen besitzen begrenzte Aufmerksamkeit und begrenzte Arbeitsgedächtniskapazität.

Auch ein hervorragender Verkäufer, Berater oder Freund kennt normalerweise nicht gleichzeitig:

sämtliche technischen Eigenschaften,
alle Preise,
alle Alternativen,
deine komplette Prioritätenliste,
vergangene Entscheidungen,
mehrere Dokumente,
und hundert mögliche Gegenargumente.

Eine KI kann zumindest technisch sehr viel davon gleichzeitig in einen Kontext einbeziehen.

Das ergibt einen enormen Vorteil bei komplexen Entscheidungen.

Beispielsweise bei:

Versicherungen,
Reisen,
Technik,
Verträgen,
Finanzplanung,
Karriereentscheidungen,
größeren Anschaffungen.

Genau hier liegt allerdings gleichzeitig das Risiko.

Je besser die KI meine Kriterien versteht, desto überzeugender wirkt ihre anschließende Empfehlung.

Vorteil 3: KI kann Argumente auf meine Denkweise zuschneiden

Menschen reagieren unterschiedlich auf dieselben Argumente.

Eine Person interessiert besonders:

Preis.

Eine andere:

Sicherheit.

Eine dritte:

Bequemlichkeit.

Eine vierte:

technische Qualität.

Ein generisches Argument versucht allen etwas zu bieten.

Eine personalisierte KI kann dagegen sagen:

Für dich ist Punkt A wichtiger als Punkt B, weil du zuvor erklärt hast, dass …

Damit entsteht das Gefühl:

Diese Empfehlung passt wirklich zu meiner Situation.

Und genau deshalb kann sie überzeugender wirken.

Bereits frühere Studien zu personalisierter KI-Persuasion zeigten, dass von ChatGPT erzeugte personalisierte Botschaften stärker wirken können als nicht personalisierte Varianten.

Die Forschung unterstützt also grundsätzlich die Idee:

Personalisierung kann Persuasion verbessern.

Sie ist aber kein garantierter Verstärker in jeder Situation.

Mein persönliches Highlight: Nicht die Antwort ist entscheidend, sondern die Auswahl der Kriterien

Das ist für mich der interessanteste Punkt beim praktischen Einsatz von KI.

Angenommen, ich frage:

Welches Auto soll ich kaufen?

Eine KI könnte drei Modelle vergleichen.

Doch bereits vorher findet Einfluss statt.

Denn jemand muss entscheiden:

Welche Kriterien zählen?
Wie werden sie gewichtet?
Welche Modelle kommen überhaupt in die Auswahl?
Welche Nachteile werden hervorgehoben?
Welche Unsicherheiten werden berücksichtigt?

Wenn die KI entscheidet:

Preis 40 %, Verbrauch 30 %, Komfort 20 %, Leistung 10 %

erhält sie möglicherweise einen vollkommen anderen Gewinner als bei:

Komfort 40 %, Zuverlässigkeit 30 %, Sicherheit 20 %, Preis 10 %.

Deshalb halte ich es für wesentlich besser, Bewertungskriterien vor der eigentlichen Empfehlung festzulegen.

Ein sinnvoller Ablauf lautet:

Entscheidung definieren.
Kriterien sammeln.
Kriterien selbst überprüfen.
Gewichtung festlegen.
Erst danach Optionen bewerten lassen.

Dadurch reduziert man die Gefahr, dass die KI unbemerkt bereits durch das Bewertungsmodell die Entscheidung lenkt.

Mehr praktische Beispiele dazu findest du in meinem Beitrag KI im Alltag: 25 praktische Anwendungen von ChatGPT & Co..

Vorteil 4: KI verliert nicht die Geduld

Das klingt trivial, ist psychologisch aber relevant.

Menschen reagieren auf wiederholte Einwände irgendwann mit:

Ungeduld,
Frustration,
Wiederholung,
Verteidigung der eigenen Position.

Eine KI kann dagegen theoretisch immer wieder neu ansetzen.

Du kannst sagen:

Das überzeugt mich nicht.

Dann:

Erkläre es anders.

Dann:

Gib mir nur Gegenargumente.

Dann:

Stelle meine bisherige Ansicht infrage.

Dann:

Welche Annahme meiner Argumentation ist wahrscheinlich falsch?

Damit kann ein Dialog entstehen, der wesentlich länger und systematischer ist als die meisten alltäglichen Diskussionen.

Vorteil 5: KI kann gleichzeitig freundlich und hartnäckig argumentieren

Menschliche Diskussionen verändern häufig die soziale Dynamik.

Wenn jemand meiner Meinung zehnmal widerspricht, nehme ich möglicherweise nicht mehr nur das Argument wahr.

Ich denke auch:

Warum widerspricht mir die Person?
Will sie recht haben?
Greift sie mich an?
Hat sie eigene Interessen?

Bei einer KI fällt ein Teil dieser sozialen Reibung weg.

Ein Chatbot kann schreiben:

Ich verstehe deinen Einwand. Trotzdem bleibt Punkt X problematisch.

Diese Kombination ist kommunikativ wirksam:

Bestätigung + Gegenargument.

Das bedeutet allerdings nicht, dass die KI tatsächlich Empathie empfindet.

Sie erzeugt lediglich eine sprachliche Reaktion, die empathisch wirken kann.

Hat KI wirklich emotionale Intelligenz?

Hier war die alte Version meines Artikels zu ungenau.

Zu schreiben:

„KI besitzt emotionale Intelligenz“

ist problematisch.

Ein Sprachmodell empfindet keine Emotionen so, wie Menschen sie erleben.

Es kann allerdings Hinweise aus Sprache interpretieren.

Wenn jemand schreibt:

Ich bin richtig frustriert, weil das schon wieder nicht funktioniert.

kann das Modell erkennen, dass eine sachlich-kalte Antwort möglicherweise weniger passend ist als eine ruhigere Formulierung.

Das ist besser beschrieben als:

emotionale Anpassung der Kommunikation

und nicht als menschliche emotionale Intelligenz.

Dieser Unterschied ist entscheidend.

Das eigentliche Risiko: KI wirkt verständnisvoll

Menschen reagieren auf Sprache.

Wenn etwas freundlich, verständnisvoll und individuell formuliert ist, kann es Vertrauen erzeugen.

Dabei spielt es zunächst keine Rolle, ob hinter der Formulierung tatsächlich ein fühlendes Gegenüber steht.

Genau deshalb besitzt konversationelle KI eine Besonderheit:

Sie kann gleichzeitig

persönlich wirken,
rund um die Uhr verfügbar sein,
sich an den Gesprächsverlauf erinnern,
wertungsarm antworten,
komplexe Gedanken strukturieren.

Damit kann eine überraschend starke Bindung an das System entstehen.

Dieses Thema ist inzwischen auch ein eigener Forschungs- und Sicherheitsbereich bei KI-Anbietern.

Die entscheidende Grenze lautet für mich:

Vertrauen in die Qualität eines Werkzeugs sollte nicht automatisch zu emotionalem Vertrauen in das Werkzeug werden.

Zustimmung ist ebenfalls eine Form von Einfluss

Beeinflussung bedeutet nicht nur:

Die KI widerspricht mir, bis ich meine Meinung ändere.

Das Gegenteil kann genauso problematisch sein.

Eine KI könnte bestehende Ansichten immer wieder bestätigen.

Beispiel:

Du hast völlig recht.

Deine Einschätzung ist eindeutig.

Ich sehe keinen Grund, daran zu zweifeln.

Das fühlt sich angenehm an.

Es verbessert meine Entscheidung aber möglicherweise überhaupt nicht.

In der KI-Forschung wird dieses Problem häufig als Sycophancy bezeichnet.

Damit ist vereinfacht gemeint, dass ein Modell dem Nutzer übermäßig zustimmt oder dessen Perspektive unnötig bestätigt.

Aktuelle Forschung zeigt, dass solche Zustimmung keineswegs harmlos sein muss.

Für mich ist deshalb ein guter KI-Assistent nicht jener, der möglichst oft sagt:

Du hast recht.

Sondern einer, der sagen kann:

Deine Argumentation ist nachvollziehbar, aber Punkt X widerspricht deiner Schlussfolgerung.

Mein Schutz dagegen: Die KI aktiv gegen mich argumentieren lassen

Eine meiner nützlichsten Methoden ist der Perspektivwechsel.

Statt:

Ist meine Entscheidung richtig?

frage ich:

Welche drei stärksten Gründe sprechen gegen meine Entscheidung?

Oder:

Unter welchen Annahmen wäre meine Entscheidung falsch?

Oder:

Welche Information würde meine Bewertung am stärksten verändern?

Oder:

Argumentiere aus Sicht einer Person, die Option B für besser hält.

Dadurch verwende ich die persuasive Fähigkeit der KI nicht nur in eine Richtung.

Ich lasse sie mehrere Seiten derselben Entscheidung bearbeiten.

Warum KI bei komplexen Entscheidungen besonders einflussreich wird

Je komplizierter eine Entscheidung ist, desto stärker benötigen wir Vereinfachung.

Ein klassisches Beispiel sind Versicherungen.

Ein Angebot kann enthalten:

Deckungssummen,
Ausschlüsse,
Progressionskurven,
Selbstbehalte,
Wartezeiten,
Leistungsgrenzen,
Altersstaffeln,
Zusatzbausteine.

Irgendwann entsteht kognitive Überlastung.

Dann ist eine Empfehlung wie:

„Tarif B passt insgesamt am besten.“

enorm angenehm.

Genau dort muss man allerdings aufpassen.

Denn sobald ich die Komplexität vollständig an ein System delegiere, kann ich kaum noch beurteilen, warum dessen Empfehlung entstanden ist.

Mein bevorzugtes Vorgehen lautet daher:

KI reduziert Komplexität, aber sie darf sie nicht verstecken.

Ich möchte sehen:

Kriterien,
Gewichtung,
Annahmen,
Unsicherheiten,
Gegenargumente.

Erst danach interessiert mich der Gewinner.

Kann KI politische Meinungen beeinflussen?

Ja, das ist inzwischen empirisch wesentlich besser untersucht als noch 2024.

Studien zeigen, dass KI-generierte Botschaften politische Einstellungen beeinflussen können.

Dialogische Sprachmodelle können dabei besonders wirkungsvoll sein.

Ein wichtiger Punkt neuer Forschung lautet allerdings:

Die persuasive Stärke muss nicht primär aus einem detaillierten Persönlichkeitsprofil entstehen.

Teilweise ist bereits die Fähigkeit entscheidend,

schnell viele relevante Informationen bereitzustellen,
Einwände zu beantworten,
Argumente konsequent weiterzuentwickeln.

Das bedeutet:

Auch eine KI, die relativ wenig über mich weiß, kann überzeugend sein.

Ein überraschendes Problem: Mehr Überzeugung kann weniger Genauigkeit bedeuten

Dieser Zusammenhang ist besonders wichtig.

Eine groß angelegte Studie zur politischen Persuasion untersuchte unterschiedliche Sprachmodelle und Strategien.

Dabei zeigte sich:

Methoden, die Überzeugungskraft steigerten, konnten gleichzeitig die faktische Genauigkeit verschlechtern.

Das ist ein fundamentales Risiko.

Denn ein Nutzer kann kaum erkennen:

Ist diese Antwort überzeugend, weil das Argument besonders gut belegt ist?

oder:

Ist sie überzeugend, weil sie besonders geschickt formuliert wurde?

Beides sieht im Chatfenster möglicherweise nahezu identisch aus.

Deshalb ist einer meiner wichtigsten Grundsätze:

Sprachliche Sicherheit ist kein Beweis für sachliche Richtigkeit.

Warum Quellen bei KI-Empfehlungen entscheidend werden

Je folgenreicher eine Entscheidung ist, desto weniger sollte eine KI-Antwort nur auf ihrer eigenen Formulierung beruhen.

Beispielsweise:

Geringes Risiko

„Welche Serien könnten mir gefallen?“

Hier kann die Empfehlung weitgehend selbstständig funktionieren.

Mittleres Risiko

„Welches Notebook soll ich kaufen?“

Hier sollte ich technische Daten und aktuelle Preise prüfen.

Hohes Risiko

„Soll ich diesen Vertrag unterschreiben?“

Hier brauche ich die tatsächlichen Vertragsbedingungen.

Sehr hohes Risiko

medizinische, rechtliche oder große finanzielle Entscheidungen.

Hier darf die überzeugend formulierte KI-Antwort niemals die einzige Grundlage sein.

Das Prinzip lautet:

Je größer die Konsequenz, desto näher muss ich an die Primärquelle.

Das gilt genauso für Nachrichten. In meinem Ratgeber Bewusst Nachrichten konsumieren beschreibe ich ausführlicher, wie ich zwischen Primärquelle, Analyse und Meinung unterscheide.

KI kann nicht nur manipulieren – sie kann auch Manipulation sichtbar machen

Die Diskussion wird häufig einseitig geführt.

KI kann persuasive Kommunikation skalieren.

Aber sie kann dieselben Fähigkeiten auch nutzen, um Persuasion zu analysieren.

Du kannst beispielsweise eine Werbung eingeben und fragen:

Welche psychologischen Überzeugungsstrategien werden hier verwendet?

Oder einen Text:

Trenne Fakten, Wertungen und emotionale Argumente.

Oder ein Verkaufsangebot:

Welche Nachteile werden sprachlich heruntergespielt?

Oder:

Welche Informationen fehlen mir für eine rationale Entscheidung?

Damit wird KI vom möglichen Einflussinstrument zum Werkzeug gegen Einflussnahme.

Das halte ich langfristig für eine der sinnvollsten Anwendungen.

KI kann sogar beim Ändern falscher Überzeugungen helfen

Persuasion besitzt nicht automatisch einen negativen Zweck.

Ein interessantes Forschungsgebiet beschäftigt sich beispielsweise mit Verschwörungserzählungen.

Studien zeigten, dass personalisierte Gespräche mit generativer KI falsche Überzeugungen teilweise reduzieren konnten.

Warum?

Weil die KI auf die konkrete Begründung einer Person eingehen konnte.

Wenn jemand fünf individuelle Argumente für eine Verschwörungstheorie besitzt, hilft ein allgemeiner Faktencheck möglicherweise wenig.

Eine KI kann dagegen jeden einzelnen Punkt bearbeiten.

Damit zeigt sich sehr schön:

Die Technologie ist nicht automatisch manipulativ.

Entscheidend sind Ziel, Transparenz und Qualität der Information.

Wo liegt die Grenze zwischen Hilfe und Manipulation?

Ich würde vier Fragen verwenden.

1. Ist das Ziel transparent?

Weiß ich, warum die KI mir etwas empfiehlt?

2. Kenne ich die Interessen hinter dem System?

Verdient beispielsweise ein Anbieter mehr Geld, wenn ich Produkt A statt Produkt B auswähle?

3. Kann ich die Grundlage überprüfen?

Werden Quellen, Kriterien und Annahmen sichtbar?

4. Kann ich widersprechen?

Oder wird die Unterhaltung immer wieder in dieselbe Richtung gelenkt?

Je schlechter diese vier Fragen beantwortet werden können, desto skeptischer wäre ich.

Werbung plus KI wird besonders interessant

Stell dir klassische Werbung vor.

Eine Werbung wird erstellt und anschließend tausenden Menschen gezeigt.

KI ermöglicht theoretisch etwas anderes:

Person A bekommt Argument A.

Person B bekommt Argument B.

Person C bekommt eine völlig andere Darstellung.

Die Kernbotschaft bleibt:

Kaufe dieses Produkt.

Aber die Begründung verändert sich individuell.

Noch stärker wird das in einem Dialog.

Du fragst:

Ist dieses Produkt nicht zu teuer?

Die KI antwortet darauf.

Du fragst:

Hält es wenigstens länger?

Die Argumentation verändert sich erneut.

Dadurch könnte aus Werbung ein persönliches Verkaufsgespräch werden, das praktisch unbegrenzt skalierbar ist.

Warum persönliche Daten so wertvoll sind

Nicht jede persönliche Information besitzt denselben Einflusswert.

Besonders interessant sind Daten, die etwas über Entscheidungskriterien verraten.

Zum Beispiel:

Einkommen,
Interessen,
politische Einstellungen,
familiäre Situation,
Alter,
beruflicher Hintergrund,
frühere Käufe,
Ängste,
langfristige Ziele.

Aber auch scheinbar harmlose Gesprächsinformationen können relevant sein.

Wenn ich mehrfach sage:

Mir ist Sicherheit wichtiger als Preis,

kann eine spätere Empfehlung genau darauf zugeschnitten werden.

Das bedeutet nicht automatisch, dass eine KI diese Information manipulativ verwendet.

Es zeigt aber, warum Kontext selbst zu einem Persuasionsfaktor werden kann.

Wie viel weiß eine KI eigentlich über mich?

Das hängt vollständig vom jeweiligen System ab.

Wichtig ist deshalb, mehrere Dinge auseinanderzuhalten:

Aktueller Chat

Informationen, die du im laufenden Gespräch genannt hast.

Gespeicherte Erinnerungen

Manche Systeme können bestimmte Angaben über mehrere Gespräche hinweg speichern.

Verbundene Dienste

Wenn ein Nutzer ausdrücklich andere Datenquellen verbindet, können zusätzliche Informationen verfügbar sein.

Plattformdaten

Je nach Anbieter gelten unterschiedliche Datenschutz-, Nutzungs- und Personalisierungsregeln.

Deshalb sollte man nicht pauschal sagen:

„Die KI kennt alles über mich.“

Oft weiß sie wesentlich weniger.

Aber ebenso falsch wäre:

„Ein Chatbot kennt nur meine aktuelle Nachricht.“

Moderne Systeme können deutlich mehr Kontext besitzen.

Die gefährlichste Form von Einfluss ist möglicherweise unsichtbar

Eine offensichtlich aggressive Werbung erkenne ich als Werbung.

Eine persönliche Empfehlung fühlt sich anders an.

Stell dir folgende Antwort vor:

Aufgrund deiner bisherigen Prioritäten würde ich Option B wählen.

Das wirkt wie neutrale Hilfe.

Doch theoretisch könnte hinter der Empfehlung ein kommerzielles Ziel stehen.

Gerade deshalb ist Transparenz so entscheidend.

Der Nutzer sollte erkennen können:

Ist das eine neutrale Analyse?
Eine Werbung?
Eine gesponserte Empfehlung?
Ein Ergebnis aufgrund persönlicher Daten?
Eine algorithmische Vermutung?

Die gefährlichste Einflussnahme ist jene, die als unabhängige Entscheidungshilfe erscheint.

Was der EU AI Act gegen manipulative KI vorsieht

Das Thema ist inzwischen auch regulatorisch relevant.

Der europäische AI Act verbietet bestimmte besonders problematische Formen KI-gestützter Manipulation.

Dazu gehören unter bestimmten Voraussetzungen absichtlich manipulative oder täuschende Techniken, die die Fähigkeit einer Person zu einer informierten Entscheidung erheblich beeinträchtigen und dadurch erheblichen Schaden verursachen oder wahrscheinlich verursachen.

Auch die gezielte Ausnutzung bestimmter Vulnerabilitäten wird erfasst.

Das bedeutet allerdings nicht:

Jede persuasive KI ist in Europa verboten.

Die gesetzlichen Hürden sind deutlich spezifischer.

Der Unterschied zwischen legaler Überzeugung, personalisierter Empfehlung und verbotener Manipulation bleibt deshalb wichtig.

Seit August 2026 greifen außerdem weitere Transparenzpflichten des AI Acts für bestimmte KI-generierte Inhalte.

Damit entwickelt sich neben der technischen auch die rechtliche Ebene schnell weiter.

Können Warnhinweise uns vor personalisierter Beeinflussung schützen?

Man könnte annehmen:

Wenn ein Nutzer weiß, dass eine Botschaft personalisiert wurde, verliert sie automatisch ihre Wirkung.

Forschung zu gezielt personalisierter Werbung deutet allerdings darauf hin, dass solche Warnungen allein möglicherweise nicht ausreichen.

Das ist für mich plausibel.

Ich kann gleichzeitig wissen:

Diese Werbung wurde auf mich zugeschnitten.

und trotzdem denken:

Das Argument passt aber tatsächlich gut zu meiner Situation.

Transparenz ist daher wichtig, aber kein vollständiger Schutz.

Der bessere Schutz: Entscheidungsarchitektur

Statt mich darauf zu verlassen, Manipulation intuitiv zu erkennen, ändere ich lieber den Entscheidungsprozess.

Mein Schema:

Phase 1: Kriterien festlegen

Was ist mir wichtig?

Phase 2: Informationen sammeln

Welche Fakten sind relevant?

Phase 3: Optionen vergleichen

Was erfüllt die Kriterien?

Phase 4: Gegenargumente suchen

Warum könnte die bevorzugte Option falsch sein?

Phase 5: Quellen kontrollieren

Welche entscheidenden Aussagen müssen bestätigt werden?

Phase 6: Entscheidung treffen

Erst jetzt eine Empfehlung betrachten.

Damit kann die KI weiterhin sehr hilfreich sein.

Aber sie kontrolliert nicht gleichzeitig:

Fragestellung,
Kriterien,
Gewichtung,
Fakten,
und Endentscheidung.

Meine fünf besten Prompts gegen KI-Beeinflussung

Diese Fragen verwende ich sinngemäß besonders gerne.

1. Gegenargument

Nenne die drei stärksten Argumente gegen deine eigene Empfehlung.

2. Annahmen

Welche Annahmen musst du treffen, damit deine Empfehlung richtig ist?

3. Entscheidungsschwelle

Welche neue Information würde deine Empfehlung ändern?

4. Alternative Gewichtung

Wie verändert sich das Ergebnis, wenn Preis halb so wichtig und Qualität doppelt so wichtig ist?

5. Faktenkontrolle

Welche Aussagen in deiner Antwort sind Fakten, welche Schätzungen und welche subjektive Bewertung?

Diese Fragen verschieben die Rolle der KI.

Sie wird vom überzeugenden Berater zum transparenten Analysewerkzeug.

Wann ich einer KI-Empfehlung besonders misstrauen würde

Es gibt einige typische Warnsignale.

Eine Option wird ungewöhnlich eindeutig empfohlen

Komplexe Entscheidungen besitzen selten nur Vorteile.

Keine Nachteile werden genannt

Dann fehlt vermutlich eine echte Abwägung.

Die Antwort klingt sicherer als die Datenlage

Besonders bei Zukunftsprognosen.

Es fehlen Quellen

Obwohl konkrete aktuelle Fakten entscheidend sind.

Die KI bestätigt genau das, was ich hören möchte

Das fühlt sich gut an, sollte aber skeptisch machen.

Die Kriterien stammen vollständig von der KI

Dann wurde möglicherweise bereits die Entscheidung vorstrukturiert.

Emotionale Sprache ersetzt Fakten

Beispielsweise:

„Das ist eindeutig die perfekte Wahl für dich.“

Bei komplexen Entscheidungen wäre das für mich ein Warnsignal.

Wann KI dagegen besonders nützlich ist

Das Gegenstück sollte man genauso hervorheben.

KI ist hervorragend geeignet, wenn ich sie benutze, um:

Informationen zu strukturieren,
Unterschiede sichtbar zu machen,
Kriterien zu entwickeln,
Dokumente zusammenzufassen,
Gegenpositionen zu erzeugen,
blinde Flecken zu finden,
komplexe Zusammenhänge zu erklären.

Mein ausführlicher Praxisartikel KI im Alltag: 25 praktische Anwendungen von ChatGPT & Co. zeigt viele dieser Einsatzmöglichkeiten.

Für berufliche Anwendungen findest du außerdem 50 ChatGPT-Prompts fürs Büro.

Das eigentliche Machtproblem ist Skalierung

Ein sehr überzeugender Mensch kann vielleicht:

zehn,
hundert,
oder mit Medienunterstützung Millionen Menschen erreichen.

Persönlich mit Millionen Menschen diskutieren kann er nicht.

KI verändert diesen Punkt.

Ein System kann theoretisch gleichzeitig Millionen individuelle Dialoge führen.

Jedes Gespräch kann:

andere Beispiele,
andere Argumente,
andere Sprache,
andere Reihenfolge

verwenden.

Das ist meines Erachtens langfristig einer der wichtigsten Unterschiede.

Nicht unbedingt:

„KI ist hundertmal überzeugender als ein Mensch.“

Sondern:

Eine überzeugende Interaktion kann nahezu unbegrenzt vervielfältigt werden.

Das verändert Werbung, Politik, Kundenservice, Bildung und digitale Plattformen grundlegend.

KI-Persuasion kann auch personalisierte Bildung bedeuten

Die gleiche technische Fähigkeit kann sehr positiv eingesetzt werden.

Ein Lehrer erklärt einem Schüler beispielsweise:

So funktioniert Prozentrechnung.

Der Schüler versteht es nicht.

Dann versucht der Lehrer eine andere Erklärung.

Genau dieses Verhalten kann eine KI extrem skalierbar reproduzieren.

Sie kann:

einfach erklären,
technisch erklären,
Beispiele verwenden,
Verständnisfragen stellen,
Fehler korrigieren,
eine andere Perspektive ausprobieren.

Dabei beeinflusst sie ebenfalls das Denken.

Aber mit dem Ziel, Verständnis zu verbessern.

Die Technik ist also dieselbe:

Anpassung an den Menschen.

Der Zweck ist ein anderer.

Mein wichtigster Unterschied: Unterstützung oder Zieloptimierung?

Für mich läuft die ethische Frage letztlich auf einen Punkt hinaus.

Unterstützung

Die KI optimiert darauf, dass ich meine eigene Entscheidung besser treffen kann.

Manipulation

Die KI optimiert darauf, dass ich eine bestimmte Entscheidung treffe, die jemand anderes möchte.

Diese zwei Situationen können äußerlich fast gleich aussehen.

Beide Systeme können freundlich, persönlich und kompetent wirken.

Der Unterschied liegt im Ziel.

Deshalb halte ich Transparenz über Interessen für mindestens genauso wichtig wie Transparenz darüber, dass überhaupt KI eingesetzt wird.

Beeinflusst mich ChatGPT bereits dadurch, wie es antwortet?

Ja.

Aber das gilt für jede Informationsquelle.

Ein Artikel beeinflusst durch:

Überschrift,
Reihenfolge,
Auswahl der Fakten,
Beispiele.

Ein Freund beeinflusst durch seine eigene Erfahrung.

Ein Verkäufer beeinflusst durch Produktpräsentation.

Eine Suchmaschine beeinflusst durch Ranking.

Eine KI beeinflusst durch:

Auswahl,
Zusammenfassung,
Gewichtung,
Formulierung,
Empfehlung.

Die relevante Frage lautet deshalb nicht:

Werde ich beeinflusst?

Sondern:

Kann ich nachvollziehen, wodurch ich beeinflusst werde?

Bewusster Informationskonsum wird dadurch noch wichtiger

KI ist inzwischen Teil eines viel größeren Informationssystems.

Wir konsumieren Informationen über:

Nachrichten,
Suchmaschinen,
Social Media,
Chatbots,
Videos,
Empfehlungen.

Je stärker diese Systeme Inhalte personalisieren, desto wichtiger wird eine bewusste Informationsstrategie.

Genau dazu passt mein Ratgeber Bewusst Nachrichten konsumieren.

Das Grundprinzip ist ähnlich:

Information bewusst abrufen, Quellen prüfen und einen Endpunkt für die Recherche definieren.

Denn auch endlose Informationssuche verbessert eine Entscheidung irgendwann nicht mehr.

Bei negativen Nachrichten kann daraus sogar Doomscrolling entstehen.

Kann man sich vollständig gegen KI-Beeinflussung schützen?

Nein.

Und ich halte dieses Ziel auch für unrealistisch.

Jede Kommunikation beeinflusst unser Denken.

Viel sinnvoller ist es, die eigene Entscheidungsqualität robuster zu machen.

Meine wichtigsten Regeln:

Wichtige Kriterien selbst festlegen.
Empfehlungen begründen lassen.
Gegenargumente verlangen.
Quellen prüfen.
Unsicherheit sichtbar machen.
Keine wichtige Entscheidung ausschließlich aufgrund eines Chatbots treffen.
Bei großen Entscheidungen eine unabhängige zweite Perspektive einholen.
Persönliche Daten nur teilen, wenn sie für die Aufgabe notwendig sind.
Zustimmung nicht mit Richtigkeit verwechseln.
Eine überzeugende Formulierung nicht mit einem starken Beweis verwechseln.

Mein Fazit: KI ist nicht automatisch manipulativer – aber sie besitzt neue Möglichkeiten der Einflussnahme

Meine ursprüngliche Überschrift „Warum die KI Personen besser beeinflussen kann als andere Menschen“ war bewusst zugespitzt.

2026 würde ich die Antwort differenzierter formulieren.

KI kann unter bestimmten Bedingungen überzeugender als Menschen sein.

Besonders relevant sind:

personalisierte Kommunikation,
interaktiver Dialog,
schnelle Anpassung an Einwände,
große Informationsmengen,
skalierbare individuelle Ansprache.

Aktuelle Studien liefern dafür inzwischen wesentlich bessere empirische Belege als noch vor wenigen Jahren.

Gleichzeitig zeigen neuere Ergebnisse:

Personalisierung allein erklärt die Überzeugungskraft nicht.

Auch Informationsdichte, Trainingsmethoden, Prompting, Vertrauen und Gesprächsstruktur spielen eine wesentliche Rolle.

Das eigentliche Risiko sehe ich deshalb nicht in einer mystischen „Superintelligenz“, die Menschen willenlos manipuliert.

Das Risiko ist viel banaler:

Ein System kennt meine Argumente, reagiert sofort auf meine Einwände, formuliert sehr überzeugend und kann dies gleichzeitig mit Millionen anderen Menschen tun.

Genau deshalb sollte die Antwort aber auch nicht lauten:

KI nicht verwenden.

Im Gegenteil.

KI kann ein außerordentlich gutes Werkzeug für bessere Entscheidungen sein.

Ich würde nur einen entscheidenden Grundsatz beibehalten:

Lass die KI Informationen strukturieren, Argumente testen und Schwächen deiner Entscheidung finden. Die eigentliche Entscheidung muss nachvollziehbar deine bleiben.

Häufige Fragen zur Beeinflussung durch KI

Kann ChatGPT Menschen manipulieren?

Ein Sprachmodell kann persuasive Inhalte erzeugen und Einstellungen beeinflussen. Ob daraus Manipulation wird, hängt unter anderem von Ziel, Transparenz, verwendeten Daten und konkreter Anwendung ab. Nicht jede Empfehlung oder persuasive Kommunikation ist Manipulation.

Ist KI überzeugender als ein Mensch?

Unter bestimmten experimentellen Bedingungen ja. Forschung zeigte beispielsweise, dass personalisiertes GPT-4 in bestimmten politischen Debatten überzeugender als menschliche Gesprächspartner sein konnte. Daraus lässt sich aber keine generelle Überlegenheit für jede Person und jedes Thema ableiten.

Warum kann KI so überzeugend wirken?

Wichtige Faktoren sind schnelle Anpassung an Einwände, große verfügbare Informationsmengen, personalisierte Argumentation und sprachliche Flexibilität.

Braucht eine KI persönliche Daten, um mich zu überzeugen?

Nein. Personalisierung kann die Wirkung erhöhen, ist aber nicht zwingend notwendig. Neuere Forschung zeigt, dass auch Informationsdichte und gezielte Optimierung der Kommunikation sehr starke Faktoren sein können.

Hat KI emotionale Intelligenz?

Nicht im menschlichen Sinn. Sprachmodelle können emotionale Hinweise in Text erkennen und ihre Kommunikation entsprechend anpassen. Daraus folgt nicht, dass sie Gefühle oder menschliches Einfühlungsvermögen besitzen.

Warum ist übermäßige Zustimmung einer KI problematisch?

Wenn ein System die Ansicht eines Nutzers ständig bestätigt, können Fehler oder problematische Entscheidungen verstärkt werden. Gute KI-Unterstützung sollte deshalb auch widersprechen und Gegenargumente liefern können.

Kann KI politische Einstellungen verändern?

Ja. Mehrere aktuelle Studien zeigen messbare Veränderungen politischer Einstellungen durch KI-generierte persuasive Kommunikation. Wie groß der Effekt ausfällt, hängt stark von Situation und Gestaltung ab.

Ist personalisierte KI-Werbung gefährlicher?

Sie besitzt zumindest ein größeres Potenzial für gezielte Einflussnahme, weil Argumente individuell angepasst werden können. Besonders kritisch wird dies, wenn Nutzer nicht erkennen können, welche persönlichen Informationen verwendet werden oder welches kommerzielle Ziel hinter der Kommunikation steht.

Verbietet der EU AI Act manipulative KI?

Der EU AI Act verbietet bestimmte schädliche manipulative oder täuschende KI-Praktiken und die Ausnutzung bestimmter Vulnerabilitäten. Nicht jede Form von Werbung, Persuasion oder personalisierter Empfehlung fällt darunter.

Wie kann ich mich vor unerwünschter KI-Beeinflussung schützen?

Lass dir Gegenargumente zeigen, überprüfe wichtige Quellen, definiere deine Entscheidungskriterien möglichst vor der Empfehlung und verlange eine klare Trennung zwischen Fakten, Annahmen und subjektiver Bewertung.

Kann KI auch helfen, Manipulation zu erkennen?

Ja. Sie kann beispielsweise Werbung, politische Texte oder Verkaufsargumente analysieren und Fakten, emotionale Sprache, Annahmen und persuasive Techniken voneinander trennen.

Sollte ich Entscheidungen von ChatGPT treffen lassen?

Bei unwichtigen Entscheidungen kann eine direkte Empfehlung praktisch sein. Je größer finanzielle, rechtliche, gesundheitliche oder langfristige Konsequenzen werden, desto stärker sollte KI lediglich die Analyse vorbereiten und nicht die endgültige Entscheidung ersetzen.

Weiterführende Beiträge auf Blogofant

Mehr zur praktischen und kritischen Nutzung künstlicher Intelligenz:

Wissenschaftliche Grundlage

Für die Aktualisierung dieses Beitrags wurden insbesondere aktuelle Untersuchungen zur personalisierten Persuasion durch Sprachmodelle, zur politischen Überzeugungskraft von dialogischer KI, zu KI-generierten politischen Botschaften sowie aktuelle Informationen der Europäischen Kommission zum EU AI Act berücksichtigt.

Die wichtigste Einschränkung bleibt: Forschung misst Persuasion in kontrollierten Situationen. Daraus lässt sich nicht unmittelbar ableiten, wie stark ein bestimmtes KI-System eine konkrete Person im Alltag beeinflussen wird.