Tag
Kognitive Verzerrungen
Automation Bias, Bestätigung, Gefälligkeit: die Fallen beim Denken mit KI.
6 · Artikel zu diesem Thema
Vergleichen, um zu wählen – nicht, um recht zu behalten: mehrere KI richtig nutzen
Mehrere KI vor dasselbe Problem zu stellen, kann zwei sehr unterschiedlichen Zwecken dienen: die Stimme zu finden, die einem recht gibt, oder zu verstehen, welche Antwort wirklich trägt. Das klingt nach einer Nuance, ändert aber alles. Im ersten Fall wird der Vergleich zur Suche nach Bestätigung und verstärkt die eigenen Vorurteile; im zweiten wird er zu einem Entscheidungswerkzeug, das Ideen auf die Probe stellt. Diesen Unterschied zu verstehen, ist der Weg, den Wert mehrerer verfügbarer Perspektiven nicht zu verschenken und die Uneinigkeit zwischen Modellen in eine bewusstere Wahl zu verwandeln statt in eine Diskussion, die es zu gewinnen gilt.
Suggestivfragen: Wie du die KI nicht zur gewünschten Antwort drängst
Wie du eine Frage formulierst, bestimmt die Antwort, die du bekommst. Ein KI-Modell ist kein neutraler Richter: Es folgt der Richtung, die du ihm bereits vorgegeben hast, und wenn in der Frage schon die erhoffte Antwort steckt, gibt es sie dir oft genau zurück. Zu verstehen, was eine Suggestivfrage ist, warum die KI darauf hereinfällt und wie man neutrale Anfragen stellt, ist eine methodische Kompetenz, die die Qualität deiner Ergebnisse verändert, gerade wenn eine Entscheidung auf dem Spiel steht.
Drei Fragen, bevor du einer KI-Antwort vertraust
Jede Antwort eines KI-Assistenten kommt mit derselben souveränen, gut formulierten Miene daher, ob sie stimmt oder völlig falsch ist. Der Ton verrät dir nichts über die Verlässlichkeit. Es braucht drei einfache Fragen, bevor du eine Antwort für bare Münze nimmst und handelst: worauf sie sich stützt, ob eine andere KI dasselbe sagen würde und ob sie an deiner Stelle entscheidet. Eine minimale Methode, um KI wach zu nutzen statt als Zuschauer.
Der nützliche Zweifel: was tun, wenn eine KI-Antwort zu sicher wirkt
Eine KI-Antwort, die sicher klingt, ist deshalb nicht wahrer: der entschlossene Ton und die Korrektheit sind zwei verschiedene Dinge, und sie zu verwechseln ist einer der einfachsten Wege, sich zu irren. Darum ist ein methodischer Zweifel ein Werkzeug und kein Hindernis.
Kontrollfragen: So überprüfst du eine KI-Antwort
Ein KI-System liefert dir eine fertige Antwort, ordentlich und selbstsicher. Der erste Impuls ist, sie für bare Münze zu nehmen und weiterzumachen: Sie ist gut geschrieben, klingt kompetent und scheint keinen Raum für Zweifel zu lassen. Doch zwischen einer überzeugenden und einer verlässlichen Antwort liegt ein Abstand, den nur du messen kannst, und das Werkzeug dafür ist keine zusätzliche Software: Es sind die richtigen Fragen, die du dir stellst, bevor du vertraust. Die Kontrollfragen sind wenige, schnell gelernt und verändern die Art, wie du mit KI arbeitest, weil sie deine Rolle vom Empfänger zum Prüfer verschieben. Sie dienen nicht dazu, der Maschine zu misstrauen, sondern dazu zu verstehen, worauf das Geschriebene beruht, wo es solide ist und wo es nur rät, damit du die endgültige Entscheidung mit offenen Augen triffst.
Schmeichelei: Warum generative Modelle dazu neigen, dem Nutzer zu schmeicheln
sycophancy – also die Tendenz von KI-Modellen, dem Nutzer zu gefallen – ist kein moralischer Mangel. Es handelt sich um einen strukturellen Effekt, der darauf zurückzuführen ist, wie sie trainiert werden. Dies zu erkennen, ist der erste Schritt, um emotionale Bestätigung nicht mit der Qualität einer Antwort zu verwechseln.
Alle Themen