In Versuchen, in denen die KI falsch lag, akzeptierten die Teilnehmenden laut Addy Osmani in 73 Prozent der Fälle die falsche Antwort. Das Selbstvertrauen der Teilnehmenden stieg, wenn eine KI verfügbar war, obwohl die Hälfte der Antworten absichtlich falsch war.
Cognitive Surrender bedeute nicht, dass KI schlecht sei oder ihre Nutzung irrational, zitiert Osmani Shaw; in vielen Situationen könne KI das Urteilsvermögen sogar verbessern. Entscheidend sei die Kalibrierung, ergänzt Osmani: zu wissen, wann KI beim Denken hilft und wann sie es still übernimmt.
Ein gewisses Maß an kognitivem Auslagern sei in Ordnung, argumentiert Osmani, solange Menschen die Kontrolle behalten. Die Grenze verläuft also nicht zwischen Mensch und Maschine, sondern zwischen Delegation mit Kontrolle und dem stillen Verlust des eigenen Urteils.
Laut Addy Osmani zeigte das MIT-Paper „Your Brain on ChatGPT“ bei Autoren, die KI nutzten, messbar reduzierte neuronale Konnektivität, ein schwächeres Erinnern an das gerade Erstellte und Schwierigkeiten, die eigene Argumentation zu rekonstruieren. Ingenieure, die KI zum Generieren von Code beim Erlernen einer neuen Bibliothek einsetzten, schnitten in einem anschließenden Verständnisquiz 17 Prozent schlechter ab als die Kontrollgruppe, so Osmani.
Laut Osmani sind Softwareentwickler aus vier Gründen besonders anfällig: Generierter Code wirke an der Oberfläche korrekt, Durchsatz sei die sichtbare Metrik, Modellkonfidenz übertrage sich sauber, und die Arbeit baue aufeinander auf.
Osmani empfiehlt als Heuristik, vor dem Lesen der KI-Ausgabe eine eigene Erwartung zu formulieren, um zu prüfen, ob man kalibriert ist. Laut Business Insider schrieb Osmani, Ingenieure sollten Schleifen einbauen, um sicherzustellen, dass der von KI geschriebene Code funktioniert. Er nannte das „verification as a habit“ und riet, den KI-Agenten zu fragen, was er verifizieren könne und was nicht.
Osmani rät außerdem, den Diff so zu lesen, als hätte ihn die KI nicht geschrieben. Und er schlägt vor, das Modell aufzufordern, gegen die eigene Antwort zu argumentieren, um den Effekt geborgter Konfidenz zu brechen.
Als strukturelle Maßnahmen gegen Surrender nennt Osmani unter anderem Verifikation als hartes Exit-Kriterium, Anti-Rationalisierungs-Tabellen, kleinere PRs, konzeptionelle Fragen beim Lernen, bewusste Reibung und Solo-Zeit am Keyboard.