KI & Bildung
Mit KI sagen wir kaum noch „Ich weiß es nicht“, selbst wenn die KI falsch liegt
Read this article in English →
Eine neue Studie mit mehr als 3.000 Teilnehmenden zeigt etwas, das alle kennen sollten, die im Studium ChatGPT & Co. nutzen: Ist eine KI-Antwort nur einen Klick entfernt, geben Menschen kaum noch zu, was sie nicht wissen. Sie antworten öfter, liegen seltener richtig und fühlen sich dabei deutlich sicherer.
1. Das Experiment in einer Minute
Forschende der École Normale Supérieure (Paris), der Universität Sapienza in Rom und der Universität Mailand-Bicocca führten fünf Online-Experimente mit insgesamt 3.132 Teilnehmenden durch. Vier davon waren präregistriert, eines war eine direkte Replikation.
Alle beantworteten dieselben sechs kniffligen Fragen zu kleinen visuellen Details aus Filmen, zum Beispiel zur Farbe der Trikots in Kick it like Beckham oder zu Agathas Frisur in Grand Budapest Hotel. Entscheidend: Die Teilnehmenden konnten immer mit „Ich weiß es nicht“ antworten.
Der Kniff: Die Fragen waren so ausgewählt, dass die in der Studie eingesetzte KI (ein Sprachmodell namens Step 3.5 Flash) sie fast immer falsch beantwortete. Das Forschungsteam testete außerdem GPT-5.5, Claude Sonnet 4.6 und Gemini 3.5 Flash: Alle scheiterten an der schwierigsten Frage. Weil die KI meistens falsch lag, lässt sich das Befolgen ihrer Vorschläge nicht als vernünftige Nutzung eines verlässlichen Werkzeugs erklären.
2. Ergebnis 1: „Ich weiß es nicht“ verschwindet fast
Ohne KI war ein beachtlicher Teil der Antworten ein ehrliches „Ich weiß es nicht“. Sobald ein KI-Rat verfügbar war, sank dieser Anteil in jeder einzelnen Studie fast auf null.
Daten als Tabelle anzeigen
| Studie | Teilnehmende | Ohne KI | Mit KI |
|---|---|---|---|
| Studie 1a (KI auf Anfrage (live)) | 314 | 36 % | 6 % |
| Studie 1b (KI auf Anfrage (Replikation)) | 310 | 44 % | 3 % |
| Studie 2 (KI auf Anfrage) | 812 | 17 % | 1 % |
| Studie 3 (KI auf Anfrage) | 843 | 32 % | 2 % |
| Studie 4 (KI automatisch angezeigt) | 853 | 35 % | 1 % |
Quelle: Marcoccia, Quattrociocchi & Capraro (2026), arXiv:2607.13562, Studien 1a–4.
Besonders alltagsnah ist Studie 4: Dort mussten die Teilnehmenden die KI gar nicht erst fragen. Der Vorschlag erschien einfach neben jeder Frage, so wie heute KI-Zusammenfassungen in Suchmaschinen oder Schreibprogrammen auftauchen. Der Effekt war genauso stark: 35 % „Ich weiß es nicht“ ohne KI, 1 % mit KI.
3. Ergebnis 2: Sicherer, aber seltener richtig
Mehr Antworten wären kein Problem, wenn sie stimmen würden. Das taten sie nicht. Ohne Geldanreiz lagen Teilnehmende mit KI nur etwa ein Drittel so oft richtig wie die ohne KI. Gleichzeitig hat sich ihr Vertrauen in die eigenen Antworten mehr als verdoppelt.
Daten als Tabelle anzeigen
| Ohne KI | Mit KI | |
|---|---|---|
| Richtige Antworten (über die Studien zusammengefasst) | 27,5 % | 9,2 % |
| Durchschnittliche Sicherheit, Skala 0–100 (Studie 2) | 29,6 | 75,9 |
Quelle: Marcoccia et al. (2026), Diskussion und Studie 2. Zwei getrennte Diagramme mit eigener Skala.
Das Forschungsteam weist auf ein unbequemes Detail hin: Die KI-Gruppe beantwortete mehr Fragen, aber weniger richtig. Die KI hat also nicht nur Lücken gefüllt. Sie muss auch Antworten, die die Menschen wussten oder hätten herleiten können, in Fehler verwandelt haben. Normalerweise sind Menschen gegenüber den Ratschlägen anderer eher skeptisch. Hier taten sie das Gegenteil und folgten einem selbstsicheren, aber falschen Vorschlag.
4. Ergebnis 3: Geld als Anreiz hilft ein wenig
In den Studien 2 bis 4 erhielt ein Teil der Teilnehmenden 0,10 US-Dollar für jede richtige Antwort und verlor 0,10 US-Dollar für jede falsche. „Ich weiß es nicht“ kostete nichts. Das veränderte das Verhalten, aber nur teilweise:
Mit anderen Worten: Wenn Fehler etwas kosten, verlassen sich Menschen mehr auf ihr eigenes Urteil. Aber auch dann blieb „Ich weiß es nicht“ weit unter dem Niveau der Menschen ohne KI: Mit Geldanreiz waren ohne KI 41 % der Antworten „Ich weiß es nicht“, mit KI nur 8 %. Das Forschungsteam folgert, dass KI die Bereitschaft verändert, selbst zu urteilen, nicht die Fähigkeit. Außerdem sei der Hang, sich auf die KI zu verlassen, so stark, dass selbst kleine Geldanreize ihn nicht aufheben.
5. Warum das für Lernen und Neugier wichtig ist
Unsere Einschätzung: Die Studie hat weder Neugier noch langfristiges Lernen gemessen. Was folgt, ist unsere Interpretation für Studierende, gestützt auf das, was die Studie gemessen hat.
„Ich weiß es nicht“ ist kein Versagen. Es ist der Ausgangspunkt jeder echten Frage: der Moment, in dem man eine Lücke bemerkt und beschließt, ihr nachzugehen, eine Quelle zu prüfen, in der Vorlesung nachzufragen oder selbst nachzudenken. Genau dort beginnt Neugier.
Die Studie legt nahe, dass eine fertige KI-Antwort diesen Moment überspringen kann. Die Antwort ist da, bevor die Frage richtig entstanden ist, und sie wirkt überzeugend. Also scheint die Lücke geschlossen. Wird das zur Gewohnheit, verliert man zweierlei: die Chance zu entdecken, was man tatsächlich nicht weiß, und die Erfahrung, es selbst herauszufinden. Das Forschungsteam formuliert es so: Die Bereitschaft, „Ich weiß es nicht“ zu sagen, könnte „zu den ersten Opfern der Interaktion zwischen Mensch und KI gehören“ (eigene Übersetzung).
Die gute Nachricht aus derselben Studie: Der Effekt ist keine feste Grenze. Wenn Menschen einen Grund hatten, vorsichtig zu sein, verließen sie sich weniger auf die KI und beantworteten mehr Fragen richtig. Das eigene Urteil zu nutzen ist eine Entscheidung, die man trainieren kann.
6. KI im Studium: sechs Gewohnheiten für Studierende
Das sind unsere Empfehlungen, angeregt durch die Ergebnisse. Sie sind keine Ergebnisse der Studie selbst.
- Erst denken, dann fragen. Notieren Sie Ihre eigene Antwort, oder „Ich weiß es nicht“, bevor Sie die KI öffnen.
- Die eigene Sicherheit einschätzen. Notieren Sie, wie sicher Sie sind (z. B. 30 %). Wenn die KI Sie plötzlich zu 90 % sicher macht, fragen Sie sich, warum.
- Flüssige Sprache ist ein Warnsignal, kein Beweis. KI-Antworten klingen immer überzeugt, auch wenn sie erfunden sind.
- Die Quelle prüfen, nicht den Satz. Fragen Sie nach Belegen und öffnen Sie diese. Erfundene Quellen sind ein klassischer KI-Fehler.
- „Ich weiß es nicht“ zum Teil der Arbeit machen. In einer Hausarbeit ist es besser, eine offene Frage ehrlich zu benennen, als sie mit einer plausiblen KI-Antwort zu überdecken.
- Offenlegen, wie Sie KI genutzt haben. An vielen Hochschulen, und nach mehreren Entscheidungen deutscher Verwaltungsgerichte, kann nicht offengelegte KI-Nutzung in bewerteten Arbeiten als Täuschung gelten. Transparenz schützt Sie.
Vorträge und Workshops zu KI an Hochschulen
Ich halte Vorträge und unterrichte zu KI, akademischer Integrität und Recht für Hochschulen, Studierende und Lehrende, auf Deutsch, Englisch und Portugiesisch.
Kontakt aufnehmen →7. Häufige Fragen
Beweist die Studie, dass KI die Neugier zerstört?
Nein. Die Studie hat gemessen, ob Menschen „Ich weiß es nicht“ sagen, wie oft sie richtig liegen und wie sicher sie sich fühlen. Neugier oder Lernen hat sie nicht gemessen. Sie zeigt, dass der Zugang zu KI die Antwort „Ich weiß es nicht“ fast verschwinden ließ. Wir sehen darin ein frühes Warnsignal für Neugier und kritisches Denken.
Haben die Teilnehmenden eine schlechte KI benutzt?
Das Forschungsteam wählte bewusst Fragen, bei denen die KI fast immer falsch lag, um die Wirkung einer verfügbaren Antwort von ihrer Qualität zu trennen. Auch aktuelle Modelle wie GPT-5.5, Claude Sonnet 4.6 und Gemini 3.5 Flash scheiterten an der schwierigsten Frage.
Spielt es eine Rolle, ob ich die KI frage oder ob sie von selbst erscheint?
Nein. In Studie 4 erschien der KI-Vorschlag automatisch neben jeder Frage, und die Antwort „Ich weiß es nicht“ sank trotzdem von 35 % auf 1 %.
Ist die Nutzung von KI im Studium eine Täuschung?
Nicht automatisch. Entscheidend ist, was die Prüfungsordnung und die Aufgabenstellung erlauben und ob die Nutzung offengelegt wird. Wer KI-generierte Inhalte in einer bewerteten Arbeit als eigene Leistung ausgibt, riskiert, dass dies als Täuschungsversuch gewertet wird. Studierende sollen vorher bei der Lehrperson nachfragen und die Nutzung kenntlich machen.
Quelle
Marcoccia, C., Quattrociocchi, W. & Capraro, V. (2026). AI advice suppresses people’s willingness to say “I don’t know”, even when the advice is wrong and accuracy is incentivized. arXiv:2607.13562v1, eingereicht am 15. Juli 2026. arxiv.org/abs/2607.13562
Dieser Artikel fasst einen wissenschaftlichen Preprint für ein allgemeines Publikum zusammen. Alle Zahlen stammen aus der oben genannten Studie. Empfehlungen sind deutlich als unsere eigene Einschätzung gekennzeichnet.