KI als Sparringspartner

Wie kritisches Denken die Zusammenarbeit mit LLMs verbessert

Große Sprachmodelle wie ChatGPT können Wissen und Ideen schnell verfügbar machen - doch gute Ergebnisse entstehen nicht automatisch. Eine aktuelle Studie im renommierten Journal of Management Information Systems untersucht, wie Menschen durch bewusste Reflexion die Qualität der Zusammenarbeit mit Large Language Models (LLMs) verbessern können. Wir haben mit dem Autor, Prof. Dr. Martin Adam, über die zentralen Erkenntnisse gesprochen. Er ist an der Wirtschaftswissenschaftlichen Fakultät Inhaber der Professur für Smart Services.

Herr Adam, was war die zentrale Frage Ihrer Studie?

Meine Kollegen und mich hat interessiert, wie Menschen mit LLMs zusammenarbeiten können, ohne ihnen entweder blind zu vertrauen oder ihre Unterstützung vorschnell abzulehnen. Beide Extreme sind problematisch. Deshalb betrachten wir Reflexion als einen zentralen Mechanismus: Nutzerinnen und Nutzer sollten das, was sie selbst über ein Thema wissen, bewusst mit den Antworten des LLMs abgleichen und Widersprüche oder neue Perspektiven aktiv hinterfragen.

Welche Form der Zusammenarbeit führt zu den besten Ergebnissen?

Besonders wirksam ist die Kombination aus dialogischem Denken und einer adversariellen Interaktion mit dem LLM. Dialogisches Denken bedeutet, die eigenen Annahmen nicht nur leicht anzupassen, sondern grundsätzlich infrage stellen zu können. Gleichzeitig sollte das LLM nicht einfach zustimmen, sondern Gegenargumente liefern, Schwachstellen aufzeigen und alternative Sichtweisen einbringen. In unseren Ergebnissen führt gerade diese Kombination zu einer höheren faktischen Qualität der Arbeitsergebnisse.

Was machen Nutzerinnen und Nutzer im Umgang mit generativer KI häufig falsch?

Ein häufiges Problem ist, dass überzeugend formulierte Antworten zu schnell akzeptiert werden. Dadurch geben Menschen einen Teil ihrer eigenen kognitiven Verantwortung an das System ab. Wir sprechen hier von der Bedeutung der cognitive primacy: Der Mensch sollte gedanklich die Führung behalten. Ein LLM kann neue Informationen und Perspektiven liefern, aber die Bewertung und Einordnung sollte beim Menschen bleiben.

Was bedeutet das konkret für Unternehmen und Hochschulen?

Wir sollten LLMs weniger als allwissende Assistenten und stärker als Sparringspartner verstehen. Das lässt sich auch ganz praktisch umsetzen: Statt nur nach einer Lösung zu fragen, kann man das Modell auffordern, die eigenen Argumente zu kritisieren, Gegenpositionen einzunehmen oder mögliche Fehler zu identifizieren.

Für Organisationen bedeutet das, nicht nur den Zugang zu generativer KI zu ermöglichen, sondern auch Kompetenzen für einen reflektierten Umgang damit aufzubauen. Ziel sollte nicht sein, menschliches Denken durch KI zu ersetzen, sondern es durch produktiven Widerspruch zu verbessern.

Was ist Ihre wichtigste Empfehlung für den Umgang mit LLMs?

Nutzen Sie die Stärken der KI, aber bleiben Sie selbst intellektuell am Steuer. Gute Mensch-KI-Zusammenarbeit entsteht nicht dadurch, dass das System uns möglichst häufig zustimmt. Sie entsteht dann, wenn Mensch und KI sich gegenseitig herausfordern.

Vielen Dank für das Interview!

Zur Publikation "How Reflection Enhances Task Factuality in the Use of Large Language Models