Neue Research Note in Business & Information Systems Engineering: Beware of AI Explanations!

In einer aktuellen Research Note im Journal Business & Information Systems Engineering (BISE) beleuchten wir KI‑Erklärbarkeit als sozio‑technisches Designproblem. Der Artikel ist ein Community-Projekt entstanden aus dem Dagstuhl-Seminar 24292 „Leveraging AI for Management Decision-Making“.
Die Qualität von Erklärungen hängt von Erklärungen von Stakeholder‑Zielen, Kontext und der Passung zu menschlichen mentalen Modellen, und der Artikel bietet mit einer Synthese sozio‑technischer Ursachen sowie entsprechenden Einschränkungen einen strukturierten Rahmen, der den Fokus von der bloßen Generierung von Erklärungen darauf verschiebt, wann und wie Erklärungen in realen organisatorischen KI‑Systemen sinnvoll und wertstiftend sind.
Das Paper ist Open Access verfügbar bei SpringerNatureLink. BISE hat einen Impact Factor von 12,2 (2025) und ist eines der Top-tier Journals im Bereich Information Systems/Wirtschaftsinformatik.
