KI-Systeme instrumentell verstehen

Abstract

Viele moderne KI-Systeme sind epistemisch opak. Das Forschungsfeld der erklärbaren KI (XAI) versucht, diese Opazität durch die Entwicklung von Erklärbarkeitsmethoden zu reduzieren und relevante Aspekte von KI-Systemen für verschiedene Stakeholder verständlich zu machen. Häufig wird angenommen, dass das resultierende Verstehen als Mediator zwischen Erklärbarkeit und der Erfüllung gesellschaftlicher Desiderata (z.B. Fairness von KI, Wahrung menschlicher Verantwortlichkeit bei KI-gestützten Entscheidungen) fungieren kann. Doch bleibt in der XAI-Literatur weitestgehend offen, worin dieses Verstehen besteht und wie es seiner Mediatorrolle gerecht werden kann. Diese Dissertation entwickelt mithilfe von Conceptual Engineering und auf Grundlage aktueller erkenntnis- und wissenschaftstheoretischer Debatten einen kontextsensitiven Verstehensbegriff, der speziell auf erklärbare KI zugeschnitten ist und die behauptete Mediatorrolle von Verstehen in XAI-Kontexten erklärt. Das entscheidende Merkmal dieses Verstehens ist sein zweckgerichteter Charakter: Es dient der Erfüllung legitimer gesellschaftlicher Desiderata und heißt daher „instrumentelles Verstehen“. Instrumentelles Verstehen wird durch zwei notwendige und zusammen hinreichende Bedingungen definiert. Diese verlangen ein gerechtfertigtes, moderat faktives Überzeugungssystem über systembezogene Aspekte sowie das Verfügen über verstehensbezogene Fähigkeiten und berücksichtigen den Einfluss mehrerer Kontextfaktoren. Weiterhin argumentiert diese Arbeit, dass so genannte „Exemplare“ besonders vorteilhafte Mittel sind, um instrumentelles Verstehen zu erwerben. Exemplare zeichnen sich dadurch aus, dass sie kontextuell relevante Aspekte exemplifizieren und besonders leicht zu interpretieren sind. Der Begriff instrumentellen Verstehens konkretisiert ein wichtiges epistemisches Ziel in XAI-Kontexten. Exemplare bieten wiederum einen Ausgangspunkt, um XAI-Erklärungen und andere Verstehensermöglicher in Hinblick auf ihre Eignung für den instrumentellen Verstehenserwerb zu evaluieren.