Erklärbare AI?

Deep-Learning-Verfahren sind kaum interpretierbar. Oftmals ist nicht nachvollziehbar, welche Eingaben für die Entscheidungen der Ausgaben „verantwortlich“ sind. Der Versuch, Erklärbarkeit im Bereich Machine Learning herzustellen, kann als eine Form der „Vertrauenserzeugung" interpretiert werden.

Zielpublikum: Architekten, Entwickler, Projektleiter, Manager, Entscheider
Voraussetzungen: Projekterfahrung
Schwierigkeitsgrad: Fortgeschritten

Extended Abstract
Die Erprobung der Anwendung von KI und Verfahren des Machine Learning (ML) in Unternehmenskontexten hat derzeit Hochkonjunktur. Neben den Erfolgsgeschichten steht allerdings zunehmend der Umgang mit der Herausforderung, dass die Anwendung vieler ML-Verfahren, insb. Deep Learning, zu im Detail intransparenten Ergebnissen führt, denn Deep-Learning-Verfahren sind kaum interpretierbar. Oftmals ist nicht nachvollziehbar, welche Eingaben für die Entscheidungen der Ausgaben „verantwortlich“ sind.
Der Versuch Erklärbarkeit im Bereich Machine Learning herzustellen, kann kritisch als eine Form der „Vertrauenserzeugung" interpretiert werden, um künftig Black-Box-Systeme zu etablieren und die Akzeptanz für ihren Einsatz zu erhöhen. Andererseits wird aktuell an ML-Verfahren geforscht, um Verfahrensschritte, Teilergebnisse und Lösungswege transparenter werden zu lassen, z.B. durch Visualisierungen.
Die Analyse und Beschreibung der Entstehungskontexte von ML-Algorithmen und die gesellschaftliche Einbettung der Ergebnisse offenbaren gesellschaftliche Muster von Erklärungen und Handlungen in der Praxis. Sozio-kulturelle Bedeutungszuschreibungen (Stereotype, Vorurteile etc.) werden dadurch sichtbar.
Der Vortrag gibt Diskussionsanregungen zum kontroversen Thema „Explainable AI“ aus einer sozialwissenschaftlichen Perspektive.