Alle Abbildungen in der Pitch-Präsentation sind mit OpenAI/Dall-E generiert oder sind Icons aus Microsoft Powerpoint.
Voice Over: mit elevenlabs.io generiert. Die Aufzeichnungen sind für nicht-kommerzieller Nutzung freigegeben

Workshop zur Erhebung der Erklärungen zu KI-Systemen die nötig sind, um eine zuverlässige und vertrauenswürdige Zusammenarbeit mit der KI zu gewährleisten.

Entwicklungsstand

Evaluierung und Optimierung

Wissenschaftliche Fundierung

Entwicklung und Konkretisierung

Erste Erprobung in der Praxis

Evaluierung und Optimierung

Fertig für den praktischen Einsatz

Welches Problem liegt in vielen Unternehmen vor?

KI-Einführung erfolgt oft ohne Berücksichtigung der Bedürfnisse und Erwartungen der Endnutzer:innen und führt somit oft zu einem Mangel an Verständnis und Vertrauen in die KI-Systeme und somit zu eingeschränkter Effizienz und Akzeptanz. Daraus ergibt sich eine niedrige Nachvollziehbarkeit für Nutzer:innen. Die Zusammenarbeit zwischen Mensch und KI muss berücksichtigt werden, um die Zusammenarbeit zu sichern.

Wie trägt das Tool zur Lösung des Problems bei?

Das Tool bietet einen strukturierten Prozess an, um Nutzeranforderungen frühzeitig zu identifizieren und in den Designprozess mit einzubinden. Die geschieht durch einen interaktiven Workshop und direkten Austausch der Nutzenden. Das Tool fördert intuitiv verständliche Entwicklung von KI-Schnittstellen.

Wie wird das Tool im Unternehmen angewandt?

KI-Experten wenden das Tool in Form eines Workshops mit Domänenexperten und den Arbeitern, die die KI nutzen sollen, an. Anschließend werden die erhobenen Nutzeranforderungen aufbereitet und auf Methoden der Erklärbarkeit von KI abgebildet. Diese Ergebnisse können dann in die Entwicklung der KI und KI-Schnittstellen einfließen.

Mit welchem (zeitlichem) Aufwand für das Unternehmen geht die Einwendung einher? 

Für die erfolgreiche Durchführung des Workshops ist eine 3-stündige Sitzung mit den relevanten KI-Anwendern und Domänen- bzw. Prozessexperten ausreichend, um die Fallstricke der KI-Software verständlich zu machen und Informations- und Erklärungsbedarfe dazu wie die KI funktioniert zu erheben. Die anschließende Aufbereitung der Ergebnisse kann 3-4 Arbeitstage in Anspruch nehmen.

Welchen Mehrwert stiftet das Tool im Unternehmen? 

Die Mitarbeiter werden über die Besonderheiten, Anforderungen und Fallstricke von KI-Software informiert, was die Grundlage für einen verantwortungsvollen Umgang mit KI und die Entwicklung des richtigen Maßes an Vertrauen in KI bildet. Die Designergebnisse, die aus dem Workshop hervorgehen, ermöglichen es, den Nutzern die Informationen zur Verfügung zu stellen, die sie benötigen, um der KI zu vertrauen und sie effektiv zu nutzen.

Wiss. Veröffentlichungen

[1] Liao, Q. Vera, Daniel Gruen, and Sarah Miller. 2020. “Questioning the AI: Informing Design Practices for Explainable AI User Experiences.” In Conference on Human Factors in Computing Systems – Proceedings. Association for Computing Machinery. https://doi.org/10.1145/3313831.3376590.

[2] Liao, Q. Vera, Milena Pribić, Jaesik Han, Sarah Miller, and Daby Sow. 2021. “Question-Driven Design Process for Explainable AI User Experiences,” April. https://arxiv.org/abs/2104.03483v3.

[3] Lim, Brian Y., and Anind K. Dey. 2009. “Assessing Demand for Intelligibility in Context-Aware Applications.” In Proceedings of the 11th International Conference on Ubiquitous Computing, 195–204. UbiComp ’09. New York, NY, USA: Association for Computing Machinery. https://doi.org/10.1145/1620545.1620576.

[4] Ehsan, Upol, Q. Vera Liao, Michael Muller, Mark O. Riedl, and Justin D. Weisz. 2021. “Expanding Explainability: Towards Social Transparency in AI Systems.” Conference on Human Factors in Computing Systems – Proceedings, January. https://doi.org/10.1145/3411764.3445188.

AnsprechpartnerInnen
Pavlos-Rath Manakidis
Pavlos-Rath Manakidis
Institut für Neuroinformatik