In diesem Multiplikatorfall wurde das bei einer Pflegeeinrichtung eingeführte KI-basierte Dokumentationssystem auf seine Humanzentrierung hin beleuchtet. Mithilfe eines Beschäftigtendialogs und der Durchführung des Friendly Tech Checks wurden Potenziale und Risiken erhoben und weitergehende Gestaltungsanforderungen identifiziert.

Im Rahmen eines Beschäftigtendialogs wurden Vorgehensweisen und Gestaltungsanforderungen des bei der Pflegeeinrichtung eingeführten KI-basierten Pflegedokumentationssystems diskutiert. Zur Sprache kamen vielfältige Potenziale, die sich mit der Nutzung seither eingestellt haben. Gleichzeitig wurden aber auch nach wie vor bestehende Herausforderungen thematisiert. Mit Hilfe des Friendly Tech Checks wurden sodann spezifische Potenziale und Risiken des Tools zur KI-basierten Pflegedokumentation aus Nutzer:innen-Sicht erhoben.

Ziel war es, Gestaltungsansätze für eine humanzentrierte KI-Nutzung zu identifizieren. Als wesentliche Herausforderungen wurden Unsicherheiten im Umgang mit der KI sowie technische Unwägbarkeiten (z.B. Systemabstürze, Datenverlust) genannt. Die Gestaltungsideen richteten sich folglich u.a. auf die Bearbeitung von technischen Schnittstellenproblemen sowie auf die Etablierung von Informationsangeboten und Foren für die Pflegekräfte, um (kollegiale) Unterstützung und Erfahrungsaustausch zu initiieren.

Institut Arbeit und Qualifikation, Universität Duisburg-Essen