Neue Chancen und Risiken für Beschäftigte

Aus Mensch-KI-Kooperationen entwickeln Wissenschaftler:innen der Universität Duisburg-Essen neue Kriterien für eine erfolgreiche Zusammenarbeit. Dr. Anja Gerlmaier und Alexander Bendel vom Institut Arbeit und Qualifikation erforschen im Projekt „Kompetenzzentrum der Metropole Ruhr für die humanzentrierte Entwicklung von KI-Lösungen für die Arbeitswelt der Zukunft (HUMAINE)“ Chancen und Risiken bei der Einführung KI-gestützter Arbeitsprozesse.

Zukünftig werden immer mehr Beschäftigte nicht nur in ihrem privaten Umfeld, sondern auch am Arbeitsplatz mit Systemen zusammenarbeiten, die auf Künstlicher Intelligenz (KI) basieren. Dr. Anja Gerlmaier und Alexander Bendel vom Institut Arbeit und Qualifikation (IAQ) an der Universität Duisburg-Essen (UDE) haben im Rahmen des „HUMAINE“-Projektes untersucht, wie Beschäftigte die Kooperation mit solchen KI-Systemen bewerten, welche neuen Chancen oder Risiken sie erkennen und welche Gestaltungsanforderungen sie an diese Form der hybriden Mensch-KI-Zusammenarbeit haben.

Dr. Anja Gerlmaier fasst die zentralen Forschungsergebnisse zusammen: „KI-Systeme interagieren auf unterschiedliche Weise mit Menschen. Daraus ergeben sich spezifische Potenziale und Risiken, die mit ihrer Einführung verbunden sind. Die frühzeitige Beteiligung der Beschäftigten an Konzeption und Einführung neuer KI-Systeme sowie die Berücksichtigung von arbeitswissenschaftlichen Gestaltungskriterien sind erfolgsentscheidend. Das bestätigt die arbeitswissenschaftlichen Erkenntnisse aus der Einführung digitaler Systeme in den 1980er und 1990er Jahren.“

Die beiden Wissenschaftler:innen differenzieren dabei zwischen den enormen gesellschaftlichen Veränderungen, die durch KI-Systeme ausgelöst werden, beispielsweise in der Wissensgenese, der Sprach- und Bilderkennung sowie in automatisierter Mobilität und Logistik, sowie KI-Systemen in Produktionsprozessen, die seit einigen Jahren als Teil komplexer soziotechnischer Systeme mit Menschen interagieren. Gerlmaier: „Insbesondere ‚digitale Gefährten‘ werden als Serviceroboter, als Partner mit gemeinsamen Teilaufgaben oder als Chatbots mit der Aufgabe eines digitalen Mentors zur Kolleg:in. Unternehmen sind gefordert, in den nächsten Jahren ihre technischen Systemumgebungen, aber auch ihre Arbeitsorganisation und Personalpolitik neu auszurichten. Die Bedrohungsszenarien durch eine weitreichende Unterstützung oder sogar durch einen Ersatz menschlicher Arbeitskraft durch KI verunsichern viele Beschäftigte.“

In der Idealvorstellung, so die beiden Wissenschaftler:innen, gebe es eine Möglichkeit zur Kommunikation zwischen Mensch und KI sowie gegenseitige Unterstützung. Das Ziel müsse sein, ein geteiltes Situationsverständnis zu entwickeln (Trainieren der KI und Lernanreize der KI für den Menschen), um gemeinsam valide Entscheidungsfindungen und -ergebnisse zu erzielen. Das sogenannte „Teaming“ zwischen Beschäftigten und KI bezeichnen Gerlmaier und Bendel als Voraussetzung einer erfolgreichen Technikakzeptanz. Befürchten Beschäftigte jedoch, ihren Job durch den KI-Einsatz zu verlieren, steigt das Risiko von Sabotage der KI-Prozesse.

Ob Beschäftigte eine Mensch-KI-Kollaboration als fair und damit positiv erleben, hängt auch von ab der Verteilung der Outcomes der Zusammenarbeit. So konnte in verschiedenen Studien gezeigt werden, dass Digitalisierung als Teil einer Automatisierungsstrategie von Beschäftigten als Verletzung von Fairnessnormen bewertet wird und Fluktuation wie auch kontraproduktives Verhalten erhöht.

Gerlmaier weiter: „Zusammenfassend können wir sagen: Psychische und physische Schädigungsfreiheit haben viele Aspekte. Nutzungsfreundlichkeit, Autonomie, Lernförderlichkeit, sozialer Austausch und Reflexion sind ebenso erfolgsentscheidend wie Datenschutz und Sicherheit.“

Weitere Informationen:

Gerlmaier, Anja / Bendel, Alexander, 2024: Wie kollegial ist Künstliche Intelligenz? Risikowahrnehmungen und Gestaltungsanforderungen aus Sicht von Beschäftigten . Duisburg: Inst. Arbeit und Qualifikation. IAQ-Report 2024-01| Info | Lesen

Redaktion:

Astrid Bergmeister, Leiterin Ressort Presse, Pressesprecherin
Tel. 0203/37 9-2430, astrid.bergmeister@uni-due.de