Nicht alles was technisch möglich ist, ist auch gesellschaftlich sinnvoll. Das gilt gerade für eine öffentliche Organisation, wie der BA, die Sozialdaten als Grundlage ihrer Entscheidungen nutzt und eine große gesellschaftliche Reichweite hat.
Dr. Markus Schmitz zeigte über 300 Studierenden der HdBA in seinem Vortrag vom 27.7.2023 die Bedeutung von Ethik beim Umgang mit Sozialdaten auf und auch ganz konkret, wie die BA ihrer Verantwortung gerecht wird.
Eine Risikobeurteilung und die Entscheidung des Datenethik-Gremiums stehen in der BA vor einer Umsetzung von KI-Anwendungsfällen und einer vorschnellen Automatisierung. In der BA erfolgt die datenethische Risikobewertung durch ein Expertenteam entlang von Datenethik-Leitlinien. Aus Sicht der Bürgerinnen und Bürger wird z.B. entlang der Kriterien der Autonomie, Wahlfreiheit, Nachvollziehbarkeit und Anfechtbarkeit das Risiko eines Anwendungsfalls beurteilt. Anhand von zwei gar unterschiedlichen Anwendungsbeispielen – Profiling und Stellenangebote – verdeutlichte Frau Hofmann den Studierenden sehr nachvollziehbar, welche komplexen Abwägungen hinter einer Risikobeurteilung stehen. Das war ein Highlight. Ethik wurde konkret, die Beurteilungsfähigkeit wurde geschärft und allzu verlockende Geschäftsideen verloren im Hinblick auf den gesellschaftlichen Sinn an Bedeutung bzw. gewannen bei genauer Betrachtung mehr und mehr an gesellschaftlichen Risiken.
KI befördert Automatisierung und erfordert neue Geschäftsmodelle. Dr. Schmitz sieht hier eine große Chance, da anders als bei den Verwaltungsreformen der 1980er und Folgejahre es jetzt weniger darum geht, an der Effizienzschraube zu drehen, vielmehr darum, Arbeitsweisen zu verändern. Dazu ist das Personalwesen wichtiger Player, die Mitarbeitenden wollen mitgenommen und weitergebildet werden. Martin Födisch, ein Gründungsvater der Human Friendly Automation Initiative und in der BA verantwortlich für das IT-Changemanagement, komplementierte den Gedanken. Die Weiterentwicklung der Fähigkeiten und Kompetenzen der Mitarbeitenden ist wichtiger als Kosten zu sparen und eine lernende Organisation wichtiger als eine automatisierte Organisation – so Prinzipien und Werte der Initiative für eine menschenfreundliche Automatisierung.
„Autonomie“, „Reflexion“ und „Entscheidung“ waren Schlüsselbegriffe im Vortrag. Vor diesem Hintergrund stellte die Prorektorin für Digitalisierung, Professorin Anne Müller-Osten, die abschließende Frage, welche Fähigkeiten und Kompetenzen die Studierenden künftig brauchen werden, um KI nicht als Entscheidungsautomatismus sondern reflektiert und sinnvoll einzusetzen. „Unterscheidungsfähigkeit, Beurteilungskompetenz und soziale Kompetenzen werden wichtiger“, antwortete Professor Schmitz in Richtung Studierende.
Für interessierte Studierende der HdBA geht es zum Thema Datenethik im Rahmen der Abschlusswoche weiter.
Und bei Professor Matthias Kohl, er leitet das DigiLAB Board auf Seiten der HdBA, meldeten sich neugierig gewordene Studierende. Ausgelöst durch den Vortrag haben sie Interesse, bei der nächste Kampagne des DigiLABs dabei zu sein.
Dr. Markus Schmitz rief im Frühjahr 2022 das DigiLAB ins Leben. Im DigiLAB werden IT-Produkte der BA aus Sicht von Nutzer*innen bei der Ideenfindung, Entwicklung und in der Anwendung verprobt und die Erfahrungen rückgekoppelt. Je nach Zielsetzung und Forschungsfrage wird das DigiLAB ausgestaltet und in das Curriculum der HdBA eingebettet.
