Einer aktuellen repräsentativen Bitkom Studie zufolge setzen Unternehmen aller Branchen, Größen und Länder auf Künstliche Intelligenz (KI) als Schlüsseltechnologie. Der Grund hierfür ist, dass KI durch weitreichende IT Unterstützung bzw. Prozessautomatisierung große Potenziale in Aussicht stellt – wie eine Entlastung der Mitarbeiter bei repetitiven Aufgaben, eine Steigerung der Prozesseffizienz oder ein verbessertes Verständnis von Problemen [Bit21]. Gleichzeitig zögern viele, insbesondere kleine und mittelständische Unternehmen noch mit der Implementierung eigener KI Projekte. Sicherlich sind hierfür die Ursachen vielfältig, aber Schwierigkeiten bei KI Vorhaben großer Technologieunternehmen und die damit einhergehende Berichterstattung schrecken kleine Unternehmen mit weniger Erfahrung und Ressourcen ab. So sind selbst etablierte Dienste wie Bilderkennung steter Kritik ausgesetzt aufgrund unterschiedlicher Genauigkeiten in Abhängigkeit von Geschlecht und Hautfarbe. Folglich ist es nachvollziehbar, dass sich über 50 Prozent der zögernden Unternehmen Unterstützung bei Entwicklung und Betrieb von KILösungen unter ethischen Gesichtspunkten wünschen [Bit21].
Dieser Beitrag thematisiert den verantwortungsvollen Umgang mit Daten im Rahmen von KI Projekten. Den Rahmen dafür bildet das Forschungsprojekt „Empfehlungen zu einem wertekonformen KI Einsatz durch fallspezifische Governance Konzepte“ (WeKI Go), das von der Baden Württemberg Stiftung gefördert wird. Die wertekonforme KI Nutzung stellt dabei über die technologisch orientierte KI Entwicklung hinaus eine Herausforderung dar. Einige ethische Fragestellungen werden erst im Verlauf der KI Entwicklung und der fortlaufenden KI Anwendung sowie Weiterentwicklung offensichtlich; hierbei helfen klare Regelungs und Entscheidungsstrukturen (Governance). Bestehende Governance Ansätze in Unternehmen sind daher auf den KI Einsatz hin auszurichten.
Bestehende Governance-Konzepte …
In vielen Unternehmen haben sich inzwischen umfassende Governance Strukturen etabliert, wenn auch teilweise nicht formalisiert. Zur Umsetzung einer IT Governance existieren umfangreiche Frameworks. Das meistgenutzte Framework COBIT dient seit Mitte der 1990er Jahre zur Integration der IT Governance in die übergeordnete Corporate Governance. Zum Aufbau einer Data Governance können strukturierte Best Practice Sammlungen [DAM19] herangezogen werden. Darüber hinaus werden bereits erste Ansätze zur KI Governance diskutiert, auch hier in BI Spektrum [Peg21]. Jedes dieser Governance Systeme adressiert eigene Themen und Zielgruppen, die mit einer übergeordneten Corporate Governance abgestimmt werden (siehe Kasten und Abbildung 1).
Abb. 1: Vorschlag zur CORPORATE GOVERNANCE Zusammenführung der Governance-Systeme eines Unternehmens
Die verschiedenen Governance-Systeme in Unternehmen:
- Corporate Governance definiert und priorisiert Unternehmensziele, legt Strukturen für deren Erreichung fest und kommuniziert sie an alle Stakeholder.
- IT-Governance hat die Aufgabe, durch Alignment zwischen Business und IT sicherzustellen, dass die IT finanzielle und nichtfinanzielle Mehrwerte für das Unternehmen erzeugt. Dazu sind die erforderlichen Ressourcen bereitzustellen und die möglichen Risiken zu managen.
- Data Governance legt Strategien, Prinzipien und Entscheidungsbefugnisse für das Data Management fest, mit dem Ziel, aus Daten Wert zu erzeugen.
- KI-Governance besteht aus Regeln, Prozessen und Tools, die dazu dienen, eine Ausrichtung des KI-Einsatzes auf die Unternehmensziele und -werte sicherzustellen.
… müssen zusammengeführt werden
Erste Erkenntnisse aus dem Forschungsprojekt zu wertekonformer Künstlicher Intelligenz zeigen, dass zur Umsetzung einer wirksamen Governance die isolierte Betrachtung einzelner Teilbereiche nicht ausreicht. Die nachfolgenden Handlungsfelder verdeutlichen diesen Umstand. Diese basieren auf Diskussionen mit KI Lösungsanbietern, Forschern und Spezialisten zur Verknüpfung der Themenfelder KI und Ethik. Zur durchgängigen Veranschaulichung dient der ethische Umgang mit Daten, der sich nicht mit der Verortung des Themas Datenethik in der Data Governance allein sicherstellen lässt.
Definierte Strategie:
Zur Abwägung zwischen möglichen Mehrwerten einer KI Anwendung und deren ethischen Implikationen ist eine strategische Positionierung des Unternehmens hilfreich. Hierzu gilt es, Strukturen aufzubauen, die in interdisziplinärer Abstimmung gemeinsame Ziele entwickeln und diese in Ziele, Vorgaben und Maßnahmen für die Bereiche IT, Daten und KI übersetzen. Zur Kommunikation der Strategie verwenden Unternehmen häufig selbstdefinierte Kodizes, die bei der Entwicklung von KIAnwendungen zu berücksichtigen sind und die Stakeholder über den Umgang mit ihren Daten im Rahmen von KI Projekten informieren.
Einbezug von Kunden und Nutzern:
Ein frühes Feedback seitens der Stakeholder des Unternehmens bezüglich der Verwendung ihrer Daten in geplanten KI Vorhaben ist wichtig, um Fehlentwicklung und investitionen zu vermeiden. Hier ist es Aufgabe der Corporate und der KI Governance, zentrale Stakeholder zu benennen und Strukturen für die Kommunikation – zum Beispiel in Form von Workshops – aufzubauen.
Personenbezogene Daten:
Um einen einheitlichen und vertrauenswürdigen Umgang mit personenbezogenen Daten sicherzustellen, sind Kenntnisse hinsichtlich gesetzlicher Regelungen, inkl. der Handhabung innerhalb des Unternehmens, erforderlich. Zunächst ist aber der Aufbau entsprechender Vorgaben Voraussetzung für die Anwendung der DatenschutzGrundverordnung (DSGVO). Die Möglichkeiten der Umsetzung und deren Praktikabilität sollen von IT Bereichen, Data Scientists und Data Owners diskutiert und entschieden werden, um aus den verschiedenen Anforderungen der jeweiligen Kontexte den bestmöglichen Weg zu identifizieren.
Datenexploration:
Im Zuge des Trainings einer KI sollten die verfügbaren Daten zur Sicherstellung von Fairness und Gerechtigkeit hinsichtlich möglicher Unausgewogenheiten geprüft werden. Das sollte von Data Scientist und Data Owner gemeinsam durchgeführt und dokumentiert werden, da eine identische Datengrundlage für verschiedene Verwendungszwecke herangezogen werden kann.
Betrieb:
Fertig entwickelte KI Lösungen gehen nach Abschluss der Entwicklung in den Regelbetrieb über. Beispielsweise ist die Sicherstellung der Verfügbarkeit der Lösung auch bei Bedrohungen wie Hackerangriffen, Stromausfällen bis zu Katastrophen von Bedeutung. Ein besonderes Augenmerk sollte auf Lösungen liegen, die bei Nichtverfügbarkeit direkte Schäden verursachen können. Grundsätzlich sollten sich Data Scientists und IT Verantwortliche abstimmen, um den genauen Bedarf an Zuverlässigkeit, Verfügbarkeit und Sicherheit abzustimmen und mögliche Ansätze zu diskutieren.
Testen: Ausgiebiges Testen von KI Lösungen ist notwendig. Insbesondere das Testen von Sonderfällen oder Fehleingaben bei Human onthe Loop Ansätzen ist sinnvoll. Hierbei müssen Daten, KI Verfahren sowie IT Komponenten einbezogen werden. Aus Sicht der Datenethik ist eine mögliche Governance Vorgabe, Tests mit Beispieldaten zu Minderheiten durchzuführen, um eine statistische Diskriminierung zu vermeiden.
Entscheidungsbefugnisse: Die aufgezeigten Schnittstellen zwischen IT, Daten und KI machen es nötig, klare Verantwortlichkeiten im Unternehmen zu definieren. Ein Datenschutzverantwortlicher könnte beispielsweise im Rahmen von KI Projekten beratend fungieren, während der KI Projektleiter die Verantwortung übernimmt.
Verschiedene Möglichkeiten der Koordination bei Wertefragen
Die Handlungsfelder zur wertekonformen KI Nutzung zeigen die Notwendigkeit zur Zusammenarbeit verschiedener Governance Bereiche, um Herausforderungen früh zu identifizieren und ganzheitlich zu berücksichtigen (siehe Abbildung 1). In welcher Form die notwendigen Abstimmungen erfolgen, kann aus Rahmenmodellen instanziiert werden, die wir derzeit erarbeiten. In zentralisiert ausgerichteten Strukturen könnte die Benennung eines Koordinationsverantwortlichen (beispielsweise CDO oder CIO) genügen, der nach Bedarf untergeordnete Governance Verantwortliche hinzuzieht. In gremiengetriebenen Governance Strukturen wäre die Zusammenführung in ein zusammengesetztes Gremium „Runder Tisch KI und Datenethik“ naheliegend, das Verantwortliche aus den Bereichen der Unternehmensleitung, der IT, der KI sowie des Datenmanagements berücksichtigt. An diesem runden Tisch können periodisch aktuelle KI Vorhaben unter ethischen Gesichtspunkten diskutiert und entsprechende Maßnahmen für die jeweiligen Bereiche initiiert werden. Darüber hinaus könnte diese Abstimmung aber auch über die Benennung eines Datenethik-Verantwortlichen gelöst werden, der gegebenenfalls ähnlich einem Datenschutzbeauftragten bei Bedarf in bereits existierenden Governance Gremien der Bereiche IT, Daten und KI hinzuzuziehen wäre.
Fazit
Die zunehmende Bedeutung der KI Nutzung und die damit verbundenen Aufwände (beispielsweise Regulatorik) und Risiken (beispielsweise gesellschaftsethische Wahrnehmung) stellt Unternehmen vor Herausforderungen. Die unternehmensspezifischen Governance Strukturen stellen einen Teil der Lösung dar. Wie dieser Beitrag zeigt, führt das Spannungsfeld Ethik und KI zu Anpassungsdruck und zunehmendem Koordinationsbedarf in bestehenden Governance Strukturen. Im Rahmen unseres Forschungsprojekts erarbeiten wir derzeit ein Rahmenmodell mit der Möglichkeit der Ableitung fallspezifischer Lösungskonzepte zum Aufbau von Governance Strukturen in Unternehmen, die entsprechende Herausforderungen erfassen und die oben genannten Fragestellungen tiefergehend adressieren.
Weitere Informationen
[Bit21] Bitkom Research: Künstliche Intelligenz – Wo steht die deutsche Wirtschaft? 2021
[DAM19] DAMA International: Data Management – Body of Knowledge. 2. Aufl., Basking Ridge 2019
[Peg21] Pegasystems: Fünf Schritte zur fairen KI. In: BI-Spektrum, 4-2021, S. 5–6
[Sch20] Schultze, A.: Datenethik. In: Gluchowski, P. (Hrsg.): Data Governance: Grundlagen, Konzepte und Anwendungen. Heidelberg 2020
