Obwohl KI-Ethik immer intensiver debattiert wird, sind ethische Probleme nicht unbedingt weniger geworden. Laut einer Capgemini-Studie mussten sich knapp 60% der befragten Unternehmen in den letzten drei Jahren rechtlichen Prüfungen wegen Diskriminierungsvorwürfen unterziehen und 22 % sahen sich dem öffentlichen Zorn ihrer Kund_innen ausgesetzt. Was tun KI-Unternehmen überhaupt, um ethische Probleme anzugehen und öffentliche Bedenken auszuräumen?
Ethische Prinzipien, Trainings und Prüfsiegel bringen es irgendwie nicht.
In den letzten beiden Jahren entstand ein wahrer Hype um die Formulierung ethischer Prinzipien, die als Kompass für das Handeln der Mitarbeiter_innen dienen sollen. Das war möglicherweise gut für das Marketing, aber im Endeffekt verlagerte es die Hauptschuld auf Entwickler_innen, von denen wohl nur die wenigsten jemals vorhatten ethisch Bedenkliches zu programmieren. Mittlerweile verbreitet sich die ernüchternde Erkenntnis: Prinzipien allein helfen nicht, nicht einmal wenn sie den Segen des Papstes erhalten. Derselben Kritik müssen sich auch unternehmerische Ethik-Trainings aussetzen, die oft nur auf die untere Ebene der Unternehmenshierarchie zielen. Auch von ethischen Prüfsiegeln ist abzuraten, sofern sie ein lernendes (!) System zertifizieren, von dem manchmal nicht einmal die Entwickler_in sicher weiß, wie es sich bei fortgeführtem Training verhalten wird.
Immer mehr Unternehmen setzen auf Ethik-Boards
Ein vielversprechender Ansatz ist das Recruiting von Ethik-Expert_innen für Ethik-Boards die im direkten Austausch mit der Führungsebene stehen. Laut einem Forbes-Bericht sind Ethik-ExpertInnen aktuell die begehrteste KI-Rolle: 64% der befragten Unternehmen planen in der nächsten Zeit eine Ethik-Expert_in einzustellen oder zu trainieren. Ich habe fünf Empfehlungen formuliert, worauf man bei der Zusammenstellung eines Ethik-Boards achten sollte.
Aber zunächst möchte ich noch kurz eine Frage vorweg nehmen: bremst ein Ethik-Board nicht die Entwicklung des Unternehmens? Verliert man dadurch nicht Zeit im Rennen mit der Konkurrenz im In- und Ausland? Im Prinzip ja, aber beim KI-Wettrennen ist es wie in der Formel 1. Es kommen ständig Kurven und unvorhersehbare Hindernisse und die Saison gewinnt selten die Fahrer_in mit den schwächsten Bremsen. Hier nun meine Empfehlungen:
-
Fachliche Diversität
Mark Twain hat einmal gesagt: „wer als Werkzeug nur einen Hammer hat, sieht in jedem Problem einen Nagel“ Wo manche einen rassistischen Bias erkennen, sehen andere nur einen Bug. Nicht-technische Expert_innen wie SoziologInnen, Psycholog_innen aber auch Philosoph_innen oder auch Künstler_innen können manchmal den entscheidenden Hinweis geben. -
Geografische Diversität
Algorithmen sind in den seltensten Fällen nur in einer Region und Kultur verfügbar sondern agieren oft global. Expert_innen aus entfernten Regionen können ethische Herausforderungen erkennen, die in unserem Kulturkontext gar nicht existieren. -
Soziale Diversität
Eliten sind global vernetzt und denken oft zu ähnlich. Fachliche und geografische Diversität sind nichts wert, wenn das Ethik-Board am Ende nur aus Professor_innen besteht. Die Hauptaufgabe eines Ethik-Boards ist die Menschen zu vertreten, die von den Algorithmen betroffen sind. Daher sind die Einbeziehung und der Austausch mit Vertretern der Zivilgesellschaft essentiell für Effektivität und Glaubwürdigkeit. -
Unabhängigkeit
„Wes Brot ich ess, des Lied ich sing.“ Eine Ethik-Expert_in, die ausschließlich von Ihrer Bezahlung lebt, ist weder nützlich noch glaubwürdig. Sie wollen unabhängige Rebell_innen an Bord, die Ihnen auf die Finger hauen, bevor es Ihre Kund_innen und Shareholder_innen tun. -
Transparenz
Fehler können immer geschehen. Als Entschuldigung reicht es nicht, wenn man sich dann auf die Freigabe eines Ethikboards berufen kann. Für das Vertrauen der Kunde_innen und Shareholder_innen ist es unabdingbar, dass die Aktivitäten und Entscheidungen der Ethik-Expert_innen transparent und nachvollziehbar sind. Denn wenn trotz aller Bemühungen etwas schiefgeht, ist es wertvoll, wenn wenigstens die ehrlichen Bemühungen sichtbar sind.
Kurz: Wir vertrauen keinen Algorithmen, sondern nur den Menschen dahinter. Ethik kommt nicht aus dem Code, sondern aus dem Herzen!
typisch KI-Szene, oder?
Hab den dort genannten Kontakt zweimal um weiter Infos gebeten, aber leider kam bisher keine Antwort. Ein Kumpel, der mit BMW zusammenarbeitet, meinte zu mir (ohne über den konkreten Fall genauer Bescheid zu wissen), dass solche Maßnahmen wohl eher in der Marketing-Abteilung entwickelt werden. Das Marketing hat zumindest geklappt: Die Meldung hat zwei Tage lang meinen Google-Alert dominiert 
Ethisches Theater ist ein wichtiges Schlagwort und ich befürchte auch, das Boards dafür missbraucht werden können. Boards sind nur ein möglicher Bestandteil und entscheidend für mich ist deren Legitimation durch direkte Volksvertretung im Sinne von den in anderen Kontexten immer häufiger genutzten Citizen Council’s. Unternehmen sollten einfach mehr Demokratie wagen.