Die Mozilla-Chefin fordert Klarheit über Algorithmen, die unser Leben bestimmen


Mit welchen Daten wird Künstliche Intelligenz trainiert? Welche Ergebnisse werden von verborgenen Algorithmen ausgespuckt? Die Mozilla-Chefin Mitchell Baker möchte das wissen und wünscht sich eine gesellschaftliche Debatte über den Umgang mit neuen Technologien. Bei 1E9 erklärt sie außerdem, wie der Firefox an alte Erfolge anknüpfen soll.

Von Wolfgang Kerler

Mitchell Baker gehört zu den Gründungsmüttern des Internets, wie wir es heute kennen, und ist eine Wegbereiterin der Open-Source-Bewegung. Mitte der 1990er Jahre heuerte sie als Juristin bei Netscape an und betreute schon dort das Projekt Mozilla. Nach dem Ende von Netscape baute sie ab 2003 die gemeinnützige Mozilla Foundation auf, deren Chefin sie ist.

Unter ihrer Führung stieg der Mozilla Firefox, der 2004 als Alternative zum damals dominanten und ungeliebten Internet Explorer von Microsoft auf den Markt kam, zum beliebtesten Browser auf. Inzwischen hat die Open-Source-Software die Marktführerschaft zwar an den Chrome von Google verloren. Mitchell Baker bleibt dennoch kämpferisch und gut gelaunt. Diesen Eindruck machte sie jedenfalls im Interview mit 1E9, das per Videocall stattfand.

1E9: Dem Internet geht es mies. Wir schlagen uns mit Hass und Falschinformationen in sozialen Netzwerken herum. Facebook hat ein Datenleck nach dem anderen. Algorithmen entscheiden, was wir sehen dürfen. Wie konnte das passieren?

Mitchell Baker: Das Internet ist eine mächtige Technologie, aber immer noch ziemlich jung. Das dürfen wir nicht vergessen, auch wenn viele, die für ein freies Internet kämpfen, zurecht frustriert sind. Natürlich war in den Anfangsjahren alles zauberhaft. Alle hatten große Hoffnungen. Nette junge Leute gründeten Firmen, um wunderbare Dinge zu erschaffen. Dachten wir zumindest. Kaum jemand rechnete mit den negativen Konsequenzen, die wir jetzt erleben. Historiker werden sich aber kaum wundern. Viele technologischen Fortschritte lösten zunächst Konflikte aus, vom Buchdruck bis zur industriellen Revolution.

Beim Internet kommen zusätzlich gefährliche Umstände zusammen. Wenige mächtige Firmen kontrollieren fast alles, was wir im Netz tun. Sie agieren in einem Markt mit unklaren Verantwortlichkeiten und mangelnder Kontrolle. Ein schwer durchschaubares System aus Überwachung und Datenauswertung beschert ihnen Profite. Wir müssen diese Probleme angehen, sollten dabei aber nicht vergessen, dass das Internet unser Leben auch bereichert.

Wie können wir das Internet denn reparieren?

Baker: Der erste Schritt ist, die Probleme zu erkennen und sie zu verstehen. Das passiert gerade. Ein echter Fortschritt, finde ich. Bei Mozilla warnen wir schon lange vor Machtkonzentration, Überwachung und fehlender Sicherheit. Noch vor drei oder vier Jahren galten wir daher als Spielverderber. Jetzt teilen viele unsere Ansicht.

Der nächste Schritt: Wir müssen uns fragen, ob wir zur Beseitigung der Probleme auch unser eigenes Nutzungsverhalten einschränken würden. Ich bin mir nicht sicher, ob wir als Gesellschaft dazu bereit sind. Auf jeden Fall brauchen wir für ein offenes Internet neue technologische Lösungen, Ideen und Experimente, die nicht von Facebook und Google entwickelt werden. Und die Politik muss ihren Teil beitragen, zum Beispiel durch bessere Gesetze.

Wir sind noch damit beschäftigt, das Internet so richtig zu verstehen, da steht schon das nächste große Ding bevor: Künstliche Intelligenz. Ist sie eine Chance oder eine Bedrohung?

Baker: Mächtige Technologien können für Gutes und Schlechtes eingesetzt werden. Das gilt auch für Künstliche Intelligenz.

Wie sollten wir mit KI umgehen, damit sie das Leben möglichst vieler Menschen verbessert?

Baker: Die Erforschung und Entwicklung Künstlicher Intelligenz darf nicht nur innerhalb der Konzerne stattfinden. Viele talentierte Leute verlassen die Universitäten und heuern bei großen Unternehmen an. Das könnte problematisch werden. Deswegen sollte Forschung an Universitäten besser finanziert werden. Außerdem wünsche ich mir Transparenz.

Wir wissen oft nicht, welche Daten beim Machine Learning eingesetzt werden. Wir erfahren nicht, ob sie korrekt, aktuell, vorurteilsfrei und legal sind. Wir kennen meistens weder die Algorithmen noch die Ergebnisse, die sie liefern. Ein Beispiel: Jeder sieht in seinem Newsfeed nur, was er sehen soll – ohne zu wissen, warum oder was andere sehen. Wir kennen auch nicht die Algorithmen, die zum Beispiel zur Personalauswahl eingesetzt werden. Wir als Gesellschaft müssen dringend klären, wie viel Transparenz wir erwarten.

Google hat einen Beirat angekündigt. Der soll überwachen, ob die Firma KI nach ethischen Grundsätzen einsetzt. Deutsche Firmen bringen ein Gütesiegel für KI heraus, die auf Grundwerten, Datenschutz, Transparenz und vorurteilsfreien Daten beruht. Klingt doch ganz gut, oder?

Baker: Tut es. Die entscheidende Frage ist jetzt: Werden diese ethische Grundsätze Unternehmen wirklich davon abhalten, Dinge zu tun, die sie gerne tun wollen? In vielen Fällen wissen wir außerdem noch gar nicht, was genau wir mit „ethisch korrekt“ meinen. Die Verwendung illegal erworbener oder diskriminierender Daten ist sicherlich unethisch. So einfach ist die Beurteilung aber nicht immer.

Wenige Tage nach unserem Gespräch hat Google seine Pläne für einen KI-Ethik-Beirat wieder eingestampft. Der Grund: Viele aus der Belegschaft hatten sich über die geplante Zusammensetzung des Gremiums beschwert.

Sie fordern eine gesellschaftliche Diskussion über den richtigen Umgang mit Technologie. Deswegen schlagen Sie auch Veränderungen im Bildungssystem vor. Wie sollten die aussehen?

Baker: Zurzeit ist die Ausbildung in den technischen Studienfächern sehr stark auf die reine Technik fixiert. Deren Auswirkungen auf die Menschheit spielen kaum eine Rolle. Das ist ein Fehler. In den Lehrplänen sollten solche Überlegungen und Diskussionen eine Rolle spielen. Ingenieurinnen oder Programmierer brauchen sicherlich keinen zusätzlichen Abschluss in Geisteswissenschaften. Die Methoden und das Vokabular, um die sozialen oder ökologischen Folgen von Technologie besser einschätzen zu können, sollten aber Teil ihrer Ausbildung sein. Damit könnten sie die gesellschaftliche Debatte voranbringen.

Hätten wir manche Probleme nicht, wenn wir daran früher gedacht hätten?

Baker: Zumindest hätten wir sie früher verstanden und könnten besser darauf reagieren. Doch natürlich kann allein die breitere Ausbildung der Mitarbeiterinnen und Mitarbeiter von Tech-Unternehmen nicht die Grundsätze unseres Wirtschaftssystems ändern. Da wir den Erfolg von Firmen am finanziellen Gewinn festmachen, den sie ihren Aktionären bescheren, dürfen wir uns nicht wundern, dass sich Unternehmen genau darauf konzentrieren: Gewinne maximieren. Probleme hätte es also so oder so gegeben. Umso wichtiger ist deshalb eine aufgeklärte Gesellschaft, die frühzeitig über wichtige Fragen diskutiert.

Reden wir zum Schluss noch übers Geschäft. In Deutschland war der Firefox von Mozilla über Jahre hinweg der erfolgreichste Browser, hatte über 60 Prozent Marktanteil. Inzwischen hat der Chrome von Google die Marktführerschaft übernommen. Wird es dadurch schwieriger, Ihre Botschaft eines offenen Internets zu verbreiten?

Baker: Ein hoher Marktanteil bedeutet, dass viele Menschen unsere Produkte mögen. Und natürlich heißt mehr Marktanteil mehr Wahrnehmung. Wir hatten es also leichter, bevor wir ins Visier von Google gerieten. Erschwerend kam hinzu, dass es eine Phase gab, in der wir Kapazitäten vom Browser abzogen, um ein eigenes Betriebssystem zu bauen: Firefox OS. Damit scheiterten wir leider, genau wie Microsoft oder Nokia. Aber wir geben nicht auf.

Wir haben den Firefox inzwischen wieder zu einem Weltklasse-Browser gemacht. Selbst unter Geeks gilt er wieder als führend, was Performance, Datenschutz und Sicherheit angeht. Außerdem arbeiten wir an weiteren Produkten, die wir bald ankündigen werden. Und wir werden weiterhin für ein freies Internet kämpfen. Noch lauter als zuvor.

Jetzt seid ihr gefragt! Brauchen wir neue Lehrpläne für Technikstudiengänge? Was bringt mehr Transparenz bei Algorithmen und KI? Und würdet ihr eure eigenes Nutzungsverhalten ändern, wenn dadurch ein besseres Internet möglich wäre?

Teaser-Bild: Mozilla Foundation

Du willst erfahren, wie führende Köpfe aus Start-ups, Tech-Konzernen und der Wissenschaft die Zukunft sehen? Du willst erleben, wie Künstlerinnen und Künstler mit neuen Technologien atemberaubende Werke erschaffen? Du willst mitreden, wenn es um unsere Zukunft geht? Dann sichere dir dein Ticket für 1E9 the_conference! Das Tech-Event des Jahres am 11. Juli 2019 in München.

4 „Gefällt mir“

@Wolfgang, hier hast du uns einen wichtigen Beitrag bereitgestellt, danke. Das ist ein Anfang, die gesellschaftliche Debatte zu diesem Thema voranzutreiben.

Diese Frage ist eine der wichtigsten, wenn wir für den gewünschten und nun bereits notwendigen Wandel erfolgreiche Ergebnisse erzielen wollen. Wir müssen bereit sein, unser Verhalten auf allen Gebieten grundlegend zu überdenken und neu zu ordnen; ansonsten sehe ich kaum einen Weg, unsere Probleme zu überwinden.

Da wir in einem kapitalistichen System leben, kann sich die Ausrichtung der Firmen gar nicht von der Gewinnmaximierung loslösen, sie würden dabei untergehen.
Darum ist hier die Politik gefragt, wie Baker antwortet: „Deswegen sollte Forschung an Universitäten besser finanziert werden.“

Zu deiner ersten Frage:
Da ist schon einiges im Gange. Zwar werden die Lehrpläne an den Universitäten unseren heutigen Anforderungen noch nicht gerecht, doch werden die Probleme in einigen Vorlesungen und Seminaren schon angegangen. Das wird sich schnell entwickeln. Mir wurde diesbezüglich praktisch ein Einblick gewährt.

Frage zwei:
Solange Menschen Algorithmen entwickeln könnte ich mir mehr Transparenz in der Zukunft tatsächlich vorstellen.
Wenn wir jedoch bald Supercomputer arbeiten lassen, die es ermöglichen, dass KI Algorithmen in der Potenz einer Kettenreaktion generiert, dann bin ich mir gar nicht mehr so sicher ob wir die Kontrolle über Transparenz noch behalten können, weil wir kein Unternehmen mehr zur Verantwortung ziehen können, sondern eben eine "künstliche Intelligenz". Und diese wird uns in astronomischen Dimensionen überlegen sein.

dritte Frage:
Natürlich bin ich bereit, und noch zu viel mehr!

2 „Gefällt mir“

Danke für das Feedback @lifequest! Zur Frage nach den Lehrplänen habe ich inzwischen auch mit jemandem vom MCTS gesprochen, dem Munich Center for Technology in Society. Gehört zur Technischen Universität - und sorgt auch dafür, dass die gesellschaftlichen Folgen von Technologie während des Studiums stärker thematisiert und diskutiert werden. Werde das wieder aufgreifen!

2 „Gefällt mir“

Danke für dein Interesse an der Thematik @Wolfgang! Ich bezog meine Informationen von der Humboldt Universität zu Berlin, Fachbereich Informatik.
Die Studenten sind inzwischen sehr wachgerüttelt, regen an und fordern solche Veränderungen aus sich heraus. Das ist ein erbauliches Zeichen für unsere Zukunft!
Also wieder aufgreifen - ja…

2 „Gefällt mir“

Und nun ist Mitchell Baker auf wieder offiziell CEO bei Moz://a :slight_smile:

Sie will an Communities und deren enablement anknüpfen und spricht vom Problem der vertikalen Integration großer tech player im Internet.

2 „Gefällt mir“

Warum? Unser Unternehmen agiert im kapitalistischen System, unser Unternehmenszweck ist allerdings nicht Gewinnmaximierung sondern „Schaffung von Arbeitsplätzen“. So kann Wachstum auch aussehen.
Damit dabei keine unnötigen Strukturen - wie ZB in Konzernen oder der Verwaltung - aufgebaut werden, ist jede Line-Of-Business für ihre Selbsterhaltung und Weiterentwicklung durch wirtschaftliche Aktivität, Mirarbeiterausbildung und innovative Dienstleistungen und Produkte selbst verantwortlich.

1 „Gefällt mir“