Das Porträt: Judith Simon

Alexander Grau

Seit Februar 2017 hat Prof. Dr. Judith Simon den Lehrstuhl für Ethik in der Informationstechnologie an der Universität Hamburg inne. Darüber hinaus ist sie seit 2018 Mitglied des Deutschen Ethikrates, des Hauptausschusses der Leopoldina und der Deutschen Forschungsgemeinschaft (DFG) für den Umgang mit sicherheitsrelevanter Forschung und war Mitglied der Datenethikkommission der Bundesregierung. Vor ihrer Tätigkeit an der Universität Hamburg war Judith Simon außerordentliche Professorin für Wissenschaftstheorie und Technikphilosophie an der IT University Kopenhagen sowie leitende Wissenschaftlerin des Projekts „Epistemic Trust in Socio-Technical Epistemic Systems“ an der Universität Wien.

Printausgabe tv diskurs: 25. Jg., 1/2021 (Ausgabe 95), S. 52-55

Vollständiger Beitrag als:

 

Zum Wesen der Digitalisierung scheint zu gehören, dass ethische und gesellschaftspolitische Fragen wieder an Aktualität gewinnen, die Ende des 20. Jahrhunderts zumindest in der westlichen Hemisphäre als historisch galten. Wer hätte sich etwa Ende der 1990er‑Jahre vorstellen können, dass wir allen Ernstes erbittert um Meinungsfreiheit streiten, um Demokratie oder die Legitimität des Sagbaren?

Zugleich werden Probleme aktuell, die zwar schon seit Jahrhunderten durch die Köpfe von Wissenschaftlern und Philosophen spuken, nun aber vor dem Hintergrund der technischen Möglichkeiten plötzlich praktische Relevanz haben:

Was etwa, wenn wir alle Daten eines Menschen besitzen? Oder von der Welt als Ganzem? Ist alles berechenbar? Und wenn ja: Sollten wir das tun, wenn es Nutzen und Wohlstand verspricht?

Und schließlich werfen die neuen digitalen Technologien ethische und politische Fragen auf, die noch vor Kurzem als Science-Fiction abgetan worden wären. Welche Entscheidungsspielräume räumt man Algorithmen ein? Wie gestaltet man die Interaktion von Mensch und Maschine? Ist es legitim, intimste Daten des Einzelnen zum Wohl der Gemeinschaft auszuwerten?

Judith Simon befasst sich seit Jahren intensiv mit den Folgen, Gefahren und Chancen der Digitalisierung. Doch obwohl sie derzeit einen Lehrstuhl für Ethik in der Informationstechnologie innehat, ist sie von Haus aus keine Philosophin. Ihr wissenschaftlicher Ausbildungsweg war vielmehr hochgradig interdisziplinär, was insbesondere bei Fragen der technischen Folgeabschätzung und der Abwägung von Gefahren und Nutzen technischer Trends und Neuentwicklungen von Vorteil ist.

„Anfangs war ich unsicher, was ich studieren soll“, erzählt die Wissenschaftlerin, „ich schwankte zwischen Sprachen und Molekularbiologie. Entschieden habe ich mich dann für Psychologie, weil ich dachte, das kombiniert relativ viel. Dabei war mir vorher nicht klar, dass ein Psychologiestudium eine stark naturwissenschaftliche und statistische Gewichtung hat – für die ich jetzt im Rückblick allerdings sehr dankbar bin.“

Simon begann ihr Studium an der Philipps-Universität Marburg. Danach ging sie für ein Jahr an die Wilfrid Laurier University nach Kanada. 2002 machte sie ihr Diplom an der Freien Universität Berlin. Danach arbeitete sie als Usability-Testerin für Software. „Ich hatte mich während des Psychologiestudiums mit der Gestaltung von Lernsoftware und ähnlichen Dingen beschäftigt“, erklärt sie. „Beim Usability Testing geht es darum, zu überprüfen, wie Nutzer mit unterschiedlichen Interfaces umgehen und auf verschiedene Designs reagieren.“
 

Soziotechnische Wissensprozesse

Ihre erste Forschungsstelle nach dem Diplom fand Judith Simon am Forschungszentrum Jülich, für das sie an das Max-Delbrück-Centrum für Molekulare Medizin nach Berlin ging, wo sie von 2005 bis 2007 in der Forschungsgruppe „Bioethik & Wissenschaftskommunikation“ arbeitete: „Wir haben uns dort“, erläutert sie, „aus sozialwissenschaftlicher Perspektive mit partizipativen Methoden der Technikfolgenabschätzung in der Stammzellenforschung beschäftigt, haben etwa Delphi-Studien gemacht oder Konsensus-Konferenzen veranstaltet.“

Im Laufe des Studiums wurde Judith Simon jedoch klar, dass sie lieber die Wissenschaften von außen betrachtet, als selbst im Labor zu stehen oder Studien durchzuführen. Schließlich bekam sie eine Stelle in der Forschungsgruppe „Wissenschaftstheorie: Kulturen und Technologien des Wissens“ am Institut für Philosophie der Universität Wien. „Das war ein Riesenglücksgriff“, erzählt sie, „weil es relativ schwierig ist, fachfremd in ein Institut für Philosophie hineinzukommen. In diesem Moment suchte man in Wien aber jemanden mit meiner Expertise, jemanden, der interdisziplinär gearbeitet hatte und sich in Kognitionswissenschaften und neueren Technologien auskannte.“

Während ihrer Zeit in Wien war Judith Simon zudem Gastwissenschaftlerin zunächst an der Universität Ljubljana, dann an der Stanford University. 2009 wurde sie Wissenschaftliche Mitarbeiterin am Institut Jean Nicod der École Normale Supérieure in Paris, im Jahr darauf Gastwissenschaftlerin am spanischen Forschungszentrum für Künstliche Intelligenz (CSIC‑IIIA) in Barcelona. In dieser Zeit arbeitete sie auch an ihrer Dissertation über erkenntnistheoretische Fragen der Neuen Medien.

„Es war damals die Zeit von Web 2.0, von Social Media, von Wikipedia und den Anfängen von Empfehlungssoftware“, erläutert Simon. „Mich hat daran interessiert, wie diese Technologien Wissensprozesse verändern.“ Ausgangspunkt ihrer Überlegungen sei gewesen, dass den verschiedenen Plattformen und Algorithmen ganz unterschiedliche Funktionsweisen zugrunde liegen. „In einer Empfehlungssoftware“, so Simon, „werden Meinungen aggregiert, bei Wikipedia hingegen werden die Artikel von den Autoren integrativ geschaffen. Dahinter stehen jeweils ganz andere Logiken, wie man Menschen durch bzw. mit Technologien zusammenführt und am Ende eine Art Wissensprodukt schafft.“

In der Folge unterscheidet sie insgesamt drei unterschiedliche Technologien, die in sozialen Medien zur Anwendung kommen: integrative, aggregative und selektive. Bei integrativen Formaten arbeiten verschiedene Menschen gemeinsam an einem Produkt, etwa einem Text. Aggregative Plattformen verrechnen die Bewertungen unterschiedlicher Nutzer, die aber nicht untereinander kommunizieren und auch sonst nichts miteinander zu tun haben. Bei selektiv vorgehenden Medien, etwa Ratgeber-Blogs, werden die Ratschläge der Nutzer vom Ratsuchenden nach für ihn nützlichen Hinweisen durchforstet. Damit zeigt sich, dass das „Soziale“ in den jeweiligen Formaten ganz unterschiedliche Funktionen hat. Insbesondere bedeutet „sozial“ hier nicht immer, dass Menschen kooperieren und integrativ arbeiten:

Austausch und Kooperation sind bei Wikipedia eine Bedingung, bei anderen Tools wie Prediction Markets gilt das Gegenteil.“

Ihr Interesse an den sozialen Medien und den digitalen Technologien, erzählt Judith Simon, sei daher zunächst weniger ethischer, sondern mehr erkenntnistheoretischer Natur gewesen. Soziotechnische Aspekte in die Erkenntnistheorie hineinzutragen, sei damals noch ein weitgehend unbearbeitetes Feld gewesen. Sowohl die Wissenschaftstheorie, vor allem aber auch die Erkenntnistheorie seien damals häufig sehr abstrakt und individualistisch geprägt gewesen: „Die haben sich vor allem dafür interessiert, wie individuelle Erkenntnisprozesse ablaufen, nicht aber dafür, wie ein Wikipedia-Artikel entsteht.“ 

Dabei ist klar, dass Wikipedia nicht nur eine neue Form der Wissensakkumulation darstellt, sondern die Wissenschaft selbst verändert hat: „In den letzten Jahren gab es ja eine ganze Reihe von Bemühungen, Wissensprozesse zu öffnen, es gab Initiativen wie Open Science, Citizen Science oder Open Source. Da besteht vielleicht kein Kausalzusammenhang, aber Wikipedia ist sicher Ausdruck gesellschaftlicher Strömungen, Wissenschaft transparenter und interaktiver zu machen.“

Zudem sei Wikipedia insbesondere für Studenten eine wichtige Wissensquelle. Auch das habe die Wissenschaft verändert. „Wenn man das nicht als letzte Evidenz verwendet“, betont Simon, „finde ich es auch ganz plausibel, dort erst einmal hineinzuschauen.“
 

Big Data und Politik

Judith Simons Forschung im Rahmen ihrer Dissertation stieß vor allem bei Computerethikern auf Interesse. „Die haben sich auch für die erkenntnistheoretischen Fragen interessiert, die Erkenntnistheoretiker hingegen nicht so sehr für Fragen an der Schnittstelle zur IT“, resümiert die Wissenschaftlerin. In der Folge richtete Simon ihr Arbeitsfeld eher Richtung Computerethik aus.

Nach ihrer Promotion wurde sie 2011 Leiterin des Projekts „Epistemic Trust in Socio-Technical Epistemic Systems“ des Österreichischen Wissenschaftsfonds (FWF) am Institut für Philosophie der Universität Wien. Zugleich arbeitete sie zunächst als Wissenschaftliche Mitarbeiterin am Institut für Technologie des Instituts für Technikfolgenabschätzung und Systemanalyse (ITAS) in Karlsruhe und dann als Associate Professor für Wissenschaftstheorie und Technikphilosophie an der IT  University in Kopenhagen. 2017 dann wurde sie als Professorin für Ethik in der Informationstechnologie an die Universität Hamburg berufen – nicht an einem philosophischen Institut, sondern am Fachbereich für Informatik.

„Ich habe immer sehr stark interdisziplinär unterrichtet“, betont Simon, „daher ist die Arbeit an einem IT-Fachbereich für mich nicht neu. Zudem gab es hier in Hamburg von Anfang an eine sehr enge Zusammenarbeit mit den Kollegen aus der Philosophie.“ Zurzeit ist Simon vor allem in zwei Forschungsprojekte involviert. Das erste, „Information Governance Technologies“, befasst sich mit der Frage, inwiefern und inwieweit uns Informationstechnologien steuern, aber auch, wie sich Informationstechnologien ihrerseits steuern lassen. In dem zweiten, „Governance von und durch Algorithmen“, wird untersucht, wie die Governance von risikobehafteten Algorithmen gestaltet werden kann und wie Algorithmen ihrerseits Governancefunktionen ausüben und dadurch Bestandteil der Governance zur Risikominderung von Algorithmen werden können. „Das sind zugleich auch die Kernthemen, die mich persönlich in den letzten Jahren beschäftigt haben“, erläutert die Wissenschaftlerin, „also Big Data und künstliche Intelligenz, insbesondere in der Kopplung von erkenntnistheoretischen, ethischen und politischen Fragen.“

Zu diesem Zweck ist es wichtig, zunächst Aspekte der anfallenden Daten auseinanderzuhalten: ihr Volumen, die Geschwindigkeit ihrer Verarbeitung und die Unterschiedlichkeit von Datentypen und Datenquellen. „Aktuell wird im Rahmen der KI vor allem maschinelles Lernen diskutiert, also die statistische Analyse großer Datenmengen mit dem Ziel, Muster zu erkennen, zu klassifizieren oder Prognosen zu erstellen – sei es in der Medizin, bei der Strafverfolgung oder zu kommerziellen Zwecken.“ Da es dabei auch immer darum gehe, Entscheidungen an Softwaresysteme zu delegieren, sei es wichtig, Informatikerinnen und Informatiker für ethische Fragen zu sensibilisieren. Schon bei der Entwicklung einer Software müsse man sich etwa Gedanken darüber machen, welche Daten verwendet, wie diese aufbereitet und bereinigt werden – und nicht erst, wenn die Software als Produkt in der Welt sei.

Ein gutes Beispiel für eine gesellschaftsrelevante, aber dennoch von vielen Bürgern als problematisch empfundene Software war und ist die sogenannte Corona-App.

„Ich war eine Verfechterin dieses Ansatzes, der da verfolgt wurde“, erläutert Simon. „Und auch im Rückblick würde ich sagen, es war eine Erfolgsgeschichte, eben weil die Bundesregierung den Empfehlungen von Organisationen und NGOs gefolgt ist und eine dezentral arbeitende App entwickelt wurde, die datenschutzfreundlich ist.“ Auch wenn es etwa aus epidemiologischer Sicht durchaus verlockend gewesen wäre, Daten zentral zusammenzufassen und zu speichern, sei es für die Akzeptanz in der Bevölkerung doch wichtig gewesen, diesen Weg nicht zu gehen. Zudem hätten Apple und Google deutlich gemacht, dass eine solche App nur dezentral laufen könne und eine zentrale Lösung mit den gängigen Betriebssystemen nicht machbar sei. „Das zeigt zweierlei: zum einen, wie abhängig man von den großen Playern ist. Zum anderen, dass zivilgesellschaftliche Intervention von Personen und Organisationen, die sich in der Materie auskennen, tatsächlich etwas bewirkt.“
 

Netzplattformen und Bürgergesellschaft

Das zweite große Thema, das die Öffentlichkeit nicht zuletzt auch wegen der Debatten rund um die Coronamaßnahmen in den letzten Monaten beschäftigt hat, ist die Frage der freien Meinungsäußerung auf den einschlägigen Plattformen. Ein grundlegendes Problem scheint dabei immer wieder zu sein, dass viele Nutzer YouTube u.a. als eine Art Agora oder Speakers’ Corner wahrnehmen und dabei vergessen, dass es sich hierbei um Privatunternehmen handelt, die im Grunde frei darüber bestimmen können, was auf ihren Servern gespeichert wird. Wichtig, so Judith Simon, sei allerdings auch die Nutzerperspektive. „Wenn vom Verbraucher aus gedacht wird und diese Plattformen die Schaltstelle zwischen Inhalt und Nutzer sind, dann haben diese Konzerne bestimmte Pflichten. Wie diese auszusehen haben und wie diese umzusetzen sind, ist eine andere Frage.“ Hinzu komme, dass die Internetkonzerne dabei seien, alternative Infrastrukturen aufzubauen. „An die Bereitstellung von Infrastruktur“, so Simon, „sind aber gewisse Pflichten gekoppelt. Das gilt umso mehr, als hier Abhängigkeiten und Quasimonopole geschaffen werden.“ Dies gelte in Europa und Nordamerika, sehr viel mehr noch aber in anderen Regionen der Welt, wo das Internet mangels Alternativen oft identisch mit Facebook sei.

Allerdings, so mahnt die Wissenschaftlerin, seien die zu verwaltenden Datenökosysteme unglaublich komplex und damit die Umsetzung gesellschaftlicher Ziele abhängig von einer Vielzahl unterschiedlichster Aspekte, angefangen von den zuständigen Verantwortlichen bis hin zu den Ebenen, auf denen man regulierend ansetzen kann.

Ich verstehe das Ziel von Diversität und Neutralität in der Mediengestaltung, sehe aber auch, dass häufig viel Naivität darüber vorhanden ist, wie das konkret auszugestalten ist.“

Um sich zunächst über die normativen Ziele klar zu werden, sei es hilfreich, die jeweiligen Plattformen im Kontrast zu anderen Einrichtungen zu sehen, so könne man Unterschiede und Gemeinsamkeiten eher erkennen – etwa zu Verlagen oder TV-Sendern oder Postunternehmen. „Man kann diese Plattformen nicht mit traditionellen Unternehmen gleichsetzen, es ergeben sich aber Überschneidungen – und aus denen erwachsen Pflichten“, so Simon, „die sich aus den sehr unterschiedlichen Nutzungsformen und sozialen Sphären ableiten.“

Gesellschaftspolitische Fragen zum Umgang mit Daten stellten sich bekanntlich jedoch nicht nur hinsichtlich privater Konzerne, sondern auch mit Blick auf den Staat. Seit dem Aufstieg des Nationalstaates sei dieser an der Sammlung von Daten interessiert. Und dies nicht nur, um besser oder effizienter zu regieren, sondern auch, um das Regierungshandeln zu legitimieren. Das habe aber immer auch eine demokratiegefährdende Schlagseite, denn wer mit wissenschaftlichen Daten operiere, der brauche streng genommen keine Politik mehr, sondern nur noch Rechner.

„Datenbasierte Entscheidungen sind durchaus sinnvoll. Nur in der Zwischenzeit sind immer weitere Bereiche unseres Lebens vermessen worden, was bedeutet, dass immer mehr Aspekte unseres Lebens quantifiziert und bewertet werden.“ Hier drohe, wie es der Philosoph Michael J. Sandel in seinem jüngsten Buch ausgedrückt habe, eine „Tyranny of Merit“, also eine Tyrannei der Verdienste und des sozialen Wohlverhaltens. Das gefährde nicht nur die Freiheit des Einzelnen, sondern führe auch – man denke nur an Versicherungsunternehmen oder Krankenkassen – zu einer Entsolidarisierung der Gesellschaft.

„Ich bin froh, wenn Politik evidenzbasiert und wissenschaftlich begründet abläuft“, fasst Judith Simon zum Schluss ihre Überlegungen zusammen, „aber man muss sich in bestimmten Bereichen überlegen, welche Daten man erhebt, welche nicht – und warum. Das kann man nicht kategorisch machen.

Es geht vielmehr immer um den angemessenen und sinnvollen Umgang mit Daten.“

Dr. Judth Simon ist Professorin für Ethik in der Informationstechnologie an der Universität Hamburg.

Dr. Alexander Grau arbeitet als freier Kultur- und Wissenschaftsjournalist u.a. für „Cicero“, „NZZ“ und dem Deutschlandfunk.