ITeG Ringvorlesung 2022/2023

Digitale Systeme ermöglichen heutzutage Freiheiten, die früher kaum möglich gewesen wären. Wir können heute bequem vom Sofa zu jeder Tageszeit Waren bestellen, Zeitung lesen, rasch etwas in Wikipedia nachschlagen, uns in mannigfacher Weise unterhalten lassen und unser Leben in den sozialen Medien mit Tausenden von Menschen teilen. Wir können miteinander über WhatsApp, Telegram und Co. kommunizieren, jeden Schritt den wir tun verfolgen oder unsere Körperfunktionen rund um die Uhr messen lassen - wenn wir denn wollen. 

Doch ist es in der Tat so einfach? Inwieweit kann man sich diesen "Freiheiten" noch entziehen - sei es, weil man mehr und mehr von solchen Systemen und Diensten abhängig wird, sei es, weil nun etwas möglich und wünschenswert geworden ist, was früher gar nicht erst denkbar gewesen wäre (wie z.B. sich ständig selbst zu vermessen, um gesünder zu leben)? Da zudem die konkrete Gestaltung dieser "Freiheiten" selten von einem selber (mit-)bestimmt wird, drängt sich die Frage auf, was Selbstbestimmung in diesem Kontext bedeuten könnte. Im Vortrag wird daher ein Konzept "digitaler Selbstbestimmung" vorgeschlagen, welches an allgemeine philosophische Erwägungen von Selbstbestimmung zurückgebunden ist und sieben Komponenten digitaler Selbstbestimmung identifiziert (Kompetenz, Informiertheit, Werte, Wahlmöglichkeit, Freiwilligkeit, Willensbildung und Handlung). Neben den Grenzen des Konzeptes werden auch beispielhaft Möglichkeiten der empirischen Operationalisierung thematisiert.

Marcel Mertz hat Philosophie und Soziologie an der Universität Basel studiert und 2015 an der Universität Mannheim in Philosophie promoviert. Neben seiner seit 2011 bestehenden Tätigkeit an der MHH war er am (damaligen) Fachbereich Medizin- und Gesundheitsethik des Universitätsspitals Basel, am Philosophischen Seminar der Universität Mannheim und an der Forschungsstelle Ethik der Uniklinik Köln bzw. am Cologne Center for Ethics, Rights, Economics and Social Sciences of Health (ceres) der Universität zu Köln tätig.

Sein zentrales Forschungsinteresse ist die Methodologie und die Inter-/Transdisziplinarität der Medizin- und Forschungsethik, insbesondere empirische und „evidenz-basierte“ Ethik, systematische Übersichtsarbeiten normativer Literatur und ethische Bewertungsmethoden im Health Technology Assessment (HTA). Inhaltlich hat er in der Klinischen Ethik geforscht, u.a. zu Verfahren klinischer Ethikkonsultation und zur Entwicklung von klinisch-ethischen Leitlinien. Zudem hat er sich mit ethischen Herausforderungen von Demenzerkrankungen beschäftigt, sich aber auch mit technikethischen Themen wie Digitale Selbstbestimmung und Roboterethik auseinandergesetzt. Neben Lehrtätigkeiten im Bereich der Geschichte, Theorie und Ethik der Medizin (GTE) und der Forschungsethik hat er auch grundständige Lehre in praktischer und theoretischer Philosophie geleistet.

Mertz koordiniert gegenwärtig die Arbeitsgruppe „Ethik und Empirie“ der Akademie für Ethik in der Medizin e.V. (AEM) und ist einer der Sprecher von CELLS MHH.

Plattformen setzen Regeln, Plattformen setzen diese Regeln durch (auch durch algorithmische Systeme) und Plattformen sitzen zu Gericht über die Anwendung dieser Regeln. Ihre Macht jedoch wird in der Regel "checks and balances" nicht unterworfen. Wie ist diese vormodern anmutende Verfügung über Rechte und Pflichten zu legitimieren? Es beginnen sich Wege herauszukristallisieren, um die Legitimationsdefizite der Online-Ordnung auszugleichen. Diese können entweder darauf hinauslaufen, den Einfluss der Zivilgesellschaft auf die Plattform-Governance durch Transparenz, Konsultationen und Partizipation zu erhöhen. Der andere Ansatz versucht eine rechtsstaatliche Antwort zu geben und die Plattform-Governance denselben rechtsstaatlichen Grundsätzen zu unterwerfen. Vor diesem Hintergrund analysiert der Beitrag neuere "Parlamentarisierungstendenzen" der Plattformbetriebe: Ein großes soziales Netzwerk hat ein Oversight Board eingerichtet, das bei inhaltlichen Entscheidungen und algorithmischen Empfehlungen helfen soll. Das gleiche soziale Netzwerk experimentiert mit deliberativen Prozessen in großem Maßstab. Ein Spiele-Label experimentiert mit Spielerräten, die den Programmierer*innen helfen sollen, spannende Spieldesign-Entscheidungen zu treffen. Der Beirat des deutschen öffentlich-rechtlichen Fernsehens möchte ein Bürger*innengremium einrichten, um mehr Einfluss auf Programmentscheidungen zu nehmen; und die größte Online-Wissensplattform der Welt lässt seit ihrer Gründung die Nutzer*innen (und Nutzer*innen-Redakteur*innen) über inhaltliche Konflikte entscheiden. Können die Plattformen hier Demokratie lernen?

Matthias C. Kettemann ist Universitätsprofessor für Innovation, Theorie und Philosophie des Rechts am Institut für Theorie und Zukunft des Rechts. Nach Studien der Rechtswissenschaften in Graz, Genf und als Fulbright und Boas-Stipendiat an der Harvard School promovierte er mit einer Arbeit zur Rechtsstellung des Individuums im Völkerrecht bei Prof. Benedek in Graz. 2014 wurde er als Postdoktorand an den Exzellenzcluster „Die Herausbildung normativer Ordnungen“ der Goethe-Universität Frankfurt gerufen, wo er sich bei Prof. Kadelbach und Prof. Vesting am Institut für Öffentliches Recht der Goethe-Universität Frankfurt am Main mit einer Arbeit zur normativen Ordnung des Internets habilitierte und die Lehrbefugnis für Völkerrecht, Internetrecht und Rechtstheorie erhielt.

Neben seiner Professur ist Prof. Kettemann Forschungsprogrammleiter des Forschungsprogramms “Regelungs­strukturen und Regelbildung in digitalen Kommunikationsräumen“ und Senior Researcher am Leibniz-Institut für Medienforschung | Hans-Bredow-Institut, Hamburg; Forschungsgruppenleiter „Globaler Konstitutionalismus und das Internet“ und Leiter des Forschungsprojekts „Völkerrecht des Netzes“  am Alexander von Humboldt Institut für Internet und Gesellschaft, Berlin; Head of Section, „International Law and the Internet“ am Max-Planck-Institut für ausländisches öffentliches Recht und Völkerrecht; und Mitglied des Vorstands und Forschungsgruppenleiter „Platform and Content Governance“ am Sustainable Computing Lab, Wirtschaftsuniversität Wien.

Prof. Kettemann ist weiterhin assoziierter Wissenschaftler am Teilinstitut Hamburg des Forschungsinstituts Gesellschaftlicher Zusammenhalt, assoziierter Forscher und Convener des Frankfurter Internetkolloquiums am Forschungsverbund „Die Herausbildung normativer Ordnungen“ der Goethe-Universität Frankfurt am Main und externes assoziiertes Mitglied des Forschungsnetzwerks „Human Factor in Digital Transformation“ (HFDT) der Karl-Franzens-Universität Graz.

Die heutige Gesellschaft im westeuropäischen Raum sieht sich zwei Bewegungen gegenüber: Einerseits einem zunehmend fortschreitenden technologisch-induzierten Wandel, wesentlich hervorgerufen durch digitale Geschäftsmodelle – kurz Digitalisierung – und andererseits einer Bevölkerungsdemographie, bei der im Jahr 2050 jede dritte Person über 65 Jahre alt sein wird. Hinzu kommt die Tatsache, dass ältere Menschen meist nicht diejenigen sind, die mit der Digitalisierung – insbesondere in deren Geschwindigkeit – am besten mithalten können, sie verzeichnen die höchste Non-liner Quote unter allen Bevölkerungsschichten und lehnen neuere Technologien am häufigsten ab. Allerdings ist die Frage warum das so ist, und wie es sich im Sinne von digitaler Teilhabe und digitaler Diversität ändern lässt, in der Wirtschaftsinformatik kaum beforscht. Der Vortrag soll daher eine theoretische Einordnung des Themenkomplexes um IT-basierte Stereotyp-Effekte geben und designtheoretisch aufzeigen, welche Möglichkeiten bestehen, ältere Menschen an der Digitalisierung teilhaben zu lassen, um auch digital autonom und selbstverantwortlich agieren zu können.

Julia Krönung ist Universitätsprofessorin für Betriebswirtschaftslehre insbesondere Gestaltung soziotechnischer Informationssysteme an der FernUniversität Hagen. Sie promovierte an der Goethe Universität Frankfurt und war von 2014-2019 Juniorprofessorin für E-Business und E-Government an der Universität Mannheim, sowie Professorin für Wirtschaftsinformatik von 2019-2022 an der EBS Universität für Wirtschaft und Recht. Ihre Forschungsschwerpunkte umfassen soziotechnische Systemgestaltung, IT-Akzeptanz und digitale Diversität. In ihren geförderten (BMBF, Carl-Zeiss-Stiftung) Forschungsprojekten betrachtet sie die voranschreitende Digitalisierung auch aus der Perspektive digital benachteiligter Nutzergruppen (z.B. junger Frauen oder von Senioren). Sie ist Autorin/Mitautorin von zahlreichen Forschungsaufsätzen die unter anderem im Journal of the Association of Information Systems, Journal of Business Ethics und Information&Management veröffentlicht sind.

In aktuellen Diskussionen hört man oft, dass Künstliche Intelligenz “Bias” haben könne, dass es durch den Einsatz von KI zu “Diskriminierungen” kommen könne. Auch Gesetze und Gesetzesentwürfe wie die DSGVO und der Entwurf der KI-Verordnung erwähnen diese Risiken und bezwecken ihre Eindämmung. Aber was meint man eigentlich, wenn man von “algorithmischem Bias” (u.ä.) spricht, und was können Informatiker:innen und andere Akteure dagegen tun? In diesem Vortrag stelle ich anhand bereits beobachteter und (etwas) fiktiver Beispiele und aus einem interdisziplinärem Blickwinkel dar, wie KI und andere Technologie Menschen systematisch benachteiligen können. Ich stelle strukturelle Muster von Diskriminierung dar und skizziere Prinzipien von Gegenmaßnahmen. Hierbei stellt sich heraus, dass viele der anscheinend so “neuen”, so “technologiegetriebenen” Probleme schon bekannte “alte Probleme” sind und dass menschliche und maschinelle Entscheidungen ineinandergreifen. Schließlich gebe ich einen Ausblick darauf, wie ein solches Verständnis auch dazu beitragen kann, Technologie zur Verringerung von Diskriminierungen und Benachteiligungen einzusetzen.

Dieser Vortrag wird in Kooperation mit der Projektgruppe "Verantwortungsbewusste algorithmische Entscheidungsfindung in der Arbeitswelt" des Hessischen Zentrums verantwortungsbewusste Digitalisierung (ZEVEDI) organisiert.
 

Bettina Berendt ist seit 2019 Professorin für Internet und Gesellschaft an der Technischen Universität Berlin, Direktorin des Weizenbaum-Instituts und Gastprofessorin an der KU Leuven, Belgien. Ihre aktuelle Forschung beinhaltet Data Science und Critical Data Science, insbesondere hinsichtlich Privacy/Datenschutz, Diskriminierung und Fairness, sowie KI und Ethik, mit einem Fokus auf textuelle und Web-bezogene Daten.

Bis 2019 war Bettina Berendt Professorin am Fachbereich Informatik / Forschungsgruppe Deklarative Sprachen und Künstliche Intelligenz an der KU Leuven und zuvor Juniorprofessorin am Institut für Wirtschaftsinformatik der Humboldt-Universität zu Berlin. Details zu Publikationen, Vorträgen, Projekten, Positionen, Lehrveranstaltungen und anderen Aktivitäten finden sich auf www.berendt.de/bettina.