Sprachassistenten: Soziale Folgen und rechtliche Gestaltung

Ein Lautsprecher, der einem tröstende Worte zuflüstert, der einem Mut zuspricht, der auf die eigenen Stimmungen Rücksicht nimmt, den man alles fragen kann und der um keine Antwort verlegen ist, der einen an alle Termine und Vereinbarungen erinnert und in schwierigen Lebenssituationen Empfehlungen gibt – das ist keine ferne Vision mehr. Sprachassistenten, die aus ihrer Kommunikation ständig lernen und sich verbessern, sind auf dem Vormarsch. Sie versprechen die jeweils passende Unterrichtung, Unterredung, Unterstützung und Unterhaltung. Sie sind aber auch mit Risiken verbunden: „Wie verändert uns Künstliche Intelligenz? Wir wirken sich Sprachassistenten auf die mentalen Modelle der Nutzenden, auf die menschliche Kommunikationskultur und auf das Knüpfen von Beziehungen aus? Wie müssen wir sie gestalten, damit sie der freien Entwicklung der Persönlichkeit förderlich sind, uns diskriminierungsfrei unterstützen und die ihnen anvertrauten Informationen vertraulich behandeln? Dies sind die Fragen“, so Prof. Dr. Alexander Roßnagel, Jurist an der Universität Kassel, „die wir seit dem 1. April 2019 in dem vierjährigen interdisziplinären Forschungsprojekt IMPACT untersuchen“.

Zusammen mit Sozialpsychologen der Universität Duisburg-Essen (Konsortialführer), Informatikern der Universität Bielefeld und Ethikern der Evangelische Hochschule Nürnberg untersucht die Projektgruppe verfassungsverträgliche Technikgestaltung (provet) im Wissenschaftlichen Zentrum für Informationstechnik-Gestaltung (ITeG) der Universität Kassel, wie Sprachassistenten weiterentwickelt, in ihrer Wirkung empirisch überprüft und ethisch und rechtlich bewertet werden können. Gemeinsam werden Gestaltungsvorschläge entwickelt, um die Vorteile zu stärken und ihre Risiken zu minimieren. Das Projekt gehört zu insgesamt sechs Projekten der Förderinitiative „Künstliche Intelligenz ─ Ihre Auswirkungen auf die Gesellschaft von morgen“ der VolkswagenStiftung und will praxisnah herausfinden, wie Gesellschaft und Technologie mit Hilfe von Künstlicher Intelligenz künftig verändert und gestaltet werden können. Die VolkswagenStiftung unterstützt das Projekt mit 1,5 Millionen Euro, rund 250.000 Euro davon geht an die Universität Kassel.

Das Projekt nimmt eine Lebensspannen-Perspektive ein, die Gruppen wie Kinder und Senioren miteinbezieht. In einem ersten Szenario untersucht es die Interaktion von Kindern mit sprechenden Geräten und somit die sensibelste Gruppe. Hier geht es vor allem um Fragen der Beziehungsbildung. Im zweiten Szenario analysiert es die Interaktion von Erwachsenen mit einer Gesundheitsapp, die über eine Konversationsschnittstelle gesundheitsbezogene Vorschläge unterbreitet. Analysiert werden vor allem die Erklärungsfähigkeit der Systeme und die mentalen Modelle, die sich die Nutzenden von ihnen machen. Im dritten Szenario steht die Kommunikation mit einem virtuellen Agenten im Vordergrund, der Senioren bei der Planung ihres Alltags unterstützt.

„Spezifisch rechtliche Fragestellungen des Projekts sind die Auswirkungen solcher Systeme auf die Verwirklichungsbedingungen von Grundrechten und die Möglichkeiten, sie grundrechtsförderlich zu gestalten“, so Dr. Christian Geminn, Geschäftsführer der Projektgruppe verfassungsverträgliche Technikgestaltung (provet), der diese Themen in seiner Habilitation behandeln will. Beispiele rechtlicher Ziele, die durch selbstlernende Sprachassistenten betroffen sein können, sind die freie Entfaltung der Persönlichkeit, eine menschenwürdige Kommunikation, der sensible Umgang mit menschlichen Emotionen, die Entscheidungsfreiheit insbesondere von Kindern und Senioren, die informationelle Selbstbestimmung mit ihren Anforderungen an ausreichende Transparenz für die betroffenen Personen und die Zweckbindung der verarbeiteten Informationen, die kommunikative Selbstbestimmung und die Freiheit von Diskriminierung.

Das Forschungsprojekt ist nicht nur deshalb praxisrelevant, weil es einen gestalterischen Ansatz verfolgt, sondern auch weil es durch einen Citizen Science-Ansatz ergänzt wird. Durch die hohe gesellschaftliche Bedeutung der Thematik soll die Öffentlichkeit nicht nur über die Teilnahme an den empirischen Studien beteiligt werden, vielmehr sollen aktive Laienwissenschaftler im Rahmen von zwei Workshops und einer empirischen Studie relevante Fragen stellen und Antworten geben.

Kontakt:

Prof. Dr. Alexander Roßnagel
Wissenschaftlichen Zentrum für Informationstechnik-Gestaltung (ITeG) der Universität Kassel
E-Mail: a.rossnagel[at]uni-kassel[dot]de