The implications of conversing with intelligent machines in everyday life for people´s beliefs about algorithms, their communication behavior and their relationship building
Kommunikation mit Maschinen nimmt sowohl an Qualität als auch an Quantität stetig zu. Dies bleibt nicht ohne Auswirkungen auf die menschliche Kommunikationskultur, die mentalen Modelle der Nutzer und das Knüpfen von Beziehungen. Das von der Volkswagenstiftung geförderte Projekt „The implications of conversing with intelligent machines in everyday life for people´s beliefs about algorithms, their communication behavior and their relationship building“ untersucht vor diesem Hintergrund, wie Sprachassistenten weiterentwickelt, in ihrer Wirkung empirisch überprüft und ethisch und rechtlich bewertet werden können. Gemeinsam werden Gestaltungsvorschläge entwickelt, um Vorteile der Technologie zu stärken und ihre Risiken zu minimieren. Das Projekt ist Teil der Förderinitiative „Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen“ der VolkswagenStiftung.
Projektpartner sind neben der der Projektgruppe verfassungsverträgliche Technikgestaltung an der Universität Kassel Sozialpsychologen der Universität Duisburg-Essen (Konsortialführer), Ethiker der Evangelischen Hochschule Nürnberg und Informatiker der Universität Bielefeld. Die Forschungsfragen adressieren die Themen Transparenz, Kommunikation, und Beziehungsbildung. Das Projekt nimmt dabei eine Lebensspannen-Perspektive ein, die verletzliche Gruppen wie Kinder und Senioren miteinbezieht. Das Projekt startete zum 1.4.2019 und wird eine Laufzeit von vier Jahren haben.
Um die aufgeworfenen Forschungsfragen zu beantworten, werden drei Szenarien bearbeitet. Diese adressieren unterschiedliche Applikationen, Nutzergruppen und die drei Ebenen von Transparenz, Kommunikation und Beziehung. In allen Szenarien kommt maschinelles Lernen zum Einsatz, um die Interaktion zwischen Mensch und Maschine zu optimieren. Das erste Szenario adressiert Kinder in der Interaktion mit sprechenden Geräten und somit die verletzlichste Gruppe. Hinsichtlich der technischen Entwicklungen wird gefragt, wie ein KI-System transparent und selbsterklärend für Kinder gestaltet werden kann. Der Fokus der im Szenario durchzuführenden empirischen Studien (drei Studien mit 160 Kindern im Alter von 7-10 Jahren) und der ethischen Analysen liegt auf der Beziehungsbildung. In Labor- und Feldstudien interagieren die Kinder mit einem erweiterten handelsüblichen Sprachassistenten zur Auswahl von Musik und Hörspielen. Die juristischen Analysen widmen sich der Frage, wie die besonders verletzliche Gruppe Minderjähriger informierte Zustimmung geben sowie das System selbstbestimmt nutzen kann.
Das zweite Szenario analysiert die Interaktion von Erwachsenen mit einer Gesundheitsapp, die über eine konversationale Schnittstelle gesundheitsbezogene Vorschläge macht. Die technischen Arbeiten adressieren, wie maschinelles Lernen für Empfehlungen genutzt werden kann, indem die Algorithmen erklärbar und transparenter gemacht werden (für Forschende und Nutzende). Empirische Forschung (drei Studien mit 150 Erwachsenen) fokussiert vor allem die mentalen Modelle, die Nutzende vom System ausbilden – in Abhängigkeit von deren Transparenz. Die ethischen Analysen reflektieren, welches mentale Modell über das System angemessen ist, während aus rechtswissenschaftlicher Sicht Fragen Art und Weise der Informationsgabe, des selbstbestimmten Handeln und der Einwilligung im Vordergrund stehen.
Im dritten Szenario werden Senioren im Kontext von Ambient Assisted Living betrachtet. Hier steht die Kommunikation mit einem virtuellen Agenten im Vordergrund, der mit der Planung der täglichen Termine hilft. Technische Arbeiten konzentrieren sich auf die Kombination von Machine Learning (Reinforcement Learning) mit klassischen Methoden der Dialogmodellierung. Empirisch werden zwei Studien (mit 55 Senioren über 60 Jahren) durchgeführt, die aufzeigen sollen, inwiefern die Senioren sich sprachlich an das System anpassen. Zudem wird auch hier thematisiert, welche Arten von Beziehungen gebildet werden. Ethische und juristische Analysen fokussieren die Problematik artifizieller Systeme in Pflegebereichen.
Zusätzlich wird eine Langzeitbefragung durchgeführt, an der 100 Familien über drei Jahre teilnehmen, die Sprachassistenten im häuslichen Umfeld nutzen. Die teilnehmenden Familien werden zweimal im Jahr zu Nutzungsmustern, Evaluation, mentalen Modellen, emotionalen Reaktionen und Beziehungsbildung befragt.
Das Projekt wird ferner durch einen Citizen Science-Ansatz ergänzt. Durch die hohe gesellschaftliche Bedeutung der Thematik soll die Öffentlichkeit nicht nur als Teilnehmende an den empirischen Studien beteiligt werden, sondern als aktive Laienwissenschaftler, die im Rahmen von Workshops und weiteren Studien relevante Fragen stellen und Antworten geben können.
Projektpartner
Universität Duisburg-Essen, Sozialpsychologie - Medien und Kommunikation:
Prof. Dr. Nicole Krämer (Koordination)
Universität Bielefeld, Sociable Agents Group und Machine Learning Group:
Prof. Dr.-Ing. Stefan Kopp und Prof. Dr. Barbara Hammer
Evangelische Hochschule Nürnberg:
Prof. Dr. Arne Manzeschke
Projektinfos
Förderung:
VolkswagenStiftung
Laufzeit:
April 2019 – März 2023
Projektverantwortlicher:
Prof. Dr. Alexander Roßnagel
Ansprechpartnerin:
Dr. Christian Geminn
Homepage:
www.impact-projekt.de
Projektverlauf
- Kick-Off (4./5. April 2019)
- Pressemitteilung der Uni Kassel (10. April 2019)
- Policy Paper: Können Kinder aufgeklärte Nutzer*innen von Sprachassistenten sein?
- IMPACT Expert*innen Workshop in Bielefeld (9. März 2020)
- Citizen Science: Dialogforum in der Wolfsburg in Mülheim - Was macht Künstliche Intelligenz mit unserer Gesellschaft?
- Künstliche Intelligenz kinderleicht erklärt
- Policy Paper: KI-basierte Sprachassistenten im Alltag