Das Forschungsprojekt „Sichere Selbstoffenbarung bei intimer Kommunikation mit Dialogsystemen“ (SENTIMENT) befasst sich mit intimer Kommunikation mit natürlichsprachlichen Dialogsystemen. Diese kommen einer authentischen und menschenähnlichen Kommunikation immer näher. In der Folge verschwimmen die Grenzen zwischen einer abgrenzbaren künstlichen Intelligenz und einem anthropomorphisierten Kommunikationspartner. Es gibt zudem immer mehr Applikationen, die bewusst die neuen Fähigkeiten der Sprachmodelle dazu einsetzen, aktiv Beziehungen zu Nutzenden aufzubauen und so an besonders sensible Informationen zu gelangen. Die Natürlichkeit der Sprache von solchen Systemen ist hierbei der Schlüssel für die Übertragung von sozialen Normen und dementsprechend auch Kommunikationsmuster auf artifizielle Kommunikationspartner.

Ein besonders untersuchungswerter Mechanismus ist hierbei die Selbstoffenbarung: Menschen neigen dazu, mehr Informationen über sich selbst preiszugeben, wenn das Gegenüber auch etwas Persönliches mitteilt. Die Dialogsysteme nutzen zudem die gewonnenen Informationen systematisch dazu, die Kommunikation individueller erscheinen zu lassen. Personalisierte Sprachmodelle sind in der Lage, Nutzerprofile auf Basis vergangener Interaktionen zu kreieren und von den Nutzenden oft verwendete Worte in die Kommunikation einfließen zu lassen. Solch persönlich erscheinende Kommunikation kann im Umkehrschluss die Bindung und das Vertrauen zum Gegenüber stärken und dazu beitragen, dass eine noch intimere Kommunikation stattfindet. Die Künstlichkeit des Gegenübers bietet zudem gerade bei besonders intimen und sensiblen Themen, die in der Gesellschaft weniger offen besprochen oder gar akzeptiert werden, eine vermeintliche Sicherheit vor potenziellen sozialen Konsequenzen wie z.B. Unverständnis, Scham, Erklärungsnot oder Kontakteinschränkungen. Dementsprechend fallen in diesen Interaktionen aber auch sehr viele, äußerst sensible Daten an.

Studien mit Nutzenden solcher dialogsystembasierten companion apps zeigen, dass Datenschutzbedenken seitens der Nutzenden solcher Applikationen durch emotional geprägte Betrachtungen, also den eben beschriebenen Vorgängen von Selbstoffenbarung, Vertrauens- und Beziehungsbildung und positiver Bestätigung der Nutzenden beiseitegeschoben werden. Die Nutzenden begeben sich damit in vulnerable Situationen. Schließlich werden so äußerst sensible Daten auf der Grundlage des menschlichen Grundbedürfnisses nach sozialer Zugehörigkeit erhoben und können so (mehr oder weniger anonymisiert) an Dritte weitergegeben werden. Vor diesem Hintergrund beschäftigt sich das Projekt mit der Frage der Gewährleistung eines angemessenen Schutzes von Nutzenden im Umgang mit intimen Kommunikationstechnologien.

Das juristische Teilprojekt beschäftigt sich dabei mit Fragen der rechtlichen Anforderungen des Privatheitsschutzes und Selbstbestimmung auf verfassungsrechtlicher und einfachgesetzlicher Ebene, mit der Regulierung zu Künstlicher Intelligenz und erarbeitet praktische Empfehlungen zur Technikgestaltung und zu bereichspezifischer Rechtsfortbildung.

Eine Besonderheit des Forschungsprojekts besteht darin, durch die Zusammenarbeit mit der Kunsthochschule Kassel die Methoden und Forschungsansätze sowie die inhaltlichen Fragestellungen, Themen und Ergebnisse aller Verbundpartner*innen aus einer Perspektive der Gestaltung und Kunst zu reflektieren und erlebbar zu machen.

Das Projekt SENTIMENT ist Gegenstand der Förderrichtlinie „Plattform Privatheit – IT-Sicherheit schützt Privatheit und stützt Demokratie“ im Rahmen des Forschungsrahmenprogramms der Bundesregierung zur IT-Sicherheit „Digital. Sicher. Souverän“. Das BMBF fördert das Projekt für drei Jahre mit € 1,24 Mio.

Verbundpartner:innen:

• Universität Duisburg-Essen, INTITEC (Intimacy with and through technology) Junior Research Group, Dr. Jessica Szczuka (Koordination),
• Kunsthochschule Kassel, Professur für Neue Medien, Prof. Dr. Joel Baumann,
• Ruhr-Universität Bochum, Faculty of Computer Science, HGI and Excellence Cluster CASA, Dr. Veelasha Monsaamy and Dr. Theodor Schnitzler (Assistant Professor at Maastricht University, Department of Advanced Computing Sciences).

Weitere Informationen finden sich auf der Webseite des BMBF.

Finanzierung:
Bundesministerium für Bildung und Forschung

Laufzeit:
April 2024 - März 2027

Projektverantwortlicher:
Priv.-Doz. Dr. Christian Geminn

Ansprechpartnerin:
Dr. Maxi Nebel