Vom 10. bis 11. November 2021 veranstaltete dapde erfolgreich seine erste digitale Konferenz zum Thema Dark Patterns. Ziel der Veranstaltung war es, das Thema aus verschiedenen Blickwinkeln zu betrachten und bestehende sowie zukunftsträchtige Antworten auf aktuelle rechtliche und technische Fragestellungen zu diskutieren. Um dieses Thema zu beleuchten, brachte die Konferenz hochkarätige Diskussionsteilnehmer:innen aus Industrie, Wissenschaft und Verbraucherschutzorganisationen zusammen.
Einleitung
Nach einer Begrüßung des Projektleiters Prof. Mario Martini (Deutsches Forschungsinstitut für öffentliche Verwaltung Speyer) und Prof. Michael Gertz (Universität Heidelberg) eröffnete Prof. Christian Kastrop, Staatssekretär im Bundesministerium der Justiz und für Verbraucherschutz, das Thema Dark Patterns im Hinblick auf aktuelle Gesetzesinitiativen. Herr Prof. Kastrop führte aus, dass der Digital Services Act (DSA) die Gefahr von Dark Patterns und die Notwendigkeit eines Verbots vollständig anerkenne, was vielversprechend sei, da eine europaweite einheitliche Regelung hohe Wirksamkeit bieten könnte. Ebenso enthalte das Gesetz über künstliche Intelligenz ein Verbot von Dark Patterns. Herr Prof. Kastrop betonte den psychologischen und wirtschaftlichen Schaden, der durch Dark Patterns verursacht wird, und forderte eine Überprüfung der Datenschutz-Grundverordnung und des Telemediengesetzes. Hier forderte Prof. Kastrop einen Verbraucherschutz 2.0, der die Zivilgesellschaft durch kollektives anstelle von individuellem Handeln stärke. Herr Prof. Kastrop schloss mit der Feststellung, dass Verbraucherschutz auf ein Niveau gehoben werden müsse, in dem neue Technologien an vorderster Front bei der Gewährleistung von Rechten für Verbraucher:innen stünden.
Anschließend starteten die inhaltlichen Panels.
Panel 1: Was ist das Problem? Dark Patterns und Online-Manipulation
"Bevor Sie regulieren, müssen Sie definieren, was Sie regulieren." Colin M. Gray (Purdue University), Susanne Hahn (Universität Düsseldorf) und Kat Zhou (Spotify) eröffneten das erste Panel, indem sie Dark Patterns als multidimensionales und komplexes Problem vorstellten. Die von Hannah Ruschemeier (CAIS) moderierte Diskussion zeigte, dass das aktuelle Modell des Homo oeconomicus nicht die Realität menschlichen Verhaltens abbildet, was eine Herausforderung für die ethischen und normativen Dimensionen eines benutzerfreundlichen digitalen Designs darstellt. Auf dem aktuellen technologischen Niveau ist die Autonomie des Benutzers über seine eigenen Handlungen begrenzt. Daher müssen Designer:innen und Technolog:innen das Bewusstsein und die Handlungsfähigkeit der Benutzer:innen in ihre Produkte einfließen lassen . Um die wirtschaftlichen Interessen von Verbraucher:innen und Käufer:innen in Einklang zu bringen, wurde eine institutionalisierte Transparenzvorgabe vorgeschlagen. Individuelle Verantwortung könnte durch eine etwaige institutionelle, kollektive Lösung ersetzt werden: Anstatt die Position der Nutzer:innen mit unausgewogenen Entscheidungsprozessen zu schwächen, könnten Institutionen Prozess- und Produktzertifizierungsmechanismen anbieten, um Transparenz und Vertrauen in dem Entscheidungsprozess zu gewährleisten.
Panel 2: Werden uns die bestehenden Regeln retten? Dark Patterns und Datenschutz
Das zweite Panel, moderiert von Christian Drews (dapde-Projekt), wandte sich dem Thema Datenschutz- und Privatsphäre im Kontext zu Dark Patterns zu. Cookie-Banner, die Benutzer dazu bringen, ihre Zustimmung zu einer umfangreichen Datenverarbeitung zu geben, sind ein berüchtigtes Beispiel, auf das sich das Panel konzentrierte. Prof. Frederik Zuiderveen Borgesius (Universität Nijmegen) begann die Diskussion, indem er einen Einblick in die rechtlichen Rahmenbedingungen rund um Dark Patterns gab. Ihm folgte Estelle Hary (CNIL/EDSA), die die Perspektive der nationalen Datenschutzbehörden vorstellte. Obwohl das Bewusstsein für Dark Patterns und die Einhaltung der DSGVO durch Unternehmen derzeit wächst, fehlt es an Expert:innenverständnis für User Experience Design. Gleichzeitig fehlt es der Design-Community noch an den notwendigen juristischen Kenntnissen. Hary forderte eine Überbrückung dieser Kluft. Max Schrems (NOYB) beleuchtete das Phänomen der "Einwilligungsoptimierung" unter Berücksichtigung der verschiedenen Arten von Dunkelmustern. Laut Schrems können die meisten dunklen Muster durch die Fairness- und Transparenzprinzipien der DSGVO erfasst werden. Konkret heißt es in Artikel 12, dass die Einwilligung so leicht wie möglich verweigert werden kann.
Die folgende Diskussion konzentrierte sich auf die Frage, ob das geltende materielle Recht ausreicht oder ob neue Vorschriften erforderlich sind. Schrems und Borgesius betonten die mangelnde Operationalisierung bei der Anwendung der DSGVO und der ePrivacy-Richtlinie für Dark Patterns. Das Panel war sich tendenziell einig, dass, selbst wenn der Rechtsrahmen ausreichend sein mag, ein großes Problem in Durchsetzungsdefiziten liegt. Während der Diskussion wurden viele Vorschläge zur Verbesserung des bestehenden Rechtsrahmens unterbreitet. Die Regulierungsbehörden könnten die Bedeutung von "Fairness" präzisieren, indem sie die bestehenden Vorschriften anpassen(Borgesius). Beispielhaft für einen dynamischen, benutzerfreundlichen und technologieneutralen Ansatz ist das verbindliche Anti-Tracking-Browsersignal, wie es vom Europäischen Parlament für die ePrivacy-Verordnung vorgeschlagen wurde. Darüber hinaus könnten Unternehmen aufgefordert werden, ihre Designentscheidungen konkret zu begründen (Hary). Außerdem könnten in diesem Zuge kollektive Maßnahmen gegen Datenschutzvorfälle eine Lösung für kleine und häufig vorkommende individuelle Schäden im Verbraucher- und Datenschutzrecht darstellen. Die Diskussion kam zu dem Schluss, dass der Geist der DSGVO, der die Forderung nach klaren Informationen, Transparenz und Kontrolle für betroffene Personen umfasst, durch Dark Patterns verletzt wird. Während eine Forderung nach strengeren Transparenzanforderungen intuitiv erscheinen mag, könnte dies weiterhin Einzelpersonen mit der Verantwortung belasten, auf Dark Patterns zu reagieren. Daher scheint, wie eingangs erwähnt, kollektives Handeln gegenüber dem Einzelnen notwendig zu sein, um unlautere Geschäftspraktiken zu stoppen.
Panel 3: Fokus auf die Schwächsten - Dark Patterns für Kinder/Jugendliche in Apps und Spielen
Das dritte Panel, moderiert von Paul Seeliger (dapde-Projekt), schuf eine interessante Analogie zu Dark Patterns: Game-Design Techniken. Genau wie Dark Patterns, inspirieren Mechanismen im zeitgenössischen Game Design zur kritischen Auseinandersetzung, insbesondere angesichts ihres jungen Publikums.
Prof. Jose Zagal (University of Utah) stellte Dark Patterns in Apps und Spielen vor, indem er die Perspektive von Spieledesignern aufzeigte. Zagal zitierte den Game Designer Paul Czege und charakterisierte das Spieldesign als "die Kunst, Menschen dazu zu bringen, sich ohne Anweisungen wie Spieler zu verhalten"; und daher von Natur aus als manipulativ. Im Wesentlichen ist Game-Design eine Form der Verführung, die darauf abzielt, die Aufmerksamkeit ihres Publikums zu binden. Auf diese Ambition folgt das "Paradox der Spiele", das beschreibt, wie in Spielen etwas "Schlechtes" "gut" sein kann, obwohl es theoretisch im Gegensatz zum Interesse der Nutzer:innen steht. Während Manipulationstechniken für die Essenz von Spielen selbst natürlich sind, dienen Dark Patterns einem anderen Zweck: Das Design von Dark Patterns führt dazu, dass Benutzer auf eine bestimmte Weise handeln, die ihren Interessen widerspricht, was bedeutet, dass die Designmacht einseitig den Interessen des Schöpfers zugutekommt. Dies unterscheidet sich von den für beide Seiten vorteilhaften Manipulationstechniken in Spielen. Zagal schloss mit einem Überblick über die Entwicklung der Spieleindustrie, die schon immer mit Gestaltung und Monetarisierung dieser Designs experimentiert hat.
Prof. Angela Campbell (Georgetown University) beleuchtete, wie manipulative Techniken in Spielen auf Kinder abzielen, indem sie die Barbie Dreamhouse Adventures Application als Fallstudie vorstellte: Da Kinder die Auswirkungen von Datenschutzangelegenheiten beim Spielen nicht verstehen können, sind die manipulativen Techniken der Handlung des Spiels sehr effektiv. Kinder entwickeln beispielsweise eine parasoziale Beziehung zu den Charakteren im Spiel, die sie sehr empfänglich für Kaufanfragen macht, die von den Charakteren selbst geäußert werden. Daher stellt sich die Frage, ob es mehr finanzielle Kontrolle in Spielen braucht: Die Diskussion ergab, dass eine Interessenabwägung entscheidend ist, um festzustellen, ob die Eltern bzw. Spieleautoren selbst Verantwortung tragen sollen, was einen eher paternalistischen Ansatz impliziert.
Panel 4: Werden uns neue Regeln retten? Dark Patterns im E-Commerce
Tag zwei begann mit Panel 4 zu Dark Patterns im E-Commerce, moderiert von Inken Kramme (dapde-Projekt) mit Anne-Jel Hoelen (Behörde für Verbraucher und Märkte der Niederlande), Miika Blinn (Verband Deutscher Verbraucherorganisationen) und Prof. Hans Micklitz (Europäisches Hochschulinstitut Florenz) als Referenten. Im Mittelpunkt des Panels standen künftige EU-Regularien zum Verbraucherschutz, insbesondere der Digital Markets Act (DMA), der Digital Services Act (DSA) und der Artificial Intelligence Act.
Die Diskussion ergab, dass die aktuellen Entwürfe der DMA und DSA keine klassischen Verbraucherschutzbestimmungen enthalten und es höchst unwahrscheinlich ist, dass dies in den endgültigen Entwürfen hinzugefügt wird. Anstatt neue Regeln für den Verbraucherschutz aufzustellen, wäre es effizient, dem allgemeinen Verbraucherschutz in der digitalen Welt zur Durchsetzung zu verhelfen. Trotz der Richtlinie über unlautere Geschäftspraktiken werden die derzeitigen Vorschriften als zu eng gefasst angesehen, was ihren Nachweis und dessen Durchsetzung erschwert. DSA und DMA werden sich jedoch für den Verbraucher in anderen Aspekten bemerkbar machen, z. B. bei der Installation von Apps, die von anderen App-Stores, als den auf Smartphones vorinstallierten App-Anbietern, programmiert wurden. Die Podiumsdiskussion ergab, dass der Artificial Intelligence Act als positives Beispiel für die Schaffung eines produktiven Schritts bei der Verbreitung von Dark Patterns dient und das Konzept der "digitalen Verwundbarkeit" einführt. Die Diskussionsteilnehmer:innen kamen jedoch nicht zu dem Schluss, dass die neu vorgeschlagenen Vorschriften hinsichtlich Dark Patterns von großer Wirkung sein werden, was impliziert, dass die bereits bestehende Richtlinie über nicht legitime Geschäftspraktiken die vielversprechendste Verordnung in Bezug auf Verbraucherschutz und Dark Patterns bleibt.
Panel 5: Wird uns die Technologie retten? Dunkle Muster automatisch erkennen und verhindern
Das letzte Panel der Konferenz, moderiert von Prof. Gertz, verlagerte seinen Blick von der rechtlichen in eine technische Perspektive. Midas Nouwens (Universität Aarhus), Marija Slavkovik (Universität Bergen) und Harshvardhan Pandit (Trinity College Dublin) diskutierten, ob Apps und andere technische Ansätze eine Lösung für digitale Manipulation sein könnten. Während alle Diskussionsteilnehmer:innen die wichtige Rolle des automatisierten Scrapings für Dark Patterns oder Cookie-Verwaltungstools anerkannten, waren sie sich auch einig, dass Technologie allein nicht ausreichen wird, um die individuelle Autonomie der Verbraucher:innen zu schützen.
Als Einleitung betonte Midas Nouwens, dass das Problem der Dark Patterns nicht allein durch Künstliche Intelligenz gelöst werden kann: Tatsächlich seien Vorschriften und medienpolitische Aufmerksamkeit rund um Dark Patterns wichtig, um unmittelbare Effekte zu erzielen. Basierend auf Nouwens empirischen Beobachtungen in Dänemark hätte insbesondere die Aufmerksamkeit der Medien eine effektive staatliche Reaktion ausgelöst. Im Anschluss daran erweiterte Marija Slavkovik das Gespräch um die Thematisierung der Maschinenethik. Sie misst hierfür der Definition von Dark Patterns für maschinelle Lernalgorithmen besondere Bedeutung bei: die Erfahrungsbeschreibung der Benutzer:innen solle im Rahmen der Definition in den Vordergrund rücken, anstatt primär ihre spezifischen Designelemente zu thematisieren. Harshvardhan Pandit ging ebenfalls auf die Bedeutung der Semantik für die rechtliche Definition der Dark Patterns ein: Es sei entscheidend, die richtigen Bausteine und das richtige Vokabular zu finden, um ein interdisziplinäres Verständnis der Natur von Dark Patterns zu schaffen. Die folgende Diskussion zeigte die Schwierigkeit, ein Dark Pattern zu definieren, da nicht nur die Wahrnehmung eines Dark Patterns sehr subjektiv ist, sondern auch der Umstand, überhaupt eine Wahl treffen zu müssen, als manipulativ angesehen werden könnte. Zusammenfassend war sich das Gremium einig,, dass Technologie Teil eines Mittels gegen Dark Patterns sein kann, wenn man bedenkt, dass Dark Patterns mit Technologie unmittelbar verknüpft sind.
von Katharina Buchsbaum
