Lumière sur les Dark Patterns
Il y a 15 ans, j’ai choisi d’orienter ma carrière professionnelle vers l’expérience utilisateur. Venant de l’ingénierie, quelle était ma motivation pour devenir Designer UX ? Mettre le focus sur l’utilisateur - rendre la vie des utilisateurs plus agréable, augmenter leur efficacité pour réaliser des tâches fastidieuses et globalement améliorer leur expérience avec les technologies. Pendant ces années dans la profession, j’espère avoir apporté une valeur ajoutée aux utilisateurs de nos solutions et à nos clients. Mais je me demande si l’intérêt de l’utilisateur a toujours été au cœur de mon travail. N’était-ce pas parfois l’intérêt de l’entreprise qui a pris le dessus ? Je ne suis certainement pas la seule à me poser la question :
Sommes-nous en train de créer un enfer numérique ?
Regardons quelques interfaces utilisateur, inspirées par ce que nous rencontrons dans notre quotidien. Y trouvez-vous des éléments potentiellement manipulateurs ?
Comme dans cet exemple, beaucoup de sites de réservation jouent sur la rareté et l’urgence dans le design de l’interface pour nous pousser à agir rapidement. Ces signaux exploitent les limites de notre rationalité car nous accordons une plus grande valeur aux choses qui sont rares qu’à celles en abondance.
Ce deuxième exemple montre un écran de paramétrage d’un réseau social. Ici on trouve une asymétrie d’information, entre ce que le fournisseur de service sait et ce qu’il donne à voir à son utilisateur. Seule une partie de l’information nous est révélée : les conséquences positives de l’acceptation, et les points négatifs du refus.
Dans ce troisième exemple, on voit l’écran d’un service qui permet d’envoyer des fichiers. Dans ce design, le « j’accepte » est un faux choix : non seulement nous sommes obligés d’accepter pour utiliser le service, mais en plus une seule action (“un clic”) englobe le consentement à plusieurs termes juridiques et à plusieurs types de cookies. Cette pratique est d’ailleurs illégale. Nous ne savons pas à quoi nous donnons notre accord.
Cet exemple, emploie une stratégie appelée confirmshaming (culpabilisation à la confirmation). Ici, l’utilisateur qui refuse admet un style vestimentaire douteux. Parfois sous couvert d’humour, les mots sur le choix défavorable au service déclenchent un sentiment négatif chez l’utilisateur pour le pousser à l’acceptation.
Le dernier exemple provient d’un site de rencontre. Si on veut se désabonner du service, on arrive sur cet écran. Ici, le choix des mots est ambigu. Est-ce que « disable » signifie supprimer ou mettre en pause ? L’utilisateur pense que toutes les données associées à son profil seront supprimées. Tandis que la saillance visuelle de « disable» (désactiver) éclipse le « delete » (effacer) caché au bas de la page.
Ces exemples illustrent des stratégies de design qui visent à influencer voire manipuler les utilisateurs. On les appelle dark patterns.
Les stratégies du dark pattern design
Les dark patterns sont des éléments de design de l’interface qui manipulent les utilisateurs afin de les inciter à prendre des décisions qui profitent au fournisseur de service, mais pas nécessairement aux utilisateurs.
Selon Gray et al. (2018), on peut distinguer 5 stratégies de dark pattern design :
- Nagging (harceler) : Il s’agit d’une intrusion répétée lors de l’interaction, comme lorsqu’une grande plateforme de vente en ligne vous demande d’adhérer à son abonnement mensuel à chaque finalisation d’achat.
- Obstruction (obstruer) : Cette stratégie consiste à rendre une information ou une action moins accessible qu’elle ne devrait l’être. Par exemple, rendre la suppression d’un compte utilisateur très compliquée.
- Sneaking (se faufiler) : On observe cette stratégie lorsque des informations ou des choix sont déguisés ou retardés. Par exemple, un abonnement mensuel qui se déclenche à la suite d’une commande.
- Interface interference (interférer) : Il s’agit souvent de cette stratégie lorsqu’une option est mieux mise en avant qu’une autre afin que l’utilisateur la choisisse.
- Forced action (forcer) : C’est lorsque les utilisateurs sont obligés de prendre des mesures, comme d’accepter sans discernement toutes les conditions d’utilisation d’un service.
Le but des dark patterns est simple: Les acteurs qui les emploient espèrent gagner davantage notre (in)attention, afin de générer à notre insu plus de valeur pour eux de notre utilisation de leurs services. Cette valeur pouvant prendre différente formes :
a) notre argent directement ou de plus en plus
b) nos données (nos coordonnées, nos habitudes, nos croyances, nos intentions), pour accéder à notre argent in fine, ou pour influencer nos actions susceptibles de générer de la valeur économique, sociale, politique, etc. pour le fournisseur de service ou ses parties-prenantes.
Une simple stratégie de marketing ?
Le marketing emploie des techniques similaires depuis longtemps. Cependant, certaines techniques de marketing ont été réglementées pour protéger les utilisateurs — pensez par exemple aux publicités pour des investissements qui « comportent de risques de perte en capital », ou pour des aliments (manger-bouger), ou enfin aux publicités pour le tabac tout simplement interdites dans une grande partie du monde.
L’espace numérique s’est développé très rapidement et des stratégies telles que les dark patterns sont devenues omniprésentes sur le web. Leur puissance dépasse largement celle des publicités classiques. Le tracking des utilisateurs, le big data, le machine learning et l’intelligence artificielle permettent de cibler chaque individu au moment le plus opportun, ce qui rend les utilisateurs beaucoup plus susceptibles d’être influencés et leur complique l’adoption de mécanismes d’auto-protection. Pensez par exemple au cas de Cambridge Analytica qui aurait potentiellement influencé le vote de milliers d’Américains.
L’enfer est pavé de bonnes intentions
Souvent les concepteurs à l’origine d’un dark pattern ne visent pas à nuire explicitement à l’utilisateur. Leurs intentions sont parfois à la base légitimes, mais le diable est dans le détail.
Par exemple, combiner l’acceptation des cookies et des termes et conditions peut rendre la navigation beaucoup plus fluide et donc améliorer l’expérience de l’utilisateur. Par contre, cette stratégie sert avant tout l’entreprise car elle est à peu près sûre d’obtenir le consentement de l’utilisateur pour la transmission et l’exploitation de ses données. Les moyens dont dispose l’utilisateur (temps, connaissance, maîtrise du langage juridique, capacité à apprécier les conséquences de ses choix) sont généralement insuffisants pour lui permettre de prendre des décisions véritablement éclairées.
Montrer qu’il reste peu d’exemplaires en stock d’un produit donné peut être une information très appréciée par les utilisateurs. Si c’est 1) vrai et 2) pertinent. Dans certains cas il a été démontré que ces messages ne correspondaient pas à des vraies données (Shaffer, 2018); par ailleurs, indiquer qu’il ne reste qu’une seule chambre à louer dans le cas d’une chambre d’hôte qui ne dispose de toute façon que d’une chambre à la location n’est pas faux mais donne une fausse impression de pénurie.
L’intention peut aussi être d’assurer une bonne ergonomie. En répliquant des architectures d’information communes, en utilisant des kits UI ou des blocs de code employés par des grands du marché, on s’assure que la plupart des utilisateurs trouvent facilement leur chemin. Mais ce n’est pas parce que la majorité des sites web ou applications adoptent un même design que celui-ci est légal ou éthiquement correct. Nous voyons toujours beaucoup de bannières à cookie largement employées qui ne sont pas conformes à la loi.
Puis, les designers cherchent aussi à aider leur entreprise à évoluer, à innover. Pour ceci il est indispensable que les utilisateurs adoptent les nouvelles fonctionnalités comme par exemple la reconnaissance faciale. Ces fonctionnalités peuvent réellement améliorer l’expérience pour les utilisateurs et au même moment apporter des données nécessaires pour peaufiner les algorithmes. Mais l’utilisateur n’a peut-être qu’accepté cette nouvelle fonctionnalité parce qu’il n’en a vu que le côté brillant de la médaille. On lui a même fait peur de subir une expérience dégradée s’il n’acceptait pas cette fonctionnalité. Par contre, qui l’aidera à faire face à d’éventuels dommages en cas de fuite de données ? Il s’agit, mine de rien, de données biométriques : on peut changer son mot de passe quand il a été piraté; mais on ne peut pas changer son visage.
Et bien sûr, le designer cherche aussi à accomplir la mission pour son client (donneur d’ordre du designer UX) qui souhaite attirer plus d’utilisateurs. En utilisant du “confirmshaming”, on obtient plus d’adresses email et on peut plus facilement contacter des gens pour qu’ils profitent du service. Cette stratégie peut effectivement booster les chiffres liés aux KPIs. Par contre, si le service n’est pas à la hauteur, l’effet ne sera pas de longue durée. Si il l’est, tant mieux pour l’entreprise. Mais vous ne saurez jamais combien de personnes ont été repoussées par cette tentative de manipulation. Car ne vous y trompez pas — les utilisateurs ne sont pas des marionnettes.
Le point de vue de l’utilisateur sur les dark patterns
Récemment, nous avons mené une étude (Bongard-Blanchy et al., 2021) pour évaluer comment les utilisateurs perçoivent les dark patterns. Un panel de 406 personnes, représentatif de la population britannique à répondu à notre étude en ligne. Nous avons d’abord posé des questions sur leur connaissance des designs manipulateurs. Nous avons également recueilli des données démographiques comme leur exposition aux services numériques. Dans une troisième partie, nous avons initié un jeu : “Repère le dark pattern”. Ils ont vu 9 captures d’écran pendant quelques secondes et après chaque exemple ils ont dû noter les éléments design potentiellement manipulateurs. A la fin, ils ont reçu une explication pour le dark pattern dans chaque exemple. Nous leur avons demandé d’indiquer si ce design aurait pu influencer leur choix ou leur comportement. Selon les résultats de notre étude,
- la plupart des utilisateurs sont conscients du pouvoir manipulateur des designs web mais ils ne savent pas si les dark patterns présentent une vraie menace.
- La moyenne des utilisateurs est aussi capable de reconnaître les dark patterns. Un âge de jeune adulte (< 40 ans) et un niveau d’éducation supérieur au bac sont positivement corrélés à cette capacité.
- Les utilisateurs qui reconnaissent plus facilement les dark patterns sont seulement légèrement moins susceptibles d’être influencés. Il reste difficile pour beaucoup de résister à l’influence des dark patterns. Et leur niveau de conscience n’est pas un facteur corrélé à cette capacité.
Pour les concepteurs et les entreprises les résultats signifient qu’une organisation qui emploie des dark pattern devrait avoir conscience que les gens voient ce qu’y est fait. Ceci peut avoir des répercussions négatives sur la confiance des utilisateurs dans ce service. Si vous n’êtes pas un service dont les gens ont du mal à se passer, vous risquez fort de compromettre la fidélité de vos utilisateurs. Et si vous l’êtes, avez vous vraiment besoin de ces stratégies ? Posez-vous la question: que deviendra l’internet si tout le monde en abuse ?
Il est temps d’agir
La pratique des dark patterns est encore en grande partie légale mais ceci n’en garantit pourtant pas toujours la légitimité. La réglementation en la matière évolue en outre rapidement, et si certains choisiront d’exploiter le filon jusqu’à la dernière limite légale, d’autres préféreront s’interroger sur leur pratique et anticiper sur les réglementations à venir — voire proposer par leur pratique vertueuse de nouveaux standards qui pourraient ensuite s’imposer réglementairement.
Les dark patterns peuvent nuire à l’image de votre entreprise, impliquer des risques juridiques et financiers. Les régulateurs se sont réveillés et ils travaillent désormais main dans la main avec des chercheurs pour concevoir des réglementations pour mieux protéger les utilisateurs. Le RGPD a été un premier pas et il a déjà imposé des limites à certaines pratiques comme le jugement contre Google en France, condamnant ce géant du net pour son utilisation abusive de dark patterns dans ses interfaces de consentement pour les publicités personnalisées (CNIL, 2019).
Cependant, rappelez-vous du cauchemar que nous avons vécu lors de l’implémentation des règles RGPD en 2018. Il n’est probablement pas dans notre intérêt de laisser les régulateurs seuls s’occuper des dark patterns.
Nous, en tant que concepteurs, avons été à l’origine de cette pratique et nous devons prendre notre responsabilité.
Que pouvons-nous faire ?
Je fais appel à notre profession pour contrer les dark patterns :
- Soyons plus vigilants — gardons un esprit critique envers nos designs.
- Considérons toutes les parties prenantes qui pourront être en contact avec notre design, pour réduire les externalités négatives — avec une attention particulière pour les publics vulnérables.
- Utilisons les guides de design éthique déjà existants. Ils peuvent nous aider dans la conception (ACM NL, 2020; CNIL, n.d.; Gispen, 2017; SageBioNetworks, n.d.).
- Préparons nos arguments face à nos clients et supérieurs hiérarchiques pour les convaincre de ne plus y avoir recours. Partageons et argumentons aussi avec nos collègues.
- Et si nous enseignons à des futurs designers UX, ainsi qu’à des développeurs, mettons le sujet au programme.
Nous ne sommes pas seuls
Cependant, nous savons que nous, les concepteurs, ne viendront pas seuls à bout de tous les dark patterns. Des interventions diverses seront nécessaires et plusieurs initiatives se trouvent déjà dans les starting-blocks. Par exemple, plus de réglementations vont voir le jour. Pour qu’elles soient applicables, il est dans notre intérêt de soutenir les législateurs dans la conception de ces lois.
Puis, pour tous les dark patterns d’une nuance plutôt grise qui ne seront jamais illégal mais toujours nocifs, il est aussi nécessaire d’augmenter la vigilance des utilisateurs pour qu’ils en prennent plus conscience, pour qu’ils les détectent plus facilement afin qu’ils développent des mécanismes d’auto-protection. Pour cela, nous avons besoin de mesures éducatives.
Au-delà, n’oublions pas le potentiel des solutions techniques. Il existe déjà des plugins de navigateur comme consent-o-matic qui remplissent automatiquement les dialogues des cookie banners avec les préférences utilisateur prédéfinies ou d’autres qui éliminent certains éléments d’interface comme des pop-ups.
Au boulot !
Les Dark Patterns ont envahi les interfaces pour influencer les utilisateurs, qui, loin de toujours résister, se comportent parfois de façon paradoxale face à eux. Nous, les UX designers, avons contribué à leur émergence. Prenons maintenant aussi notre responsabilité dans la lutte contre les dark patterns. Ne laissons pas tomber nos utilisateurs. Soyons aussi vigilants en tant qu’utilisateur et partageons nos connaissances avec notre entourage pour mieux protéger nos proches. Et dites-nous :
- Dans quelle situation avez-vous déjà employé des dark patterns ?
- Quels sont vos arguments pour et contre leur utilisation ?
- Que faites-vous pour prévenir la propagation des dark patterns ?
References
ACM NL. (2020). Protection of the online consumer: Boundaries of online persuasion [Guidelines]. Retrieved 29 June 2021, from https://www.acm.nl/sites/default/files/documents/2020-02/acm-guidelines-on-the-protection-of-the-online-consumer.pdf
Bongard-Blanchy, K., Rossi, A., Rivas, S., Doublet, S., Koenig, V. & Lenzini, G. (2021). “I am Definitely Manipulated, Even When I am Aware of it. It’s Ridiculous!” — Dark Patterns from the End-User Perspective. In ACM DIS Conference on Designing Interactive Systems, June 28 — July 2, 2021, Virtual event, USA. ACM, New York, NY, USA, 14 pages. https://doi.org/10.1145/3461778.3462086
CNIL (2019). The CNIL’s restricted committee imposes a financial penalty of 50 Million euros against GOOGLE LLC. Retrieved 29 June 2021, from https://www.cnil.fr/en/cnils-restricted-committee-imposes-financial-penalty-50-million-euros-against-google-llc
CNIL. (n.d.). Données & Design par LINC. Co-construire des parcours utilisateurs respectueux du RGPD et de la vie privée. Retrieved 29 June 2021, from https://design.cnil.fr/
Gispen, J. (2017). Ethics for Designers — The toolkit. Ethics for Designers. Retrieved 29 June 2021, from https://www.ethicsfordesigners.com/tools
Gray, C. M., Kou, Y., Battles, B., Hoggatt, J., & Toombs, A. L. (2018). The Dark (Patterns) Side of UX Design. Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems — CHI ’18, 1–14. https://doi.org/10.1145/3173574.3174108
SageBioNetworks. (n.d.). What is a Privacy Toolkit? | Design System Template. Privacy Toolkit. Retrieved 29 June 2021, from https://designmanual.sagebionetworks.org/privacy_toolkit.html
Shaffer, B. (2018). Shopify Cracking Down On Fake Scarcity? Medium. Retrieved 29 June 2021, from https://benjshaffer.medium.com/shopify-cracking-down-on-fake-scarcity-e1509b11cb75
Un très grand merci à mes chers collègues Sophie Doublet, Luce Drouet et Vincent Fourrier pour leur regard critique et leur aide avec ce narratif ainsi que mon français 🥐.
Mille grazie alla mia collega Arianna Rossi per la splendida collaborazione al progetto DECEPTICON 🍕.
