Quel que soit l'endroit où vous allez en ligne, quelqu'un essaie de personnaliser votre expérience Web. Vos préférences sont préemptées, vos intentions et vos motivations prédites. Ce grille-pain que vous avez brièvement regardé il y a trois mois ne cesse de hanter votre navigation dans les encadrés publicitaires personnalisés. Et ce n'est pas une rue à sens unique. En fait, la mécanique plutôt impersonnelle de certains systèmes de personnalisation peut non seulement influencer la façon dont nous voyons le monde, mais aussi comment nous nous voyons.

Cela arrive tous les jours, à nous tous pendant que nous sommes en ligne. Flux de nouvelles de Facebook tente de fournir un contenu sur mesure "Plus d'intérêts" utilisateurs individuels. Le moteur de recommandation d'Amazon utilise le suivi des données personnelles combiné avec les habitudes de navigation des autres utilisateurs pour suggérer produits pertinents. Google personnalise les résultats de rechercheet bien plus encore: par exemple, application de personnalisation Google Now cherche à "vous donner l'information dont vous avez besoin tout au long de votre journée, avant même de demander". De tels systèmes de personnalisation ne visent pas uniquement à fournir de la pertinence aux utilisateurs; Grâce à des stratégies de marketing ciblées, ils génèrent également des bénéfices pour de nombreux services Web gratuits.

La critique la plus connue de ce processus est peut-être la "Bulle de filtre" théorie. Proposé par un activiste internet Eli Pariser, cette théorie suggère que la personnalisation peut nuire aux expériences des internautes. Au lieu d'être exposés à un contenu universel et diversifié, les utilisateurs sont des supports algorithmiques qui correspondent à leurs points de vue préexistants et auto-affirmés. La bulle du filtre pose donc un problème d'engagement démocratique: en restreignant l'accès à des points de vue divers et stimulants, les utilisateurs sont incapables de participer à un débat collectif et éclairé.

{youtube}6_sim_Wc3mY{/youtube}

Les tentatives pour trouver la preuve de la bulle de filtre ont produit des résultats mitigés. Quelques études ont montré que la personnalisation peut en effet conduire à une vision "myope" d'un sujet; d'autres études Nous avons constaté que dans différents contextes, la personnalisation peut réellement aider les utilisateurs à découvrir un contenu commun et varié. Ma recherche suggère que la personnalisation n'affecte pas seulement la façon dont nous voyons le monde, mais comment nous nous voyons. Qui plus est, l'influence de la personnalisation sur nos identités n'est peut-être pas due au filtre des bulles de consommation, mais parce que, dans certains cas, la personnalisation en ligne n'est pas très "personnelle" du tout.

Suivi des données et préemption des utilisateurs

Pour comprendre cela, il est utile de considérer comment la personnalisation en ligne est réalisée. Bien que les systèmes de personnalisation suivent nos mouvements Web individuels, ils ne sont pas conçus pour «savoir» ou nous identifier en tant qu'individus. Au lieu de cela, ces systèmes regroupent les mouvements et les habitudes en temps réel des utilisateurs dans des ensembles de données de masse, et recherchent des modèles et des corrélations entre les mouvements des utilisateurs. Les motifs trouvés et les corrélations sont alors traduit en arrière dans des catégories d'identité que nous pourrions reconnaître (comme l'âge, le sexe, la langue et les intérêts) et dans lesquelles nous pourrions nous intégrer. En recherchant des modèles de masse afin de livrer un contenu pertinent, la personnalisation est en fait basée sur un processus plutôt impersonnel.

Lorsque la théorie des bulles filtrantes est apparue pour la première fois dans 2011, Pariser a soutenu que l'un des plus gros problèmes de personnalisation était que les utilisateurs ne savaient pas que cela se produisait. De nos jours, malgré les objections au suivi des données, de nombreux utilisateurs sont conscients qu'ils sont suivis en échange de l'utilisation de services gratuits, et que ce suivi est utilisé pour des formes de personnalisation. Cependant, les détails de ce qui est personnalisé pour nous, comment et quand.

Trouver le «personnel»

Ma recherche suggère que certains utilisateurs supposent que leurs expériences sont personnalisées à des degrés complexes. Dans une étude qualitative approfondie des internautes de 36, en voyant des publicités pour des produits de perte de poids sur Facebook, certaines utilisatrices ont déclaré qu'elles supposaient que Facebook les avait vues comme étant en surpoids ou orientées vers le fitness. En fait, ces publicités de perte de poids ont été livrées génériquement aux femmes âgées de 24-30. Cependant, comme les utilisateurs peuvent ignorer la nature impersonnelle de certains systèmes de personnalisation, ces publicités ciblées peuvent avoir un impact négatif sur la façon dont ces utilisateurs se perçoivent: pour le dire grossièrement, ils doivent être en surpoids car Facebook leur dit qu'ils le sont.

Ce n'est pas seulement une publicité ciblée qui peut avoir cet impact: dans une étude ethnographique et longitudinale menée auprès d'une poignée d'utilisateurs de Google Now 18 et 19, j'ai constaté que certains participants pensaient que l'application était capable de personnalisation dans une étendue extraordinairement complexe. . Les utilisateurs ont indiqué qu'ils pensaient que Google Now leur montrait des informations boursières parce que Google savait que leurs parents étaient actionnaires, ou que Google (à tort) préemptait un «trajet» pour «travailler» parce que les participants avaient menti sur leur âge sur leur compte YouTube. . Il va sans dire que cette étude à petite échelle ne représente pas les engagements de tous les utilisateurs de Google Now: mais cela suggère que pour ces individus, les promesses prédictives de Google Now étaient presque infaillibles.

Ainsi, critiques de la conception centrée sur l'utilisateur suggérer que la réalité des inférences de Google est beaucoup plus impersonnelle: Google Now suppose que son "Utilisateur idéal" est - ou du moins devrait - avoir un intérêt dans les stocks, et que tous les utilisateurs sont des travailleurs qui font la navette. De telles critiques soulignent que ce sont ces hypothèses qui structurent en grande partie le cadre de personnalisation de Google (par exemple, grâce à l'adhésion de l'application à catégories "cartes" prédéfinies comme "Sports", qui pendant mon étude a seulement permis aux utilisateurs de "suivre" les clubs de football masculins plutôt que féminins du Royaume-Uni). Cependant, plutôt que de remettre en question les hypothèses de l'application, mon étude suggère que les participants se sont placés en dehors de la norme attendue: ils ont fait confiance à Google pour leur dire à quoi leurs expériences personnelles devraient ressembler.

Bien que cela puisse sembler être des exemples extrêmes d'inférence algorithmique impersonnelle et de supposition de l'utilisateur, le fait que nous ne pouvons pas être sûrs de ce qui est personnalisé, quand ou comment sont des problèmes plus communs. Pour moi, ces témoignages d'utilisateurs soulignent que l'adaptation du contenu en ligne a des implications au-delà du fait que cela pourrait être préjudiciable à la démocratie. Ils suggèrent que si nous ne commençons pas à comprendre que la personnalisation peut parfois fonctionner via des cadres hautement impersonnels, nous pouvons faire trop confiance à la personnalisation pour nous dire comment nous devrions nous comporter, et qui nous devrions être, plutôt que vice versa.

A propos de l'auteur

Tanya Kant, chargée de cours en médias et études culturelles, Université du Sussex

Cet article a été publié initialement le The Conversation. Lis le article original.

Livres connexes

at Marché InnerSelf et Amazon