La nouvelle fracture numérique oppose les personnes qui choisissent de ne pas utiliser d'algorithme et celles qui ne le font pas

La nouvelle fracture numérique oppose les personnes qui choisissent de ne pas utiliser d'algorithme et celles qui ne le font pas Savez-vous ce qui se passe lorsque vous partagez vos données? mtkang / shutterstock.com

Tous les aspects de la vie peuvent être guidés par des algorithmes d’intelligence artificielle: choix de la route à prendre pour votre trajet du matin, choix du lieu de rendez-vous, rendez-vous aux affaires juridiques et judiciaires complexes telles que la surveillance policière prévisionnelle.

Les grandes entreprises de technologie comme Google et Facebook utilisent l’intelligence artificielle pour obtenir des informations sur leurs innombrables données client détaillées. Cela leur permet de monétiser les préférences collectives des utilisateurs grâce à des pratiques telles que le micro-ciblage, stratégie utilisée par les annonceurs pour cibler de manière étroite des ensembles spécifiques d’utilisateurs.

En parallèle, de nombreuses personnes font désormais davantage confiance aux plates-formes et aux algorithmes qu'à leurs propres gouvernements et à la société civile. Une étude 2018 d'octobre a suggéré que les gens démontrent "appréciation de l'algorithme, "Dans la mesure où ils s'appuieraient davantage sur des conseils lorsqu'ils pensent qu'il s'agit d'un algorithme que d'un humain.

Dans le passé, les experts en technologie s’inquiétaient de la "fracture numérique" entre ceux qui peuvent accéder aux ordinateurs et à Internet et ceux qui ne le peuvent pas. Les ménages ayant un accès réduit aux technologies numériques sont désavantagés dans leur capacité à gagner de l'argent et accumuler des compétences.

Mais, avec la prolifération des appareils numériques, la fracture ne concerne plus seulement l'accès. Comment les gens gèrent-ils la surcharge d'informations et la multitude de décisions algorithmiques qui imprègnent chaque aspect de leur vie?

Les utilisateurs plus expérimentés s'éloignent des périphériques et prennent conscience de la façon dont les algorithmes affectent leur vie. Pendant ce temps, les consommateurs qui disposent de moins d'informations s'appuient encore davantage sur des algorithmes pour guider leurs décisions.

Devez-vous rester connecté - ou débrancher? pryzmat / shutterstock.com


 Recevez le dernier par courriel

Magazine hebdomadaire Daily Inspiration

La sauce secrète derrière l'intelligence artificielle

La raison principale de la nouvelle fracture numérique, à mon avis en tant que spécialiste des systèmes d’information, est la suivante: si peu de gens comprennent le fonctionnement des algorithmes. Pour la majorité des utilisateurs, les algorithmes sont vus comme une boîte noire.

Les algorithmes d’IA captent les données, les ajustent à un modèle mathématique et émettent une prédiction, allant de quelles chansons vous pourriez aimer à combien d'années quelqu'un devrait passer en prison. Ces modèles sont développés et peaufinés en fonction des données antérieures et du succès des modèles précédents. La plupart des gens - même parfois les concepteurs d'algorithmes eux-mêmes - ne savent pas vraiment ce qui se passe à l'intérieur du modèle.

Les chercheurs ont longtemps été concernés à propos de l'équité algorithmique. Par exemple, l'outil de recrutement d'Amazon basé sur l'IA s'est avéré être renvoyer les candidates. Le système d'Amazon extrayait sélectivement mots implicitement genrés - des mots que les hommes sont plus susceptibles d'utiliser dans le langage de tous les jours, tels que «exécuté» et «capturé».

D'autres études ont montré que les algorithmes judiciaires étaient à préjugés raciaux et condamnaient les accusés noirs de longue durée à des peines plus longues que d’autres.

Dans le cadre du règlement général sur la protection des données récemment approuvé dans l'Union européenne, les citoyens ont “Un droit d'explication” des critères que les algorithmes utilisent dans leurs décisions. Ce projet de loi traite le processus de prise de décision algorithmique comme un livre de recettes. L'idée est que si vous comprenez la recette, vous pouvez comprendre comment l'algorithme affecte votre vie.

Pendant ce temps, certains chercheurs en IA ont poussé pour des algorithmes qui sont juste, responsable et transparent, aussi bien que interprétable, ce qui signifie qu’ils doivent arriver à leurs décisions par le biais de processus que les humains peuvent comprendre et avoir confiance.

Quel effet aura la transparence? Dans une étude, les élèves ont été notés par un algorithme et ont proposé différents niveaux d’explication sur la manière dont les scores de leurs pairs étaient ajustés pour obtenir la note finale. Les étudiants avec des explications plus transparentes faisaient en réalité moins confiance à l'algorithme. Cela suggère encore une fois une fracture numérique: la conscience algorithmique ne conduit pas à davantage de confiance dans le système.

Mais la transparence n'est pas une panacée. Même lorsque le processus global d'un algorithme est esquissé, les détails peuvent encore être trop complexes pour les utilisateurs à comprendre. La transparence aidera uniquement les utilisateurs suffisamment sophistiqués à comprendre les subtilités des algorithmes.

Par exemple, dans 2014, Ben Bernanke, l’ancien président de la Réserve fédérale, a été initialement refusé un refinancement hypothécaire par un système automatisé. La plupart des personnes qui demandent un tel refinancement hypothécaire ne comprendraient pas comment les algorithmes pourraient déterminer leur solvabilité.

Que dit l'algorithme à faire aujourd'hui? Maria Savenko / shutterstock.com

Se désengager du nouvel écosystème de l'information

Bien que les algorithmes influencent tellement la vie des gens, seule une infime fraction des participants est suffisamment sophistiquée pour participer pleinement à la vie quotidienne. comment les algorithmes affectent leur vie.

Il n'y a pas beaucoup de statistiques sur le nombre de personnes qui connaissent l'algorithme. Des études ont trouvé des preuves de anxiété algorithmique, conduisant à un profond déséquilibre de pouvoir entre les plateformes qui déploient des algorithmes et les utilisateurs qui en dépendent.

Une étude de l'utilisation de Facebook ont constaté que lorsque les participants ont été informés de l’algorithme de Facebook pour la gestion des flux de nouvelles, environ 83% des participants ont modifié leur comportement pour tenter de tirer parti de cet algorithme, tandis que près de 10% ont réduit leur utilisation de Facebook.

Un rapport 2018 de novembre du Pew Research Center ont constaté qu'une large majorité du public était très préoccupée par l'utilisation d'algorithmes pour des utilisations particulières. Il a constaté que 66% pensait qu'il ne serait pas juste que des algorithmes calculent les scores de finances personnelles, alors que 57% disait la même chose à propos du filtrage automatisé des CV.

Une petite partie des individus exerce un certain contrôle sur la manière dont les algorithmes utilisent leurs données personnelles. Par exemple, la plate-forme Hu-Manity permet aux utilisateurs une option pour contrôler la quantité de données collectées. Encyclopédie en ligne Everipedia offre aux utilisateurs la possibilité d'être partie prenante dans le processus de conservation, ce qui signifie qu'ils peuvent également contrôler la manière dont les informations sont agrégées et présentées.

Cependant, une grande majorité des plates-formes n'offrent pas cette flexibilité aux utilisateurs finaux, ni le droit de choisir la manière dont l'algorithme utilise leurs préférences pour gérer leurs flux d'actualités ou pour leur recommander du contenu. S'il existe des options, les utilisateurs peuvent ne pas les connaître. À propos de 74% des utilisateurs de Facebook ont ​​déclaré dans un sondage qu'ils étaient pas au courant de la façon dont la plate-forme caractérise leurs intérêts personnels.

À mon avis, la nouvelle culture numérique ne consiste pas à utiliser un ordinateur ni à naviguer sur Internet, mais à comprendre et à évaluer les conséquences d'un style de vie toujours branché.

Ce mode de vie a un impact significatif sur comment les gens interagissent avec les autres; sur leur capacité à prêter attention aux nouvelles informations; et sur la complexité de leurs processus décisionnels.

L’augmentation de l’anxiété algorithmique peut également être reflétée par des changements parallèles de l’économie. Un petit groupe d'individus sont saisir les gains de l'automatisation, alors que de nombreux travailleurs sont dans un position précaire.

S'abstenir de la curation algorithmique est un luxe - et pourrait un jour être un symbole de richesse disponible pour seulement quelques privilégiés. La question est alors de savoir quels seront les inconvénients mesurables pour ceux qui se trouvent du mauvais côté de la fracture numérique.

A propos de l'auteur

Anjana Susarla, professeure agrégée en systèmes d'information, Michigan State University

Cet article est republié de La Conversation sous une licence Creative Commons. Lis le article original.

Livres connexes

{amazonWS: searchindex = Livres; mots-clés = fracture numérique; maxresults = 3}

Plus d'articles de cet auteur

Vous Aimerez Aussi

LANGUES DISPONIBLES

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

suivez InnerSelf sur

Icône facebooktwitter iconyoutube iconicône Instagramicône pintresticône rss

 Recevez le dernier par courriel

Magazine hebdomadaire Daily Inspiration

L'inspiration quotidienne de Marie T.Russell
 

VOIX INNERSELF

Être une meilleure personne
Être une meilleure personne
by Marie T. Russell
"Il me donne envie d'être une meilleure personne." En réfléchissant à cette déclaration plus tard, j'ai réalisé que…
Le comportement de modélisation est le meilleur professeur : le respect doit être mutuel
Le comportement de modélisation est le meilleur professeur : le respect doit être mutuel
by Carmen Viktoria Gamper
Un comportement socialement respecté est un comportement appris et certains d'entre eux (par exemple, les manières à table) varient…
Séparation et isolement contre communauté et compassion
Séparation et isolement contre communauté et compassion
by Laurent Doochin
Lorsque nous sommes en communauté, nous nous mettons automatiquement au service de ceux qui en ont besoin parce que nous les connaissons…
Semaine de l'horoscope: du 7er au 13 juin 2021
Horoscope Semaine actuelle: 7-13 juin 2021
by Pam Younghans
Ce journal astrologique hebdomadaire est basé sur les influences planétaires, et offre des perspectives et…
Le seul jour facile était hier
Le seul jour facile était hier
by Jason Redman
Les embuscades ne se produisent pas seulement au combat. Dans les affaires et la vie, une embuscade est un événement catastrophique qui…
Une saison pour tout : la façon dont nos ancêtres mangeaient
Une saison pour tout : la façon dont nos ancêtres mangeaient
by Vatsala Sperling
Les cultures de tous les continents du monde ont une mémoire collective d'une époque où leur…
Comment construire un nouvel os... Naturellement
Comment construire un nouvel os... Naturellement
by Maryon Stewart
Beaucoup de femmes supposent que lorsque leurs symptômes de ménopause cessent, elles sont en terrain sûr. Malheureusement, nous sommes confrontés…
Planifier l'enterrement : anticiper les problèmes et les bénédictions possibles
Planifier l'enterrement : anticiper les problèmes et les bénédictions possibles
by Élizabeth Fournier
En plus des aspects émotionnels et spirituels des funérailles, il y a toujours des aspects logistiques et…

LES PLUS LUS

Comment construire un nouvel os... Naturellement
Comment construire un nouvel os... Naturellement
by Maryon Stewart
Beaucoup de femmes supposent que lorsque leurs symptômes de ménopause cessent, elles sont en terrain sûr. Malheureusement, nous sommes confrontés…
Pour parcourir les dangers du Web, vous avez besoin d'une réflexion critique et d'une ignorance critique
Pour parcourir les dangers du Web, vous avez besoin d'une réflexion critique et d'une ignorance critique
by Sam Wineburg, Université de Stanford
Apprendre à ignorer l'information n'est pas quelque chose d'enseigné à l'école. L'école enseigne le contraire: à…
Quelles sont les causes des lèvres sèches et comment les traiter ? Le baume à lèvres aide-t-il réellement?
Quelles sont les causes des lèvres sèches ? Le baume à lèvres aide-t-il réellement?
by Christian Moro, professeur agrégé de sciences et de médecine, Université Bond
Les gens essaient de comprendre comment réparer les lèvres sèches depuis des siècles. Utiliser de la cire d'abeille, de l'huile d'olive...
Une lettre ouverte à toute la famille humaine
Une lettre ouverte à toute la famille humaine
by Ruchira Avatar Adi Da Samraj
C'est le moment de vérité pour l'humanité. Des choix critiques doivent maintenant être faits pour protéger…
Combien de données le monde produit-il et où elles sont toutes stockées
Combien de données le monde produit-il et où elles sont toutes stockées
by Melvin M. Vopson, Université de Portsmouth
Les humains ont réalisé plus de développement technologique au cours des 150 dernières années qu'au cours des 2,000 précédentes…
Un travailleur de la santé effectue un test d'écouvillonnage COVID sur un patient.
Pourquoi certains résultats de tests COVID sont-ils des faux positifs et à quel point sont-ils courants ?
by Adrian Esterman, professeur de biostatistique et d'épidémiologie, Université d'Australie-Méridionale
Deux cas de COVID-19 précédemment liés à l'épidémie actuelle de Melbourne ont maintenant été reclassés comme…
0mc9bvhy
Une banque qui sert les gens, pas les banquiers
by Jim Hightower
Les idéologues du monde des affaires ne cessent de dire que les programmes gouvernementaux devraient être gérés comme une entreprise.…
Cette pandémie a montré que suivre la même route mènera le monde sur une falaise
Cette pandémie a montré que suivre la même route mènera le monde sur une falaise
by Ian Goldin, Université d'Oxford
Malgré les morts tragiques, les souffrances et la tristesse qu'elle a causées, la pandémie pourrait descendre en…
image
Le mystère du COVID long : jusqu'à 1 personne sur 3 qui attrape le virus souffre pendant des mois. Voici ce que nous savons jusqu'à présent
by Vanessa Bryant, chef de laboratoire, division d'immunologie, Walter and Eliza Hall Institute
La plupart des personnes qui contractent le COVID souffrent des symptômes courants de fièvre, de toux et de problèmes respiratoires, et…
image
L'IRS vous inflige une amende ou des frais de retard ? Ne vous inquiétez pas - un défenseur de la fiscalité à la consommation dit que vous avez encore des options
by Rita W. Green, professeur de comptabilité, Université de Memphis
Le jour de l'impôt est passé et vous pensez avoir produit votre déclaration juste à temps. Mais plusieurs…
Le seul jour facile était hier
Le seul jour facile était hier
by Jason Redman
Les embuscades ne se produisent pas seulement au combat. Dans les affaires et la vie, une embuscade est un événement catastrophique qui…
75 ans
À 75 ans : un état magique magique (vidéo)
by Barry Vissell
Ce mois-ci (mai 2021), Joyce et moi avons eu 75 ans. Quand j'étais plus jeune, 75 ans semblait ancien.…
Superforecasters: ce que les planificateurs de pandémie peuvent apprendre des meilleurs prédicteurs du monde
Superforecasters : ce que les planificateurs de pandémie peuvent apprendre des meilleurs prédicteurs du monde
by Gabriel Recchia, associé de recherche, Winton Center for Risk and Evidence Communication, Université de Cambridge
Les experts se sont trompés de manière catastrophique, selon Dominic Cummings, le Premier ministre britannique Boris…

Nouvelles attitudes - nouvelles possibilités

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics.com | InnerSelf Marché
Copyright © 1985 - 2021 InnerSelf Publications. Tous les droits sont réservés.