Pourquoi les problèmes de confidentialité d'Amazon Echo vont bien au-delà des enregistrements vocaux

Pourquoi les problèmes de confidentialité d'Amazon Echo vont bien au-delà des enregistrements vocaux HeikoAL / Pixabay

Amazon Echo et l'assistant vocal Alexa ont rencontré de nombreux problèmes de confidentialité. Que ce soit le quantité de données qu'ils collectent ou le fait qu'ils auraient payé des employés et, parfois, des entrepreneurs externes du monde entier pour écouter des enregistrements pour améliorer la précision, il est possible que des informations personnelles sensibles fuient à travers ces appareils.

Mais les risques ne s'étendent pas seulement à notre relation avec Amazon. Des problèmes majeurs de confidentialité commencent à émerger dans la façon dont les appareils Alexa interagissent avec d'autres services - risquant une spirale dystopique d'augmentation surveillance et contrôle.

La configuration de l'Echo transforme Amazon en une passerelle supplémentaire que chaque interaction en ligne doit traverser, collectant des données sur chacune. Alexa sait ce que vous recherchez, écoutez ou envoyez vos messages. Certains smartphones le font déjà, en particulier ceux fabriqués par Google et Apple qui contrôlent le matériel, les logiciels et les services cloud.

Mais la différence avec un Echo est qu'il rassemble les pires aspects des smartphones et des maisons intelligentes. Ce n'est pas un appareil personnel mais intégré dans l'environnement familial, toujours en attente d'écoute. Alexa propose même un projet artistique (non créé par Amazon) qui essaie de faire la lumière avec le flippant "Demandez aux auditeurs"Fonction qui fait des commentaires sur la quantité d'espionnage de l'appareil. Certains appareils Echo ont déjà des caméras, et si des capacités de reconnaissance faciale étaient ajoutées, nous pourrions entrer dans un monde de surveillance omniprésente dans nos espaces les plus privés, même suivis lorsque nous nous déplaçons entre les emplacements.

Cette technologie donne à Amazon un énorme contrôle sur vos données, ce qui est depuis longtemps l'objectif de la plupart des géants de la technologie. Tandis que Apple et Google - qui font face à leur propres problèmes de confidentialité - ont des assistants vocaux similaires, ils ont au moins progressé en exécutant le logiciel directement sur leurs appareils, de sorte qu'ils n'auront pas besoin de transférer les enregistrements de vos commandes vocales vers leurs serveurs. Amazon ne semble pas essayer de faire de même.

Cela est dû en partie au modèle commercial agressif de l'entreprise. Les systèmes d'Amazon semblent non seulement conçus pour collecter autant de données que possible, mais aussi pour créer des moyens de les partager. Les problèmes potentiels sont donc beaucoup plus profonds qu'Alexa écoutant des moments privés.


Obtenez les dernières nouvelles d'InnerSelf


Partage avec les forces de l'ordre

Un sujet de préoccupation est la possibilité de mettre les oreilles des forces de l'ordre dans nos maisons, nos écoles et nos lieux de travail. Apple a un historique de résistance aux demandes du FBI pour les données des utilisateurs, et Twitter est relativement transparent sur les rapports sur comment il répond aux demandes des gouvernements.

Mais Ring, la société de caméras de sécurité connectée à Internet appartenant à Amazon, a une relation de premier plan avec la police qui implique remise des données utilisateur. Même la façon dont les citoyens et la police communiquent est de plus en plus surveillé et contrôlé par Amazon.

Pourquoi les problèmes de confidentialité d'Amazon Echo vont bien au-delà des enregistrements vocaux Toujours à l'écoute. Tomasso79 / Shutterstock

Cela risque d'incorporer une culture de surveillance de l'État dans les opérations d'Amazon, ce qui pourrait avoir des conséquences inquiétantes. Nous avons vu de nombreux exemples d'application de la loi et d'autres organismes gouvernementaux dans des pays démocratiques utilisant des données personnelles pour espionner des personnes, à la fois dans violation de la loi et en son sein, mais pour des raisons qui vont bien au-delà la prévention du terrorisme. Ce type de surveillance de masse crée également un grave risque de discrimination, car il a été démontré à plusieurs reprises qu'il a un impact femmes et minorité groupes.

Si Amazon n'est pas disposé à repousser, il n'est pas difficile d'imaginer Remise des enregistrements Alexa aux demandes des employés du gouvernement et des responsables de l'application des lois qui pourraient être disposés à violer l'esprit ou la lettre de la loi. Et compte tenu des accords internationaux de partage de renseignements, même si vous faites confiance à votre propre gouvernement, faites-vous confiance aux autres?

En réponse à ce problème, un porte-parole d'Amazon a déclaré: «Amazon ne divulgue pas d'informations sur les clients en réponse aux demandes du gouvernement, sauf si nous sommes tenus de le faire pour nous conformer à une ordonnance juridiquement valide et aveugle. Amazon s'oppose naturellement à des demandes excessives ou autrement inappropriées.

«Les clients de Ring décident de partager ou non des images en réponse aux demandes de la police locale enquêtant sur des cas. Ils ont ajouté que bien que la police locale puisse accéder à l'application Ring's Neighbors pour signaler des activités criminelles et suspectes, elle ne peut pas voir ni accéder aux informations du compte utilisateur.

Suivi des problèmes de santé

La santé est un autre domaine où Amazon semble tenter une prise de contrôle. Le National Health Service (NHS) du Royaume-Uni a signé un accord pour que les conseils médicaux soient fourni via l'Echo. À première vue, cela étend simplement les moyens d'accéder aux informations accessibles au public comme le site Web du NHS ou la ligne téléphonique 111 - aucune donnée officielle sur les patients n'est partagée.

Mais cela crée la possibilité qu'Amazon puisse commencer à suivre les informations de santé que nous demandons via Alexa, créant ainsi des profils des antécédents médicaux des utilisateurs. Cela pourrait être lié à des suggestions d'achats en ligne, à des publicités tierces pour des thérapies coûteuses ou même à des publicités potentiellement traumatisantes (pensez aux femmes qui ont subi des fausses couches étant montré des produits pour bébé).

Un porte-parole d'Amazon a déclaré: «Amazon ne crée pas de profils de santé des clients basés sur les interactions avec le contenu nhs.uk ou n'utilise pas ces demandes à des fins de marketing. Alexa n'a accès à aucune information personnelle ou privée du NHS. »

La grossièreté et les défauts de la publicité algorithmique violeraient les normes professionnelles et morales que les services de santé s'efforcent de maintenir. De plus, il serait très invasif de traiter les données de la même manière que de nombreux enregistrements Echo. Souhaitez-vous qu'un entrepreneur externe aléatoire sache que vous demandez des conseils en matière de santé sexuelle?

Transparence

À la base de ces problèmes, il y a un manque de véritable transparence. Amazon est inquiétant calme, évasif et réticent d'agir lorsqu'il s'agit de s'attaquer aux implications de leurs pratiques sur la vie privée, dont beaucoup sont enfouies profondément dans leurs termes et conditions ou dans des paramètres difficiles à trouver. Même les utilisateurs avertis ne connaissent pas nécessairement ampleur des risques pour la vie privée, et lorsque des fonctions de confidentialité sont ajoutées, elles ne sensibiliser les utilisateurs après que des chercheurs ou la presse ont soulevé la question. Il est tout à fait injuste d'imposer une telle charge aux utilisateurs pour découvrir et atténuer ces risques.

Donc, si vous avez un Echo chez vous, que devez-vous faire? Il existe de nombreux conseils disponibles sur comment rendre l'appareil plus privé, comme la définition d'enregistrements vocaux pour supprimer ou limiter automatiquement les données partagées avec des tiers. Mais la technologie intelligente est presque toujours une technologie de surveillance, et le meilleur conseil est de ne pas en apporter un chez vous.

En réponse aux principaux points de cet article, un porte-parole d'Amazon a déclaré à The Conversation:

Chez Amazon, la confiance des clients est au centre de tout ce que nous faisons et nous prenons la confidentialité et la sécurité très au sérieux. Nous avons toujours pensé que la confidentialité doit être fondamentale et intégrée à chaque élément matériel, logiciel et service que nous créons. Depuis le début, nous mettons les clients sous contrôle et recherchons toujours des moyens de rendre encore plus facile la transparence et le contrôle de leur expérience Alexa pour les clients. Nous avons introduit plusieurs améliorations de la confidentialité, y compris la possibilité de supprimer automatiquement les enregistrements vocaux après trois ou 18 mois, la possibilité de demander à Alexa de «supprimer ce que je viens de dire» et «supprimer ce que j'ai dit aujourd'hui», ainsi que le Alexa Privacy Hub, une ressource disponible dans le monde entier qui est dédiée à aider les clients à en savoir plus sur notre approche de la confidentialité et les contrôles dont ils disposent. Nous continuerons d'inventer davantage de fonctionnalités de confidentialité au nom des clients.

Cet article a été modifié pour préciser que la fonction «Demandez aux auditeurs» est un projet artistique créé par un tiers.La Conversation

A propos de l'auteur

Garfield Benjamin, chercheur postdoctoral, École des arts médiatiques et de la technologie, Solent University

Cet article est republié de La Conversation sous une licence Creative Commons. Lis le article original.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

suivez InnerSelf sur

facebook-icontwitter-iconrss-icon

Recevez le dernier par courriel

{Emailcloak = off}