Le géant américain reconnait enregistrer les conversations avec son assistant vocal. Mais aussi partager des informations avec des tiers...
Depuis leur apparition dans les foyers, les assistants vocaux intégrés à des objets connectés suscitent des doutes et des inquiétudes. Notamment quant à la confidentialité des conversations et de toutes les informations à caractère privé qu'elles recèlent. Comment les requêtes sont-elles analysées ? Les échanges sont-ils enregistrés ? Que deviennent les données collectées ? Les appareils sont-ils en écoute permanente ? Autant de questions que de nombreux utilisateurs se posent, et qui traduisent une légitime méfiance vis-à-vis d'intelligences artificielles toujours plus performantes mises au point par des sociétés commerciales.
Parmi ces dernières, Amazon concentre les craintes, surtout depuis que l'on a appris que les conversations engagées avec Alexa, son assistant intelligent, étaient enregistrées et transmises à des prestataires externes pour analyse, à fin d'amélioration (voir [actualité]). Des craintes qui devraient encore s'accentuer avec les informations recueillies par le sénateur américain Chris Coons, suite à une lettre qu'il avait envoyée en mai dernier aux dirigeants d'Amazon. Car la réponse du géant du commerce en ligne a de quoi donner des frissons...
Dans son courrier adressé le 28 juin au sénateur (et reproduit par nos confrères américains de Cnet), Brian Huseman, vice-président chargé des politiques publiques d'Amazon, confirme bien qu'Amazon conserve les enregistrements vocaux d'Alexa ainsi que leurs transcriptions indéfiniment. Il précise en outre les requêtes impliquant des transactions (achat de biens et de services) laissent des traces qui sont également enregistrées et utilisées, de même que certaines informations comme le réglage d'alarmes ou de rappels. Autant d'informations à caractère privé qui alimentent de gigantesques bases de données. Le tout, dans le but officiel d'améliorer la personnalisation de l'assistant vocal et d'optimiser les services rendus aux utilisateurs. – conformément à leurs propres demandes, dixit Amazon.
Une réponse qui n'a pas rassuré Chris Coons. Et qui ne l'a pas convaincu non plus. Le sénateur doute même que les conversations soient effectivement détruites, même après effacement manuel par l'utilisateur, et notamment par la commande vocale idoine (voir actualité). S'interrogeant toujours sur la nature des éléments conservés sur les serveurs de l'entreprise, il déplore également le flou qu'Amazon entretient sur le partage avec des tiers des informations collectées via Alexa. It est fort probable que l'affaire n'en reste pas là et qu'Amazon soit sommé de fournir davantage d'explications aux autorités comme à ses clients, voire de modifier les conditions d'utilisation d'Alexa et de clarifier ses pratiques.
Les services de police des États-Unis se sont associés à Ring, une filiale d’Amazon, pour offrir des programmes de sonnettes de porte intelligentes Ring gratuitement ou à des prix subventionnés à des résidents des villes américaines. Mais ce qui inquiète les défenseurs de la vie privée est que certains services de police ont ajouté leurs propres conditions aux programmes qui leur permettent d'obtenir, sur demande, des images enregistrées par les appareils Ring installés sur les portes des résidents. Ce qui donnerait à la police des capacités de surveillance sans précédent et pourrait poser de graves problèmes en matière de protection de la vie privée, selon un rapport.
Ses sonnettes intelligentes sont devenues populaires tout comme les autres gadgets intelligents qui améliorent la qualité de vie des utilisateurs en rendant leurs maisons plus intelligentes. Mais des portes plus intelligentes vont de pair avec plus de caméras et par conséquent plus d’images disponibles pour des usages divers.
Ring fabrique une sonnette intelligente qui, installée sur la porte d’entrée d’une maison, améliore la sécurité de l’habitation et procure la tranquillité d'esprit aux propriétaires. Ces sonnettes servent à surveiller les entrées des domiciles à l'aide de caméras à détection de mouvement, et elles enregistrent et sauvegardent les images de toute personne qui appuie sur la sonnette, tant que vous disposez d'un abonnement mensuel au programme Ring. Amazon a acquis Ring en 2018 pour un milliard de dollars.
En mai 2018, Ring a lancé l'application Neighbors, en initialisant ainsi ce qu’il appelle « un grand pas vers une sécurité accessible et abordable pour tous ». L’application est une solution de sécurité que chaque membre de la communauté, qu'il possède ou non un périphérique Ring, peut utiliser. Elle permet aux membres de la communauté et, dans certains cas, aux forces de l'ordre, de travailler ensemble afin de réduire la criminalité, d’après Ring. Les utilisateurs reçoivent une notification sur leurs appareils mobiles lorsque quelqu'un sonne à la porte, et ils peuvent regarder des images en direct de la caméra intelligente de la sonnette de porte de n'importe où dans le monde.
La facilité d’utilisation, le confort et la tranquillité d’esprit que ces sonnettes intelligentes apportent, ont fait que les quartiers résidentiels dans de nombreuses villes américaines, comme Bloomfield dans le New Jersey, autrefois avec moins de caméras de surveillance, sont aujourd’hui équipées de réseaux de surveillance privés alimentés par Amazon et promus par les services de police, selon un rapport.
Selon le rapport, les services de police, des grandes villes plus peuplées aux petites villes de moins de 30 000 habitants, ont offert ces sonneries d’Amazon gratuitement ou à prix réduit aux citoyens, utilisant parfois l'argent des contribuables pour payer les produits Amazon. Cette promotion est un programme commun des services de police et d’Amazon qui participe à la subvention des périphériques Ring.
Mais, alors que Ring a déclaré, dans un article de blog publié en février, que les utilisateurs ont un contrôle total sur leurs séquences enregistrées sur Ring et peuvent choisir avec qui partager ces séquences, donnant ainsi le choix aux propriétaires de Ring de fournir ou pas des enregistrements à la police, dans certains cas, la police exige de ces derniers qu'ils lui remettent les séquences sur demande, selon le rapport. Ces contraintes supplémentaires ajoutées par les forces de police contredisent la vision de Ring, qui consiste à éviter les cambriolages à domicile. « Nos clients nous font part de leurs histoires sur la façon dont Ring les a aidés à identifier un voleur ou comment Ring les a aidés à prévenir un cambriolage chaque jour », peut-on lire dans l’article de blog de Ring.
Ring a déclaré à site Web qu'il n’était pas impliqué dans des programmes des services de police qui obligent les utilisateurs à partager leurs séquences vidéo ou les programmes qui les obligent à s'abonner à un plan d'abonnement pour l'enregistrement d'images. L'entreprise a même indiqué qu'elle serait en train de travailler avec ses partenaires pour s'assurer que sa vision pour ses sonnettes intelligentes se reflète dans ses programmes de partenariat et qu’elle commencerait à sévir ensuite. Dans un communiqué, Ring a déclaré :
« Les clients de Ring ont le contrôle de leurs vidéos, quand ils décident de les partager et s'ils veulent ou non acheter un plan d'enregistrement. Ring a fait don d'appareils aux partenaires des forces de l'ordre des pays voisins pour qu'ils les fournissent aux membres de leurs communautés ». « Ring ne prend pas en charge les programmes qui exigent des destinataires qu'ils s'abonnent à un plan d'enregistrement ou que les images des appareils Ring soient partagées comme condition pour recevoir un appareil donné. Nous travaillons activement avec nos partenaires pour nous assurer que cela se reflète dans leurs programmes », a ajouté l’entreprise.
Selon un rapport, plus de 50 services de police locaux à travers les États-Unis se seraient associés à Ring, au cours des deux dernières années, dans des programmes de promotion des sonnettes intelligentes d’Amazon, se félicitant de la façon dont le produit d’Amazon leur permet d'accéder à des séquences de sécurité dans des zones qui n'ont généralement pas de caméras, comme dans les banlieues. Le service de police de Bloomfield se réjouit également de l’abondance de ces caméras dans tous les quartiers de Bloomfield.
« Notre ville est maintenant entièrement couverte par des caméras », a déclaré le capitaine Vincent Kerney, commandant du bureau de détectives de la police de Bloomfield. « Dans tous les quartiers de la ville, il y a des caméras Ring », a-t-il ajouté.
M. Kerney avait déjà commencé un programme de surveillance volontaire en 2017 et il y avait environ 442 endroits qui se s’étaient inscrits, surtout des entreprises. Ce qui représentait, selon M. Kerney, une goutte d'eau dans l'océan par rapport au réseau de sonnettes intelligentes de Ring actuel. M. Kerney a expliqué :
« Il y a probablement 10 fois plus de caméras Ring que ce que nous n'avons autre chose ». « En général, la plupart des gens n'ont pas de système de surveillance à grande échelle dans leur maison », explique-t-il. « Mais quelque chose de simple comme Ring, où vous avez juste à le brancher ? Les gens accepteront ».
Des services de police s’associent à Ring pour offrir, gratuitement ou à faibles coûts, la vidéo surveillance aux résidents dans la plupart des villes aux Etats-Unis, mais malgré ces avantages, la relation entre les services de police et Amazon soulève des préoccupations au sujet de la surveillance. Les défenseurs de la vie privée soutiennent que ce partenariat permet aux organismes d'application de la loi d'exercer une surveillance sans précédent, les services de police s'appuyant sur ce réseau de Ring pour développer leurs réseaux de surveillance.
Un avocat de l’ACLU de la Californie a déclaré à ce sujet : « Ce que nous avons ici, c'est un mariage parfait entre les forces de l'ordre et l'une des plus grandes entreprises du monde, créant les conditions d'une société dont peu de gens voudraient faire partie ». Mais dans une déclaration, Ring a dit : « Nos clients et les utilisateurs des applications Neighbors nous font confiance pour protéger leurs maisons et leurs communautés, et nous prenons cette responsabilité très au sérieux ».
Nous savons déjà que le géant du commerce en ligne, propriétaire de Ring, vend déjà sa technologie de reconnaissance faciale au gouvernement américain. Selon les experts, Rekognition est à l’origine de plusieurs discriminations basées, entre autres, sur la couleur de peau. Les organisations de protection de la vie privée ont insisté pour qu’Amazon arrête de fournir cette technologie aux forces de police, mais ce n’est pas encore le cas et Amazon devrait continuer à commercialiser sa technologie de reconnaissance faciale aux forces de l’ordre si l’on s’en tient aux résultats du vote des actionnaires lors de sa dernière assemblée annuelle.
Business Insider a également publié un article en avril dernier selon lequel les employés d'Amazon qui travaillent à améliorer son assistant vocal Alexa écouteraient les enregistrements vocaux de ce qui se dit dans les maisons et les bureaux des propriétaires d’Echo, lorsque ce dernier est activé. Selon l’article, ces employés peuvent écouter jusqu'à 1000 enregistrements par jour.
Aussi en janvier dernier, The Intercept a rapporté que les utilisateurs des caméras de sécurité Ring d'Amazon seraient espionnés à leur insu, mais un porte-parole de la société avait tout nié en bloc. Espérons que les utilisateurs n’auront rien à craindre des sonnettes intelligentes, un autre produit d’Amazon, et des programmes additionnels des services de police, qui pourraient leur faire obligation de partage de séquences vidéo Ring.
Source : Département de Police Bloomfield, Ring
Pour améliorer l'intelligence artificielle de son assistant, le géant américain emploie des collaborateurs qui analysent des enregistrements audio d'Aexa.
La nouvelle ne pas rassurer les utilisateurs d’enceintes Echo. Et, d'une façon plus générale, tous ceux qui font appel à des assistants vocaux. Dans un article bien informé, Bloomberg révèle en effet que des milliers d'employés d'Amazon écoutent des conversations d'Alexa provenant du monde entier. De quoi faire frémir - et fuir ! - tous ceux qui hésitent à s'équiper d'une enceinte connectée de peur justement d'être sur écoute permanente.
Comme le rapporte Bloomberg, le géant américain emploie des équipes réparties un peu partout dans le monde, des Etats-Unis à l'Inde en passant par le Costa Rica et la Roumanie, pour analyser et retranscrire par écrit des conversations provenant d'Alexa dans le but d'aider l'intelligence artificielle (IA) qui fait fonctionne l'assistant vocal à s’améliorer. De fait, aussi puissants que soient les algorithmes et les procédés d’apprentissage de type deep learning, l'expertise humaine reste encore indispensable pour faire progresser l'IA.
Dans le cas d'Amazon, les auditeurs cherchent surtout à combler des lacunes d'Alexa, en aidant l'assistant à mieux comprendre certaines requêtes formulées en langage naturel. Bloomberg donne ainsi l’exemple d'un auditeur qui aurait permis de mieux interpréter le nom de l’artiste américaine Taylor Swift, souvent déformé et mal compris. Bref, des écoutes pour le bien de tous, selon Amazon, d'autant que les enregistrements seraient en théorie débarrassés de toute information confidentielle sur l'identité des utilisateurs.
Sauf que, toujours selon Bloomberg, le tableau ne serait pas aussi idyllique dans la réalité. D'abord, la plupart des auditeurs ne seraient pas employés directement par Amazon, mais par des sous-traitants travaillant dans des conditions assez "intensives". Chacun écouterait ainsi près d'un millier d’extraits sonores par jour, pendant environ neuf heures, en analysant, en retranscrivant et en annotent les enregistrements, de manière à identifier et à signaler les termes et les formules complexes, et en échangeant leurs résultats avec leurs collègues via une messagerie interne. De fait, les auditeurs échangent de nombreuses informations entre eux pour s'aider mutuellement à améliorer Alexa, mais certaines conversations plus ou moins comiques, feraient l'objet de partages massifs et de moqueries.
Quelques situations s'avéreraient toutefois délicates, voire troublantes. Des témoins ont ainsi rapporté à Bloomberg qu'ils avaient entendu ce qu'ils ont interprété comme une agression sexuelle. Face à leur désarroi et à leur demande, leur hiérarchie leur aurait ordonné de ne rien, au prétexte que ce n'était pas de leur ressort, ni de celui d'Amazon... Mais il y a encore plus embarrassant. L’enquête de Bloomberg révèle qu’Amazon permet à ses propres auditeurs salariés d’accéder à des informations sensibles des utilisateurs, via le numéro de série des enceintes, comme leur prénom ou leur numéro de compte Amazon, ce qui va à l'encontre des engagements pris à l'égard de la protection des données personnelles.
Amazon se veut rassurant, affirmant que seul un très faible pourcentage de conversations sont ainsi enregistrées et analysées, et que des mesures strictes - "tolérance zéro" - sont prises pour garantir la confidentialité des informations personnelles recueillies. Un discours officiel que l'enquête de Bloomberg met à mal. D'autant qu'Amazon ne dit pas explicitement dans ses conditions d'utilisation du son service que des extraits de conversations peuvent être écoutées et analysées par des êtres humains. Et même si l’anonymisation des données semble mieux assurée par Google Assistant et Siri d'Apple, les principaux concurrents d'Alexa, ces révélations risquent de semer le doute chez de nombreux utilisateurs potentiels, soucieux de leur vie privée.