Longtemps reléguée au rang des théories du complot, l’idée selon laquelle les objets connectés sont utilisés pour enregistrer nos faits et gestes, et en particulier nos conversations privées, est désormais appuyée par différents témoignages et découvertes surprenantes. Peu à peu, cette idée s’impose comme étant une nouvelle réalité. Témoin à l’appui, une vidéo diffusée en juin par la Quatradure du Net montre que certaines conversations privées sont enregistrées puis écoutées à l’insu des utilisateurs par Cortana, l’assistant vocal de Microsoft.
L’usage des « assistants personnels intelligents » (Cortana, Siri, Hello Google,..) a crû de manière importance ces dernières années. Aux États-Unis, 65 % des utilisateurs de smartphone y ont eu recours en 2015, soit deux fois plus qu’en 2013, selon une étude sur l’essor des assistants vocaux intelligents. Désormais, le développement des enceintes « intelligentes » (Amazon Echo, Google Home etc..), promet de faire grimper en flèche le marché des assistants vocaux et autres objets connectés.
De plus en plus de personnes placent ces boitiers intelligents dans leur maison pour se « faciliter » la vie. Mais cs technologies ouvrent de nouvelles perspectives pour des marchés très lucratifs, notamment le e-commerce, la vente des données personnelles enregistrées 24 heures sur 24 via les recherches vocales, mais aussi la mise en place de publicités qui seront à l’avenir de plus en plus intrusives, puisqu’elles pourront à terme passer via les enceintes. Rappelons que l’information est ce pétrole intarissable du monde connecté. Une mine d’or à ciel ouvert pour ceux qui savent l’exploiter. Pour les concurrents de ce marché qui se compte en milliard de dollars potentiels, la course est ouverte.
Le développement des objets connectés inquiète
Plus encore que nos données personnelles laissées sur internet, les objets connectés posent problème parce qu’ils collectent des données au cœur de la vie privée des usagers, sur leurs lieux de vie. Le rêve des multinationales : connaître en temps réel les aspirations des consommateurs, les envies profondes, leurs souhaits. Comment éviter les dérives et quel contrôle légal pour ces données ?
Au début d’année, le New York Times révélait que le logiciel espion Alphonso, qui se cachait sur 250 jeux téléchargeables sur le magasin en ligne d’Android (mais également sur l’Apple Store pour certains), enregistrait ce que les gens regardaient à la télé. Ces informations étaient ensuite envoyées à des agences qui ciblent spécifiquement les consommateurs. Le tout à l’insu des possesseurs de smartphone. Encore faut-il avoir le chance de découvrir ces logiciels-espions.
D’autres, comme Reporters Sans Frontières, craignent que la nouvelle technologie n’enferme encore plus les utilisateurs dans une bulle informative que ce que faisaient déjà les réseaux sociaux. En effet, les algorithmes ont tendance à créer un profil type des utilisateurs pour leur donner « à manger » ce qu’ils veulent, en principe. Mais l’humain n’étant pas un robot, l’algorithme a donc tendance à enfermer l’utilisateur dans une bulle qui repose plus sur une interprétation de nos clics qu’autre chose. Dans un communiqué publié début août, l’ONG s’inquiétait en particulier du système de réponse aux requêtes orales. « L’assistant intelligent sélectionne les sources d’informations, et limite le nombre de résultats… parfois, à un seul, selon des critères qui restent aujourd’hui largement opaques », écrit RSF, qui craint que la pluralité de l’information soit mise en cause. Naturellement, les récents rapprochements entre les GAFAM (Google et Cie.) et les médias mainstreams de tous les pays, n’augurent rien de bon. Rappelons que certains grands médias reçoivent en ce moment des financements de la part de ces géants du web.
Des conversations enregistrées aux dépens des utilisateurs
Récemment, la Quadrature du Net rappelait que les bandes d’enregistrement vocales basées sur des données récoltées par Cortana, l’assistant vocal de Microsoft, étaient non seulement conservées – au moins en partie – mais qu’en plus elles étaient potentiellement réécoutées et traitées par des êtres humains. Dans une vidéo diffusée sur peertuber, l’association a recueilli le témoignage de « Julie », une personne qui a travaillé au développement de Cortana dans une entreprise privée et qui a été directement confrontée aux conversations parfois très privées et sensibles recueillies par l’assistant vocal.
Le témoignage
Sa mission ? Corriger les erreurs de compréhension de l’assistant, en comparant les bandes-son et les transcriptions réalisées par Cortana. La méthode est particulièrement intrusive, puisqu’elle suppose l’enregistrement des dites conversations, mais également parce qu’il revient à un transcripteur bien humain de les traiter. Comme le révèle la témoin, les enregistrements concernent aussi bien des échanges ayant eu lieu via les services de Microsoft (Skype, XBox), des commandes et requêtes directement adressées à Cortana ainsi que des « conversations non sollicitées »* pendant lesquelles des données personnelles (noms, adresses, numéros de téléphone ou même numéros de sécurité sociale) sont évoquées. Missionnée en tant qu’indépendante, « Julie » affirme ne pas avoir signé de contrat de confidentialité.
Microsoft peut certes argumenter que les utilisateurs de Cortana sont prévenus à un moment ou l’autre, dans les petits caractères d’une quelconque clause. En effet, cet usage qui est fait des données est sous-entendu sur le site de Microsoft, dans les informations de confidentialité. On apprend notamment que « lorsque vous utilisez votre voix pour poser une question ou donner une information à Cortana ou invoquer les compétences, Microsoft utilise vos données vocales afin d’améliorer la compréhension de votre langage par Cortana. Cela permet d’améliorer sa reconnaissance ainsi que ses réponses, sans oublier les autres produits et services Microsoft reposants sur la reconnaissance vocale et la compréhension des intentions. » Plus loin, il est expliqué que chacun peut lui-même « gérer les données vocales stockées par Microsoft » en accédant à son compte personnel en ligne. Cependant, non seulement il est très rare que les usagers lisent les conditions d’utilisation, mais en plus, comme dans le cas présent, elles sont rarement suffisamment claires pour être comprises de manière explicite.
Les assistants vocaux sont présentés comme un outil de modernité parce qu’ils faciliteraient les recherches sur le web et l’usage d’autres technologies dans la maison (lumières, télévision, musique…). Ils symbolisent également une société de la vitesse où chaque petit geste doit faire l’usage d’une technologie afin de gagner quelques secondes de temps disponible sans véritablement se soucier des effets autant écologiques que sur la vie privée. Ces outils signent-ils la fin de la vie privée ? La question doit se poser à temps, alors qu’il semble acceptable, pour une bonne partie de la population, d’installer les oreilles des géants du web dans leur propre maison.
*Que ce soit Microsoft, Google ou Amazon, tous continuent d’affirmer que la voix n’est enregistrée que lorsqu’une commande a été donnée en ce sens.
Nos travaux sont gratuits et indépendants grâce à vous. Afin de perpétuer ce travail, soutenez-nous aujourd’hui par un simple thé ?☕
