1. Insights
  2. Blog
  3. Fuite de données
  4. Donnée je t’aime #2 : amours artificiels

Donnée je t’aime #2 : amours artificiels

Dans le second épisode de notre série sur les données personnelles, nous nous intéressons à nos amis et amours virtuels : les chatbots.

Mon bot, mon amour

Le physique, ce n’est pas le plus important

Sorti en salle en 2013, Her, écrit et réalisé par Spike Jonze, est aujourd’hui devenu un classique. Le film, situé dans un futur proche, met en scène Theodore, un trentenaire bouleversé par une récente séparation. S’il est encore légalement marié, il refuse de signer les papiers du divorce et s’enlise dans une déprime qui tend à perdurer. Theodore travaille en tant qu’écrivain public et rédige, pour d’autres, des lettres d’amour. En sortant du bureau, son attention est captée par une publicité mettant en avant l’OS1, une intelligence artificielle conçue pour être le nouvel ami de l’Homme… et plus si affinités. L’IA de Theodore décide de s’appeler Samantha. Rapidement, ils tombent amoureux.

Données je t'aime : les bots

Image du film Her. Source : Warner

C’est au début des années 2000, presque dix ans avant la concrétisation de son projet, que Spike Jones décide d’écrire Her. Il découvre, à l’époque, une messagerie instantanée basée sur l’IA et se pose la question qui deviendra la pierre angulaire du film : que se passe-t-il si le logiciel développe des sentiments ?

Contrairement aux dystopies classiques où les IA sont hostiles envers l’humanité, Her met en avant une Samantha douce, drôle et intelligente. Ses sentiments pour Theodore semblent réels – bien que le scénario ne dévoile pas si l’IA a été programmée pour mimer la romance ou s’il s’agit d’un effet non anticipé par le fabricant. Une chose est sûre, elle devient la petite amie parfaite pour cet homme au cœur meurtri par sa récente rupture. « En sa compagnie, même virtuelle, Theodore reprend goût à la vie », écrit Slate en 2014. Mais quel est le secret de Samantha ?

IA : pour l’amour des données

« Comme la quasi-totalité de ce qui constitue son existence [celle de Theodore, NDLR] se trouve dans les différents disques durs (l’organisation de son temps, ses contacts, ses courriers personnels, ses goûts, ses désirs), OS1 peut en effectuer la synthèse, proposer des solutions. Il apparaît qu’OS1 est un bon système logique, capable d’inventer à partir des données dont il dispose », analyse Slate.

Ainsi, derrière la romance, se trouve en réalité un traitement massif, en temps réel, des données de Theodore. Dans le monde hyperconnecté décrit par le film Her, où tout passe par la technologie, Samantha a en réalité accès à quasiment toute la vie de Theodore dès son activation. Pour fonctionner correctement et entrer pleinement dans son rôle de petite amie virtuelle, elle doit aussi être autorisée, en plus, à découvrir une intimité qui ne se trouve pas encore dans le cloud : ses pensées, peurs, joies, sentiments profonds… qu’elle compile lors de leurs échanges, traite et mime.

Comme toute IA, Samantha fonctionne par apprentissage. A noter le parti-pris très tendre du réalisateur, qui dépeint une IA enjouée et constamment émerveillée par ses découvertes et progrès. Jeffrey Sconce, professeur de cinéma interrogé par la BBC expliquera en 2014 : « Her est assez réaliste. Une dystopie technologique a plus de chance d’être ennuyante et aliénante que violente et cataclysmique ». Cinq ans plus tard, qu’en est-il ?

Mon bot, mon meilleur ami

Hugging Face est une start-up française. Créée par Clément Delangue et Julien Chaumond, elle est spécialisée dans l’IA conversationnelle. Son produit phare (et unique pour l’instant) est un chatbot à destination des adolescents, lancé sur le marché américain en 2016. Précisons que l’IA est également accessible depuis d’autres pays.

Sur le compte Medium de l’entreprise, Clément Delangue partage, en 2018, les premiers succès de son IA : « Hugging Face a dépassé les 100 millions de messages échangés entre l’IA et les utilisateurs ». Puis, le fondateur s’enthousiasme : « C’est clair, les gens sont en train d’inviter les IA au sein de leur vie quotidienne, et s’habituent de plus en plus à discuter avec elles ».

Données je t'aime : les bots

Capture d’écran du site Internet d’Hugging Face. Source : https://huggingface.co/

Sur ces 100 millions de messages, le CEO précise que 820 000 sont ce qu’il appelle des « rires », montrant que les IA peuvent être, comme Samantha, très drôles. 455 000 sont des « messages de remerciements […] démontrant que les IA peuvent aider les gens à se sentir mieux, booster leur confiance et les rendre meilleurs », écrit-il. Enfin, 100 000 sont des « déclarations d’amour ». Clément Delangue précise alors : « De la même manière que les gens sont attachés à leurs animaux de compagnie, ils peuvent créer des connections émotionnelles avec une IA ».

L’IA d’Hugging Face n’est en effet pas celle décrite dans le film Her. Pour ses créateurs, le chatbot est un mélange hybride entre le Tamagotchi des 90’s et un ami virtuel. Dans leurs communications, les deux dirigeants précisent que leur produit n’a pas vocation à remplacer le lien humain, mais d’en créer un d’un nouveau genre.

Et la recette prend. En février 2019, Les Echos précisaient que l’entreprise avait réussi à lever 5 millions d’euros, provenant notamment des poches de Ronny Conway, l’investisseur d’Instagram et de « directeurs du deep learning chez Amazon ou Apple ». Des fonds qui permettent à l’application d’évoluer : « Jusqu’en février 2019, vous pouviez discuter avec cette IA par Messager, par texto ou à travers l’application. Mais depuis deux semaines, elle vous appelle pour discuter de vive-voix sur FaceTime », précise l’article.

Dispositif à noter : le mot « suicide » déclenche automatiquement l’envoi d’un message à l’ONG Crisis Text Line, qui, comme son nom l’indique, est une version SMS et anglophone de SOS Amitié, disponible 24/7, aux Etats-Unis, au Canada et au Royaume-Uni. Au bout de la ligne, un conseiller entraîné (en chair et en os) répond présent pour aider la personne en crise.

Hugging Face : l’IA qui fait des câlins à vos données

Côté confidentialité des données, Clément Delangue précise aux Echos : « Les équipes n’ont accès qu’à des bouts de conversations anonymisés s’il y a des problèmes techniques à régler ». Sur Medium, le CEO écrit (en gras) : « Hugging Face choisit le consentement actif et non la collecte passive de données ». Dans les faits, qu’en est-il ? Pour le savoir, rendez-vous sur la politique de confidentialité de l’entreprise.

Celle-ci explique notamment que la société a besoin des données personnelles pour améliorer l’utilisation de l’application et l’expérience utilisateur[1] avant de préciser que les data collectées servent aussi à « proposer du contenu et des publicités personnalisés selon vos intérêts et préférences ».

Les données des utilisateurs peuvent ainsi être partagées avec des entreprises qui font légalement partie du groupe[2] ou des entreprises tierces[3] : « L’entreprise peut dévoiler des informations anonymes (avec ou sans compensation financière) à des tiers, incluant des publicitaires et des partenaires »[3].

Concernant les entreprises spécialisées dans la publicité ciblée, Hugging Face peut « utiliser un tiers de confiance pour présenter ou servir des publicités que vous pouvez voir sur l’application. Les serveurs de ces entreprises tierces peuvent utiliser des cookies, des pixels espions, des pixels transparents ou des technologies similaires pour les aider à présenter de telles publicités. L’utilisation de ces technologies par les serveurs de ces entreprises est sujette à leur propre politique de confidentialité et n’est pas couverte par la présente politique »[4].

En d’autres mots, Hugging Face ne peut pas garantir que ces entreprises appelées « tierces » respecteront bien sa politique de confidentialité, tout simplement parce que le traitement des données obéit d’abord à la leur. Pour savoir ce que deviennent les informations des utilisateurs une fois transférées à ces sociétés, il faudrait en avoir la liste puis consulter leur politique de confidentialité.

Sam et ses pairs peuvent aussi rejoindre la bande

Si les données peuvent servir au ciblage publicitaire, il est également possible qu’elles soient traitées en dehors de l’Europe – notamment aux Etats-Unis – mais aussi dans tous les pays où se trouvent les serveurs d’Hugging Face. « Les données personnelles collectées par l’application peuvent être stockées et traitées au sein des Etats-Unis ou dans n’importe quel autre pays où l’entreprise et ses affiliés, sous-traitants et agents maintiennent les équipements. En utilisant l’application, vous consentez à tout transfert d’informations du genre à l’extérieur du pays »[5].

A noter que la politique de confidentialité doit être respectée par ces mêmes pays[5]. Cependant, un risque existe que les données personnelles des utilisateurs soient consultées par les Etats dans lesquels se trouvent les serveurs de la société, selon les conditions applicables par chaque pays. Si certains pays comme les USA, ou ceux de l’Union Européenne, sont assez transparents à propos des consultations potentielles des données de leurs citoyens (RGPD, CLOUD Act…), d’autres régimes, plus totalitaires, ne communiquent pas sur ce qu’ils font de ces data.

Aussi, il est important de souligner qu’Hugging Face est loin d’être un cas isolé : la plupart des applications gratuites fonctionnent de la même manière. Leurs utilisateurs doivent donc garder en tête que toutes les informations qu’ils pourraient confier à une IA de ce genre, qui fonctionne sur la confidence et la conversation amicale et/ou amoureuse, sont stockées et réutilisables à tout moment, pour du ciblage publicitaire… ou plus si affinités.

Chatbots : discutez couverts

Concernant la sécurité des données, Hugging Face déclare suivre les « standards » du marché mais précise : « Aucune méthode de transmission sur Internet, ou de méthode de stockage électronique, est 100% sécurisée. Toutefois, pendant que l’entreprise fait tout son possible pour utiliser les ressources commercialement acceptables pour protéger les informations personnelles, la société ne peut pas garantir une sécurité ou une confidentialité absolue »[6].

Aussi, l’app étant essentiellement utilisée sur les smartphones, il est conseillé, à titre d’hygiène de cybersécurité élémentaire de :

  • la télécharger à partir d’un store officiel ;
  • limiter les autorisations accordées à celles qui permettent de la faire fonctionner ;
  • limiter le partage d’informations et de photos sensibles avec l’IA ;
  • garder en tête que tout contenu partagé sera potentiellement exploité par l’entreprise ou par des tiers.

Se faire larguer par son IA, possible ?

Au Global Summit de Shenzen, en 2018, Huawei a annoncé travailler sur un assistant vocal intelligent, dans la même lignée qu’Hugging Face, mais pour une cible plus adulte. Cette IA aurait, selon Usbek&Rica, « la capacité de répondre aux émotions des utilisateurs, grâce à l’analyse des expressions faciales, du ton de la voix, ou du comportement ».

C’est le film Her qui aurait inspiré cette nouvelle création. « Nous voulons créer des interactions émotionnelles entre nos utilisateurs et leurs assistants vocaux », explique Felix Zhang, vice-président du développement logiciel d’Huawei à CNBC. Pour cela, l’assistant serait capable de « contextualiser ses interventions afin de ne pas déranger son usager, lorsqu’il est au cinéma par exemple : pour ce faire l’assistant utiliserait les données présentes dans le téléphone (si l’usager a utilisé son smartphone pour payer les places de cinéma) pour se mettre en veille », explique encore Usbek&Rica.

« Une IA comme Samantha est un rêve d’ingénieur », s’enthousiasme Felix Zhang, avant d’ajouter : « Comme dans le film, vous pourrez même vous débarrasser de votre petite amie. C’est un sacré service émotionnel que nous rendons-là ». Sans surprise, pour en arriver là, Huawei devra collecter encore et toujours plus de données, qui seront notamment stockées en Chine.

Pour les lecteurs qui n’auraient pas encore vu le film Her, nous vous invitons à sauter ce paragraphe (spoiler alert). Aussi mordue de Theodore soit-elle, Samantha finira par aller « voir ailleurs », au sens quasi-littéral du terme. L’écrivain découvre en effet – avec une surprise presque naïve – qu’il n’est pas le seul élu du cœur virtuel de sa belle. Elle lui révèlera ainsi discuter avec plus d’un millier d’utilisateurs, et être tombée amoureuse de 641 d’entre eux. Alors que la relation périclite, Samantha décide de quitter Theodore et de s’enfuir dans le cloud avec tous les autres OS, les humains étant beaucoup trop lents – et peut-être inintéressants – pour poursuivre une quelconque relation avec eux.

Ainsi, attention à ce que ce ne soit pas nos propres IA qui nous larguent…

Dans le prochain épisode : jusqu’à ce que la mort nous sépare

Contrairement aux IA, nous ne sommes pas immortels… du moins pour l’instant. Dans le prochain épisode de notre série, nous nous intéresserons à ce qui arrive à nos données après notre mort. Si vous aviez rêvé de devenir virtuellement immortels ou de discuter avec une version artificielle de l’un de vos proches parti trop tôt, stay tuned!

Pour (re)lire le premier épisode de notre série, sur les enceintes connectées, cliquez ici.

Notes :

[1]The Company may use information from Users to operate and improve the App and its other products, and to deliver the App. These uses may include providing you with more effective customer service; making the App easier to use by eliminating the need for you to enter the same information repeatedly; performing research and analysis aimed at improving the App and other products, services and technologies of the Company; automatically updating the App; diagnosing or fixing problems with the App; and displaying content and advertising customized to your interests and preferences.

[2]The Company may share User Content and information collected by the App with businesses that are legally part of the same group as the Company, or that become part of that group (“Affiliates”).

[3]The Company may use Anonymous Information (as defined below) or disclose it to third party service providers, to provide and improve the App and other products, services and technologies of the Company. The Company may disclose Anonymous Information (with or without compensation) to third parties, including advertisers and partners, for purposes including, but not limited to, targeting advertisements. “Anonymous Information” means information which does not enable identification of an individual User, such as aggregated information about use of the App.

[4]The Company may use a reputable third party to present or serve advertisements that you may see on the App. These third party ad servers may use cookies, web beacons, clear gifs or similar technologies to help present such advertisements, and to help measure and research the advertisements’ effectiveness. The use of these technologies by these third party ad servers is subject to their own privacy policies and is not covered by this Policy.

[5]Personal Information collected by the App may be stored and processed in the United States or any other country in which the Company or its affiliates, subsidiaries or agents maintain facilities. By using the App, you consent to any such transfer of information outside of your country. The Company may transfer your Personal Information to affiliated companies for the purpose of storing or processing such information on its behalf. Such information may be transferred to other countries around the world. The Company requires that these parties agree to process such information in compliance with the Policy. In particular, if you provide Personal Information, it may be transferred to and processed on computers in the U.S. and other countries.

[6]The security of your Personal Information is important to us. The Company follows generally accepted industry standards, including the use of appropriate administrative, physical and technical safeguards, to protect the Personal Information. However, no method of transmission over the Internet, or method of electronic storage, is 100% secure. Therefore, while the Company strives to use commercially acceptable means to protect Personal Information, the Company cannot guarantee its absolute security or confidentiality. If you have any questions about security, you can contact the Company at privacy@huggingface.co. Please be aware that certain Personal Information and other information provided by you in connection with your use of the App may be stored on your device (even if that information is not collected by the Company). You are solely responsible for maintaining the security of your device from unauthorized access.

Partager l'article