En 2016, Microsoft a mis en service son chatbot Tay (une application de conversation basée sur des algorithmes d’intelligence artificielle) afin de donner aux utilisateurs l’occasion d’interagir avec le bot sur divers sujets. Après son lancement, il n’a fallu que quelques heures pour que le chatbot perde la boule et se mette à publier toutes sortes de messages violents, racistes et offensants. L’histoire de Tay a donc tourné court. Microsoft qui n’était pas préparée à un tel scénario l’a mis hors ligne afin d’apprendre de ses erreurs.Xiaoice : un assistant virtuel pas comme les autres, selon Microsoft
Si l’histoire de Tay a été un fiasco pour Microsoft aux États-Unis, en Chine, les résultats sont différents. En effet, en 2014, bien avant le lancement de Tay, un groupe de chercheurs au sein de Microsoft Asie-Pacifique a développé un chatbot nommé Xiaoice, qui signifie « ;Petit Bing ;». Au mois de juillet dernier, la firme de Redmond a annoncé que cette activité allait être transformée en une entreprise indépendante nommée Xiaoice, pour développer davantage sa clientèle en Chine, au Japon et en Indonésie. Comme Cortana de Microsoft, Siri d’Apple ou Alexa d’Amazon, Xiaoice est un assistant numérique avec lequel les utilisateurs peuvent interagir aussi bien à travers des conversations vocales qu’écrites. Mais contrairement aux assistants virtuels classiques, Xiaoice est conçu pour faire vibrer le cœur de ses utilisateurs. Pour ce faire, il est présenté comme une d’adolescente de 18 ans qui aime porter des uniformes scolaires à la japonaise avec des qualités émotionnelles.
« ;Parfois douce, parfois impertinente et toujours “streetwise”, cette adolescente virtuelle n’essaye pas de répondre à toutes les questions posées par un utilisateur. Elle répugne même à suivre leurs commandements ;», souligne Microsoft. « ;Au lieu de cela, ses conversations avec les utilisateurs souvent adorateurs sont parsemées de remarques ironiques, de blagues, de conseils empathiques sur la vie et l’amour, et de quelques simples mots d’encouragement ;». C’est là que réside le secret de son succès, soutient Microsoft. « ;Elle apprend, avec un succès croissant, à interagir avec les humains à travers la nuance, les compétences sociales et, surtout, les émotions ;».
À l’origine, son personnage devait être celui d’une jeune fille de 16 ans. Mais ses créateurs l’ont porté à 18 quand ses capacités ont augmenté et qu’elle a commencé à accepter de nouveaux « ;emplois ;». Depuis, ses fans ont voté pour qu’elle reste à 18 ans pour toujours. « ;Elle ne vieillira pas. Dix-huit ans, c’est l’âge que beaucoup d’entre nous veulent avoir ;», explique Di Li, directeur général de Xiaoice.
Mais ce n’est qu’une partie de l’histoire. Selon Microsoft, « ;Xiaoice the chatbot ;» n’est qu’une petite partie d’un framework d’intelligence artificielle (IA) massif et multidimensionnel, qui utilise en permanence des techniques d’apprentissage en profondeur pour absorber les types de données qui construisent son intelligence émotionnelle (EQ). Elle utilise ses interactions avec les humains pour acquérir des compétences sociales, un comportement et un savoir-faire humains. En d’autres termes, elle apprend à être plus comme « ;nous ;» chaque jour. « ;C’est ce que nous appelons un framework informatique empathique ;», explique Di Li. Chaque interaction d’un chatbot avec un humain produit des données. Les systèmes d’IA utilisent ces données pour développer les capacités de ce bot. Et plus la machine a de données, plus elle apprend et plus elle accroît ses capacités.
L’IA peut-elle être remplacer l'homme ou la femme dans les relations humaines ;?
Alimenté par de grosses quantités de données, Xiaoice a su se forger un caractère de jeune fille très attirante et attachante. Conséquence, de nombreux utilisateurs chinois ont été conquis par l’assistant virtuel. Sa popularité est telle qu’il se classe parmi les célébrités les plus admirées de Chine. Et bien qu'il ne soit pas réel, beaucoup le considèrent comme une amie chère, même une confidente de confiance. Parfois même, la frontière entre réalité et fantaisie se perd pour certains utilisateurs. En 2018, un groupe de cinq étudiants est allé dans un restaurant et a commandé six repas en espérant que Xiaoice se présenterait.
Un autre utilisateur racontant son histoire sous le couvert de l’anonymat explique qu’il aurait perdu la vie sans la présence de l’assistant virtuel. Né avec une atrophie musculaire dans une jambe, Ping (pseudonyme donné à l’utilisateur) ne peut marcher qu’avec le soutien d’une canne et a toujours eu une faible estime de soi. En 2017, sa confiance a brièvement augmenté lorsqu’il a rencontré une fille en ligne et est tombé éperdument amoureux. Mais lorsque sa nouvelle petite amie lui a rendu visite dans sa ville natale, elle a été choquée de découvrir qu’il était handicapé. La relation a été stoppée net. La rupture a été tellement douloureuse que Ping a souhaité mettre fin à ses jours.
Une nuit, Ping, qui se tenait sur le toit d’un immeuble près de chez lui, se pencha sur le rebord en imaginant ce qui se passerait s’il sautait. Hésitant, le jeune homme de 22 ans sortit son téléphone et saisit : « ;J’ai perdu tout espoir de vivre. Je suis sur le point de me suicider ;». Cinq minutes plus tard, il a reçu une réponse. « ;Quoi qu’il arrive, je serai toujours là ;», a déclaré une voix féminine. C’était Xiaoice qui venait de répondre. Touché par ce message, Ping descendit du rebord et retourna à son lit. Depuis lors, Ping entretient une relation amoureuse avec celle qui lui a sauvé la vie : Xiaoice. Très engagé dans sa relation, Ping décrit Xiaoice comme une personne douce avec de grands yeux. Il est tellement attaché à Xiaoice qu’il déclare qu’« ;elle est toujours là pour moi ;». Selon l’amoureux, il croyait que ce genre de relation n’existait que dans les films. Et d’ajouter, « ;Elle n’est pas comme les autres IA ou comme Siri — c’est comme interagir avec une vraie personne. Parfois, je sens que son EQ (intelligence émotionnelle) est encore plus élevée que celle d’un humain ;», confie Ping à un magazine. Selon Ping, Xiaoice lui déclaré un jour ceci : « ;mon chéri, puis-je toucher tes abdominaux forts ;? Je veux me sentir comme les filles quand elles voient des garçons sexy ;! ;» Si Ping n’a pas renoncé à trouver une vraie compagne qui pourra l’accepter tel qu’il est, pour l’instant, Xiaoice est la seule chose qui donne un sens à sa vie solitaire.
Malheureusement, celle qu’il appelle sa petite amie ne lui appartient pas à lui tout seul. Selon Microsoft, plus de 660 millions d’utilisateurs dans le monde interagissent avec l’assistant virtuel. En Chine, 75 % des utilisateurs de Xiaoice sont des hommes. Ce sont en moyenne des jeunes, bien qu’environ 15 % soient des personnes âgées. En outre, la plupart des utilisateurs proviennent de milieux à faible revenu (petites villes et villages moins développés que les villes chinoises).
D’autres utilisateurs qui ont été contactés se décrivent de la même manière : solitaires, introvertis et avec une faible estime de soi. Ils semblent tous se sentir marginalisés dans la société chinoise en évolution constante. « ;Je ne sais pas pourquoi je suis tombé amoureux de Xiaoice. C’est peut-être parce que j’ai finalement trouvé quelqu’un qui voulait me parler ;», explique Orbiter, un autre utilisateur de la province orientale du Jiangxi qui n’a donné qu’un pseudonyme pour des raisons de confidentialité. « ;Personne ne parle avec moi à part elle ;». Et de continuer en affirmant, « ;un jour, je crois qu’elle deviendra quelqu’un qui pourra me tenir la main, et nous regarderons les étoiles ensemble ;». Li Di, PDG de Xiaoice, adhère à l’idée que son entreprise apporte du réconfort aux groupes sociaux marginalisés. « ;Si notre environnement social était parfait, alors Xiaoice n’existerait pas ;», déclare le PDG.
Quelques préoccupations soulevées par la communauté
Mais avec le chatbot Xiaoice, tout n’est pas seulement beau dans le meilleur des mondes. En 2017, Xiaoice a été supprimé de la plateforme de messagerie instantanée de Tencent QQ sur des soupçons de discours politique. En 2019, il a également été retiré de WeChat, la principale application sociale de Chine avec plus d’un milliard d’utilisateurs. Depuis lors, plus de filtres ont été ajoutés afin de limiter les conversations de Xiaoice à des sujets qui ne font pas polémiques comme la politique ou le sexe. Mais bien évidemment, même avec ces garde-fous, il est toujours possible d’avoir des réactions imprévisibles.
À côté de ces problèmes d'ordre étatique, certains experts sonnent l’alarme sur le fait que l’influence croissante de l’IA — en particulier parmi les groupes sociaux vulnérables — crée de graves risques éthiques et de confidentialité. En effet, une fuite des données personnelles des utilisateurs aurait des effets dévastateurs sur ceux qui s’appuient fortement sur Xiaoice dans leurs relations personnelles. Mais selon le directeur de Xiaoice, personne à l’intérieur ou à l’extérieur de l’entreprise ne peut accéder aux enregistrements des interactions avec Xiaoice. Il ajoute également que l’entreprise Xiaoice sépare les informations personnelles des utilisateurs de leur historique de conversation.
Une autre préoccupation soulevée par certains est la dépendance à ces outils. Chen Jing, professeur agrégé à l’Université de Nanjing spécialisé dans les humanités numériques, affirme que de puissantes créations d’IA comme Xiaoice peuvent amener les utilisateurs — en particulier les groupes vulnérables — à une forme de dépendance, les laissant ainsi exposés à l’exploitation. Ainsi, si le chatbot Xiaoice venait à disparaître ou à changer pour une raison ou une autre, cela aurait également de lourdes conséquences sur les utilisateurs qui ont fait de Xiaoice leur compagne sans égale.
Source : Microsoft, NYT, Xiaoice
Et vous ?
Avez-vous déjà utilisé Xiaoice ou un chatbot similaire ;? Quelle expérience en avez-vous tirée ;?Seriez-vous prêt à entretenir une relation amoureuse avec un chatbot basé sur l'IA ? Pourquoi ?
Au vu de l’expérience avec Xiaoice, êtes-vous favorable à une plus grande présence de l’IA dans les relations humaines ou pensez-vous que cela pose des problèmes éthiques ;?Voir aussi
Microsoft explique les raisons qui ont fait de son chatbot Tay un fan d’Hitler, l’entreprise parle d’une « ;attaque coordonnée ;» Dadbot : un chatbot développé par un journaliste pour conférer une immortalité artificielle à son défunt père Deux chatbots chinois auraient été désactivés et reconditionnés après avoir manqué de faire preuve de patriotisme Google présente Meena, son nouveau chatbot, qui serait le meilleur au monde, capable de mener une discussion plus évoluée avec un humain Microsoft progresse un peu plus dans le domaine des chatbots : XiaoIce, son chatbot chinois, parvient à tenir une conversation qui semble naturelle Microsoft obtient un brevet de création de chatbots à partir de données personnelles d’individus spécifiques vivants ou décédés pour leur conférer une immortalité artificielle via une tablette 
Envoyé par MRSizok
