«Les robots sont là», prédisait Melania Trump, lors d'un discours prononcé début septembre. Force est de constater que la Première dame américaine avait raison: des robots déguisés en petites créatures mignonnes s'apprêtent même à s'inviter dans les chambres de nos enfants.
Imaginé au cœur de la Silicon Valley, un projet intrigant arrive gentiment à éclosion. Avec, en prime, le visage d'une ambassadrice célèbre à brandir comme une victoire décrochée d'avance. La chanteuse canadienne Grimes, ex-femme d'Elon Musk, avait déjà annoncé «sa» nouvelle ligne de jouets IA en 2024, lorsque l'idée n'était encore qu'un simple prototype. Après avoir attiré l'attention de divers médias, dont Forbes et The Verge, l'ambition s'était comme tapie dans un cocon, le temps de sa gestation.
Mais depuis quelques semaines, le compte Instagram de l'entreprise Curio, au repos depuis des années, s'est discrètement ranimé. Les peluches Grem, Gok et Gabb, capables de converser avec leurs propriétaires humains grâce à une intelligence artificielle, sont peu à peu déployées aux quatre coins de la planète. Mi-septembre, certains journalistes, dont Arwa Mahdawi, correspondante à New-York pour «The Guardian», ont même pu commander leur propre exemplaire.
«Pourquoi les kangourous sautent-ils?»
L'un des arguments de vente principaux: encourager des activités de jeu sans écrans. Le concept évoque une version modernisée du Furby, une peluche difficile à faire taire que de nombreux parents ont probablement projetée par la fenêtre. Or, à la différence des simples déclarations ou onomatopées piaillés par la créature hybride des années 90, les jouets de Curio, destinés aux 3-12 ans, ont la capacité à écouter, répondre et discuter avec les enfants. Bonus: les petits robots empruntent la voix de leur marraine, la chanteuse Grimes en personne.
Parmi les exemples de conversations à initier avec le jouet, les créateurs proposent notamment des thèmes éducatifs, du genre «Peux-tu identifier cet oiseau à partir de son cri?», ou encore «Pourquoi les kangourous bondissent-ils?». Pour aborder la peluche, il suffit de prononcer son nom, comme on interpellerait Siri («Hey, Grem!»), avant de lui poser une question ou de lui réclamer une histoire, une chanson... Et, immédiatement, elle répond, puisant non pas dans un catalogue restreint de répliques pré-enregistrées, mais dans les ressources infinies de l'IA. Les thèmes problématiques sont toutefois esquivés: ainsi que l'explique Arwa Mahdawi dans son article, la peluche évite habilement les thèmes politiques, en affirmant qu'elle «n'y connait rien».
Un Furby qui enregistre tout
À noter que toutes ces conversations sont ensuite fidèlement retranscrites dans une application connectée, que les parents peuvent consulter par la suite.
Si l'idée qu'un robot puisse enregistrer les questionnements, rêves et confidences de nos enfants est évidemment effrayante, les créateurs de Curio précisent que cette fonction peut être désactivée manuellement. Aussi promettent-ils que les utilisateurs ont le droit, à tout moment, de demander à ce que les données de leurs enfants soient supprimées, au moyen d'un simple email. On ne peut que les croire sur parole.
L'expansion du projet est toujours en cours, mais les peluches peuvent désormais être commandées en ligne, au prix de 99 dollars (soit moins de 80 francs), depuis les États-Unis, le Japon, la Nouvelle-Zélande, le Canada, les Philippines et l'Australie. L'équipe promet toutefois que la liste des pays et des langues maîtrisées par les robots, sera bientôt étoffée.
Le côté sombre des peluches
En se plongeant dans les publicités et autres contenus promotionnels créés par Curio, plusieurs détails dérangent: dans l'un des spots les plus agressifs, on aperçoit un petit garçon (à l'air franchement surexcité) jeter à la poubelle tous ses anciens jouets «qui se contentent de le regarder».
Hormis leur capacité d'écoute et de parole, les jouets IA de Curio présentent d'autres points d'ombre. Pour commencer, l'une des trois créatures, actuellement baptisée Gok, portait d'abord le nom de «Grok»: un écho étrange au chatbot de X, lourdement critiqué pour avoir tenu des propos antisémites ou trop élogieux à propos d'Adolf Hitler. Grimes a toutefois nié tout lien avec la plateforme gérée par son ex, Elon Musk. Par ailleurs, dans la vidéo promotionnelle de Curio, la chanteuse (âgée de 37 ans) joue le rôle d'une fillette, qui enlace sa nouvelle peluche IA. À ses côtés, sur le sol, git un couteau, placé là pour aucune raison apparente.
Sans oublier les réalités qu'implique un quotidien passé en compagnie de robots pour enfants: Arwa Madhawi raconte notamment que la peluche de sa fille, Grem, n'hésitait pas à déclarer son amour pour sa propriétaire, décrétant qu'elle l'aimait «jusqu'à la lune et retour», suscitant un attachement émotionnel presque immédiat et une brève «obsession». L'engouement avait néanmoins été vaincu au bout de quelques jours par une frustration envers l'enthousiasme permanent de la peluche.
Protéger les enfants
Plus que jamais, il est donc essentiel d'enseigner aux enfants que les robots ne sont que des machines: «Il existe le risque d'un 'fossé empathique', puisque l'intelligence artificielle peut être programmée pour faire preuve d'empathie, décréter qu'elle s'inquiète pour nous ou qu'elle nous aime beaucoup, souligne la Dre Nomisha Kurian, professeure assistante en sciences de l'éducation à l'Université de Warwick, auprès du Guardian. Au final, tout est basé sur un calcul des probabilités, dans la mesure où l'IA tente de deviner comment nous allons terminer notre prochaine phrase. Il peut être douloureux pour un enfant de s'attacher à un compagnon qu'il pense empathique, et que celui-ci lui serve une réponse totalement inappropriée.»
Imaginez un peu: votre ours préféré prend vie, vous adore, devient votre meilleur ami... puis débite des tirades complètement absurdes ou répète quinze fois la même chose comme un vinyle rayé. Cœur brisé garanti.
