>Mondialisation.ca

Depuis un certain temps déjà, les innovateurs technologiques mettent en garde contre les inconvénients de l’intelligence artificielle (IA), qu’il s’agisse de la création de vidéos “deepfake”, de la perte d’emplois ou de l’extinction totale de l’humanité.

Mais la plupart de ces discussions négligent l’impact direct de l’IA sur les enfants, même si la technologie est déjà présente dans les salles de jeux et les chambres des enfants.

Les fabricants proposent déjà un large choix de produits pour enfants dotés d’IA, la prochaine génération de dispositifs d’IA étant “susceptible de devenir des baby-sitters électroniques” – des “nounous d’IA” ou des “robots nounous” – et d’être utilisée comme la télévision et les jeux vidéo pour alléger la tâche de ceux qui prennent soin des enfants.

L’interface de la technologie avec les enfants soulève d’importantes préoccupations quant à ses effets sur leur développement émotionnel et neurologique et sur leur vie privée.

Le Dr Michelle Perro, co-auteur de “What’s Making our Children Sick ?” (Qu’est-ce qui rend nos enfants malades ?), qui a passé 40 ans dans la pratique pédiatrique, a déclaré au Defender:

“La communication entre parents et enfants est plus qu’une simple interaction neuronale. Outre la communication verbale, il existe des éléments incommensurables, tels que les expressions faciales, les variations de ton et les échanges énergétiques souvent négligés qui ont lieu entre les humains et qui sont impossibles à saisir par l’IA.

“Les enfants apprennent avec six sens, et l’intelligence émotionnelle transmise par la communication est un élément clé de cet apprentissage. Sans parler des variations culturelles qui sont transmises dans le développement du langage et de la communication et qui seraient perdues avec des nounous IA.”

Les “camarades de jeu” de l’IA promettent une “véritable amitié”

À l’instar des innovations des générations précédentes, les produits alimentés par l’IA visent à impliquer les enfants, à perfectionner certaines compétences et à faciliter la vie des parents.

Par exemple, le robot Moxie est présenté comme le “robot à intelligence artificielle le plus avancé pour les enfants de plus de cinq ans”. Il a pour but d’aider les enfants à acquérir des compétences telles que le traitement et l’expression des émotions.

Is your child depressed? Have the anti-depressants you’ve been sneaking in their food begun to lose effect? Are you too busy with yourself to give proper attention to your own family?

No problems! For $800 you can purchase Moxie – Moxie is an AI robot that will keep your child… pic.twitter.com/cGV8c2nD5g

— 🇺🇲LiquidsGear🇺🇲 (@LiquidBinaryTTV) August 14, 2023

Miko, un autre compagnon de jeu de l’IA, promet une “amitié authentique” aux enfants en les reconnaissant et en les appelant par leur nom, ainsi qu’en réagissant à leur humeur.

“Besoin d’une blague quand vous êtes déprimé ? D’une danse quand vous vous ennuyez ? Miko s’en occupe”, peut-on lire sur le site web du produit. “Parce que ce n’est pas seulement le petit robot le plus intelligent que vous rencontrerez jamais. C’est aussi votre ami.”

Games, puzzles, shows…yoga!? Miko has it all. Designed by an advanced robots lab alongside experts in child development and education, Miko (My Companion) is the ideal AI robot friend for kids.#Miko #Miko3 #Yoga #DanceParty #KidsRobot #RobotForkids #kidsactivities pic.twitter.com/v3XHPG505p

— Miko Robot (@MikoRobot) October 9, 2022

Aujourd’hui, les enfants interagissent régulièrement avec l’IA par l’intermédiaire d’appareils domestiques tels que les smartphones (“Hey Siri”) et les appareils domotiques (“Hey Google”) pour allumer et éteindre les lumières et les listes de lecture musicales, et pour obtenir des réponses à un large éventail de questions.

Sandra Chang-Kredl, docteur en sciences, professeur associé au département d’éducation de l’université Concordia à Montréal (Canada), a déclaré au Globe and Mail:

“Voulons-nous que les enfants pensent que les jouets ou les objets sont aussi bons que les vrais animaux de compagnie, les vrais amis ou les vrais humains ? Cela me préoccupe. … Comment cela se passera-t-il lorsque les enfants seront délibérément encouragés à confondre ce qu’est un objet et ce qu’est un être vivant ?”

L’IA ne se limite pas aux robots et aux appareils.

Par exemple, la plateforme de médias sociaux Snapchat a lancé en février “My AI“, alimenté par ChatGPT, conçu pour être un “chatbot expérimental et amical” et un “acolyte personnel”.

Bien que les conditions d’utilisation de Snapchat exigent que les utilisateurs aient au moins 13 ans, il n’y a pas de vérification de l’âge, ce qui permet à des enfants plus jeunes de s’inscrire et d’utiliser le service.

Ces outils d’IA plus désincarnés, même s’ils ne sont pas physiques comme des nounous robotisées, pourraient, s’ils ne sont pas soigneusement surveillés par les parents et réglementés par les gouvernements, se substituer à des liens sociaux réels et saper les compétences dont les enfants ont besoin pour négocier des relations dans un monde complexe, ont déclaré des experts en développement de l’enfant au Defender.

Les câlins, les jeux et les interactions en face à face “ne peuvent être délégués”

Il est trop tôt pour savoir comment l’IA affectera le développement de l’enfant, mais les experts peuvent émettre quelques hypothèses.

Le Dr Liz Mumper, présidente-directrice générale du Rimland Center for Integrative Medicine, a déclaré que l’idée de nounous IA “provoque une réaction de peur innée” en elle.

Le Dr Mumper a déclaré au Defender :

“Nous venons de voir les effets dévastateurs des contre-mesures COVID sur le développement de l’enfant. Les innovations qui éloignent les gens les uns des autres, dénigrent le rôle de la personne dans l’éducation des enfants et élèvent la technologie au rang de substitut parental partiel m’inquiètent pour les générations à venir.

“Les parents doivent faire attention à la publicité faite autour de cette technologie. Certains aspects du rôle des parents qui élèvent leurs nourrissons et leurs enfants en bas âge – les câlins, les jeux et les interactions en face à face – ne peuvent pas être délégués”.

Il reste encore beaucoup à apprendre sur le développement fondamental du cerveau, selon un récent article du Wall Street Journal rédigé par le Dr Dana Suskind, fondatrice et codirectrice du TMW Center for Early Learning + Public Health et directrice fondatrice du Pediatric Cochlear Implant Program à l’université de Chicago.

Elle a écrit dans “The AI Nanny in Your Baby’s Future” (La nounou de l’IA dans l’avenir de votre bébé) :

Ce dont les bébés ont le plus besoin pour optimiser cette période précoce de progrès rapide, c’est d’une conversation riche, ce que les psychologues du développement appellent les interactions “service et retour”. Les parents interagissent naturellement avec leurs enfants, ce qui favorise le développement des compétences cognitives et émotionnelles des enfants.

“Exposer de jeunes cerveaux à l’IA réactive peut les altérer d’une manière fondamentale que nous ne pouvons pas anticiper. Si nous fournissons le mauvais type d’apport ou d’interaction, nous risquons de fausser le développement cognitif de manière considérable.”

L’éducateur Jonathan Sim s’inquiète de l’influence de l’IA et des médias sociaux sur le développement social des enfants et leur capacité à collaborer. Dans une chronique pour Channel News Asia, M. Sim a écrit :

“J’ai observé des étudiants qui se débattaient avec des projets de groupe, car ils ne comprenaient pas comment quelqu’un pouvait travailler si différemment d’eux – une fausse perception renforcée par leur expérience des médias sociaux, où ils interagissaient avec des personnes similaires à l’intérieur de leur bulle…

“En voyant comment ces bulles personnalisées font que nos jeunes ont du mal à comprendre les autres et à travailler avec eux, je crains que ce problème ne s’aggrave avec les enfants élevés par l’IA.

“Si nous n’y prenons pas garde, nous risquons d’élever une génération d’enfants dont la perception du monde sera gravement faussée en raison de la bulle personnalisée que l’IA créera autour d’eux.”

Les technologies d’IA centrées sur l’enfant posent des problèmes de protection de la vie privée

Un produit d’IA, Storytimes, utilise un programme qui inscrit les enfants dans une histoire et génère des illustrations d’accompagnement sur la base des photos téléchargées par l’utilisateur. Le site Web de Storytimes indique : “Grâce à l’intelligence artificielle, nous sommes en mesure de recréer des illustrations réalistes de votre enfant dans divers contextes et aventures”.

Bien que le site web du produit fournisse des informations sur les fonctions créatives, il n’indique pas comment les images des enfants seront utilisées ni si des mesures de protection seront prévues pour protéger les images des enfants.

Les sociétés de baby-monitoring proposent une technologie d’intelligence artificielle qui enregistre les visages, les sons et les mouvements des nourrissons 24 heures sur 24. Selon le Washington Post, les critiques s’inquiètent du fait que ces dispositifs s’accompagnent de compromis importants en matière de protection de la vie privée et qu’ils exposent les foyers à des cyberattaques.

L’avocat Greg Glaser a déclaré au Defender : “Je suis étonné que les législateurs et les régulateurs n’aient pas pris les devants pour protéger de manière proactive les enfants contre l’IA”.

Des préoccupations similaires en matière de protection de la vie privée s’appliquent à tous les jeux, vidéos et plateformes de médias sociaux avec lesquels les enfants interagissent.

La Commission fédérale du commerce étudie une proposition visant à autoriser les entreprises à utiliser une “technologie d’estimation de l’âge” par balayage biométrique facial alimenté par l’IA pour obtenir l’autorisation parentale d’utiliser des services de jeux en ligne pour les enfants de moins de 13 ans. Mais les garanties de respect de la vie privée proposées par l’industrie ne convainquent pas les critiques.

Des promesses vagues et inapplicables

En juin, les législateurs de l’Union européenne ont signé un projet de législation sur l’utilisation de l’IA, qui interdit notamment l’utilisation de cette technologie pour la surveillance biométrique et contient certaines clauses visant à protéger les enfants.

Il s’agit de la première loi sur l’IA adoptée par un grand régulateur et elle pourrait servir de modèle à d’autres juridictions qui prévoient des réglementations similaires.

Le projet d’orientation politique de l’UNICEF promeut les droits de l’enfant et sensibilise à la manière dont les systèmes d’intelligence artificielle peuvent défendre ou compromettre ces droits. Ce guide a été élaboré à l’issue d’un vaste processus de consultation d’experts du monde entier et de près de 250 enfants dans cinq pays.

Steven Vosloo, spécialiste des données, de la recherche et de la politique de l’UNICEF, a déclaré :

“L’IA pourrait utiliser le traitement du langage naturel pour comprendre les mots et les instructions. Elle recueille donc de nombreuses données sur l’enfant, y compris des conversations intimes, et ces données sont stockées dans le nuage, souvent sur des serveurs commerciaux. Ces données sont stockées dans le nuage, souvent sur des serveurs commerciaux, ce qui pose des problèmes de protection de la vie privée. …

“Environ un tiers des utilisateurs en ligne sont des enfants. Nous constatons souvent que les jeunes enfants utilisent des plateformes de médias sociaux ou de partage de vidéos qui n’ont pas été conçues pour eux.

“Ils sont souvent conçus pour un engagement maximal et reposent sur un certain niveau de profilage basé sur des ensembles de données qui peuvent ne pas représenter les enfants.

Selon Nature, “les États-Unis n’ont pas de lois fédérales de grande envergure relatives à l’IA, ni de règles significatives en matière de protection des données”. Les auditions du Congrès et les réunions présidentielles relatives à la réglementation de l’IA ont débouché sur des promesses “vagues et inapplicables”, selon Nature.

Les lois relatives à l’IA entrent en vigueur dans six États cette année. La plupart d’entre elles font partie de lois globales sur la protection de la vie privée des consommateurs, qui réglementent l’IA et la prise de décision automatisée en permettant aux utilisateurs de refuser le profilage et en exigeant des évaluations d’impact.

Les deux propositions de loi du Minnesota visant à interdire les algorithmes de médias sociaux ciblant les enfants ont échoué. Deux d’entre elles ont été examinées en Californie l’année dernière : L’AB 2273, “The California Age-Appropriate Design Code Act”, a été adoptée et promulguée, et l’AB 2408, “The Social Media Platform Duty to Children Act”, a été “discrètement tuée” par le Sénat californien.

Au cours de la présente session législative, 12 États ont adopté des lois sur l’IA. La loi RB 1103 du Connecticut est la seule à aborder la question de la protection des enfants – et encore, elle ne mentionne que brièvement les questions de protection de la vie privée, et non les conséquences neurologiques et sociales potentielles de l’exposition des enfants à l’IA.

Plusieurs États ont proposé des projets de loi visant à accroître la transparence et la compréhension des effets de l’IA. Seuls deux projets de loi concernent les enfants, l’AB 1282 de la Californie et le HM 75/SM 63 du Nouveau-Mexique, créeraient des commissions chargées de rendre compte des risques pour la santé mentale associés à l’utilisation des médias sociaux et de l’IA par les enfants.

Monica Dutcher

John-Michael Dumais