Comment l’IA générative affectera-t-elle les enfants ? Le besoin de réponses n’a jamais été aussi urgent

• Les enfants utilisent l’IA générative, mais la cachent souvent aux enseignants et aux parents. L’IA générative présente de nombreux avantages, mais il existe également de nombreuses questions sans réponse et des risques pour les enfants. Diverses parties prenantes doivent agir pour comprendre l’impact potentiel que l’IA générative aura sur les enfants. à mesure qu’ils grandissent avec son omniprésence croissante.

L’intelligence artificielle (IA) générative, telle que celle qui alimente ChatGPT, a propulsé les algorithmes et l’analyse des données de l’IA des coulisses au devant et au centre de nos expériences numériques. Désormais, les enfants l’utilisent quotidiennement, qu’il s’agisse d’aider aux devoirs ou de prendre des décisions concernant leur garde-robe. Cette adoption rapide a attisé le débat sur les implications plus larges de l’IA. Et même si l’IA générative présente des avantages, elle présente des défis récurrents, tels que les biais algorithmiques et l’opacité du système. Cela peut même amplifier des problèmes tels que des résultats imprévisibles ou en introduire de nouveaux. Étant donné que les enfants et les jeunes constituent la plus grande cohorte démographique passant du temps en ligne et étant donné le rythme de développement et d’adoption de l’IA générative, il est crucial de comprendre les impacts de l’IA générative sur les enfants.

IA générative, un sous-ensemble d’apprentissage automatique de l’IA, apprend à partir de grandes quantités de données pour découvrir des modèles et générer de nouvelles données similaires. Il est souvent utilisé pour produire du contenu imitant la production humaine – qu’il s’agisse de textes, d’images ou même de codes informatiques – mais il peut également accomplir des tâches de planification complexes, soutenir le développement de nouveaux médicaments et Améliorez la performance des robots d’une manière sans précédent. Nous ne savons pas combien d’enfants utilisent l’IA générative, mais les premières enquêtes suggèrent qu’ils sont plus nombreux que les adultes. Un petit sondage réalisé aux États-Unis a révélé que même si seulement 30 % des parents avaient utilisé ChatGPT, 58% de leurs enfants de 12-18 ans l’avait fait et l’avait caché aux parents et aux enseignants. Dans une autre enquête américaine, de jeunes adultes qui connaissaient ChatGPT ont déclaré l’utiliser. plus que leurs homologues plus âgésL’IA fait déjà partie de la vie des enfants sous la forme d’algorithmes de recommandation ou de systèmes de prise de décision automatisés, et l’adoption par l’industrie de l’IA générative indique qu’elle pourrait rapidement devenir une caractéristique clé de l’environnement numérique des enfants. Il est intégré de diverses manières, notamment via des assistants numériques et personnels et des aides aux moteurs de recherche. Les plateformes populaires auprès des enfants, comme Snapchat, ont déjà intégré des chatbots IA. En même temps, Méta-plans d’ajouter des agents IA à sa gamme de produits utilisés quotidiennement par plus de 3 milliards de personnes, dont Instagram et WhatsApp.

L’IA générative offre des opportunités potentielles, telles que l’aide aux devoirs, des explications faciles à comprendre de concepts difficiles et des expériences d’apprentissage personnalisées qui peuvent s’adapter au style et à la vitesse d’apprentissage d’un enfant. Les enfants peuvent utiliser l’IA pour créer de l’art, composer de la musique et écrire des histoires et des logiciels (sans ou avec peu de compétences en codage), favorisant ainsi la créativité. Les enfants handicapés peuvent interagir et co-créer avec les systèmes numériques de nouvelles manières grâce au texte, à la parole ou aux images. Étant donné que les enfants utilisent directement les systèmes, l’IA générative pourrait aider à détecter précocement les problèmes de santé et de développement. Indirectement, les systèmes d’IA générative peuvent fournir un aperçu des données médicales pour soutenir les progrès dans le domaine des soins de santé. Plus largement, les capacités d’analyse et de génération peuvent être appliquées dans divers secteurs pour améliorer l’efficacité et développer des solutions innovantes qui ont un impact positif sur les enfants.

Risques de l’IA générative pour les enfants

Mais l’IA générative pourrait également être utilisée par de mauvais acteurs ou causer par inadvertance des dommages ou des perturbations à l’échelle de la société au détriment des perspectives et du bien-être des enfants. Il a été démontré que l’IA générative crée instantanément une désinformation textuelle impossible à distinguer de celle des enfants. plus convaincant que le contenu généré par l’homme. Les images générées par l’IA sont impossible de distinguer provenant de visages réels – et, dans certains cas, perçus comme plus dignes de confiance que – (voir Figure 1). Ces capacités pourraient augmenter l’échelle et réduire le coût d’opérations d’influence. Les enfants sont particulièrement vulnérables aux risques de mésinformation car leurs capacités cognitives sont encore en développement.

De plus, compte tenu des préjugés inhérents à de nombreux systèmes d’IA, comment ceux-ci pourraient-ils façonner la vision du monde d’un enfant ? Les experts préviennent que les chatbots prétendent être sans danger pour les enfants peut nécessiter des tests plus rigoureux. Et puis, alors que les enfants interagissent avec les systèmes d’IA générative et partagent leurs données personnelles lors de conversations et d’interactions, qu’est-ce que cela signifie pour la vie privée et la protection des données des enfants ? L’Australie Commissaire à la sécurité électronique estime que dans ce contexte, il convient de réfléchir davantage à la collecte, à l’utilisation et au stockage des données relatives aux enfants, notamment à des fins commerciales.

Des impacts à grande échelle

Certains résultats potentiels offrent à la fois des opportunités et des risques. Nous ne savons pas, par exemple, dans quelle mesure l’IA générative perturbera la future vie professionnelle des enfants. Il pourrait remplacer des emplois clés tout en en introduisant de nouveaux. Cela est pertinent quant à la manière et au type d’éducation dispensée aux enfants aujourd’hui. Même si les opportunités et les risques vont bien plus loin, ces exemples illustrent les vastes implications de l’IA. Étant donné que les enfants utiliseront les systèmes d’IA tout au long de leur vie, les interactions au cours de leurs années de formation pourraient avoir des conséquences durables, soulignant la nécessité d’une approche avant-gardiste de la part des décideurs politiques, des organismes de réglementation, des développeurs d’IA et des autres parties prenantes.

La nécessité d’agir

Pour commencer, les ressources existantes en matière d’IA fournissent aujourd’hui de nombreuses orientations pour une IA responsable. Par exemple, l’UNICEF Orientation politique sur l’IA pour les enfants a neuf exigences pour faire respecter les droits des enfants dans les politiques et pratiques de l’IA et dans les recommandations du Forum économique mondial. Boîte à outils IA pour les enfants fournit des conseils aux entreprises technologiques et aux parents. Mais les progrès de l’IA générative signifient que les politiques existantes doivent être interprétées dans de nouveaux contextes, et que de nouvelles orientations et réglementations devront peut-être être élaborées. Les décideurs politiques, les entreprises technologiques et tous ceux qui œuvrent pour protéger les enfants et les générations futures doivent agir de toute urgence. Ils devraient soutenir la recherche sur les impacts de l’IA générative et s’engager dans une démarche prospective – y compris avec les enfants – pour de meilleures réponses anticipatives en matière de gouvernance. Il faut une plus grande transparence, un développement responsable de la part des fournisseurs d’IA générative et un plaidoyer en faveur des droits des enfants. Efforts au niveau mondial pour réglementer l’IAcomme l’a demandé le secrétaire général de l’ONU, António Guterres, aura besoin du plein soutien de tous les gouvernements.