Les normes éthiques des enfants peuvent nous aider à construire une IA centrée sur l’humain

• Une enquête auprès de centaines d’enfants néerlandais a révélé ce qu’ils pensent du rôle que l’intelligence artificielle devrait jouer dans notre société à l’avenir. IA centrée sur l’humain. La majorité des enfants interrogés ne seraient pas dérangés par le fait d’avoir un robot vendeur, mais ils s’abstiennent d’avoir un médecin ou un policier spécialisé dans l’IA.

Les enfants peuvent jouer un rôle étonnamment informatif dans le développement de l’intelligence artificielle (IA) et de la société, mais cela doit être fait correctement. Les compétences relationnelles et intuitives des enfants sont nécessaires pour faire l’expérience de la vie et grandir dans leurs relations humaines. Bien que les jeunes enfants soient peut-être moins conscients des systèmes d’IA, ils sont très conscients de leurs relations humaines. En s’appuyant sur leurs compétences relationnelles avec les humains, les enfants peuvent nous aider à comprendre comment tracer des limites éthiques, sociales et centrées sur l’humain lorsqu’ils interagissent avec l’IA . Ce potentiel, unique dans l’enfance, peut aider à nous informer sur ce que signifie réellement avoir une société centrée sur l’humain. Cependant, la participation significative des enfants au développement de l’IA et au dialogue public est à la traîne. Impliquer les enfants dans ce changement sociétal devrait également signifier les engager dans un dialogue intergénérationnel sur les impacts des systèmes d’IA dans leur vie. L’adoption rapide et généralisée des modèles d’IA générative a montré que les innovations des systèmes basés sur l’IA affecteront inévitablement la vie humaine. L’expérimentation de l’imitation des compétences humaines est déjà en cours, les systèmes d’IA surpassant souvent les gens à une échelle sans précédent.

L’étude représentative de 374 enfants âgés de 4 à 16 ans, le plus grand groupe de répondants ayant entre 6 et 13 ans, a fourni des informations importantes. Les enfants ont partagé leur enthousiasme et leurs préoccupations concernant ce que les systèmes d’IA signifient actuellement et pourraient signifier dans leur vie quotidienne et leur avenir. En les engageant dans des expériences de pensée sur des robots sociaux assumant des rôles sociaux dans différents domaines qui leur sont familiers, plus de la moitié – 55,3% – des enfants pouvaient imaginer et voulaient l’aide d’un vendeur de robots dans les magasins, tandis que 41% n’aimaient pas l’idée . La majorité pensait que les robots pouvaient surpasser les humains en tant que vendeurs. Les vendeurs de robots étaient préférés par les enfants pour leur sang-froid perçu et leur potentiel à surpasser les humains dans leurs tâches. Parmi ces enfants moins enclins à opter pour des vendeurs de robots, la majorité ont déclaré qu’ils manqueraient de caractéristiques humaines.« Non, car presque tous les vendeurs pourraient perdre leur emploi et vous ne pouvez pas discuter gentiment avec un robot et les vraies personnes sont beaucoup plus gentilles. » — Fille, 7 ansLorsqu’on leur a demandé si un policier pouvait être un robot, 54,8% étaient contre et 41,5% pour. Le groupe qui s’est opposé à l’idée pensait que l’application de la loi robotique pourrait menacer leur sécurité. La plupart des enfants pensent qu’un médecin robot est une mauvaise idée : 61,3 %, contre 35,3 % qui aimeraient interagir avec un robot.« Non, alors tout va mal et ils ne peuvent pas courir aussi vite. Supposons que quelqu’un se soit fait tirer dessus et que le robot dise : « Puis-je vous aider avec quelque chose » et « S’il vous plaît, restez calme ». » — Fille, 12 ans « Un robot médecin généraliste pourrait transmettre de l’électricité quand il me touche et un médecin humain ne le fait pas. » — Garçon, 8 ans

Un robot peut-il être votre ami ?

Lorsqu’on leur a demandé si un robot pouvait devenir un ami, ils ont indiqué qu’il leur manquerait des caractéristiques, des compétences et des valeurs humaines dans leurs interactions. Ceux-ci ne doivent pas être perdus dans le développement des systèmes d’IA. L’IA doit servir l’humanité, où les humains ont le contrôle et, surtout, se distinguent de l’IA. Les enfants voient l’IA comme une solution aux problèmes socialement pertinents. Par exemple, un robot qui aide les enfants dyslexiques ou un autre qui pêche du plastique dans l’océan. Mais aucun robot ne peut assumer le rôle primordial d’un ami. L’amitié est clairement au-delà de toute relation « fonctionnelle », principalement en raison du manque de caractéristiques humaines, de compétences, de valeurs et d’autres aspects relationnels du contact humain.« Si un robot était fait pour être mon ami, il n’apprendrait que de moi. Alors comment puis-je savoir comment rendre les autres heureux ou ce qu’est la tristesse ? Comment puis-je apprendre et m’adapter si je n’apprends ce que je fais que d’un ami robot ? » — Fille, 8« Si les robots pouvaient avoir de l’humour et des sentiments humains, cela pourrait être possible. » — Garçon, 12 ans

Les opinions des enfants révèlent des valeurs éthiques et sociales

Les résultats de l’enquête peuvent être résumés en huit normes clés que les enfants exigeraient pour l’IA – et leurs espoirs pour une IA et une société centrées sur l’humain à l’avenir :1. Alphabétisation humaine — « Les robots manquent de qualités humaines »2. Intelligence émotionnelle — « Les robots n’ont pas d’émotions »3. Amour et gentillesse — « Les robots ne donnent pas d’amour »4. Authenticité — « Les robots n’ont pas d’opinion propre »5. Soins et protection de l’humain — « Les robots ne peuvent offrir consolation et confort »6. Autonomie — « Les robots ne doivent pas conquérir le monde »7. L’IA en service — « Les robots doivent m’aider »8. Exubérance — « Les robots devraient pouvoir jouer avec moi »

Intégrer les points de vue des enfants dans les cadres d’IA

Des études montrent que, dans un monde où les évolutions technologiques se présentent comme indispensables, un dialogue large et intergénérationnel est indispensable. Les développements technologiques tels que l’IA, l’Internet des objets et bien d’autres nécessitent de s’engager dans ce que signifie l’IA centrée sur l’humain et ce que signifie être une société centrée sur l’humain. Les enfants peuvent contribuer à des normes éthiques et sociales que les adultes ne prennent souvent pas en compte. Le EnfantsDroits Le rapport se termine par des recommandations sur la façon dont les normes relatives aux enfants sont des ressources indispensables pour une IA et une société centrées sur l’humain. Ils peuvent éclairer les cadres normatifs descendants pertinents pour l’IA, tels que, par exemple, le Liste d’évaluation du groupe d’experts de haut niveau sur l’IA digne de confiance développé par le groupe d’experts de haut niveau de l’UE sur l’IA digne de confiance ; Orientations politiques de l’UNICEF sur l’IA et les enfants ;Recommandations de l’UNESCO sur l’éthique des principes de l’intelligence artificielle; le Code néerlandais des droits de l’enfant ou la Boîte à outils sur l’intelligence artificielle pour les enfants du Forum économique mondial.L’impact de l’IA sur le monde et ceux qui y vivent n’est pas encore clair. En impliquant les enfants dans la conversation et en écoutant leurs points de vue, nous pouvons nous assurer que les caractéristiques fondamentales de l’humanité telles que l’empathie, l’amour et l’espièglerie ne sont pas laissées de côté alors que le prochain grand