Qu’est-ce que l’« IA causale » et pourquoi deviendra-t-elle de plus en plus importante ?

• Les gouvernements se précipitent pour réglementer l’IA. La transparence, la sécurité et l’équité sont les principaux domaines d’intérêt des réglementations proposées sur l’IA.

Le gouvernement britannique a récemment publié un papier blanc décrivant son approche de la réglementation de l’IA. L’objectif du document est de « s’assurer que des garde-fous sont en place autour de l’utilisation des technologies d’IA, tout en permettant à l’innovation de se poursuivre et aux avantages de se faire sentir partout ». L’approche est tout à fait alignée sur les objectifs de l’UE Loi sur l’intelligence artificielle (IA)comme indiqué dans un ordre du jour précédent articleainsi que les récents annonces de la Maison Blanche. La plupart des réglementations tentent de résoudre des problèmes fondamentaux similaires avec l’IA. Nous utiliserons le Royaume-Uni comme exemple des principaux domaines d’intérêt pour la réglementation de l’IA. Il y a cinq principes clés :1. Sûreté, sécurité et robustesse2. Transparence et explicabilité3. Équité4. Responsabilité et gouvernance5. Contestabilité et réparationPour les entreprises qui cherchent à utiliser l’IA pour leurs décisions les plus importantes, cela deviendra un ensemble d’exigences de plus en plus difficile à gérer, en particulier avec l’ensemble actuel d’approches d’IA en boîte noire. Même les domaines les plus passionnants, tels que l’IA générative, y compris les grands modèles de langage (LLM), sont loin de répondre à ces exigences. Récemment, par exemple, ChatGPT a donné de mauvais conseils sur le cancer du sein, ce qui aurait pu avoir un impact significatif si cela avait été utilisé pour la prise de décision. Ainsi, les entreprises qui souhaitent profiter de l’ensemble des avantages que l’IA peut offrir peuvent avoir besoin de regarder plus largement.

Qu’est-ce que l’IA causale ?

L’IA causale est un domaine émergent du domaine plus large de l’IA. Il s’aligne naturellement très bien avec les principes ci-dessus. L’idée clé derrière Causal AI est d’apprendre les relations de cause à effet dans les données et de les utiliser pour informer la sortie des modèles d’IA. Ceci est très différent de l’approche adoptée par les modèles ML de pointe actuels, tels que les LLM : consommez beaucoup de données, apprenez les modèles et prédisez le modèle suivant. L’IA causale est un domaine émergent du domaine plus large de l’IA. Il s’aligne naturellement très bien avec les principes ci-dessus. L’idée clé derrière Causal AI est d’apprendre les relations de cause à effet dans les données et de les utiliser pour informer la sortie des modèles d’IA. Ceci est très différent de l’approche adoptée par les modèles ML de pointe actuels, tels que les LLM : consommez beaucoup de données, apprenez les modèles et prédisez le modèle suivant. Une façon de penser aux LLM est qu’au lieu de fournir une réponse à une question, ce qu’ils vous disent réellement est « quand les gens posent des questions comme celle-ci, voici à quoi ressemblent les réponses que les autres donnent habituellement ». Cela explique pourquoi les LLM ont tendance à « halluciner » lorsqu’on leur demande des informations factuelles. Les LLM et autres modèles génératifs peuvent améliorer considérablement la productivité lorsqu’ils sont utilisés, par exemple, pour améliorer un texte existant ou générer une œuvre d’art. Mais l’utilisation de ces outils pour des décisions critiques au sein de l’entreprise est un défi important et il est peu probable qu’elle respecte les nouvelles réglementations. En revanche, les modèles d’IA causale sont intrinsèquement explicables en raison de la manière dont ils sont construits. Ils peuvent être interrogés pour obtenir des explications sur la raison pour laquelle un résultat particulier a été atteint et peuvent facilement être évalués pour l’équité et la partialité. De plus, les modèles sont souvent construits avec une approche guidée par l’homme assurant la responsabilité, la gouvernance, la contestabilité et la réparation.

L’ensemble d’outils Causal AI en est un dont les entreprises peuvent bénéficier de manière significative. L’IA causale est également apparue récemment sur le Gartner® Hype Cycle™ pour les technologies émergentes, 2022.Les types de questions auxquelles les modèles d’IA causale sont bien placés pour répondre incluent : • Dois-je approuver ou rejeter cette demande de prêt et si oui, pourquoi ? • Qu’est-ce qui provoque le désabonnement de mes clients et quelles actions puis-je entreprendre pour qu’ils restent ? • Qu’est-ce qui a causé ce problème dans mon usine de fabrication et quelles mesures puis-je prendre pour éviter de futurs problèmes ? Voici des exemples d’endroits où Causal AI est déployé aujourd’hui :

Soins de santé

L’IA causale peut aider à identifier les causes et les effets de diverses conditions médicales et des résultats de traitement. Par exemple, il peut simuler l’impact de différentes interventions de traitement sur les résultats des patients, permettant aux professionnels de la santé d’évaluer l’efficacité des options de traitement alternatives et de prendre des décisions éclairées concernant les soins aux patients.

Finance

L’IA causale peut aider à l’évaluation des risques et à la prise de décision au sein du secteur financier. Il peut analyser les relations causales entre les facteurs économiques, les événements du marché et les résultats des investissements. Par exemple, il peut fournir des informations sur les causes de la volatilité des marchés, évaluer l’impact des changements réglementaires sur les marchés financiers et aider à identifier les facteurs qui contribuent aux activités frauduleuses.

Fabrication

L’IA causale peut être utilisée pour optimiser les processus de fabrication et prévenir les problèmes. Il peut simuler les effets des ajustements de processus, des mises à niveau d’équipement ou des modifications de la chaîne d’approvisionnement afin d’identifier les interventions les plus efficaces pour améliorer la qualité des produits, réduire les défauts et optimiser l’efficacité de la production.

Expérience client

L’IA causale peut jouer un rôle crucial dans la compréhension du comportement des clients et l’amélioration de la satisfaction. Il peut identifier les facteurs de désabonnement des clients, déterminer les facteurs de causalité derrière les préférences des clients et suggérer des interventions personnalisées pour améliorer l’expérience client. Cela peut aider les entreprises à adapter leurs produits, services et stratégies de marketing pour répondre plus efficacement aux besoins des clients.

Pourquoi l’IA causale deviendra-t-elle de plus en plus importante ?

Les entreprises qui souhaitent devenir entièrement axées sur les données, tout en respectant les réglementations nécessaires, doivent utiliser toute la gamme des techniques d’IA disponibles. L’IA générative devrait en faire partie, mais elle ne couvre pas l’ensemble des cas d’utilisation où les entreprises peuvent faire une réelle différence. Causal AI permettra aux entreprises de commencer à créer des solutions pouvant être utilisées pour leurs tâches les plus critiques, y compris les décisions qui ont un fort impact sur leurs clients et la société au sens large.GARTNER est une marque déposée et une marque de service de Gartner, Inc. et/ou de ses filiales aux États-Unis et dans le monde, et HYPE CYCLE est une marque déposée de Gartner, Inc. et/ou de ses filiales et sont utilisées