Qu’est-ce qu’une IA éthique ?

Aujourd’hui, les algorithmes d’IA sont présents partout et au quotidien dans notre vie. La création d’un contenu personnalisé sur les réseaux sociaux, la conduite automatique, l’élaboration automatique d’un diagnostic médical ou encore une conversation avec un chatbot, sont des exemples concrets de cas d’usages de l’IA qui sont devenus “normaux”. L’utilisation de ces technologies se multiplient, entraînant une quantité de données astronomiques à gérer et une consommation énergétique importante, qui soulève de nombreuses questions liées à l’éthique. Mais alors, comment définir l’éthique dans l’IA ? Quels sont ses enjeux et ses limites ? Retour sur le webinar organisé par Numeum au sujet de la place de l’éthique dans l’IA, une table ronde animée par des experts dans ce domaine, à laquelle Célia Doreau, associée et CSO chez Golem.ai à participé.

Les enjeux éthiques fondamentaux de l’IA

La notion d’éthique dans l’IA passe par une remise en question constante et profonde de la technologie, ainsi que de ses impacts sur les individus et la société. L’objectif est de trouver un juste équilibre entre performances et inclusivité, afin de créer une IA au service de l’humain et du bien commun. Pour encadrer le sujet, il existe des label IA, proposés par différents organismes comme Adelia (basé sur 44 critères spécifiques en termes d’IA éthique) ou Numeum par exemple. Ces labels permettent de certifier la qualité éthique d’une technologie.

« Les innovations viennent de la diversité, il faut souvent être à contre-courant de ce qui se fait traditionnellement. Proposer un angle plus humain, plus inclusif lorsque l’on développe de nouveaux services ou technologies devient un avantage. Cela permet de détenir des outils différenciants… et donc de se différencier. »

Célia Doreau, CSO et associée chez Golem.ai

Le CNIL dans son rapport publié en 2017, aborde une réflexion sur les enjeux éthiques des algorithmes et de l’IA qui à permis de dégager 2 principes fondamentaux :

Le principe de loyauté : “Tout algorithme, qu’il traite ou non des données personnelles, doit être loyal envers ses utilisateurs.”

Le principe de vigilance : “Il s’agit d’organiser une forme de questionnement régulier, méthodique et délibératif à l’égard de ces objets mouvants.”

Téléchargez notre livre blanc

l’IA symbolique nativement éthique 

Contrairement au machine learning (ML) ou au deep learning (DL), l’IA symbolique est, de par son approche et son essence, une technologie éthique. La transparence est l’une de ses caractéristiques fondamentales. Elle est explicable dans toutes les étapes de traitement d’une donnée, il n’y a donc pas d’effet “boîte noire” pouvant entraîner des biais, des discriminations ou des exclusions par exemple. Cette singularité permet d’expliquer les erreurs, de justifier les décisions, et de démontrer les résultats de l’IA, aussi bien pour les concepteurs, que les utilisateurs de cette technologie.

La souveraineté est aussi un aspect propre à l’IA symbolique. La protection, le stockage, l’exploitation et l’utilisation des données confidentielles des clients sont encadrées par le projet européen de loi RGPD. Cette réglementation permet de préserver la souveraineté des clients et des données, vis-à-vis des organismes propriétaires de cette technologie. Par ailleurs, certains secteurs comme la santé, la défense ou le transport ont besoin d’un contrôle intégral de la technologie qu’ils utilisent.

Enfin, la frugalité est l’un des atouts majeur et différenciant de l’IA symbolique. De nos jours, on estime que l’entraînement d’une IA de type machine learning consomme pas moins de 300 tonnes de CO2 (équivalent à 125 vols New-York / Pékin) pour être opérationnel. De son côté, l’IA symbolique dotée d’une intelligence innée, à l’inverse n’a pas besoin d’entraînement pour être performante, elle produit donc un impact énergétique relativement faible.

Découvrez tous les sujets de notre série sur l’IA Éthique :

Vous voulez en savoir plus sur l’exploitation des données par notre intelligence artificielle ? Pour plus d’informations, consultez nos pages solutions relation client, appels d’offres ou conformité. N’hésitez pas à contacter nos équipes si vous avez la moindre question, elles se feront un plaisir de vous répondre !

Produits

Solutions