Et si l’on auditait les algorithmes ?

Reconnaissance faciale, voiture autonome, recrutement… Autant de sujets dont s’empare l’intelligence artificielle pour automatiser le traitement de l’information et suggérer des actions. Pour autant, la technologie choisie définie pour beaucoup la simplicité avec laquelle l’ensemble des décisions algorithmiques sont auditables. Retour sur des cas d’usages en entreprise avec Benoit Rottembourg responsable Regalia à l’Inria et Thomas Solignac CEO et co-fondateur de Golem.ai dans l’émission Smart Tech animée par Delphine Sabattier.

Le poids des algorithmes 

Le mot algorithme vient du nom latin algorithmi, du mathématicien perse du IXe siècle al-Khwarizmi. Souvent résumé comme un ensemble d’opérations logiques à exécuter pour résoudre un problème, ou répondre à une question, c’est un sujet méconnu. Aurélie Jean le précise notamment dans son livre Les algorithmes font-ils la loi ? : “les algorithmes sont relativement complexes, et il existe encore peu de pédagogie sur ces sujets”.

Pourtant ils sont omniprésents et influencent notre quotidien dans nos achats en ligne ou notre travail. A titre d’exemple “Nous avons 1 milliard de transactions commerciales sur internet en France par an (…) et vous êtes guidés par une marketplace” le précise Benoît Rottembourg responsable du projet Regalia à Inria. 

Une question se pose alors, celle du contrôle des algorithmes notamment s’ils prennent des décisions qui influencent nos choix. C’est pourquoi le choix technologique d’une IA explicable doit se poser avant toute intégration, notamment en entreprise dans l’analyse de nombreuses datas, structurées ou non, reçues chaque jour.

L’exigence de transparence est-elle réaliste ?

L’exigence de transparence des algorithmes est aujourd’hui souhaitée, mais complexe à mettre en pratique faute de compréhension des exigences et des différentes technologies à notre disposition. 

De plus un certain type d’algorithme est aujourd’hui bien plus connu et utilisé, mais n’est pas le seul existant comme le précise Thomas Solignac “Cela fait une 10aine d’années que nous avons une prépondérance sur le marché de l’IA d’un type d’algorithmes en particulier qui sont des algorithmes que l’on appelle “boîte noire” (…) dont on ne peut pas de manière satisfaisante exiger une compréhension car leur fonctionnement est statistique”.

En sommes, le plus difficile reste de comprendre les règles que respectent les algorithmes, et la qualité de la data qui sera traitée pour éviter certains biais. C’est que permet l’IA symbolique et explicable Golem.ai, qui s’affranchit de tout entraînement et permet d’éviter l’effet boite noire. Pour en comprendre les enjeux et découvrir les solutions et technologies à notre disposition pour y répondre, découvrez l’ensemble de l’interview sur Smart Tech animée par Delphine Sabattier !

Pour en savoir plus sur nos solutions notamment dans le secteur de la relation client, n’hésitez pas à découvrir notre page dédiée ou bien à nous contacter directement.