Intelligence artificielle et souveraineté

L’expansion du nombre de données à traiter en entreprise, pose de réelles questions de souveraineté, tant dans leurs usages que leurs stockages. Et si nous évoquons la data, la place de l’intelligence artificielle se pose également. Un sujet qu’aborde Guillaume Navarre, CCO & Co-fondateur de Golem.ai dans cette dernière interview sur l’IA Ethique.

Qu’est ce que la souveraineté numérique dans un monde qui se veut globalisé ?

D’après le sénat, la souveraineté numérique définit comme « la capacité de l’État à agir dans le cyberespace », ce qui est une « condition nécessaire à la préservation de nos valeurs » impliquant, d’une part, « une capacité autonome d’appréciation, de décision et d’action dans le cyberespace » et, d’autre part, la maîtrise de « nos réseaux, nos communications électroniques et nos données ».

En sommes, c’est le fait de mettre à disposition des utilisateurs, des outils logiciels ou informatiques qui ne dépendent pas de façon critique d’acteurs tiers, afin d’éviter des conflits de loyauté. Cela fait référence à la maîtrise et la protection des technologies numériques de chaque acteur de son marché. Il est important de rappeler que chacun doit rester maître de ses données, de leurs usages et de leurs finalités.

Cette question dépasse les frontières de la France pour embrasser le projet européen dans son ensemble. Par exemple, l’actualité a mis en exergue les fragilités de production, d’approvisionnement, de disponibilité des matières premières, au travers de la crise sanitaire mondiale, révélant ainsi l’importance de la souveraineté des états dans de nombreux secteurs, dont la technologie et le numérique.

Existe-t-il des leviers pour protéger cette indépendance technologique ?

Pour le moment, surtout un levier législatif. En effet, ce sujet a connu une accélération depuis que la Commission Européenne, au travers du très commenté projet de réglementation des applications basées sur l’intelligence artificielle, affiche haut et fort sa volonté de favoriser une IA de confiance et d’excellence. Celle-ci permettrait enfin de soutenir des secteurs stratégiques comme celui de la santé, des transports, des processus de fabrication et de l’énergie. Ces domaines ne peuvent se permettre de dépendre de technologies et d’infrastructures qui ne peuvent être maîtrisées dans leur intégralité.

La souveraineté est donc l’affaire de tous ?

La souveraineté pose la question de l’appartenance des données et de la responsabilité qui incombe aux entités qui traitent les données, celles des particuliers, des entreprises et des institutions étatiques. L’enjeu de la souveraineté se pose également dans le domaine de la protection intellectuelle de notre savoir-faire européen.

Comment se singulariser dans un monde dominé par les GAFAMI et BATX ?

L’Europe multiculturelle et son projet de RGPD, doit trouver sa place entre les projets des GAFAMI et des BATX. Il faut souligner que ces multinationales proposent, la plupart du temps, des systèmes d’automatisation et d’intelligence artificielle basées sur des modèles de machine Learning très gourmands en données (souvent personnelles) ce qui peut donc poser des soucis de confidentialité en lien avec la protection des données.

La crise sanitaire, comme nous l’avons déjà évoqué, a mis en lumière de façon cruciale le risque de dépendance économique vis-à-vis d’autres pays hors UE. Elle engage une prise de conscience générale sur l’importance de garder une certaine souveraineté favorisant notre indépendance et notre développement économiques.

Concrètement, il est important que les partenaires numériques (start-ups, éditeurs, ESN, opérateurs…) retenus dans des projets futurs, en particulier dans le domaine de l’IA, soient garants de l’indépendance de leurs clients et des données en général. Le choix d’une IA doit se faire sur des critères techniques, mais aussi éthiques : à savoir le respect des données privées, l’hébergement des datas en Europe et enfin l’explicabilité des décisions des algorithmes.

Dans l’innovation, l’équilibre est de rigueur, entre protection numérique de nos libertés, et ouverture à un monde globalisé.

Pour en savoir plus, découvrez les autres sujets de notre série sur l’IA Ethique :

Vous voulez en savoir plus sur l’exploitation des données par notre IA ? Pour plus d’informations, consultez nos pages solutions relation clientappels d’offres ou conformité. N’hésitez pas à contacter nos équipes si vous avez la moindre question, elles se feront un plaisir de vous répondre !

Solutions

Produits