L’IA deviendra légitime quand elle sera certifiée
La Commission Européenne a enfin dévoilé sa feuille de route pour l’intelligence artificielle. Consciente des bouleversements sociétaux et économiques qu’elle provoque et l’enjeu pour la souveraineté et la compétitivité de l’Union européenne, l’IA est officiellement au cœur de la stratégie numérique des Etats membres.
C’est bien la nécessité de créer et de garantir un cadre législatif commun que met en avant la Commission dans son rapport présenté le 19 février. Il s’agit désormais d’entamer un travail de réflexion et de se poser les bonnes questions pour y parvenir. Comment peut-on créer un cadre solide et de confiance autour d’une technologie qui n’a, à ce jour, pas encore été certifiée ? Comment peut-on déployer une stratégie en matière de données si celles-ci proviennent d’outils et de services qui utilisent une IA qui ne soit pas “normalisée” au préalable ?
Une économie qui se construit autour de l’IA
Le plus courant aujourd’hui et qui se développe de plus en plus rapidement, ce sont des solutions spécialisées pour assister ou remplacer l’homme dans des tâches intellectuelles et ce, dans tous les secteurs : dans la santé avec des supports d’aide à la détection de cancer en radiologie, des recommandations d’achat sur des sites de e-commerce, des solutions pour le tri des CV dédiées aux services de ressources humaines, etc. Comme les robots physiques sont dédiés à une tâche pour la remplir mieux que nous (vitesse, précision, répétition, etc…), les IA spécialisées sont des robots virtuels qui ont vocation à décider mieux que nous. Notre environnement professionnel, social et culturel se numérise et de nombreuses applications vont émerger qui auront pour ambition de décider « la vérité ».
Et si cette application a un potentiel impact éthique, nous pouvons imaginer que sa légitimité va dépendre de son niveau d’intégrité intrinsèque : mais comment le garantir ?
Rechercher la justesse et non la vérité
Je dirige une société qui développe une solution dédiée à l’optimisation des processus de production automatisés dans l’industrie. Afin de pouvoir « apprendre » et proposer des actions d’ajustement des paramètres de pilotage des machines, nous utilisons une technologie de calculs basée sur des probabilités qui fait partie de la catégorie de l’Intelligence Artificielle. Quelle est la légitimité de notre solution ? En quoi les modifications de réglages de paramètres que nous proposons sont « vraies » ? La réponse tient en deux points : la performance de recommandation de notre système repose sur la qualité des données historiques. Ensuite, les algorithmes que nous utilisons sont basés sur des formules de recherche d’optimum probabiliste qui sont explicables mathématiquement. D’autres sociétés développent des applications avec la même démarche de légitimité par la justesse. Je ne parle plus de vérité mais bien de justesse.
En revanche, beaucoup d’applications actuelles mises sur le marché utilisent d’autres technologies dont celles centrées sur une technologie d’apprentissage : les réseaux de neurones. Beaucoup de chercheurs et d’ingénieurs se sont lancés dans l’utilisation avancée de cette théorie en espérant faire des miracles. Mais point de miracle pour des résultats très médiocres : un taux de précision faible pour une consommation énergétique […..]
