2020, le début d’un big data éthique concret ? Pas si sûr…
Éthique. Le mot est sur toutes les lèvres lorsque l’on aborde les thématiques du big data et de l’intelligence artificielle. L’Unesco l’a récemment défini comme principal objectif avec la promesse d’élaborer un cadre normatif dans les 18 prochains mois permettant une gestion raisonnée des données. Les organisations semblent donc s’être emparées du sujet avec l’élaboration d’un code de conduite mondial, et c’est une bonne nouvelle… Mais est-ce un simple effet de mode ou entrons-nous réellement dans l’âge de raison du big data ?
Big data : les risques éthiques, une réalité !
Les progrès technologiques en matière de big data ont été fulgurants ces dernières années, mais ces avancées soulèvent d’importantes questions liées à la sécurité et à l’éthique des données. Alors que la recherche universitaire s’est d’abord concentrée sur les aspects scientifiques porteurs d’innovations technologiques, la recherche en matière d’éthique est restée trop longtemps aux abonnés absents.
Biais algorithmiques, profilage, fake news, utilisation abusive des données personnelles… Les dérives morales associées au big data sont pourtant nombreuses. Gartner avait prédit que la moitié des abus en matière d’éthique commerciale résulterait de l’exploitation inappropriée du big data(1). La dernière décennie s’est d’ailleurs ponctuée de scandales liés à l’usage de nos données ; Cambridge Analytica, le plus marquant, aura plus que jamais mis en avant la responsabilité des organisations vis-à-vis des données qu’elles détiennent. Il illustre parfaitement le lien entre dérives politiques et big data, et surtout la place croissante de celui-ci dans des processus décisionnels relevant de la sphère privée. Du profilage à la manipulation et à l’affaiblissement politique, il n’y a qu’un pas.
Au-delà de l’utilisation abusive des données, les progrès de l’IA soulèvent la question bien connue des biais algorithmiques. Le terme fait référence aux risques d’introduction de discriminations ou d’une réalité déformée liés à la conception des algorithmes, avec pour conséquence des enjeux sociaux et de justice clairement identifiés. Outil puissant, l’intelligence artificielle a tendance à reproduire et à encourager les stéréotypes. D’ailleurs la faible représentation des femmes dans ce secteur pose un problème croissant et multiplie le risque de voir apparaître des biais sexistes. D’après le rapport 2019 d’Element AI, les femmes ne constitueraient que 18% des spécialistes en IA à l’échelle mondiale. En parallèle, un rapport publié par l’Unesco en mai dernier « I’d blush if I can » accusait ouvertement les assistants vocaux de véhiculer des stéréotypes sexistes et a appelé à rendre la filière plus inclusive en rétablissant une parité homme/femme. Bien que ce déséquilibre ait de nombreuses conséquences, c’est avant tout le spectre des biais algorithmiques qui inquiète…
Le RGPD, notre planche de salut ?
L’ensemble des acteurs de la filière semble d’ailleurs avoir pris conscience de la nécessité d’encadrer l’usage de l’IA et du big data via un code éthique. Des comités font ainsi leur apparition pour faciliter les prises de décisions ou encore anticiper les dérives possibles.
Si le sujet de la donnée est au cœur de notre société et de nos préoccupations, c’est dû à l’explosion du numérique et l’accélération du digital. La […..]
Source:: 2020, le début d’un big data éthique concret ? Pas si sûr…
