On nous serine à longueur de journée que la technologie est neutre, un simple outil au service de l’humanité. Un marteau peut construire une maison ou fracasser un crâne, nous dit-on, et c’est l’utilisateur qui est responsable, pas l’outil lui-même. C’est un mensonge. Un mensonge confortable qui permet aux architectes de notre futur numérique de se dédouaner de toute responsabilité quant aux conséquences de leurs créations.

La réalité, bien plus complexe, est que la technologie est intrinsèquement politique. Chaque ligne de code, chaque algorithme, chaque design est le reflet des biais, des valeurs et des objectifs de ceux qui l’ont créé. La « neutralité technologique » est un écran de fumée, une rhétorique fallacieuse qui dissimule des choix idéologiques profonds.

Prenons l’exemple des algorithmes de recommandation utilisés par les plateformes de réseaux sociaux. Sous couvert de nous proposer du contenu « pertinent », ils façonnent notre perception du monde. Ils nous enferment dans des « bulles de filtre », des chambres d’écho où nous ne sommes confrontés qu’à des opinions qui confortent nos propres convictions. (Une bulle de filtre est un écosystème informationnel personnalisé, créé par des algorithmes, où l’utilisateur n’est exposé qu’à des informations validant ses opinions existantes.) Cette polarisation de la société est-elle un effet secondaire involontaire ou une conséquence délibérée ? La question mérite d’être posée.

De même, les algorithmes utilisés par la police prédictive, censés anticiper la criminalité, reproduisent et amplifient les biais raciaux et sociaux. (La police prédictive utilise des algorithmes pour prédire où et quand des crimes sont susceptibles de se produire, permettant ainsi de déployer les forces de l’ordre de manière proactive.) Ces algorithmes, nourris par des données historiques souvent entachées de discrimination, ciblent disproportionnellement les communautés marginalisées, perpétuant ainsi un cycle d’injustice. La « neutralité » de l’algorithme ne fait qu’automatiser et rationaliser des pratiques discriminatoires préexistantes.

L’intelligence artificielle (IA), souvent présentée comme la panacée à tous nos problèmes, est particulièrement problématique. (L’intelligence artificielle, ou IA, est la capacité d’une machine à imiter des fonctions cognitives humaines, telles que l’apprentissage et la résolution de problèmes.) Derrière son vernis de rationalité se cache une concentration de pouvoir inouïe entre les mains d’une poignée de géants technologiques. Ces entreprises, qui contrôlent les données et les algorithmes, sont en train de redéfinir les règles du jeu de la société. Elles façonnent nos comportements, influencent nos opinions et déterminent notre avenir. Leur pouvoir est tel qu’elles sont en mesure de contourner les lois et de défier les gouvernements. On assiste à l’émergence d’une nouvelle forme de féodalisme, un féodalisme numérique où les seigneurs ne sont plus des aristocrates mais des codeurs et des entrepreneurs.

Alors, que faire face à cette situation ? Il est impératif de déconstruire le mythe de la neutralité technologique. Il faut sensibiliser le public aux enjeux politiques et sociaux de la technologie. Il faut exiger plus de transparence et de responsabilité de la part des entreprises technologiques. Il faut remettre en question le dogme du progrès technologique à tout prix et privilégier un développement technologique qui soit au service de l’humain, et non l’inverse. Il faut, en un mot, reprendre le contrôle de notre futur numérique, avant qu’il ne soit trop tard. Le combat pour la justice sociale se joue aussi dans le code.

Cet article a été fait a partir de ces articles:

https://news.google.com/rss/articles/CBMimAFBVV95cUxPTExOQmE2aW14MnM4N0tyNV8weEJCbzFtZ0taRVNEdjRQTFp3Y0VOOEZBZGR0YlZpSnc0VDZ0N1Jkb2NKOHpvNm16WURpMVdIOGIzVEloSUt3Zmpid1FPZmo5RnpTOVpKSnJsZURQMlU4MkhEYWxSNl9aQkJMWk5tbGFKZDdUX0RacmsyNmhjOGtWOVpMdGZQTQ?oc=5, https://news.google.com/rss/articles/CBMiiAJBVV95cUxNNjREdUlkSHIzVmo1N3ZJUFAzQVI1V0ZSeUxoYTJidUoxYjFoYTJGV3VuSVMxNlRZZHpBcnk1Y1FCakxFM3RIS3FaSVRJWkxMOGwzd2JsaXZqWlJwbW5Eel9OTnF0RElrZ2lJYmZySjRIOUFuS3pJTUhGSjU3MVRoLXMtWnVBWUlaNGY1eGhzV2ZOR1dOYXZZdFN6TVc4NkVTVXRzLWhiZ3hLT2ItX2RoazMxbDlFRjAxb0pYd25IRVNwRExHbWRkNUVMa1JYY296TFZnNmxvVzNpcXdhUzBrRWJBOHZGVU10eDFZNDJGNU5YN3FMSWp3R0lGMTVwOTBsaVd3QTQ5a04?oc=5, https://news.google.com/rss/articles/CBMikgFBVV95cUxQYy1tOWlXTkZDMkVNVEVwWHBuNFdUTmFnTDhrSGxrWGtDVWh1Nm9TcmxsYUJwUW1PTktUMWFfUDNPYTFrQ2JSZWVzZThfTDJINzVvMl80U0JRUWlrazhkczM5cEdqOGRHUzVXd29WTUpBM0w5eE9fRUNlaDVwNUs2SXBGWTZFS1MwekdST3JzYnltdw?oc=5, https://news.google.com/rss/articles/CBMi4gFBVV95cUxPb2VZZkZfYjZvcEIzMjN2OTYxMzRMWkJEcEVHTVY2dXNvd19LVFRmblBJdEtHR09xY3hKamlrWUZFU1NuQjQtZk93WXZ0NWRscVM4MW5DMUVvQlZjNGg1dlNxdzUydHo2WElIaWtHUEtkWGJFY25NQ0tkWnJoZkF0RHN5UmtaOHZZRzl5NmZ2MzVrdl96SzY0VE1LNzFnWGhFSXowYkM3czY0WFd6Rk8wSTJrU1hma0VnYjk5bHJCR1ZWNElSZDFVTFgtQmRvWWM1N0s1d0U2Ni1WcFRwSktrd2l3?oc=5, https://news.google.com/rss/articles/CBMi7wFBVV95cUxON2RtRzF2Rm9UUFp5Z0g0SXBYbXdXS0RGdlJUdUlIeVJvWmlZVHdRUkpwbjA0UmFqb0pYNmJmVkhwTGdXdlN6T0dzbEdQVlRFSzRXVEZpbUtvcDB0Rlk0SnIyUDhrS0tKV1FFUXJ4ZGIwQWwyWlMzRk0wbDVld0RzbUlSaTVDNUh5WFFINlNvY2N3YzQtRzc2d01lY19DZ3FEaUJUb1c3WHRRdVJTZlRnMThZYU0zVHdmTGhSQ3ctU2k2ck05REZJQzVZOEhNTjQxN3pmaFVuWlRheF92OWV4OHhGc3FjVmNVS1BDc196MA?oc=5