Indépendamment des convictions et des croyances, il est toujours intéressant d’étudier la manière dans certaines religions abordent la question du progrès technique et en particulier de l’intelligence artificielle. En publiant au nom du Pape François un texte sur ce sujet, le Vatican invite à réfléchir plus avant sur la relation entre l’humain et les technologies dans nos sociétés contemporaines.
Le Vatican a mis en ligne en ce début d’année 2024 un texte signé par le Pape François « POUR LA 57ème JOURNÉE MONDIALE DE LA PAIX 1er JANVIER 2024, intitulé -Intelligence artificielle et paix » (https://www.vatican.va/content/francesco/fr/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html ). Ce texte d’une grande qualité mérite d’être commenté, au-delà et indépendamment du statut de son auteur. Car la force de ce texte est de s’adresser à tous et en particulier aux plus défavorisés, dont le Pape comprend bien qu’ils sont et seront les grands perdants des évolutions techniques et en particulier numérique, si nous ne prenons pas la mesure des enjeux sous-jacents et si nous ne les corrigeons pas, ou tout au moins essayons de les corriger.
Ce texte, long et détaillé, mériterait de longues explications, car la densité du propos renvoie à des faits et des réalités nombreuses que ce texte ne peut aborder complètement. Il faut donc considérer ce texte comme un appel à la réflexion, mais d’abord à la compréhension. Plusieurs points attirent notre attention et nous invitent à la réflexion :
Quel progrès pour quel humain ?
Le progrès technique et scientifique peut être considéré comme une évolution normale de la société humaine, preuve de son potentiel créatif. Toutefois celui-ci ne peut être considéré comme positif que s’il permet de « faire de la terre une demeure digne de toute la famille humaine ». Toutefois, il faut alerter sur les possibilités de « contrôle » qui s’amplifient et qui mettent en danger la survie de l’humanité. Commencer par alerter sur ce point dès le début du texte est un élément essentiel de l’analyse effectuée : derrière ce terme de « contrôle » se trouvent tous les moyens qui se développent autour de la surveillance de la personne depuis le suivi personnalisé (cookies) jusqu’aux systèmes d’espionnage récemment révélés (logiciel Pegasus). Le suii automatique de l’activité numérique (tracking) est effectivement l’avancée la plus significative permise par les technologies, car il prolonge et amplifie une pratique ancienne des pouvoirs politiques et policiers. Les conséquences pour les personnes comme pour les équilibres mondiaux sont de plus en plus évidentes : les masses de données (big data) qui peuvent être collectées, ainsi que leur traitement (data mining) augmentent fortement les possibilités des détenteurs de « pouvoirs ».
Pas une mais des intelligences artificielle
Les développements actuels autour de l’information et de la communication s’inscrivent dans la suite logique des développements informatiques et en particulier algorithmiques. L’accroissement quantitatif (tout le monde peut diffuser et recevoir) et la diversification qualitative (du fait réel au fait construit par manipulation humaine ou machinique) sont deux aspects qui mettent en péril la possibilité humaine de « connaître » et suppose d’être capable de faire l’analyse et la critique de ces données/informations. Or ce qui ne facilite pas les choses, c’est la confusion et la généralisation autour de l’expression « intelligence artificielle » (IA). S’attaquant à cette manière d’englober dans une seule expression, le texte appelle à parler des « formes de l’intelligence artificielle ». « Le terme lui-même, désormais entré dans le langage courant, englobe une variété de sciences, de théories et de techniques visant à ce que les machines reproduisent ou imitent, dans leur fonctionnement, les capacités cognitives de l’être humain. » En proposant cette définition, il introduit l’idée de variété de techniques qui sont dans le même champ de recherche, mais il laisse entendre aussi qu’il peut y avoir de multiples mises en oeuvre, plus ou moins explicitées et plus ou moins compréhensibles par l’utilisateur et plus globalement le citoyen.
Intention et conception
Pour approfondir cette question du développement des formes de l’IA, il faut s’intéresser à la conception, aux intérêts et intentions des concepteurs, mais aussi des entreprises qui les diffusent, et des utilisateurs. Élément important, le contexte, les situations, dans lesquelles se déploient ces logiciels, doivent aussi être pris en compte. On ne peut donc préjuger du caractère positif ou négatif de tels développements actuellement, c’est pourquoi il faut appeler à la vigilance. Celle-ci est essentielle et doit s’articuler avec la recherche du bien-être humain, de la paix, de l’entente des peuples.
Sans entrer dans des précisions suffisantes, le machine learning (apprentissage machine) et le deep learning(algorithme d’apprentissage profond basé sur des réseaux de neurones) sont convoqués ainsi que les logiciels conversationnels. C’est la dimension spectaculaire des performances de ces outils qui est mise en cause, car elle provoque un effet de sidération et de séduction. Cela peut même singer à tel point l’humain que l’usager ne puisse plus identifier celui-ci ou le logiciel (allusion à Alan Turing et son test) lors d’un échange via un terminal numérique.
Éthique, technique et humain
Le texte entre ensuite dans une dimension plus globale et aborde la question de la rationalité en regard de l’humain. Il est clair que pour le Pape, l’humain ne peut se réduire à une machine : « il y aura toujours un résidu inaccessible qui échappera à toute tentative de quantification. » Cette question est fondamentale en regard des thèses transhumanistes actuelles qui s’inscrivent dans une vision de l’humain et du post-humain qui s’oppose aux religions. Sous les apparences de systèmes techniques se cachent des intentions basées sur des systèmes politiques, économiques et plus globalement sur un système technocratique mis en évidence depuis longtemps par Jacques Ellul, Gilbert Simondon ou encore Bruno Latour. La liberté et l’humain seraient ainsi menacés par ce contrôle potentiel permis par ces évolutions techniques.
Médiation et supervision
Se pose désormais la question des médiations. Comment permettre à chacun de faire face à ces moyens techniques alors que nous n’en comprenons que très peu le fonctionnement. Il devient nécessaire que se mettent en place des intermédiaires en charge de l’explicitation dès lors qu’une personne est confrontée à l’utilisation de ces technologies par une structure (entreprise, administration etc…) et risque d’en subir le conséquences sans le savoir et le comprendre. Élargissant la problématique des formes de contrôles possibles, le texte revient sur la dimension de « l’humain » et donc de l’éthique essentielle liée à ces évolutions techniques (et plus largement culturelles et sociales). Autant qu’une médiation, une supervision est indispensable. En amont comme en aval des moyens techniques, il est aussi indispensable que les humains gardent la maîtrise des choix, des décisions, des actions (cf. le dilemme du tramway). C’est aussi bien du côté des instances de réglementation que des concepteurs que doit d’abord s’appliquer la réflexion éthique basée sur les valeurs qui peuvent se mettre en oeuvre – « l’agoretica » -.
Agir sur et par l’éducation
En constatant la relation que les jeunes entretiennent avec les technologies numériques, il est donc essentiel d’agir dans et par l’éducation. Esprit critique, discernement devraient être au coeur d’une vision d’une société mondiale pacifiée et fraternelle. Cependant, le texte manque à ce sujet d’approfondissement quant à ce qu’il convient de mettre en oeuvre dans les systèmes scolaires et les modèles éducatifs. En terminant sur l’appel à une réglementation internationale, le Pape est bien dans son rôle, mais il atteint aussi ici les limites de son action qui s’inscrit dans l’actuel « désordre mondial ».
En conclusion, nous avons devant nous un texte passionnant et qui permet d’engager dans nos communautés une réflexion et des approfondissements. Il semble que deux axes devraient être privilégiés en place de l’axe technique : la dimension économique et la dimension éducative. Le texte pourrait aller beaucoup plus loin sur les logiques économiques et marchandes qui sous-tendent le progrès technique et son développement dans la société. La fulgurance du développement des smartphones en à peine quinze années mériterait des approches critiques approfondies, tant les mécanismes sous-jacents s’appuient autant sur les pratiques du marketing que de la psychologie humaine (Théorie du flow Mihaly Csikszentmihalyi 1975) et bien sûr les modes de fonctionnement économiques de nos sociétés. La dimension éducative mériterait d’être approfondie en particulier autour de l’inter et pluridisciplinarité ou encore autour de l’analyse systémique. Les enseignants, les éducateurs, les parents sont aussi en difficulté face à ces évolutions, et les repères de l’action devraient être davantage travaillés au risque d’une défiance a priori. Quant à la technique, elle reste le moteur principal, mais en contexte. Contexte historique, bien sûr, en regard de l’évolution et du développement de nos sociétés, contexte économique aussi car elle y est intimement lié, quelques soient les système politiques, contexte social surtout car, au final ces nouvelles formes techniques sont d’abord utilisées et instrumentalisées par ceux qui peuvent en tirer profit et donc tenter de « dépasser » les autres, et laisse de côté une partie de la population, la plus fragile et la plus défavorisée.
A suivre et à débattre
BD
