{"id":3633,"date":"2024-01-05T13:32:22","date_gmt":"2024-01-05T13:32:22","guid":{"rendered":"http:\/\/brunodevauchelle.org\/?p=3633"},"modified":"2024-01-05T13:32:22","modified_gmt":"2024-01-05T13:32:22","slug":"quand-le-vatican-sempare-de-la-question-de-lintelligence-artificielle","status":"publish","type":"post","link":"https:\/\/brunodevauchelle.org\/?p=3633","title":{"rendered":"Quand le Vatican s\u2019empare de la question de l\u2019intelligence artificielle"},"content":{"rendered":"<p>Ind\u00e9pendamment des convictions et des croyances, il est toujours int\u00e9ressant d\u2019\u00e9tudier la mani\u00e8re dans certaines religions abordent la question du progr\u00e8s technique et en particulier de l\u2019intelligence artificielle. En publiant au nom du Pape Fran\u00e7ois un texte sur ce sujet, le Vatican invite \u00e0 r\u00e9fl\u00e9chir plus avant sur la relation entre l\u2019humain et les technologies dans nos soci\u00e9t\u00e9s contemporaines.<\/p>\n<p>&nbsp;<\/p>\n<p>Le Vatican a mis en ligne en ce d\u00e9but d&rsquo;ann\u00e9e 2024 un texte sign\u00e9 par le Pape Fran\u00e7ois \u00ab\u00a0POUR LA 57\u00e8me JOURN\u00c9E MONDIALE DE LA PAIX 1er JANVIER 2024, intitul\u00e9 -Intelligence artificielle et paix \u00a0\u00bb (<a href=\"https:\/\/www.vatican.va\/content\/francesco\/fr\/messages\/peace\/documents\/20231208-messaggio-57giornatamondiale-pace2024.html\">https:\/\/www.vatican.va\/content\/francesco\/fr\/messages\/peace\/documents\/20231208-messaggio-57giornatamondiale-pace2024.html<\/a> ). Ce texte d&rsquo;une grande qualit\u00e9 m\u00e9rite d&rsquo;\u00eatre comment\u00e9, au-del\u00e0 et ind\u00e9pendamment du statut de son auteur. Car la force de ce texte est de s&rsquo;adresser \u00e0 tous et en particulier aux plus d\u00e9favoris\u00e9s, dont le Pape comprend bien qu&rsquo;ils sont et seront les grands perdants des \u00e9volutions techniques et en particulier num\u00e9rique, si nous ne prenons pas la mesure des enjeux sous-jacents et si nous ne les corrigeons pas, ou tout au moins essayons de les corriger.<\/p>\n<p>Ce texte, long et d\u00e9taill\u00e9, m\u00e9riterait de longues explications, car la densit\u00e9 du propos renvoie \u00e0 des faits et des r\u00e9alit\u00e9s nombreuses que ce texte ne peut aborder compl\u00e8tement. Il faut donc consid\u00e9rer ce texte comme un appel \u00e0 la r\u00e9flexion, mais d&rsquo;abord \u00e0 la compr\u00e9hension. Plusieurs points attirent notre attention et nous invitent \u00e0 la r\u00e9flexion :<\/p>\n<p><strong>Quel progr\u00e8s pour quel humain\u00a0?<\/strong><\/p>\n<p>Le progr\u00e8s technique et scientifique peut \u00eatre consid\u00e9r\u00e9 comme\u00a0 une \u00e9volution normale de la soci\u00e9t\u00e9 humaine, preuve de son potentiel cr\u00e9atif. Toutefois celui-ci ne peut \u00eatre consid\u00e9r\u00e9 comme positif que s&rsquo;il permet de \u00ab\u00a0faire de la terre\u00a0 une demeure digne de toute la famille humaine\u00a0\u00bb. Toutefois, il faut alerter sur les possibilit\u00e9s de \u00ab\u00a0contr\u00f4le\u00a0\u00bb qui s&rsquo;amplifient et qui mettent en danger la survie de l&rsquo;humanit\u00e9. Commencer par alerter sur ce point d\u00e8s le d\u00e9but du texte est un \u00e9l\u00e9ment essentiel de l&rsquo;analyse effectu\u00e9e : derri\u00e8re ce terme de \u00ab\u00a0contr\u00f4le\u00a0\u00bb se trouvent tous les moyens qui se d\u00e9veloppent autour de la surveillance de la personne depuis le suivi personnalis\u00e9 (cookies) jusqu&rsquo;aux syst\u00e8mes d&rsquo;espionnage r\u00e9cemment r\u00e9v\u00e9l\u00e9s (logiciel Pegasus). Le suii automatique de l&rsquo;activit\u00e9 num\u00e9rique (tracking) est effectivement l&rsquo;avanc\u00e9e la plus significative permise par les technologies, car il prolonge et amplifie une pratique ancienne des pouvoirs politiques et policiers. Les cons\u00e9quences pour les personnes comme pour les \u00e9quilibres mondiaux sont de plus en plus \u00e9videntes : les masses de donn\u00e9es (big data) qui peuvent \u00eatre collect\u00e9es, ainsi que leur traitement (data mining) augmentent fortement les possibilit\u00e9s des d\u00e9tenteurs de \u00ab\u00a0pouvoirs\u00a0\u00bb.<\/p>\n<p><strong>Pas une mais des intelligences artificielle<\/strong><\/p>\n<p>Les d\u00e9veloppements actuels autour de l&rsquo;information et de la communication s&rsquo;inscrivent dans la suite logique des d\u00e9veloppements informatiques et en particulier algorithmiques. L&rsquo;accroissement quantitatif (tout le monde peut diffuser et recevoir) et la diversification qualitative (du fait r\u00e9el au fait construit par manipulation humaine ou machinique) sont deux aspects qui mettent en p\u00e9ril la possibilit\u00e9 humaine de \u00ab\u00a0conna\u00eetre\u00a0\u00bb et suppose d&rsquo;\u00eatre capable de faire l&rsquo;analyse et la critique de ces donn\u00e9es\/informations. Or ce qui ne facilite pas les choses, c&rsquo;est la confusion et la g\u00e9n\u00e9ralisation autour de l&rsquo;expression \u00ab\u00a0intelligence artificielle\u00a0\u00bb (IA). S&rsquo;attaquant \u00e0 cette mani\u00e8re d&rsquo;englober dans une seule expression, le texte appelle \u00e0 parler des \u00ab\u00a0formes de l&rsquo;intelligence artificielle\u00a0\u00bb. \u00ab\u00a0Le terme lui-m\u00eame, d\u00e9sormais entr\u00e9 dans le langage courant, englobe une vari\u00e9t\u00e9 de sciences, de th\u00e9ories et de techniques visant \u00e0 ce que les machines reproduisent ou imitent, dans leur fonctionnement, les capacit\u00e9s cognitives de l&rsquo;\u00eatre humain.\u00a0\u00bb En proposant cette d\u00e9finition, il introduit l&rsquo;id\u00e9e de vari\u00e9t\u00e9 de techniques qui sont dans le m\u00eame champ de recherche, mais il laisse entendre aussi qu&rsquo;il peut y avoir de multiples mises en oeuvre, plus ou moins explicit\u00e9es et plus ou moins compr\u00e9hensibles par l&rsquo;utilisateur et plus globalement le citoyen.<\/p>\n<p><strong>Intention et conception<\/strong><\/p>\n<p>Pour approfondir cette question du d\u00e9veloppement des formes de l&rsquo;IA, il faut s&rsquo;int\u00e9resser \u00e0 la conception, aux int\u00e9r\u00eats et intentions des concepteurs, mais aussi des entreprises qui les diffusent, et des utilisateurs. \u00c9l\u00e9ment important, le contexte, les situations, dans lesquelles se d\u00e9ploient ces logiciels, doivent aussi \u00eatre pris en compte. On ne peut donc pr\u00e9juger du caract\u00e8re positif ou n\u00e9gatif de tels d\u00e9veloppements actuellement, c&rsquo;est pourquoi il faut appeler \u00e0 la vigilance. Celle-ci est essentielle et doit s&rsquo;articuler avec la recherche du bien-\u00eatre humain, de la paix, de l&rsquo;entente des peuples.<\/p>\n<p>Sans entrer dans des pr\u00e9cisions suffisantes, le machine learning (apprentissage machine) et le deep learning(algorithme d&rsquo;apprentissage profond bas\u00e9 sur des r\u00e9seaux de neurones) sont convoqu\u00e9s ainsi que les logiciels conversationnels. C&rsquo;est la dimension spectaculaire des performances de ces outils qui est mise en cause, car elle provoque un effet de sid\u00e9ration et de s\u00e9duction. Cela peut m\u00eame singer \u00e0 tel point l&rsquo;humain que l&rsquo;usager ne puisse plus identifier celui-ci ou le logiciel (allusion \u00e0 Alan Turing et son test) lors d&rsquo;un \u00e9change via un terminal num\u00e9rique.<\/p>\n<p><strong>\u00c9thique, technique et humain<\/strong><\/p>\n<p>Le texte entre ensuite dans une dimension plus globale et aborde la question de la rationalit\u00e9 en regard de l&rsquo;humain. Il est clair que pour le Pape, l&rsquo;humain ne peut se r\u00e9duire \u00e0 une machine : \u00ab\u00a0il y aura toujours un r\u00e9sidu inaccessible qui \u00e9chappera \u00e0 toute tentative de quantification.\u00a0\u00bb Cette question est fondamentale en regard des th\u00e8ses transhumanistes actuelles qui s&rsquo;inscrivent dans une vision de l&rsquo;humain et du post-humain qui s&rsquo;oppose aux religions. Sous les apparences de syst\u00e8mes techniques se cachent des intentions bas\u00e9es sur des syst\u00e8mes politiques, \u00e9conomiques et plus globalement sur un syst\u00e8me technocratique mis en \u00e9vidence depuis longtemps par Jacques Ellul, Gilbert Simondon ou encore Bruno Latour. La libert\u00e9 et l&rsquo;humain seraient ainsi menac\u00e9s par ce contr\u00f4le potentiel permis par ces \u00e9volutions techniques.<\/p>\n<p><strong>M\u00e9diation et supervision<\/strong><\/p>\n<p>Se pose d\u00e9sormais la question des m\u00e9diations. Comment permettre \u00e0 chacun de faire face \u00e0 ces moyens techniques alors que nous n&rsquo;en comprenons que tr\u00e8s peu le fonctionnement. Il devient n\u00e9cessaire que se mettent en place des interm\u00e9diaires en charge de l&rsquo;explicitation d\u00e8s lors qu&rsquo;une personne est confront\u00e9e \u00e0 l&rsquo;utilisation de ces technologies par une structure (entreprise, administration etc&#8230;) et risque d&rsquo;en subir le cons\u00e9quences sans le savoir et le comprendre. \u00c9largissant la probl\u00e9matique des formes de contr\u00f4les possibles, le texte revient sur la dimension de \u00ab\u00a0l&rsquo;humain\u00a0\u00bb et donc de l&rsquo;\u00e9thique essentielle li\u00e9e \u00e0 ces \u00e9volutions techniques (et plus largement culturelles et sociales). Autant qu&rsquo;une m\u00e9diation, une supervision est indispensable. En amont comme en aval des moyens techniques, il est aussi indispensable que les humains gardent la ma\u00eetrise des choix, des d\u00e9cisions, des actions (cf. le dilemme du tramway). C&rsquo;est aussi bien du c\u00f4t\u00e9 des instances de r\u00e9glementation que des concepteurs que doit d&rsquo;abord s&rsquo;appliquer la r\u00e9flexion \u00e9thique bas\u00e9e sur les valeurs qui peuvent se mettre en oeuvre &#8211; \u00ab\u00a0l&rsquo;agoretica\u00a0\u00bb -.<\/p>\n<p><strong>Agir sur et par l\u2019\u00e9ducation<\/strong><\/p>\n<p>En constatant la relation que les jeunes entretiennent avec les technologies num\u00e9riques, il est donc essentiel d&rsquo;agir dans et par l&rsquo;\u00e9ducation. Esprit critique, discernement devraient \u00eatre au coeur d&rsquo;une vision d&rsquo;une soci\u00e9t\u00e9 mondiale pacifi\u00e9e et fraternelle. Cependant, le texte manque \u00e0 ce sujet d&rsquo;approfondissement quant \u00e0 ce qu&rsquo;il convient de mettre en oeuvre dans les syst\u00e8mes scolaires et les mod\u00e8les \u00e9ducatifs. En terminant sur l&rsquo;appel \u00e0 une r\u00e9glementation internationale, le Pape est bien dans son r\u00f4le, mais il atteint aussi ici les limites de son action qui s&rsquo;inscrit dans l&rsquo;actuel \u00ab\u00a0d\u00e9sordre mondial\u00a0\u00bb.<\/p>\n<p>&nbsp;<\/p>\n<p>&nbsp;<\/p>\n<p>En conclusion, nous avons devant nous un texte passionnant et qui permet d&rsquo;engager dans nos communaut\u00e9s une r\u00e9flexion et des approfondissements. Il semble que deux axes devraient \u00eatre privil\u00e9gi\u00e9s en place de l&rsquo;axe technique : la dimension \u00e9conomique et la dimension \u00e9ducative. Le texte pourrait aller beaucoup plus loin sur les logiques \u00e9conomiques et marchandes qui sous-tendent le progr\u00e8s technique et son d\u00e9veloppement dans la soci\u00e9t\u00e9. La fulgurance du d\u00e9veloppement des smartphones en \u00e0 peine quinze ann\u00e9es m\u00e9riterait des approches critiques approfondies, tant les m\u00e9canismes sous-jacents s&rsquo;appuient autant sur les pratiques du marketing que de la psychologie humaine (Th\u00e9orie du flow Mihaly Csikszentmihalyi 1975) et bien s\u00fbr les modes de fonctionnement \u00e9conomiques de nos soci\u00e9t\u00e9s. La dimension \u00e9ducative m\u00e9riterait d&rsquo;\u00eatre approfondie en particulier autour de l&rsquo;inter et pluridisciplinarit\u00e9 ou encore autour de l&rsquo;analyse syst\u00e9mique. Les enseignants, les \u00e9ducateurs, les parents sont aussi en difficult\u00e9 face \u00e0 ces \u00e9volutions, et les rep\u00e8res de l&rsquo;action devraient \u00eatre davantage travaill\u00e9s au risque d&rsquo;une d\u00e9fiance a priori. Quant \u00e0 la technique, elle reste le moteur principal, mais en contexte. Contexte historique,\u00a0 bien s\u00fbr, en regard de l&rsquo;\u00e9volution et du d\u00e9veloppement de nos soci\u00e9t\u00e9s, contexte \u00e9conomique aussi car elle y est intimement li\u00e9, quelques soient les syst\u00e8me politiques, contexte social surtout car, au final ces nouvelles formes techniques sont d&rsquo;abord utilis\u00e9es et instrumentalis\u00e9es par ceux qui peuvent en tirer profit et donc tenter de \u00ab\u00a0d\u00e9passer\u00a0\u00bb les autres, et laisse de c\u00f4t\u00e9 une partie de la population, la plus fragile et la plus d\u00e9favoris\u00e9e.<\/p>\n<p>A suivre et \u00e0 d\u00e9battre<\/p>\n<p>BD<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Ind\u00e9pendamment des convictions et des croyances, il est toujours int\u00e9ressant d\u2019\u00e9tudier la mani\u00e8re dans certaines religions abordent la question du progr\u00e8s technique et en particulier de l\u2019intelligence artificielle. En publiant au nom du Pape Fran\u00e7ois un texte sur ce sujet, le Vatican invite \u00e0 r\u00e9fl\u00e9chir plus avant sur la relation entre l\u2019humain et les technologies &hellip; <\/p>\n<p><a class=\"more-link btn\" href=\"https:\/\/brunodevauchelle.org\/?p=3633\">Lire la suite<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"amp_status":"","_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"jetpack_post_was_ever_published":false},"categories":[4,5,9,14,17,18,20],"tags":[],"class_list":["post-3633","post","type-post","status-publish","format-standard","hentry","category-culture","category-education-et-formation","category-general","category-jeunesse","category-numerique","category-parole-propos","category-politique-2"],"jetpack_publicize_connections":[],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"","_links":{"self":[{"href":"https:\/\/brunodevauchelle.org\/index.php?rest_route=\/wp\/v2\/posts\/3633","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/brunodevauchelle.org\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/brunodevauchelle.org\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/brunodevauchelle.org\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/brunodevauchelle.org\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=3633"}],"version-history":[{"count":1,"href":"https:\/\/brunodevauchelle.org\/index.php?rest_route=\/wp\/v2\/posts\/3633\/revisions"}],"predecessor-version":[{"id":3634,"href":"https:\/\/brunodevauchelle.org\/index.php?rest_route=\/wp\/v2\/posts\/3633\/revisions\/3634"}],"wp:attachment":[{"href":"https:\/\/brunodevauchelle.org\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=3633"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/brunodevauchelle.org\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=3633"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/brunodevauchelle.org\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=3633"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}