Dangers et risques du numérique et de l’IA

La généralisation du numérique dans notre environnement quotidien n’est pas sans poser de nombreuses questions et susciter des mises en gardes, oppositions, vigilances multiples. L’émergence et la diffusion d’évolutions techniques et scientifiques dans la société ne doivent jamais être considéré comme bons ou mauvais a priori, elles doivent être analysées et questionnées dans la durée, dans le temps. Si elles peuvent être perçues comme négatives dans un premier temps, elles peuvent aussi être adoptées ensuite, généralisées et les conséquences relativisées (ou pas). Il y a un a priori humain qui, depuis le début de l’humanité,  voit dans toute invention technique et/ou scientifique un bienfait en regard de ce qui se vivait auparavant. La banalisation et la généralisation des techniques nouvelles au cours de l’histoire confirme cette manière de percevoir les nouveautés techniques, même si elles sont parfois totalement destructrices.

La généralisation des outils numériques dans la société n’échappe pas à ce processus qui va de l’invention à la généralisation en passant par les remises en question. Car à toute époque d’évolution technique correspond l’émergence d’enthousiasmes, de craintes, de peurs et autres critiques. Notre époque n’est pas absente de ce processus, c’est pourquoi je vous propose une liste de 14 questionnements à propos du numérique et de ses pratiques dérivées. Cette liste est surement partielle et provisoire…

Ecrans

1 – Trop d’écrans ? Que penser de 3 – 6 – 9 – 12 ?

Faut-il limiter la consommation d’écrans en faisant référence au cadre de « 3 – 6 – 9 – 12 » (Académie des Sciences 2013)  ou prendre des mesures plus larges et plus coercitives ? Mélanger tous les écrans est davantage un slogan qu’une approche scientifique du problème. L’enjeu, en généralisant ainsi est de développer des questionnements et des prises de conscience devant cette mutation. La télévision avait jadis provoqué l’émergence de telles craintes, c’est la multiplication des terminaux avec écran qui rend le problème plus vif.

               2 – Quels écrans ? Vidéos, Réseaux Sociaux, etc… Comment éviter la domination de certains écrans susceptibles d’être addictifs : Vidéos, Réseaux Sociaux, etc… ?

La déploration généralisée autour des « z’écrans » révèle les concurrences nouvelles autour des « contenus » et des multimodalités. La domination du « prêt à absorber » semble avoir pris le dessus à partir d’algorithmes addictifs visant la satisfaction immédiate et un plaisir. Nous sommes en train de sortir de la société de l’écrit pour aller vers la société multimodale, une accélération générale de la pensée, qui se traduit par les produits culturels et des comportements qui se généralisent, même pour les adultes.

Parole et expression

               3 – L’expression de soi et des autres en ligne : extimité ? Limiter l’expression de soi et des autres en ligne : éviter l’exposition de soi, de ses proches

Lorsque vous lisez et regardez les propos tenus sur les réseaux sociaux, vous pouvez être surpris de constater combien on aime « parler de soi ». Adulte comme jeune, on est prompt à partager sa vie quotidienne par des photos, des commentaires, des écrits que l’on dépose dans des espaces partagés. Jusqu’où parler de soi, s’exposer publiquement. Ouvrir son intimité aux autres, l’extimité, est d’autant plus un problème qu’elle met des parties profondes de soi face à tous les publics, l’expression de soi est une compétence essentielle de la vie en société, si elle est comprise et dirigée par chacun de nous

               4 – La parole en ligne : quelle valeur, quelle force ? La parole en ligne est-elle contrôlable : quelle valeur, quelle force a un propos ?

La sphère politique est habituée à s’exprimer en public et certains désormais ne s’expriment que sur Internet, en ligne. La difficulté est désormais de savoir quel crédit apporter aux paroles tenues publiquement, faut-il croire ce qui se dit, qui le dit ? Le scepticisme systématique peut virer au complotisme… L’anonymat, relatif ou complet semble autoriser chacun de nous à faire comme « certains politiques ». « Le poids des mots, le choc des photos » aphorisme bien connu des médias se généralise. Commenter, réagir, dénoncer, soutenir, autant d’expressions qui méritent réflexion, mesure et sens commun (sans du vivre ensemble).

5 – La « cyberviolence », le cyberharcèlement et autres : une autre parole. Le développement de la « cyber violence », et du cyberharcèlement s’impose comme un norme du discours public.

Si la parole désormais débridée semble autoriser à dire « n’importe quoi », vrai ou faux, une frontière doit être pris en compte : celle de la nuisance aux autres, celle de toutes les formes de violence. La frontière semble ténue entre la critique, parfois agressive, et le propos violent. La répétition et la multiplication de ces propos constitue alors un harcèlement qui dépasse alors la réaction vive (et incontrôlée parfois) pour aller vers la systématisation

Sobriété, environnement

6 – Les ondes, wifi, 4G, 5G. Les ondes, wifi, 4G, 5G. peuvent être considérées comme mauvaises pour l’humain

Les rayonnements de toutes sortes, naturels et artificiels ont toujours un effet sur l’humain et son environnement. Le déploiement massif de systèmes de transmissions sans fil a amené à alerter sur les nuisances potentielles de ces ondes. Si certaines études peuvent sembler catastrophiques, d’autres semblent plus rassurantes à moyen terme. La vigilance nécessaire face à des développements se heurte aussi aux logiques plurielles qui encouragent ce développement : économiques, techniques, facilitation, progrès, confort d’usage, etc…

7 – La question de la sobriété numérique. La question de la sobriété numérique est à prendre en compte

Sobriété, frugalité, etc… autant de termes qui renvoient chacun de nous à sa responsabilité d’usage des technologies numériques. Une sorte d’invisibilisation, souvent appelée dématérialisation, rend l’usager en partie non conscient des effets de son usage du numérique. S’il contrôle plus ou moins sa fréquentation du numérique, il est pourtant pris dans une sorte de spirale addictive parfois encouragée par des algorithmes. C’est la reprise de contrôle de sa propre « consommation » qui est en leu

8 – Effet environnemental de la consommation des moyens numériques et informatiques. L’impact du numérique sur l’équilibre énergétique et écologique de la planète

Sans électricité, que ferions-nous, comme nous le propose Jean Marc Jancovici ? Nous ne pouvons pas percevoir humainement les effets du numérique sur la planète, tant ils sont peu perceptibles pour l’usager. Toutefois une réflexion approfondie sur le fonctionnement numérique permet de reconstituer la chaîne de fabrication, d’utilisation et de recyclage du numérique. Encore faut-il accéder aux informations réelles et réussir à se départir de l’évidence de l’usage quotidien qui semble si « indolore » pour la planète….

Changements cognitifs et sociétaux

9 – Déshumanisation par remplacement par des robots. Le risque de déshumanisation de nos sociétés du fait du remplacement de l’humain par des robots et des technologies de la distance

L’invention des outils par les humains a d’abord été conçue pour faciliter et améliorer la survie et la vie du quotidien. Depuis le début de la structuration des groupes humaines les techniques se sont développées. Les plus récentes, le numérique en particulier, non seulement semblent améliorer la vie des humains, mais en même temps visent à leur « remplacement » par les objets techniques. L’intermédiation de la technique met l’humain à distance du réel mais aussi des autres humains. Petit à petit, l’humain perd de l’agentivité sur le monde qui l’entoure, le rend dépendant et parfois le met de côté. La logique économique s’associe à la logique technique pour progressivement déshumaniser la vie en société

10 – Effets de l’Intelligence artificielle sur la société et les individus. Le déploiement de l’Intelligence artificielle peut inquiéter du fait de sa puissance.

L’effet découverte de l’IA a amené nombre de personnes à en explorer les possibilités. Pouvant y trouver une « amélioration » de certaines activités, les individus ont aussi transféré ces possibilités à leur univers professionnel et aussi parfois relationnel. Un autre effet est celui d’une transformation des activités cognitives face à des tâches plus ou moins complexes. Les entreprises sont en phase de découverte pour nombre d’entre elles. Cette phase est aussi liée aux évolutions rapides des possibilités des IA. Ce temps d’incertitude va vers une stabilisation à venir, mais reste surtout déstabilisante pour en mesurer les effets réels. Les inquiétudes sont réelles, car elles expriment aussi les incertitudes techniques et économiques qui sont liées.

Conséquences pour la vie quotidienne

11 – Productivité humaine et pénibilité numérique. L’augmentation de la productivité humaine crée une pénibilité numérique liée aussi à l’accélération

La conception d’outils techniques par les humains a pris, dès le XIXè siècle en particulier, un axe de développement, en partie industriel, qui a modifié l’activité humaine et le travail. L’accélération du quotidien (voir Hartmut Rosa) des humains est relayé aujourd’hui par l’évolution informationnelle et communicationnelle permise par les moyens numériques. Si certaines tâches sont allégées voire remplacées, d’autres sont plus contraignantes. La productivité individuelle (rapport travail/économie) continue d’augmenter associée à des charges mentales nouvelles, plus complexes et probablement plus difficiles à supporter pour certains.

12 – Tracking et surveillance des personnes. Le développement du tracking et de la surveillance des personnes peut amener à une société sous contrôle (mais de qui ?)

Le déploiement du numérique, aussi bien dans les activités économiques quotidiennes (cartes bancaires, paiements…) que dans l’organisation de la vie en société (caméras, authentification, etc…) amène à une multiplication des informations sur chacune de nos activités. L’omniprésence des smartphones et de leur lien permanent avec des services relais permet désormais une surveillance individuelle de plus en plus précise et complète. La numérisation des services administratifs et policiers complète l’émergence d’une société de « surveillance automatisée » à laquelle l’IA apporte ses capacités statistiques d’analyse. L’exemple chinois en est une illustration quotidienne tout comme la surveillance ou l’interdiction d’accès à Internet dans certains pays en crise.

Géopolitique

13 Souveraineté : qui possède et qui pilote les évolutions techniques de nos sociétés ?

Les modèles politiques diversifiés que l’on rencontre sur la planète impliquent des réglementations différentes. La domination de certaines solutions techniques issues de certains pays et certaines formes d’économie a mis en évidence la possibilité de contrôle à distance et donc la dépendance de certaines populations par rapport à d’autres, dominantes. L’évocation de la souveraineté est devenue d’autant plus forte que les rivalités entre pays, entre culture, entre peuples ont révélé nos dépendances internationales. On évoque souvent Internet, mais l’exemple de la crise sanitaire du COVID a révélé les mêmes problèmes à propos de l’approvisionnement en substances chimiques médicamenteuses.

14 Sécurité : la compétition entre sociétés (industrielles ou étatiques) amène à des comportements qui peuvent déstabiliser.

A l’instar des moyens de contrôle, d’espionnage et de l’internationalisation de services numériques, la compétition entre les pays s’est développée avec les évolutions idéologiques : certaines idéologies cherchent à imposer leur mode de pensée aux autres. L’utilisation des moyens numériques, dont l’opacité est importante pour le grand public, permet ainsi de suivre, d’influencer, d’espionner, de contrôler « à distance » l’organisation des pays. Les tentatives d’influences dans le domaine des élections est illustratif des dérives sécuritaires de plus en plus fortes sous l’effet des moyens numériques connectés (piratages, détournements etc…)

Conclusion

Sans être complotiste ou alarmiste ou technophobe, il est nécessaire d’entendre toutes ces craintes, ces méfiances, ces dérives potentielles. Chacun de nous doit en être conscient afin de tenter de s’en prémunir d’une part, mais aussi d’en protéger les autres si possible. La très grande méconnaissance des évolutions actuelles est d’abord du à la séduction importante des nouveaux moyens numériques. Séduction, voire fascination pour certains, qui, du fait du sentiment de facilitation, amène les usagers à être peu méfiants, voire dans le déni des dérives possibles. D’autant plus qu’une grande partie des utilisations quotidiennes ne permettent pas d’en saisir les effets multiples potentiels, devenus invisibles, imperceptibles et pourtant bien réels….

A suivre et à débattre

BD