Ce n’est pas nouveau mais cela mérite d’être approfondi. Au moment où sort l’appel sur « les ligne rouges de l’IA » est publié (https://red-lines.ai/?tl=french#call), nous proposons cet inventaire. De nombreuses personnes expriment des peurs, des craintes des suspicions et autres critiques avec le développement des techniques, en particulier les plus récentes, celles fondées sur l’informatique et ses développements. Il ne s’agit pas ici de provoquer ni dans un sens ni dans l’autre, mais simplement de mettre en évidence les sujets polémiques qu’il convient de prendre en compte avec le développement des technologies de l’information et de la communication. La liste ci-dessous n’est pas forcément exhaustive, mais elle est simplement le rappel de ce que nous avons pu lire, entendre et comprendre au cours des années.
– Automatisation mécanique, automatisation des actions intellectuelles et de pensée
Après la mécanisation du XIXè siècle, la volonté d’améliorer la productivité et en même temps une certaine forme de bien-être a amené au développement de l’informatique comme mécanisation de l’acte intellectuel et mental.
– Transformation des métiers, substitution évolution, transformation
A chaque évolution technique, certains métiers sont amenés à changer ou à disparaître. La crainte exprimée ainsi est celle de la nécessaire mobilité qui s’est de plus en plus diffusée dans les trajectoires de vie professionnelle. Celle-ci implique donc aussi la possibilité de se former pour s’adapter à ces nouveaux contextes
– Education, apprendre sans enseignant ou sans école, automatiser l’enseignement
Dès l’apparition de l’enseignement assisté par ordinateur, la question de la place de l’enseignant dans un monde de technologies informatiques a été posée. Constamment renouvelée à chaque nouveauté technique cette question est encore plus d’actualité avec l’arrivée de l’IA. Plus que l’enseignant, c’est la « transmission » qui est au coeur du débat actuel et d’avenir
– Information, donner accès à toute l’information, perte de repères, infobésité, connaissance savoir
L’accès à l’information est la clef de voute de la connaissance. L’information constitue l’ensemble des éléments de savoir accessibles et pas uniquement l’information de masse, celle des médias traditionnels. Ceux-ci n’ont fait que continuer ce qui existait déjà en matière de « transmission » mais en utilisant de plus en plus de moyens techniques. Accéder à de l’information, est devenu un enjeu majeur du fait que la masse d’informations accessibles pour tous s’est multipliée, mais aussi que leur qualité et leur circulation les a « mélangé » ce qui oblige chacun de nous à développer des stratégies nouvelles pour développer nos connaissances, le monde scolaire ne suffit plus !
– Algorithmes de conformité et de renforcement, Enfermement dans une bulle de connaissances et de croyances
La conception des logiciels traduit des intentions. Les algorithmes sont donc établis en fonction de celles-ci. Les concepteurs orientent ainsi les usagers et les enferme dans les choix faits en amont. L’exemple de l’algorithme qui propose d’abord ce vers quoi vous êtes allés auparavant induit et renforce le biais de conformité. Enfermés dans une bulle, le risque est de ne plus voir le monde dans sa diversité, mais dans un filtre personnel
– Communication, multiples et non contrôlées
Vue comme un échange entre des humains (et pas seulement information) basés sur une potentielle réciprocité ou confrontation, l’émergence des réseaux sociaux numériques a complexifié cette activité humaine. Si les réseaux ne sont pas une nouveauté dans les sociétés humaines, ils ont connu une amplification importante du fait d’Internet et des appareils individuels connectés (smartphones). Le bruit communicationnel tente d’être dominé par certains, soit médias traditionnels qui évoluent, soit personnalités et structures qui s’en emparent (influenceurs…).
– Harcèlement, devenu cyber, de plus en plus faciles à mettre en œuvre
Les confrontations entre personnes, jeunes ou adultes, prennent parfois des formes particulières. Le harcèlement en est une, importante et difficile à supporter quel qu’en soit le support (corbeaux, messages divers, courriers,…). L’attention au cyberharcèlement s’ajoute en puissance et en moyens techniques et fait même écran à cette pratique sociale ancienne. Les moyens numériques, parce qu’ils mettent à distance les humains derrière des écrans peuvent laisser croire à une certaine impunité.
– Pornographie, fantasme humain qui parfois s’impose à tous sans filtre
La place de la sexualité dans la vie humaine est importante, mais souvent cachée. La pornographie est un des moyens pour certaines personnes qui ont du mal à faire face à leur sexualité. Rappelons ici le « minitel rose » des années 1980, mais aussi les devantures aguichantes de publications papiers dans les kiosques pour illustrer cela. Outre le rapport à la sexualité, il y a aussi une démarche commerciale qui vise à capter les attentes. C’est l’accessibilité nouvelle permise par le web et sa mondialisation qui amplifie la place de la pornographie
– Piratage, la volonté de nuire au collectif est désormais présent jusque dans les institutions de santé
La piraterie n’est pas nouvelle, le piratage numérique en est une extension. La particularité actuelle tient à la complexité de certaines actions de piratage, comme les rançongiciels ou les attaques par déni de service, et en parallèle la simplicité de certains actes comme le phishing ou le mail malintentionné. La fréquence de ces actions est corrélée avec la fréquence des usages et en même temps la baisse des seuils de vigilance dès lors que l’utilisation du numérique apparaît a priori comme inoffensive
– Savoir, l’éclatement des filtres rend l’accès aux savoirs de plus en plus difficile et à vérifier
Le savoir, les savoirs, sont en premier lieu un bien commun de la communauté humaine. Leur fabrication, leur diffusion et leur gestion sont des éléments importants car ils constituent un patrimoine humain. Le problème révélé depuis plusieurs années est le dévoilement de la finalité de cette élaboration. Compétition, concurrence, valorisation des savoirs ont amené à une dérive qui amène à une augmentation des « faux savoirs » d’une part et de la privatisation de certains savoirs. Le monde numérique en outre offre un espace de circulation qui rendent floues les frontières entre les savoirs en élaboration (préprint) et les savoirs attestés (confirmés).
– Connaissances, savons-nous encore faire de la connaissance alors que tout facilite l’information
Si l’on définit la connaissance comme ce que chacun de nous fait des informations et des savoirs, nous pouvons constater qu’un questionnement existe : avons-nous encore besoin de connaître si autour de nous les savoirs et les informations sont directement accessibles au travers de moyens numériques ? Le processus de la connaissance, processus mental complexe et de longue durée, voire permanent, peut être altéré, modifié, simplifié ou simplement réduit. Comme pour le processus de compréhension de l’écrit, par rapport au déchiffrage, il est nécessaire de disposer de connaissances pour en développer d’autres plus complexes.
– Déficit cognitif, la technologie transforme nos cerveaux en facilitant certaines taches cognitives
La facilitation, la conformité sont parmi d’autres les moteurs de l’affaiblissement cognitif. La curiosité, l’inventivité (revoir Sir Ken Robinson) sont pourtant au coeur de l’humain appuyés par l’envie d’apprendre, de comprendre, de prendre en main le monde qui nous entoure. Si l’attention et la mémorisation en sont les symptômes, il faut s’interroger soi même sur son « principe d’économie cognitive » : je fais quoi de mes facultés mentales ?
– Paresse et facilité, tout incite à chercher le résultat sans se soucier du processus.
Notre organisme est-il vraiment économe de ses ressources physiques et mentales ? La recherche de l’économie de notre énergie psychique et physique nous incite à nous appuyer sur ce qui est là, à proximité. Apprendre à voir plus loin, plus global, c’est prendre le risque et la joie de l’effort, de la compréhension, de l’apprendre
– Propriétés intellectuelle, doit-on tout partager alors que notre société incite à la propriété
La mise en ligne de contenus de toutes sortes rend accessible de nombreuses ressources sans que jamais il ne soit fait référence à leur origine, à celles ou ceux qui les ont conçus. Dans un monde où tout est commercialisable, la propriété (dont certains jadis ont écrit que c’était un vol) même intellectuelle vaut-elle encore quelque chose ? Lire et relire les conditions d’utilisations de toutes les plateforme en ligne montre qu’elles cherchent à « s’approprier » les contenus de toutes sortes, pour leur bénéfice.
– Géolocalisation, en voulant trouver son chemin on peut être suivi grâce au positionnement numérique
La généralisation du GPS transforme notre relation à l’espace : nous ne le percevons plus d’en haut (comme pour une carte) mais de dedans (en étant guidé visuellement). Si cela facilite les déplacements, c’est aussi une facilitation de l’apprentissage de la représentation spatiale. Sommes-nous perdus sans notre outil de géolocalisation ? Sommes-nous surveillés de la même manière ?
– Ethique, Chacun de nous est appelé à adopter un comportement qui soit en cohérence avec l’humain et le vivre ensemble. l’univers débridé du web donne la place à tous les comportements
Nous sommes de plus en plus utilisateurs de ressources numériques qui transforme notre vision du monde mais aussi notre pouvoir d’agir. Pour cela la morale et l’éthique peuvent être mises à mal par la proximité de toutes sortes de comportements humains et chacun de nous est renvoyé à sa capacité à se constituer un cadre de vie personnel en phase avec le monde qui nous entoure.
– Respect, La multiplication des échanges brefs et instantanés, souvent dans l’émotion, amène à des manières de concevoir l’autre sans lui accorder notre respect
L’observation des comportements humains au travers des espaces d’échanges multimodaux met en évidence de nombreux propos qui ne « respectent » pas. Respect de l’autre, respect des valeurs et autres formes de respect, l’absence de contrôle collectif renvopie à chacun sa manière de respecter. La confrontation pour le respect se fait aussi bien sur la base de la loi que sur celle de l’éthique personnelle. Comme chacun peut depuis l’avènement d’Internet puis du Web accéder à la diffusion sans intermédiaire, le respect doit être analysé en tenant compte du nouveau contexte
– Triche, l’IA propose des contenus qui sont semblables à ceux d’un humain. Les élèves, les étudiants s’en sont rapidement emparé…
Utiliser l’IA pour mieux répondre à des sollicitations peut être vu soit comme une amélioration soit comme un contournement. Tout dépend de ce qui est demandé et l’intention de celle ou celui qui y répond. Avec les devoirs à la maison, il est aisé de solliciter l’IA pour répondre à cette demande. Tout dépend de la manière dont l’élève va utiliser l’IA pour fournir une réponse. C’est cela qui pose problème pour l’enseignant confronté à un travail dont il pense que l’auteur est l’IA. Encore faut-il pouvoir le repérer, le prouver…
– Plagiat, reprendre le travail d’autres et les intégrer dans le sien devient de plus en plus facile du fait de la disponibilité de contenus en ligne.
L’IA générative est en quelque sort la première à plagier. Reprenant des contenus auxquels elles a pu accéder et les rassemblant au gré des questions posées, elle fournit des documents qui semblent « authentique, mais qui, en réalité sont repris. L’étudiant, l’élève peut ainsi se retrouver en situation de plagiat sans même s’en rendre compte. La différence avec la simple copie tient au fait qu’il suffit de modifier, parfois avec l’informatique et l’IA, un document original pour en faire un autre document plagié, celui-là
– Créativité, Peut-on encore être créatif aujourd’hui alors que tant de données sont disponibles et que des algorithmes permet de les enrichir, parfois autant que l’humain
A la manière de, est une expression que l’on utilise souvent pour tenter d’imiter des travaux qui sont considérés comme des créations. L’IA rend possible cette impression de créativité. Là où la créativité intervient, c’est lorsque le « contexte » est pris en compte dans la fabrication l’œuvre de création. La machine manque d’imagination et de créativité car, justement, elle ne sait pas prendre en compte les contextes synchroniques et diachroniques
– Rayonnements ondes, Nous sommes constamment traversés par des ondes de toutes sortes, naturelles ou non.
C’est la multiplication de ces dernières qui pose question. Ne sommes-nous pas soumis à des ondes de plus en plus nocives ? La question est ravivée à chaque évolution technique : arrivée du wifi, passage de la 4g à la 5g etc… Il est toutefois nécessaire de mettre cette question au sein d’une analyse plus globale de la question des rayonnements, qu’ils soient dus aux humains ou à la nature elle-même (exemple des éruptions du soleil).
– Ecrans, yeux, posture, attention : nuisance des ordinateurs et de leurs dérivés
La question du travail devant écran est de tour temps délicate. Si au début on évoquait surtout la posture physique et la fatigue attentionnelle et visuelle en particulier au travail, désormais ce sont surtout les écrans et la dérive attentionnelle qui est mise en avant en particulier pour les plus jeunes. la difficulté de toutes ces alertes est leur caractère très général et peu précisé. L’autre difficulté actuelle est que l’on signale un risque pour les plus jeunes, mais que l’on oublie trop souvent les pratiques adultes.
– Sécurité : Individuelle ou collective, la sécurité que ce soit de nos données ou de nos biens semble souvent menacée
Chacun de nous peut se sentir en « insécurité » face aux techniques d’intrusion qu’elles soient individuelles ou collectives, privées our professionnelles. Entre l’attirance commerciale suscitée par les techniques marketing les plus avancées et les arnaques, il n’y a qu’un pas. Ce qui rend de plus en plus nécessaire le dévoir de vigilance pour chacun, mais aussi le devoir de transparence pour toutes les offres qui circulent sur le Web.
– Relations humaines, interactions machiniques, structures familiales : médiatisées ou médiées, les relations humaines sont transformées.
La peur de l’absence, l’importance de la permanence de l’autre, ont été transformées par les moyens d’échanges qui se sont développés aux cours des 100 dernières années. Instantanéité, simultanéité, multimodalité, accélération, ce sont quelques une des évolutions en cours. Elle s’appuient sur notre acceptation psychique et cognitif de cet environnement. Allant parfois jusqu’à l’addiction ou la soumission, l’usage des technologies, en transformant la matérialité de la relation (présentiel-distanciel), a modifié notre perception des « autres » et notre manière de la gérer.
– Surveillance : la société de surveillance est ancienne, mais les moyens à disposition se sont multipliés…
La possibilité de tracer (géolocalisation, enregistrement des activités numériques) de voir (vidéosurveillance), de reconnaître au travers des moyens numériques les activités humaines est à la source d’une société de surveillance dont les capacités se sont décuplées. La question est celle de l’intention de cette surveillance. Si j’installe un logiciel de captation de l’activité sur un smartphone ou un ordinateur, quel va en être l’usage final. Des lois existent, mais résistent-elles longtemps à l’évolution des pratiques réelles, souvent cachées ?
Rester vigilants sans sombrer dans la morosité
Cet inventaire, un peu à la manière de Jacques Prévert ou de Boris Vian, nous montre combien les évolutions, les inventions, suscitent des interrogations. Nous ne voulons pas dénoncer ces questionnements, mais, au contraire, les rappeler car nombre d’entre eux tombent rapidement dans l’oubli médiatique, mais restent réellement à garder à l’esprit. La vigilance doit être à la base de toute volonté d’introduire des nouveautés dans un système, humain en particulier. Le principe de précaution, souvent évoqué, est d’abord un principe de vigilance. Force est de constater que, au-delà des dernières technologies, l’être humain n’a eu de cesse de faire progresser sa maîtrise sur le monde en oubliant parfois que cette volonté amène parfois à des résultats contraires à ce qui a été perçu au début. Le sens du progrès technique ne va pas toujours dans le sens du progrès humain….
Jusqu’où aller trop loin ?
Signalons enfin ce passage de l’appel pour des « lignes rouges de l’IA » ( https://red-lines.ai/?tl=french ) : « L’IA pourrait bientôt dépasser de loin les capacités humaines et exacerber des risques tels que le développement de pandémies artificielles, la manipulation des individus, y compris des enfants, la désinformation à grande échelle, les menaces pour la sécurité nationale et internationale, le chômage de masse et les violations systématiques des droits humains. ». On voit bien, encore une fois, que l’émergence, rapide, de nouveaux moyens techniques, interroge les humains, aussi bien les plus informés que les béotiens.
