« L’éthique de l’IA : entre tour de Babel et Panoptique » par Léonie Jacquier, Jeune Démocrate
Jeune Démocrate, Léonie Jacquier porte un regard nourri à la fois par la réflexion philosophique et par son expérience professionnelle dans les secteurs de la cybersécurité, de l’aérospatial et des technologies quantiques. Dans ce billet d’humeur, elle interroge les enjeux éthiques de l’intelligence artificielle à l’aune de l’encyclique Magnifica humanitas du pape Léon XIV, entre promesses technologiques, responsabilité humaine et préservation des libertés fondamentales.
La parution de la première encyclique Magnifica humanitas du Pape Léon XIV interroge l’évolution et la place que doivent prendre les nouvelles technologies, et a fortiori l’intelligence artificielle, au sein de notre humanité. Loin d’être un texte réservé à l’Église seule, il s’adresse au monde entier questionnant, sur le socle de la Doctrine sociale dans la lignée de son prédécesseur Léon XIII avec Rerum novarum, l’évolution technologique dans son imbrication dynamique avec : la politique, la guerre, l’écologie, les enjeux éducatifs, le rapport au travail, au chômage, à l’avenir de la jeunesse et de la famille, le tout sans exhaustivité.
Si le syntagme phare qui a été retenu par la majorité est celui de « désarmer l’IA », ce dernier est essentiellement éclairé à l’aune de la dignité humaine ontologique, inaliénable et irréductible, ainsi que du bien commun. S’il ne s’agit en aucun cas de faire un commentaire linéaire de l’encyclique, les mots brûlants d’actualité de Léon XIV, nous pousse, en tant que citoyens et citoyennes, à examiner notre rapport à l’éthique des technologies ; puisqu’il est vrai qu’aucune technologie n’est moralement neutre.
Il y a une impossibilité de neutralité éthique sur la technique pour la simple et bonne raison que toute technologie a causalement un effet et que cet effet produit une conséquence qui ne peut être axiologiquement neutre. S’il n’y avait aucune conséquence morale à l’action technologique, les différents secteurs ne porteraient pas autant de travaux sur leurs encadrements éthiques. Si l’Éthique avait été un mot cédé à la Lexicon Cop., cette multinationale de l’univers d’Alain Damasio privatisant les mots dans une volonté d’hégémonie pécunio-langagière, alors elle aurait été, sans aucun doute, celui qui eût permis de toucher le plus de royalties. Grande vitrine de ces dernières années, il n’y a pas un secteur d’activité, un domaine qui ne soit pas affublé de ce réceptacle de valeurs. Éthique d’entreprise, éthique de l’IA, agriculture éthique, éthique de la technique, éthique de la médecine, l’éthique des nanotechnologies, etc. Pourtant, pour éclairer l’utilisation éthique de l’IA il s’agit de s’attarder un tant soit peu sur plusieurs choses.
La première est que l’éthique tire son étymologie du grec ethos (ἦθος) chez Aristote et sert la question de « comment vivre ? » : autrement dit ce qu’il faut préférer en vue du Bien. On ne peut alors déconnecter l’éthique de l’IA ni d’autrui, ni de la finalité et donc d’un principe de responsabilité quant aux choix qui nous sont demandés. L’éthique dans ce contexte est la rationalité propre au secteur de l’IA comprise comme instrument de justice, de sûreté des données, de respect de la personne et des droits fondamentaux dans l’espace numérique.
Adhérer à cette fin c’est conformer son action à un ordre juste et non plus seulement fonctionnel, fondée sur une hiérarchie du bien.
On peut alors postuler qu’une politique technologique conforme éthiquement est celle qui vise non pas seulement à développer des actifs techniques, mais à garantir la dignité de la personne humaine, la justice dans l’accès à l’information et la paix des interactions numériques. L’utilisation de l’intelligence artificielle peut donc être éthique si elle est choisie de plein gré, qu’elle est orientée rationnellement vers un bien supérieur (logos) et qu’elle vise une finalité humaine (telos).
Nonobstant, l’éthique de l’IA ne peut être soustraite à l’étude de sa responsabilité quant à son impact sur le bien commun et sur les générations futures. Si cette thématique de la responsabilité quant aux générations futures est chère au philosophe allemand Hans Jonas, nous reprendrons ses principes pour penser une éthique du lointain. L’aiguille principale de la boussole est celle de l’anticipation de la menace. Penser aux risques qui pèsent sur les générations futures permet, dans un monde où les technologies évoluent plus vite que les idées, de s’arrêter, de reprendre notre souffle et de voir plus loin, tout en se décentrant de nos existences singulières, afin de s’ancrer charitablement dans cette interrogation : qu’est-ce qu’on laisse ? Quelles promesses et possibilités de vie donne-t-on aux générations qui nous succéderont ?
L’enjeu moral n’est pas tant une question de bénéfice collectif, d’inclusion ou de sécurité face aux cyberattaques, que les atteintes potentielles au droit, à la dignité, à la sécurité et la liberté des personnes et sociétés humaines. Les clés de voûte doivent alors porter la question de la valeur humaine et l’identification du risque par rapport au mal qui peut impacter un individu. L’analyse du risque doit se faire d’un point de vue humain. Quels risques pour l’homme et dans un principe de responsabilité, quels risques pour l’avenir de l’homme ? Évaluer dans un principe de responsabilité vis-à-vis des générations futures, et centrer la continuité sur l’amélioration de la vie humaine. Si des mesures viennent dévaluer le potentiel de l’avenir alors on réévalue pour que ce soit plus viable, mais surtout plus vivable.
Enfin, l’éthique de l’IA doit également se mesurer à la lueur du pouvoir de contrôle social et de surveillance des populations qu’elle peut engager. Si ce point rejoint les propos du Pape Léon XIV (cf. 171) sur la collecte massive des données, le fait de saturer l’espace de satellites pour l’IA, telles des nuées d’oiseaux mécaniques, pose question quant aux principes fondamentaux de liberté.
En effet, la façon dont l’oeil spectateur se représente les activités spatiales ne réside peut-être pas tant dans le caractère merveilleux et transcendant de l’exploration que la découverte que ces activités, notamment situées au niveau des satellites orbitaux, le mettent en proie à un regard puissant. Qu’à l’image du spectateur de la Sears Tower de Chicago de Louis Marin, la danse orbitale, multipliée et incessante des satellites, renvoie un imperium céleste omniprésent, un contrôle par la vision supraterrestre permanent, tel le panopticum de Bentham où le regard devient pouvoir. Deux regards, deux représentations se croisent alors. Le premier, un regard, dans sa totalisation dominante, qui cherche l’horizon non comme limite mais comme universel ; mais qui peut, en glissant sur la frontière, se muer en pouvoir coercitif. Le deuxième, un pouvoir surplombant où il ne s’agit pas tant d’être vu que de voir ; un oeil technologique en position héliosynchrone où l’observation n’est plus de 360°, mais polaire et circulaire inclinée à 90° en vision totale.
En bref, il s’agit bien de faire attention à la tour de Babel, car le salut n’est pas purement technique (cf. Magnifica humanitas, 117).
Léonie Jacquier, Jeune Démocrate.