Où va l’intelligence artificielle ? Réalités, fantasme et conséquences éthiques ?

Depuis deux ans, notre association a entrepris de réfléchir sur ce sujet : télécharger le rapport  ICI en pdf

Résumé du texte ci-dessous.

L’intelligence artificielle est une expression d’origine américaine qui remonte à au moins 50 ans ; mais depuis quelques années elle fait la Une des medias. Et de fait, de nombreuses questions éthiques ou philosophiques sont soulevées par cette technique. Pour clarifier les débats, nous préciserons la distinction entre l’intelligence artificielle fonctionnelle -ou faible- et une intelligence artificielle forte. Puis nous ferons des remarques d’ordre philosophique sur les différences homme/machine, avant d’évoquer les problèmes éthiques.

a. Une intelligence artificielle fonctionnelle ou une I.A. forte ?

L’I.A. fonctionnelle (ou faible) est caractérisée par le fait que tous les logiciels même les plus complexes (et ceux dont plus personne ne connaît le fonctionnement exact) ont été écrits par des hommes ou ont été traduits à partir d’instructions écrites par des hommes. Elle est fondamentalement liée à l’informatique et au traitement de l’information.  Bien sûr, tous les logiciels embarqués dans des robots ou des prothèses relèvent de l’I.A. fonctionnelle. Quand on dit qu’un robot autonome « décide » de mettre en mouvement un certain actionneur, c’est parce que le logiciel embarqué a été programmé en vue de cette décision.

Depuis la fin des années 1970, on parle aussi de strong artificial intelligence (une I. A. forte) désignant par là des machines dont les capacités seraient identiques à celles d’un humain, voire supérieure ! Selon certains, « nous sommes à la veille d’un changement comparable à l’émergence de la vie humaine sur Terre », la nouvelle technologie sera dotée d’une intelligence supérieure à celle de l’homme grâce à «des ordinateurs évolués qui parviendraient à l’éveil et à l’intelligence superhumaine …».

Mais cette I. A. forte – basée sur l’émergence de logiciels générés par des robots ou par une super-intelligence collaborative – est surtout un fantasme. En effet l’informatique reste depuis 70 ans sur un paradigme basé sur

1. Une représentation booléenne des données stockées sur des supports matériels (les mémoires). 2. Des logiciels écrits avec des langages de programmation (dont les instructions sont aussi stockées en mémoires). 3. Des processeurs à base de semi-conducteurs permettant aux logiciels de s’exécuter (la partie calcul).

Toutes les évolutions ultérieures jusqu’à nos jours ne sont des améliorations de ces fondamentaux. L’homme sera toujours nécessairement présent pour spécifier ou écrire les logiciels. Il n’y a aucun indice de changement de paradigme en informatique, si ce n’est peut-être l’informatique quantique où les processeurs de base changeront de nature, mais on ne voit pas comment ils pourraient être utilisés en se dispensant d’un langage de programmation.

b.  Différences entre l’homme et la machine.

Pour l’intelligence artificielle comme ailleurs, il importe de prendre en compte les possibles défaillances du système. En effet, aucune machine ne peut être certifiée ne jamais tomber en panne ; ne serait-ce qu’à travers son alimentation électrique. Ces possibles défaillances impliquent d’ailleurs la nécessité de garder des traces du fonctionnement du système permettant d’analyser les causes d’un éventuel dysfonctionnement (recherches de responsabilités en cas de préjudice).

Cela nous amène à faire des remarques d’ordre philosophique sur les différences homme/machine (indépendamment de toute considération d’ordre spirituel) :

* La caractéristique de l’homme est de lutter contre la maladie puis de mourir ; la caractéristique de la machine est de tomber en panne puis de partir à la casse.

* Dans un robot, il y a une distinction entre la partie logicielle et la partie matérielle (hardware, capteurs, actionneurs, etc), alors que le lien entre le corps de l’homme et son intelligence est beaucoup plus intime. L’homme n’est-il pas composé d’un corps et d’une intelligence indissociablement unis, notamment à travers la possibilité d’aimer et de se donner à l’autre ?

De nombreux « spécialistes » affirment que dans 30 à 60 ans (selon les opinions), on assistera à l’avénement de La Singularité lorsque l’homme sera  surpassé par les robots ; il sera alors possible de télécharger des informations depuis un ordinateur vers le cerveau ou inversement. En fait, cette hybridation entre le cerveau et la « puce intelligente » doit être considérée pour ce qu’elle est : un fantasme. L’ensemble de l’activité cérébrale mettant en branle des milliards de neurones ayant une connectivité complexe qui est fonction de l’environnement (qui lui-même change au cours du temps) pourra-t-elle être capturée et traduite sous la forme d’un ensemble de données digitalisées susceptibles de pouvoir être utilisée par des ordinateurs ?

Mais, la pensée humaine n’est pas réductible à un ensemble d’algorithmes opérant sur des données qui peuvent être transcrites de façon univoque. Il est extrêmement étonnant de prétendre que notre cerveau fonctionne comme un algorithme.

c. Aspects éthiques.

Voir le document en pdf joint sur différents points d’attention.

d. Conclusions.

Notre vigilance ne doit pas tant porter sur le projet utopique de machines surpassant les performances humaines que sur le risque de nous méprendre sur ce qu’est le corps de l’homme. Nous terminons donc par deux remarques sur ce sujet.

i) En se situant dans le cadre de anthropologie chrétienne, rappelons que le corps est uni à son âme et il est spirituel. C’est à travers cette union que se développe une véritable intelligence humaine qui est capax Dei. L’anthropologie chrétienne récuse l’idée que notre corps puisse être comparé à du hardware d’une quelconque système intelligent. Ce corps est éminemment noble puisqu’il est « temple de l’Esprit ». C’est bien notre être corporel « que la présence active en nous de l’Esprit divinise, sans pour autant nous absorber et nous anéantir en Dieu » ; ainsi nous sommes capable de compassion, de sacrifice pour notre prochain et de don gratuit (mais aussi de mensonge, de cruauté, de crimes même). Cette liberté constitutive de notre être est complètement étrangère à toute conception de la super-intelligence qui nous est promise.

ii) Pour leur part, les nouveaux techno-prophètes affirment « notre corps va devenir un matériau presque comme un autre, modulable sur commande, avec des pièces de rechange de plus en plus performantes et une intelligence assistée toujours plus puissante ». Ce qui justifie l’eugénisme libéral qui permet de supprimer les corps-matériaux non conformes ou fruits d’une manipulation hasardeuse. Laurent Alexandre nous prévient que grâce à la convergence NBIC « il va devenir possible d’augmenter l’intelligence en agissant en amont de la naissance ou bien directement sur la machine cognitive qu’est le cerveau lui-même ». Donc, l’embryon et le corps humain doivent être considérés comme de simples matériaux et cela sous le prétexte que les expérimentations sur ces « matériaux » sont indispensables « pour le progrès de l’Humanité ».

Habermas notait déjà que « l’eugénisme est aujourd’hui ardemment défendu par des libéraux : ils souhaitent que la recherche scientifique et l’innovation technique soient entravées le moins possible ».

Ce sont les mêmes qui soutiennent cet eugénisme libertaire et qui appellent de leur vœu l’avénement de La Singularité lorsque l’homme aura sa dignité ! Face à ceux qui, au nom de cette Singularité, veulent pouvoir disposer à leur guise du corps de l’homme sans aucun garde-fou, nous affirmons tranquillement que toute notre activité scientifique et technique n’est légitime que si elle ne transgresse pas nos fondements éthiques que sont la liberté et la dignité de chaque personne humaine.

Personne humaine et génome. Intervention sur le génome, l’éthique a-t-elle son mot à dire ?

Compte-rendu du colloque du 4 mars 2017 au Collège des Bernardins (en partenariat avec son Dép. d’éthique bio-médicale)

Les actes du colloque sont en cours de parution dans la revue Connaître

Les intervenants étaient : Alain Privat, membre de l’Académie de médecine

Michel Morange, professeur de biologie, ENS, Paris

Axel Kahn, ancien président de l’Université Paris-Descartes

Alexandra Henrion-Caude, Directrice de recherche Inserm, Necker-Enfants Malades

Dominique Folscheid, professeur de philosophie, Université Paris-Est, co-directeur du dépt d’éthique biomédicale.

P. Brice de Malherbe, professeur de théologie, Faculté Notre-Dame, co-directeur du dépt d’éthique biomédicale.

Comment parler des manipulations génétiques entre le mythe, le bénéfice attendu et l’éthique ? Certaines techniques dont le CRISPR-Cas9, suscitent le débat. N’est-ce pas l’occasion de faire le point sur les avancées de la génétique et de s’interroger sur une certaine vision qui consisterait à réduire la personnalité d’un individu à son génome ?

Un des questions évoquées est celle de la façon dont la modification des gênes agira sur l’être.

Nous savons mimer les conditions de la reproduction (les fameuses techniques de PMA), mais nous feignons d’ignorer les conséquences sur notre construction épigénétique (ce qui dans nos cellules ne relève pas directement de la génétique au sens strict) et psychologique d’un environnement vital si précoce in vitro, statique, dans du plastique.

Nous savons synthétiser bon nombre de molécules, de chromosomes et les manipuler (ladite « biologie synthétique »), mais nous ne comprenons toujours pas pourquoi la synthèse artificielle n’est pas équivalente au naturel. En fait, nous avons toujours besoin d’un écrin pour insérer l’information génétique, afin que le programme soit mis en marche, autrement dit qu’il naisse à la vie. 

En bref, nous comprenons beaucoup. Mais nous n’avons toujours aucune idée de ce qui met en vie, autrement dit comment la matière est vitalisée.

En conclusion, nos expérimentations sur les vies humaines (cellules souches embryonnaires, clonage, embryons considérés comme matériau de laboratoire) et nos interventions commerciales sur notre enveloppe humaine comme moyen de production (organes issus de clonage, gestation pour autrui) ne doivent-elles pas être soumises au principe de précaution ?

liste de grands scientifiques chrétiens

Le grand public ignore souvent que les sciences modernes se sont développées au sein de la civilisation chrétienne ; c’est pourquoi nous donnons ici deux listes de grands scientifiques chrétiens.

Un document de 30 pages (écrit en novembre 2017) à télécharger en cliquant ICI .

Un second document de 144 pages (écrit en 2020) que nous communique un de nos sympathisants : à télécharger ICI

Compte-rendu colloque 2016 Intelligence Artificielle

Les actes du colloque sont publiés dans la revue Connaître. On y trouve une série de texte

Présentation générale par Pierre Perrier, de l’Académie des technologies, (voir ici présentation P. Perrier )

ainsi que les contributions des autres intervenants
Serge Picaud, Directeur de recherche INSERM, Institut de la vision, Paris,
Raja Chatila, Directeur de recherche, directeur de l’Institut des Systèmes Intelligents et de Robotique, Université Paris VI.
Bénédicte Mathonat, Professeur de philosophie, Facultés libres de philosophie et psychologie
Serge Tisseron, de l’Académie des technologies, médecin psychiatre, chercheur en psychologie, Paris VII
P. Florent Urfels, Docteur en théologie et en mathématiques, enseignant au Collège des Bernardins.
Voir ici des remarques de conclusion par R. Sentis