Où va l’intelligence artificielle ? Réalités, fantasme et conséquences éthiques ?

Depuis deux ans, notre association a entrepris de réfléchir sur ce sujet : télécharger le rapport  ICI en pdf

Résumé du texte ci-dessous.

L’intelligence artificielle est une expression d’origine américaine qui remonte à au moins 50 ans ; mais depuis quelques années elle fait la Une des medias. Et de fait, de nombreuses questions éthiques ou philosophiques sont soulevées par cette technique. Pour clarifier les débats, nous préciserons la distinction entre l’intelligence artificielle fonctionnelle -ou faible- et une intelligence artificielle forte. Puis nous ferons des remarques d’ordre philosophique sur les différences homme/machine, avant d’évoquer les problèmes éthiques.

a. Une intelligence artificielle fonctionnelle ou une I.A. forte ?

L’I.A. fonctionnelle (ou faible) est caractérisée par le fait que tous les logiciels même les plus complexes (et ceux dont plus personne ne connaît le fonctionnement exact) ont été écrits par des hommes ou ont été traduits à partir d’instructions écrites par des hommes. Elle est fondamentalement liée à l’informatique et au traitement de l’information.  Bien sûr, tous les logiciels embarqués dans des robots ou des prothèses relèvent de l’I.A. fonctionnelle. Quand on dit qu’un robot autonome « décide » de mettre en mouvement un certain actionneur, c’est parce que le logiciel embarqué a été programmé en vue de cette décision.

Depuis la fin des années 1970, on parle aussi de strong artificial intelligence (une I. A. forte) désignant par là des machines dont les capacités seraient identiques à celles d’un humain, voire supérieure ! Selon certains, « nous sommes à la veille d’un changement comparable à l’émergence de la vie humaine sur Terre », la nouvelle technologie sera dotée d’une intelligence supérieure à celle de l’homme grâce à «des ordinateurs évolués qui parviendraient à l’éveil et à l’intelligence superhumaine …».

Mais cette I. A. forte – basée sur l’émergence de logiciels générés par des robots ou par une super-intelligence collaborative – est surtout un fantasme. En effet l’informatique reste depuis 70 ans sur un paradigme basé sur

1. Une représentation booléenne des données stockées sur des supports matériels (les mémoires). 2. Des logiciels écrits avec des langages de programmation (dont les instructions sont aussi stockées en mémoires). 3. Des processeurs à base de semi-conducteurs permettant aux logiciels de s’exécuter (la partie calcul).

Toutes les évolutions ultérieures jusqu’à nos jours ne sont des améliorations de ces fondamentaux. L’homme sera toujours nécessairement présent pour spécifier ou écrire les logiciels. Il n’y a aucun indice de changement de paradigme en informatique, si ce n’est peut-être l’informatique quantique où les processeurs de base changeront de nature, mais on ne voit pas comment ils pourraient être utilisés en se dispensant d’un langage de programmation.

b.  Différences entre l’homme et la machine.

Pour l’intelligence artificielle comme ailleurs, il importe de prendre en compte les possibles défaillances du système. En effet, aucune machine ne peut être certifiée ne jamais tomber en panne ; ne serait-ce qu’à travers son alimentation électrique. Ces possibles défaillances impliquent d’ailleurs la nécessité de garder des traces du fonctionnement du système permettant d’analyser les causes d’un éventuel dysfonctionnement (recherches de responsabilités en cas de préjudice).

Cela nous amène à faire des remarques d’ordre philosophique sur les différences homme/machine (indépendamment de toute considération d’ordre spirituel) :

* La caractéristique de l’homme est de lutter contre la maladie puis de mourir ; la caractéristique de la machine est de tomber en panne puis de partir à la casse.

* Dans un robot, il y a une distinction entre la partie logicielle et la partie matérielle (hardware, capteurs, actionneurs, etc), alors que le lien entre le corps de l’homme et son intelligence est beaucoup plus intime. L’homme n’est-il pas composé d’un corps et d’une intelligence indissociablement unis, notamment à travers la possibilité d’aimer et de se donner à l’autre ?

De nombreux « spécialistes » affirment que dans 30 à 60 ans (selon les opinions), on assistera à l’avénement de La Singularité lorsque l’homme sera  surpassé par les robots ; il sera alors possible de télécharger des informations depuis un ordinateur vers le cerveau ou inversement. En fait, cette hybridation entre le cerveau et la « puce intelligente » doit être considérée pour ce qu’elle est : un fantasme. L’ensemble de l’activité cérébrale mettant en branle des milliards de neurones ayant une connectivité complexe qui est fonction de l’environnement (qui lui-même change au cours du temps) pourra-t-elle être capturée et traduite sous la forme d’un ensemble de données digitalisées susceptibles de pouvoir être utilisée par des ordinateurs ?

Mais, la pensée humaine n’est pas réductible à un ensemble d’algorithmes opérant sur des données qui peuvent être transcrites de façon univoque. Il est extrêmement étonnant de prétendre que notre cerveau fonctionne comme un algorithme.

c. Aspects éthiques.

Voir le document en pdf joint sur différents points d’attention.

d. Conclusions.

Notre vigilance ne doit pas tant porter sur le projet utopique de machines surpassant les performances humaines que sur le risque de nous méprendre sur ce qu’est le corps de l’homme. Nous terminons donc par deux remarques sur ce sujet.

i) En se situant dans le cadre de anthropologie chrétienne, rappelons que le corps est uni à son âme et il est spirituel. C’est à travers cette union que se développe une véritable intelligence humaine qui est capax Dei. L’anthropologie chrétienne récuse l’idée que notre corps puisse être comparé à du hardware d’une quelconque système intelligent. Ce corps est éminemment noble puisqu’il est « temple de l’Esprit ». C’est bien notre être corporel « que la présence active en nous de l’Esprit divinise, sans pour autant nous absorber et nous anéantir en Dieu » ; ainsi nous sommes capable de compassion, de sacrifice pour notre prochain et de don gratuit (mais aussi de mensonge, de cruauté, de crimes même). Cette liberté constitutive de notre être est complètement étrangère à toute conception de la super-intelligence qui nous est promise.

ii) Pour leur part, les nouveaux techno-prophètes affirment « notre corps va devenir un matériau presque comme un autre, modulable sur commande, avec des pièces de rechange de plus en plus performantes et une intelligence assistée toujours plus puissante ». Ce qui justifie l’eugénisme libéral qui permet de supprimer les corps-matériaux non conformes ou fruits d’une manipulation hasardeuse. Laurent Alexandre nous prévient que grâce à la convergence NBIC « il va devenir possible d’augmenter l’intelligence en agissant en amont de la naissance ou bien directement sur la machine cognitive qu’est le cerveau lui-même ». Donc, l’embryon et le corps humain doivent être considérés comme de simples matériaux et cela sous le prétexte que les expérimentations sur ces « matériaux » sont indispensables « pour le progrès de l’Humanité ».

Habermas notait déjà que « l’eugénisme est aujourd’hui ardemment défendu par des libéraux : ils souhaitent que la recherche scientifique et l’innovation technique soient entravées le moins possible ».

Ce sont les mêmes qui soutiennent cet eugénisme libertaire et qui appellent de leur vœu l’avénement de La Singularité lorsque l’homme aura sa dignité ! Face à ceux qui, au nom de cette Singularité, veulent pouvoir disposer à leur guise du corps de l’homme sans aucun garde-fou, nous affirmons tranquillement que toute notre activité scientifique et technique n’est légitime que si elle ne transgresse pas nos fondements éthiques que sont la liberté et la dignité de chaque personne humaine.

Publicités

Personne humaine et génome. Intervention sur le génome, l’éthique a-t-elle son mot à dire ?

Compte-rendu du colloque du 4 mars 2017 au Collège des Bernardins (en partenariat avec son Dép. d’éthique bio-médicale)

Les actes du colloque sont en cours de parution dans la revue Connaître

Les intervenants étaient : Alain Privat, membre de l’Académie de médecine

Michel Morange, professeur de biologie, ENS, Paris

Axel Kahn, ancien président de l’Université Paris-Descartes

Alexandra Henrion-Caude, Directrice de recherche Inserm, Necker-Enfants Malades

Dominique Folscheid, professeur de philosophie, Université Paris-Est, co-directeur du dépt d’éthique biomédicale.

P. Brice de Malherbe, professeur de théologie, Faculté Notre-Dame, co-directeur du dépt d’éthique biomédicale.

Comment parler des manipulations génétiques entre le mythe, le bénéfice attendu et l’éthique ? Certaines techniques dont le CRISPR-Cas9, suscitent le débat. N’est-ce pas l’occasion de faire le point sur les avancées de la génétique et de s’interroger sur une certaine vision qui consisterait à réduire la personnalité d’un individu à son génome ?

Un des questions évoquées est celle de la façon dont la modification des gênes agira sur l’être.

Nous savons mimer les conditions de la reproduction (les fameuses techniques de PMA), mais nous feignons d’ignorer les conséquences sur notre construction épigénétique (ce qui dans nos cellules ne relève pas directement de la génétique au sens strict) et psychologique d’un environnement vital si précoce in vitro, statique, dans du plastique.

Nous savons synthétiser bon nombre de molécules, de chromosomes et les manipuler (ladite « biologie synthétique »), mais nous ne comprenons toujours pas pourquoi la synthèse artificielle n’est pas équivalente au naturel. En fait, nous avons toujours besoin d’un écrin pour insérer l’information génétique, afin que le programme soit mis en marche, autrement dit qu’il naisse à la vie. 

En bref, nous comprenons beaucoup. Mais nous n’avons toujours aucune idée de ce qui met en vie, autrement dit comment la matière est vitalisée.

En conclusion, nos expérimentations sur les vies humaines (cellules souches embryonnaires, clonage, embryons considérés comme matériau de laboratoire) et nos interventions commerciales sur notre enveloppe humaine comme moyen de production (organes issus de clonage, gestation pour autrui) ne doivent-elles pas être soumises au principe de précaution ?

Compte-rendu colloque 2016 Intelligence Artificielle

Les actes du colloque sont publiés dans la revue Connaître. On y trouve une série de texte

Présentation générale par Pierre Perrier, de l’Académie des technologies, (voir ici présentation P. Perrier )

ainsi que les contributions des autres intervenants
Serge Picaud, Directeur de recherche INSERM, Institut de la vision, Paris,
Raja Chatila, Directeur de recherche, directeur de l’Institut des Systèmes Intelligents et de Robotique, Université Paris VI.
Bénédicte Mathonat, Professeur de philosophie, Facultés libres de philosophie et psychologie
Serge Tisseron, de l’Académie des technologies, médecin psychiatre, chercheur en psychologie, Paris VII
P. Florent Urfels, Docteur en théologie et en mathématiques, enseignant au Collège des Bernardins.
Voir ici des remarques de conclusion par R. Sentis

Sciences et techniques face à la mort

Colloque du 30 mars 2019 au Collège des Bernardins.
Horaires 9 h 30 à 12 h 45 et de 14 h à 16 h 30.

On le sait, être vivant c’est être voué à la mort et nul d’entre nous n’y échappera. Mais les progrès de la réanimation ont amené à préciser une définition de la mort que l’on pensait simple il y a un demi-siècle : on parle dorénavant de mort cérébrale et de coma dépassé.

Par ailleurs, certains font état de passage dans une zone proche de la mort avec les expériences de mort imminente.

Enfin d’un point de vue chrétien, nous nous devons de réfléchir à la « distorsion du temps » au moment de la mort de fait que c’est le moment où la personne passe dans la vie éternelle.

Miracles et sciences. Apport des sciences, les miracles dans la culture scientifique.

Colloque du 3 février 2018 au Collège des Bernardins.
Nous avons eu cinq interventions.

Cyrille Michon (professeur de philosophie, Université de Nantes)
Le miracle vu par des philosophes.
Dr. Patrick Theillier (ancien responsable du bureau médical de Lourdes)
Miracles et authentifications à partir de la médecine
P. Thierry Avalle (prêtre, paroisse St-Nicolas-des-Champs, enseignant à l’école cathédrale, Paris) Témoignage
Jean-François Lambert (neuro-physiologiste, chercheur émérite Université Paris-VIII)
Les miracles entre sciences et foi, expliquer ou comprendre.
P. David Sendrez (théologien, enseignant à l’École cathédrale, Paris)
Quand Dieu fait signe à la foi.

Nos contemporains refusent, au nom de la science, la possibilité des miracles mais ils sont à l’affût de tous les prodiges. Entre ces postures, quid des phénomènes inexpliqués ayant, pour les croyants, une origine surnaturelle avérée ? Outre une approche spirituelle, les guérisons inexpliquées doivent être authentifiées grâce à une approche médicale, pour parler de miracles. Comment la rencontre sur cette question entre deux cultures différentes, peut-elle s’effectuer ?

Révolutions en génétique … un SOS lancé à la conscience de l’homme.

par Alexandra Henrion-Caude °
Texte paru dans les actes du Colloque tenu au Collège des Bernardins en 2017. Télécharger ICI sous forme pdf

A chaque découverte, les scientifiques rendent possible ce que l’on pensait irréalisable. Sauf que les limites de ces découvertes sont souvent situées dans ce qu’elles ne maîtrisent pas. Elles ouvrent le champ du possible, en oubliant de mettre en regard le champ des inconnus, sous la pression d’un besoin amplifié par les medias de rêves et de sensationnel. Témoignage d’une de nos récentes prouesses techniques, nous savons facilement modifier les lettres du programme que porte l’ADN,

la fameuse technique de l’édition CRISPR-Cas9,

laquelle s’apparente à un effaceur d’encre à deux bouts, et qui devrait être complétée dans les années à venir par d’autres techniques de plus en plus sophistiquées et « fiables».

Cependant, nous ignorons totalement comment assurer le suivi des conséquences de telles modifications sur l’individu modifié, comme sur les générations suivantes.

… Nous savons aussi mimer les conditions de la reproduction, lesdites techniques de procréation médicalement assistée. Cependant, nous feignons d’ignorer les conséquences fondamentales sur notre construction épigénétique et psychologique d’un environnement vital si précoce in vitro, statique dans du plastique, voire dans l’environnement très froid d’une cuve d’azote liquide.

Nous savons synthétiser bon nombre de molécules, et même des chromosomes, et les intégrer dans des cellules vivantes, ladite « biologie synthétique ». Mais nous ne comprenons toujours pas pourquoi la synthèse artificielle n’est pas équivalente au naturel, et nous avons toujours besoin d’un écrin pour insérer l’information génétique, afin que le programme soit mis en marche, autrement dit qu’il naisse à la vie.
En bref, nous comprenons beaucoup. Mais nous n’avons toujours aucune idée de ce qui met en vie, autrement dit comment la matière est vitalisée.

1. Premiers ingrédients de toute naissance à la vie

Comme une parole transmise, les 3 milliards de paires de bases de notre ADN véhiculent l’information nécessaire à un être humain. Pour former notre apparence (notre phénotype), la génétique nous définit comme résultant des interactions entre notre génome (notre génotype) et l’environnement, qui est la composante de tout ce qui nous entoure : ensoleillement, humidité, microbes, nourriture, stress… Une partie de cette transmission résultant de notre environnement a pour conséquence d’allumer ou d’éteindre des gènes : elle se nomme épigénétique. Ainsi, si l’hérédité confère une transmission verticale, elle est aussi horizontale à cause du partage d’interactions avec tout ce qui nous entoure, et en particulier, toutes les espèces, dont leurs informations génétiques. Les molécules que sont les acides nucléiques (ADN-ARN) servent donc de support à une programmation sous-tendue d’un respect strict à chaque espèce, du fait de la transmission verticale.
Cependant, la « parole » génétique et donc les molécules d’ADN, requièrent un écrin (qui constituera la première cellule de l’individu), qui va permettre l’incarnation de toutes ces informations.

Cet écrin, c’est l’ovocyte qui provient de la mère, et sans lequel ces molécules génétiques ne sont aucunement génératrices de la vie.

Pour le comprendre, le cas des virus est intéressant car si, comme nous, ils contiennent leur propre ADN/ARN, ils ne sont pas considérés comme « vivants » car ils n’ont pas l’autonomie qui leur permette de se reproduire. La reproduction permet donc de générer la première cellule de l’individu, celle qui rend « vivant ». Si ces molécules ne sont pas placées dans un contexte de filiation au travers de cet écrin, elles ne permettent pas de programmer une vie. La naissance au processus vital d’une nouvelle vie est donc le résultat d’un processus formidablement complexe. On parle de reproduction par fécondation (terme scientifique), de procréation (acceptation métaphysique), ou de conception (selon une acceptation plus religieuse).

2. Des applications génétiques partout et pour tout, sans débat public… et sans une définition de ce qu’est un gène.

Les applications de la génétique participent donc à la programmation du vivant, c’est-à-dire au plus intime de nous-mêmes. Elles touchent à de très nombreux domaines : en médecine, en agriculture, en criminalité, en archéologie comme en généalogie… Et pourtant, ces applications ne sont jamais, ou rarement, débattues en société. En 1975, le congrès historique Asilomar, qui se tenait sur les organismes génétiquement modifiés, ne s’est tenu qu’entre scientifiques. A nouveau, au mois de décembre 2015, un Sommet international qui s’est tenu sur le thème de « l’homme sous le joug de modifications précises de son génome » (en particulier les modifications faites par ce qu’on appelle l’édition editing), ne réunissait que des scientifiques. Serait-ce que nos connaissances ne peuvent être comprise des non-scientifiques ou que par pudeur, nous ne souhaitions dévoiler ce que nous ne connaissons pas ? La génétique, qui est présentée comme ayant réponse à tant de nos interrogations en matière de santé, et dont l’objet d’étude est le gène, pourrait-elle être en crise sur l’objet même de son étude ? Au risque d’un jargon scientifique, nous passons en revue ci-dessous l’état des connaissances sur le gène.

[…] Le gène, objet d’étude sur lequel se définit la génétique et se base toute la biologie (qu’elle soit moléculaire ou génomique), incarne un curieux objet dont la définition n’a eu de cesse d’évoluer, au gré des révolutions de notre connaissance. S’appuyant très largement sur les travaux du moine Mendel, le gène fut considéré, jusqu’au début du XXe siècle, comme étant « l’unité discrète de l’hérédité ». Les travaux de T. Hunt Morgan et B. McClintock révélèrent la notion de locus, qui allait être enrichie dans les années 1940 par l’information selon laquelle un gène servait de matrice utile aux protéines, sous la célèbre simplification « un gène, une protéine ». Ce n’est que vers 1950 que la dimension physique de la molécule sera envisagée (grâce à des observations faites avec des rayons X) par Rosalind Franklin, permettant à Watson et Crick de postuler la structure 3D de la molécule de l’hérédité. Cette double hélice anti-parallèle a donné naissance au « dogme central » de la biologie moléculaire, selon lequel le flux de l’information principal partait de l’acide nucléique pour devenir un produit fonctionnel (protéine). Le concept de « gène nominal » s’imposera dans les années 1980, répondant davantage à des prédictions bio-informatiques de séquence qu’au locus. Pourtant, en parallèle, et appuyée par les efforts des différents consortiums internationaux, concentrés à dénombrer les gènes, émergeait la conscience de la complexité du l’ensemble des protéines (dit protéome) et l’existence de grandes étendues d’éléments non géniques, spécialement d’ailleurs dans le génome humain. Pensées sans fonction, ces grandes étendues tombaient dans le désintérêt, affublés du terme « junk » ou « poubelle ».

Et pourtant ! En 1961, Jacob et Monod décrivaient l’éventuelle participation des ARNs aux différents mécanismes cellulaires. En 1975, Marie-Claire King notait déjà que les différences entre l’homme et le chimpanzé étaient possiblement dues aux gènes ne codant pas pour des protéines, donc possiblement les ARNs. Moins de trente ans plus tard, on découvre par hasard le mécanisme permettant à la fleur de pétunia d’avoir une double couleur, non par un codage de plusieurs informations, mais par l’inhibition d’une seule information, laissant par exemple la couleur blanche paraître par inhibition complète de la couleur rose, et mettant en évidence l’impact de petites séquences d’ARN non codants, appelés microARNs, communes à toutes espèces et présentes dans de très nombreux processus biologiques.

A l’aube du XXIe siècle, le Consortium International de séquençage du génome humain indiquait que seulement 1,2% du génome était utile. Pourtant, selon l’Encyclopédie des éléments d’ADN, plus de 80% du génome contient des éléments fonctionnels qui seraient associés à des fonctions dans au moins un des types cellulaires nous constituant. Ces observations ont profondément ébranlé la définition du gène, au point que certains précisent qu’il n’existe pas de gène à proprement parler, puisque toutes les bases du génome sont transcrites dans les deux directions… et que, si la notion de gène doit être révisée, elle se définit par le transcrit, basculant alors sur une autre dimension que celle de l’ADN, c’est-à-dire celle de l’ARN.

3. Des orientations qui impliquent notre responsabilité vis-à-vis de l’eugénisme

Cependant, nous feignons d’ignorer les conséquences fondamentales sur notre construction épigénétique et psychologique d’un environnement vital si précoce in vitro, statique dans du plastique, voire dans l’environnement très froid d’une cuve d’azote liquide.

 

Ainsi, nous voyons comment une litanie de droits abstraits, qui sont les « droits à », se déclinent depuis le droit à l’enfant jusqu’au droit à l’enfant parfait ; ce qui forme un tunnel vers l’eugénisme. Il convient de discerner qu’à travers ces desseins visant à changer l’homme, à le dessiner au gré de modifications génétiques, à externaliser sa reproduction (en contribuant à l’a-sexuer), nous avons une responsabilité commune.

Un SOS est lancé à nos consciences qui s’inscrit au-delà de toute compétence scientifique : notre responsabilité commune est d’autant plus angoissante que, contrairement aux idées souvent répandues, le clonage humain n’est plus un spectre.

Depuis 2013, la technique est désormais réalisable chez l’homme et les législations française, comme internationale, sont permissives à son sujet. En France, le Code civil précise depuis 2004 que « toute intervention ayant pour but de faire naître un enfant génétiquement identique à une autre personne vivante ou décédée » est interdite, mais un membre de phrase a été ajouté, « sans préjudice des recherches tendant à la prévention et au traitement des maladies génétiques », qui rend caduque l’interdiction ; surtout depuis que la recherche et l’expérimentation sur l’embryon humain sont rendues possibles grâce à la loi de bioéthique de 2013. La porte au clonage humain est désormais ouverte pour une pratique dans un silence collectivement coupable.

4. Supprimer les verrous législatif et technique ouvre la voie à la création de variétés humaines sélectionnées, traduisant une néantisation de l’homme dans son altérité.

Le temps, encore proche, où le monde entier s’accordait à considérer le clonage humain comme un crime contre l’humanité s’éloigne… à mesure que l’embryon humain devient dans nos sociétés un objet familier, dont l’âme n’est plus évoquée, et que la procréation est toujours plus technicisée.

En fait, la familiarité d’une idée ou d’une technique conduit à une perte de réflexion éthique, comme si c’était trop tard puisque c’est déjà là…

Sauf que dans le cas présent, nous savons quand nous naissons à la vie mais nous ignorons ce qui nous « met » en vie. Dans ces conditions, comment oser intervenir – et le justifier – dans ces équilibres de vie ? Voire dans ces équilibres de spiritualité si, comme tant d’autres hommes – et comme Aristote – nous y percevons la dimension de notre âme ?

Il est donc de plus en plus souvent difficile de discerner entre la technique qui débouche sur un progrès, de celle qui nous prive de nos libertés, voire de nos vies. Une solution ne serait-elle pas de confronter, au moins mentalement, certaines de nos orientations scientifiques à l’existence d’une Cour Pénale Internationale dédiée, comme je le propose régulièrement depuis plusieurs années ? En effet, si nos recherches sont éthiques, qu’avons-nous à craindre d’une telle confrontation à cette Cour, même dans le futur ? Pourquoi ne pas s’intéresser dès aujourd’hui à la façon dont cette Cour pourrait juger dans l’avenir nos expérimentations sur les vies humaines (cellules embryonnaires humaines, clonage), nos interruptions du développement humain à des stades plus ou moins précoces (commerce pour les laboratoires de recherche sur les fœtus avortés), notre appréhension commerciale de notre enveloppe humaine comme moyen de production (organes issus de clonage, gestation pour autrui) ? Poursuivre dans ces voies peut-il être compatible avec le respect de la Vie comme de la Justice ?

Pour rechercher la Paix, ne faut-il pas considérer les liens qui unissent l’homme à sa propre origine, c’est-à-dire à sa propre création, dans sont état le plus vulnérable qui est aussi le plus porteur et le plus prometteur de vie, celui de l’œuf ?

° A. H.-C. est Directeur de Recherche INSERM (Hopital Necker, Paris), elle a reçu le titre d’Eisenhower Fellow en 2013 et est l’auteur de très nombreux articles dans des revues internationales