Intelligence artificielle opératoire ou fantasmatique ?

Note rédigée par Rémi Sentis.

Voir ici la version pdf (avec les notes de bas de page)

L’intelligence artificielle telle qu’elle opère à l’heure actuelle est basée sur des logiciels ayant des capacités d’analyse/synthèse de signaux qui sont en général couplés à des capteurs, des actionneurs et des bases de données de plus en plus importantes (les big data) ; ils sont basés sur des algorithmes de choix ou d’optimisation (éventuellement multi-critères) qui intègrent souvent un caractère aléatoire. La mise en œuvre peut éventuellement relever de plusieurs agents (algorithmes dits collaboratifs). Ces logiciels peuvent utiliser le principe d’inférence ; ils sont aussi caractérisés par la faculté de faire de l’apprentissage.
Pour clarifier les débats, il semble utile de distinguer cette intelligence artificielle dite opératoire d’une intelligence artificielle que certains nomment générale ou forte et que je préfère appeler futuriste ou encore fantasmatique ; laquelle serait basée sur l’émergence de nouveaux types de logiciels qui seraient générés par des robots ou par une super-intelligence collaborative.
Bien sûr, tous les logiciels embarqués dans des robots ou des prothèses relèvent de l’I.A. opératoire. Quand on dit qu’un robot autonome « décide » de mettre en mouvement un certain actionneur, c’est parce que le logiciel embarqué a été programmé en vue de cette décision.

a. L’I.A. opératoire et les langages de programmation

L’I.A. opératoire est caractérisée par le fait que tous les logiciels même les plus complexes (et ceux dont plus personne ne connaît le fonctionnement exact) ont été écrits par des hommes ou ont été traduits à partir d’instructions écrites par des hommes. Elle est fondamentalement liée à l’informatique et au traitement de l’information dont un des principes fondamentaux est l’utilisation des langages de programmation. Depuis les années 1950, le paradigme n’a pas changé : outre les langages de programmation, il y a la représentation booléenne de toutes les données et des instructions, puis l’utilisation de processeurs à base de semi-conducteurs (depuis 1959, il s’agit de silicium). Toutes les évolutions ultérieures jusqu’à nos jours ne sont des améliorations de ces fondamentaux (y compris la mise en parallèle des processeurs et la miniaturisation de ceux-ci).
Dans le futur, il n’y a aucun indice de changement de paradigme en informatique, si ce n’est peut-être l’informatique quantique où les processeurs de base changeront de nature, mais on ne voit pas comment ils pourraient être utilisés en se dispensant d’un langage de programmation.
Pour l’intelligence artificielle opératoire, les hommes seront toujours nécessairement présents, car c’est eux qui programmeront les logiciels utilisés ou au moins c’est leurs programmes qui programmeront les logiciels utilisés.
Au risque de décevoir certains, je ne crois pas à l’avènement d’une intelligence artificielle futuriste dans laquelle une machine pourrait programmer un logiciel sans avoir été programmée pour cela.
Par ailleurs, il faut des hommes pour interpréter les résultats des logiciels, pour en vérifier la cohérence et aussi remédier à leurs défaillances ou celles du hardware utilisé. Car, en intelligence artificielle comme ailleurs, il importe de prendre en compte les possibles défaillances du système. En effet, aucune machine ne peut être certifiée ne jamais tomber en panne ; ne serait-ce qu’à travers son alimentation électrique. Ces possibles défaillances impliquent d’ailleurs la nécessité de garder des traces du fonctionnement du système permettant d’analyser les causes d’un éventuel dysfonctionnement (recherches de responsabilités en cas de préjudice).

b. Une différence entre l’homme et la machine.

Cela nous amène à faire une remarque d’ordre philosophique : il y a une différence irréductible entre la machine du type robot/ordinateur et l’homme (indépendamment de toute considération d’ordre spirituel) :
La caractéristique de l’homme est de lutter contre la maladie puis de mourir ; la caractéristique de la machine est de tomber en panne puis de partir à la casse.
Dans toute machine dotée d’une intelligence artificielle, il y a une distinction entre la partie logicielle et la partie matérielle (hardware, capteurs, actionneurs, etc), alors que le lien entre le corps de l’homme et son intelligence – en prise par les sens avec le monde extérieur – est beaucoup plus intime. L’homme n’est-il pas composé d’un corps et d’une intelligence indissociablement unis, notamment à travers la possibilité d’aimer et de se donner à l’autre ?
De nombreux « spécialistes » affirment que dans 30 à 70 ans (selon les opinions) il sera possible de télécharger des informations depuis un ordinateur vers le cerveau ou inversement (ce qui n’a rien à voir avec des prothèses électroniques programmées pour agir sur le système cérébral). Le philosophe de Cambridge, Nick Bostrom pense que les « esprits simulés » seront rapidement plus nombreux que les « esprits biologiques ». Il se réjouit de la future émergence de systèmes aux « performances cognitives [dépassant] grandement celle des humains dans tous les domaines ». Selon lui, ces agents super-intelligents pourraient permettre des avantages sociétaux importants. De même, selon L. Alexandre
« Les ordinateurs vont devenir intelligents et passer graduellement de nos bureaux à nos cerveaux… L’Humanité deviendra une ‘technologie de l’information’…Pourquoi [l’homme] refuserait-il de modifier son ADN défaillant, puis de s’hybrider avec des machines, si la seule solution alternative est le respect de vieux principes qui le condamnent à demeurer mortel, fragile, indigne de sa propre technologie ? »
En fait, cette hybridation entre le cerveau et la « puce intelligente » doit être considérée pour ce qu’elle est : un phantasme. L’ensemble de l’activité cérébrale mettant en branle des milliards de neurones ayant une connectivité complexe qui est fonction de l’environnement (qui lui-même change au cours du temps) pourra-t-elle être capturée et traduite sous la forme d’un ensemble de données digitalisées susceptibles de pouvoir être utilisée par des ordinateurs ?
Nous en doutons très fortement. Car la pensée humaine n’est pas réductible à un ensemble d’algorithmes opérant sur des données qui peuvent être transcrites de façon univoque. Il est extrêmement étonnant de prétendre que notre cerveau fonctionne comme un algorithme.

c. Du point de vue éthique.

Ce ne sont pas tant sur les projets de machines visant à surpasser les performances humaines lors de prises de décision que doit porter notre vigilance mais sur le risque de nous méprendre sur ce qu’est la liberté de l’homme et ce qu’est l’union de notre corps (animus) avec son anima.
Pour les techno-prophètes, notre corps n’est pas grand-chose ;
« Notre corps va devenir un matériau presque comme un autre, modulable sur commande, avec des pièces de rechange de plus en plus performantes et une intelligence assistée toujours plus puissante. »
Ce qui permet d’en faire ce qui importe pour le « progrès de l’Humanité ». On arrive ainsi à l’eugénisme libéral qui permet de supprimer les corps- matériau qui ne sont pas conformes ou qui résulteront d’une manipulation hasardeuse. Comme Habermas nous le rappelle, « l’eugénisme est aujourd’hui ardemment défendu par des libéraux : ils souhaitent que la recherche scientifique et l’innovation technique soient entravées le moins possible… La nouveauté, c’est que l’eugénisme est défendu au nom de la liberté. »
De fait, ce sont les mêmes qui soutiennent cet eugénisme et qui appellent de leur vœu l’arrivée de La Singularité, ce moment où grâce à l’intelligence artificielle, l’ordinateur surpassera la capacité humaine !
Face à ceux qui annoncent à grand renfort de campagnes médiatiques, l’arrivée inéluctable de cette intelligence artificielle fantasmatique, nous affirmons tranquillement que l’homme doit réguler l’activité technique en se basant sur des principes moraux dont les fondements sont la dignité et la liberté de chaque personne – et donc sa responsabilité.

Publicités

Personne humaine et génome. Intervention sur le génome, l’éthique a-t-elle son mot à dire ?

Compte-rendu du colloque du 4 mars 2017 au Collège des Bernardins (en partenariat avec son Dép. d’éthique bio-médicale)

Les actes du colloque sont en cours de parution dans la revue Connaître

Les intervenants étaient : Alain Privat, membre de l’Académie de médecine

Michel Morange, professeur de biologie, ENS, Paris

Axel Kahn, ancien président de l’Université Paris-Descartes

Alexandra Henrion-Caude, Directrice de recherche Inserm, Necker-Enfants Malades

Dominique Folscheid, professeur de philosophie, Université Paris-Est, co-directeur du dépt d’éthique biomédicale.

P. Brice de Malherbe, professeur de théologie, Faculté Notre-Dame, co-directeur du dépt d’éthique biomédicale.

Comment parler des manipulations génétiques entre le mythe, le bénéfice attendu et l’éthique ? Certaines techniques dont le CRISPR-Cas9, suscitent le débat. N’est-ce pas l’occasion de faire le point sur les avancées de la génétique et de s’interroger sur une certaine vision qui consisterait à réduire la personnalité d’un individu à son génome ?

Un des questions évoquées est celle de la façon dont la modification des gênes agira sur l’être.

Nous savons mimer les conditions de la reproduction (les fameuses techniques de PMA), mais nous feignons d’ignorer les conséquences sur notre construction épigénétique (ce qui dans nos cellules ne relève pas directement de la génétique au sens strict) et psychologique d’un environnement vital si précoce in vitro, statique, dans du plastique.

Nous savons synthétiser bon nombre de molécules, de chromosomes et les manipuler (ladite « biologie synthétique »), mais nous ne comprenons toujours pas pourquoi la synthèse artificielle n’est pas équivalente au naturel. En fait, nous avons toujours besoin d’un écrin pour insérer l’information génétique, afin que le programme soit mis en marche, autrement dit qu’il naisse à la vie. 

En bref, nous comprenons beaucoup. Mais nous n’avons toujours aucune idée de ce qui met en vie, autrement dit comment la matière est vitalisée.

En conclusion, nos expérimentations sur les vies humaines (cellules souches embryonnaires, clonage, embryons considérés comme matériau de laboratoire) et nos interventions commerciales sur notre enveloppe humaine comme moyen de production (organes issus de clonage, gestation pour autrui) ne doivent-elles pas être soumises au principe de précaution ?

Compte-rendu colloque 2016 Intelligence Artificielle

Les actes du colloque sont publiés dans la revue Connaître. On y trouve une série de texte

Présentation générale par Pierre Perrier, de l’Académie des technologies, (voir ici présentation P. Perrier )

ainsi que les contributions des autres intervenants
Serge Picaud, Directeur de recherche INSERM, Institut de la vision, Paris,
Raja Chatila, Directeur de recherche, directeur de l’Institut des Systèmes Intelligents et de Robotique, Université Paris VI.
Bénédicte Mathonat, Professeur de philosophie, Facultés libres de philosophie et psychologie
Serge Tisseron, de l’Académie des technologies, médecin psychiatre, chercheur en psychologie, Paris VII
P. Florent Urfels, Docteur en théologie et en mathématiques, enseignant au Collège des Bernardins.
Voir ici des remarques de conclusion par R. Sentis