Où va l’intelligence artificielle ? Réalités, fantasme et conséquences éthiques ?

Depuis deux ans, notre association a entrepris de réfléchir sur ce sujet : télécharger le rapport  ICI en pdf

Résumé du texte ci-dessous.

L’intelligence artificielle est une expression d’origine américaine qui remonte à au moins 50 ans ; mais depuis quelques années elle fait la Une des medias. Et de fait, de nombreuses questions éthiques ou philosophiques sont soulevées par cette technique. Pour clarifier les débats, nous préciserons la distinction entre l’intelligence artificielle fonctionnelle -ou faible- et une intelligence artificielle forte. Puis nous ferons des remarques d’ordre philosophique sur les différences homme/machine, avant d’évoquer les problèmes éthiques.

a. Une intelligence artificielle fonctionnelle ou une I.A. forte ?

L’I.A. fonctionnelle (ou faible) est caractérisée par le fait que tous les logiciels même les plus complexes (et ceux dont plus personne ne connaît le fonctionnement exact) ont été écrits par des hommes ou ont été traduits à partir d’instructions écrites par des hommes. Elle est fondamentalement liée à l’informatique et au traitement de l’information.  Bien sûr, tous les logiciels embarqués dans des robots ou des prothèses relèvent de l’I.A. fonctionnelle. Quand on dit qu’un robot autonome « décide » de mettre en mouvement un certain actionneur, c’est parce que le logiciel embarqué a été programmé en vue de cette décision.

Depuis la fin des années 1970, on parle aussi de strong artificial intelligence (une I. A. forte) désignant par là des machines dont les capacités seraient identiques à celles d’un humain, voire supérieure ! Selon certains, « nous sommes à la veille d’un changement comparable à l’émergence de la vie humaine sur Terre », la nouvelle technologie sera dotée d’une intelligence supérieure à celle de l’homme grâce à «des ordinateurs évolués qui parviendraient à l’éveil et à l’intelligence superhumaine …».

Mais cette I. A. forte – basée sur l’émergence de logiciels générés par des robots ou par une super-intelligence collaborative – est surtout un fantasme. En effet l’informatique reste depuis 70 ans sur un paradigme basé sur

1. Une représentation booléenne des données stockées sur des supports matériels (les mémoires). 2. Des logiciels écrits avec des langages de programmation (dont les instructions sont aussi stockées en mémoires). 3. Des processeurs à base de semi-conducteurs permettant aux logiciels de s’exécuter (la partie calcul).

Toutes les évolutions ultérieures jusqu’à nos jours ne sont des améliorations de ces fondamentaux. L’homme sera toujours nécessairement présent pour spécifier ou écrire les logiciels. Il n’y a aucun indice de changement de paradigme en informatique, si ce n’est peut-être l’informatique quantique où les processeurs de base changeront de nature, mais on ne voit pas comment ils pourraient être utilisés en se dispensant d’un langage de programmation.

b.  Différences entre l’homme et la machine.

Pour l’intelligence artificielle comme ailleurs, il importe de prendre en compte les possibles défaillances du système. En effet, aucune machine ne peut être certifiée ne jamais tomber en panne ; ne serait-ce qu’à travers son alimentation électrique. Ces possibles défaillances impliquent d’ailleurs la nécessité de garder des traces du fonctionnement du système permettant d’analyser les causes d’un éventuel dysfonctionnement (recherches de responsabilités en cas de préjudice).

Cela nous amène à faire des remarques d’ordre philosophique sur les différences homme/machine (indépendamment de toute considération d’ordre spirituel) :

* La caractéristique de l’homme est de lutter contre la maladie puis de mourir ; la caractéristique de la machine est de tomber en panne puis de partir à la casse.

* Dans un robot, il y a une distinction entre la partie logicielle et la partie matérielle (hardware, capteurs, actionneurs, etc), alors que le lien entre le corps de l’homme et son intelligence est beaucoup plus intime. L’homme n’est-il pas composé d’un corps et d’une intelligence indissociablement unis, notamment à travers la possibilité d’aimer et de se donner à l’autre ?

De nombreux « spécialistes » affirment que dans 30 à 60 ans (selon les opinions), on assistera à l’avénement de La Singularité lorsque l’homme sera  surpassé par les robots ; il sera alors possible de télécharger des informations depuis un ordinateur vers le cerveau ou inversement. En fait, cette hybridation entre le cerveau et la « puce intelligente » doit être considérée pour ce qu’elle est : un fantasme. L’ensemble de l’activité cérébrale mettant en branle des milliards de neurones ayant une connectivité complexe qui est fonction de l’environnement (qui lui-même change au cours du temps) pourra-t-elle être capturée et traduite sous la forme d’un ensemble de données digitalisées susceptibles de pouvoir être utilisée par des ordinateurs ?

Mais, la pensée humaine n’est pas réductible à un ensemble d’algorithmes opérant sur des données qui peuvent être transcrites de façon univoque. Il est extrêmement étonnant de prétendre que notre cerveau fonctionne comme un algorithme.

c. Aspects éthiques.

Voir le document en pdf joint sur différents points d’attention.

d. Conclusions.

Notre vigilance ne doit pas tant porter sur le projet utopique de machines surpassant les performances humaines que sur le risque de nous méprendre sur ce qu’est le corps de l’homme. Nous terminons donc par deux remarques sur ce sujet.

i) En se situant dans le cadre de anthropologie chrétienne, rappelons que le corps est uni à son âme et il est spirituel. C’est à travers cette union que se développe une véritable intelligence humaine qui est capax Dei. L’anthropologie chrétienne récuse l’idée que notre corps puisse être comparé à du hardware d’une quelconque système intelligent. Ce corps est éminemment noble puisqu’il est « temple de l’Esprit ». C’est bien notre être corporel « que la présence active en nous de l’Esprit divinise, sans pour autant nous absorber et nous anéantir en Dieu » ; ainsi nous sommes capable de compassion, de sacrifice pour notre prochain et de don gratuit (mais aussi de mensonge, de cruauté, de crimes même). Cette liberté constitutive de notre être est complètement étrangère à toute conception de la super-intelligence qui nous est promise.

ii) Pour leur part, les nouveaux techno-prophètes affirment « notre corps va devenir un matériau presque comme un autre, modulable sur commande, avec des pièces de rechange de plus en plus performantes et une intelligence assistée toujours plus puissante ». Ce qui justifie l’eugénisme libéral qui permet de supprimer les corps-matériaux non conformes ou fruits d’une manipulation hasardeuse. Laurent Alexandre nous prévient que grâce à la convergence NBIC « il va devenir possible d’augmenter l’intelligence en agissant en amont de la naissance ou bien directement sur la machine cognitive qu’est le cerveau lui-même ». Donc, l’embryon et le corps humain doivent être considérés comme de simples matériaux et cela sous le prétexte que les expérimentations sur ces « matériaux » sont indispensables « pour le progrès de l’Humanité ».

Habermas notait déjà que « l’eugénisme est aujourd’hui ardemment défendu par des libéraux : ils souhaitent que la recherche scientifique et l’innovation technique soient entravées le moins possible ».

Ce sont les mêmes qui soutiennent cet eugénisme libertaire et qui appellent de leur vœu l’avénement de La Singularité lorsque l’homme aura sa dignité ! Face à ceux qui, au nom de cette Singularité, veulent pouvoir disposer à leur guise du corps de l’homme sans aucun garde-fou, nous affirmons tranquillement que toute notre activité scientifique et technique n’est légitime que si elle ne transgresse pas nos fondements éthiques que sont la liberté et la dignité de chaque personne humaine.

Publicités

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

w

Connexion à %s