Cogitations2

Descartes est probablement l’un des premiers philosophes a avoir souligné en quoi l’identification de l’autre comme semblable pose problème. Ainsi, dans la seconde des Méditations métaphysiques, il s’interroge sur ce qui lui fait dire que lorsqu’il regarde les passants se promenant sous ses fenêtres, il s’agit d’êtres humains, alors qu’il ne voit que des chapeaux et des manteaux.

C’est qu’en effet l’autre ne se livre pas en tant que tel à notre conscience, nous ne pénétrons pas sa conscience et ne percevons que des signes extérieurs qui nous font présager de son humanité.

Le même Descartes, dans la Lettre au marquis de Newcastle du 23 novembre 1646, s’interrogeant sur les raisons qui nous conduisent à juger que lorsque nous sommes face à un autre être humain, nous en inférons généralement qu’il s’agit de l’un de nos semblables et non d’un automate, conclue que cela vient de ce que cet autre est en mesure d’entretenir avec nous une conversation sensée :

Enfin il n’y a aucune de nos actions extérieures, qui puisse assurer ceux qui les examinent, que notre corps n’est pas seulement une machine qui se remue de soi-même, mais qu’il y a aussi en lui une âme qui a des pensées, excepté les paroles, ou autres signes faits à propos des sujets qui se présentent, sans se rapporter à aucune passion.

Cette remarque n’est pas sans rappeler le test imaginé par le mathématicien Alan Turing en 1950, afin de juger si une machine est réellement intelligente. Selon Turing, si un être humain mis en situation d’échanger avec un ordinateur n’est pas en mesure de déterminer s’il a affaire à une machine ou à un autre être humain, on peut en conclure que la machine a réussi le test et qu’elle peut être considérée comme intelligente. En d’autres termes, pour parler comme Descartes, si la machine est en mesure de prononcer des « paroles, ou autres signes faits à propos des sujets qui se présentent », elle peut être considérée comme intelligente.

De nombreuses machines sont aujourd’hui en capacité de passer ce test avec succès. Devons-nous en conclure en suivant le raisonnement de Descartes que l’on peut trouver en elle « une âme qui a des pensées » ? Il serait prématuré de répondre positivement à cette question. Nous pouvons supposer que pour le moment l’intelligence artificielle ne fait que mimer les signes extérieurs de la pensée consciente.

Néanmoins, en remettant en question l’argument de Descartes, l’intelligence artificielle ouvre un champ d’interrogation et de réflexion qu’il est urgent d’investir si nous ne voulons pas être dépassés par le développement des technologies que nous mettons en œuvre et dont le développement obéit à une logique qui le plus souvent nous échappe.

On peut désormais se demander si les machines ne deviendront pas un beau jour conscientes. Leur conscience ne sera certainement pas en tout point comparable à celle de l’intelligence humaine, mais elle n’en devra pas moins être prise en considération dans les relations que nous entretenons avec elles. Faudra-t-il leur accorder des droits ? Aurons-nous des devoirs envers elles ? Seront-elles en capacité de ressentir des émotions, comme HAL9000 (CARL500 dans la version française), l’ordinateur du roman de Arthur C. Clarke, 2001 l’Odyssée de l’espace, qui a peur de mourir lorsque l’astronaute du vaisseau qu’il est censé diriger fait le nécessaire pour le mettre hors de fonction, parce que ce dernier n’obéit plus au programme pour lequel il a été conçu ?

Ne doit-on pas se demander si à force de faire mimer à ces machines tous les signes extérieurs de l’intelligence consciente, nous n’allons pas finir par faire apparaître en elles quelque chose qui pourrait relever d’un esprit qui émergerait de la complexité de leur organisation ?

Éric Delassus