Les Robots rêvent-ils ou les Trois lois de la #robotique: #IA #bioéthique

Dans la littérature de science-fiction et d'anticipation, popularisée par les nombreux films et blockbuster que nous aimons tous, s'est posé depuis longtemps la question de gérer une future intelligence artificielle qui aurait élu domicile dans un futur proche dans le cortex robotique d'humanoïdes de métal.


Isaac Asimov, célèbre physicien du XXème siècle, également auteur de science-fiction prolifique et formidable vulgarisateur de théories scientifiques complexes, démarre une saga qui influencera auteurs et même scientifiques durablement, se penche sur la question de donner à des intelligences positroniques des principes moraux afin de les faire interagir correctement avec l'homme en 1942, dans la nouvelle Runaround, édité par Astounding Science Fiction.
On ne parle même pas encore d'intelligence artificielle.
On écrit énormément dans des revues de science-fiction qui sont un peu comme des romans de gare de chez nous mais qui abritent des pépites en matière d'écriture.
D'ailleurs, Asimov a été bercé par ces nouvelles dans la librairie de ses parents.

Nous sommes en pleine guerre, Asimov a fui d'ailleurs une autre guerre vraisemblablement, sa famille émigre en 1923.
Nous ne savons pas si Asimov, d'origine russe et juif de religion, s'est inspiré du Golem, personnage de glaise et de fer qui serait contrôlé par un rabbin afin de faire le bien ou le mal selon celui qui le contrôle.

Sa première nouvelle date de 1939. Je me souviens aussi de Robbie, la première que j'ai lue en étant adolescente, l'histoire d'un robot ayant peut-être fait du mal à un enfant sans le vouloir. Quelque part, on sent dans l'écriture d'Asimov, la volonté de penser l'humanité comme responsable de la future intelligence artificielle, qui semble innocente, et qui effectivement, face à l'humanité , est aussi pensée comme un danger potentiel, suscitant la parano atavique qu'un singe sans poil et sans griffes a développé durant des millénaires pour survivre, parano bien légitime sauf quand elle se retourne contre elle-même.

Le postulat est simple.
Comment éditer de manière mathématique des lois qui vont permettre au robot, créature de métal bien plus forte que l'être humain et potentiellement immortel, un embryon de conscience morale, éthique afin de protéger ladite humanité de ce robot?

Voici les trois lois:

1. un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger ;
2. un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
3. un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Oui, mais justement, toute la série de romans qu'Asimov va développer, et que je vous recommande, d'ailleurs, se base sur le fait que des robots se mettent ou sont supposés se mettre à tuer des êtres humains, malgré ces lois de la robotique, cette conscience éthique embryonnaire.

Vous en avez une illustration amusante dans le film I.Robot avec Will Smith, que je vous conseille également. Une des dernières images est issu du rêve du Robot, un des héros du film. Pourtant selon les lois et la science, ce robot ne peut pas rêver.

Car toute l'idée est là.
Comment être sûrs, malgré toutes les précautions, qu'une intelligence artificielle, telle un Frankenstein de métal, un golem, ou tout autre créature de métal douée de raison, ne va pas échapper à son créateur, et développer son intelligence propre, autonome et se retourner contre son créateur, malgré les interdits inherents à sa programmation?
 C'est effectivement la récurrence dans les histoires de golem dans la mythologie juive ashkénaze, d'Europe de l'Est, de la Pologne aux Balkans.
Cette peur proche de la paranoïa, nous l'avons toujours, elle traverse les âges.
 Au XXI ème siècle, elle est toujours là, bien que la plus avancée des intelligences artificielles sur le plan cognitif est arriérée comparée à un être humain. On a du mal à dépasser l'intelligence binaire du langage informatique:
-oui-non-oui-non pour programmer un ordinateur, soit 1-0-1-0....
-on doit mettre en parallèle plusieurs ordinateurs pour obtenir un super computer plus intelligent...
-bref, on est loin du futur robot humanoïde.

Nous n'en sommes pas encore aux trois lois, mais nous craignons déjà qu'une intelligence artificielle puisse finir par nous contrôler. Nos enfants jouent avec des chiens robotiques. Notre portable nous répond quand on lui demande quelque chose.
Mais...
Les Humains cauchemardent beaucoup trop, sans doute.

Les Robots ne rêvent pas encore.

Images 1 à 3 issues du film I Robot
Dernière image issue de ce lien