We think that you are in United States and that you would prefer to view Bookwitty in English.
We will display prices in United States Dollar (USD).
Have a cookie!
Bookwitty uses cookies to personalize content and make the site easier to use. We also share some information with third parties to gather statistics about visits.

Are you Witty?

Sign in or register to share your ideas

Sign In Register

La singularité ou la révolte des machines à laver

Joachim Séné By Joachim Séné Published on June 20, 2017

Un ordinateur, aussi perfectionné qu'il puisse être, est « stupide », il ne sait pas qu'il joue aux échecs, et c'est la différence majeure qui le rend incapable de jouer certains coups humains, fruits d'erreurs plus ou moins volontaires. 

Il en va de même pour toute machine, tout ordinateur. Tout algorithme est stupide, pour le moment. C’est ce que rappelait le maître international de jeu d'échecs Eric Birmingham, interviewé dans La Méthode scientifique, sur France Culture, en citant Murray Campbell, un des concepteurs de Deep Blue.

La « singularité » technologique est ce passage de la machine simplement automatisée à la machine pensante par elle-même, pour elle-même et, plus important, qui sera capable de fabriquer elle-même une machine, nouvelle invention supposée être, par principe, inaccessible à l'homme, par elle seule compréhensible. 

Et cette nouvelle machine pourra à son tour fabriquer une machine qu'elle ne comprendra pas, et ainsi de suite, en une courbe exponentielle d'intelligence nous laissant tout en bas du graphique, dans la préhistoire pré-machinique.

La révolte des machines à laver

Https%3a%2f%2fs3.amazonaws.com%2fuploads.bookwitty.com%2f521d3488 a8e5 4751 b723 55ab1ac72d5d inline original.jpeg?ixlib=rails 2.1

Ce moment a été abordé dans la littérature, dès que l'on a su fabriquer des ordinateurs meilleurs que les précédents : la courbe n'allait pas s'arrêter, il fallait donc imaginer la suite. Stanislas Lem, l'auteur de Solaris, a écrit, dans Mémoires d'Ijon Tichy, une courte nouvelle qui montre comment la concurrence effrénée des fabricants de machines à laver les a amenés, de perfectionnement en perfectionnement, à proposer des robots à laver toujours plus intelligents. 

Https%3a%2f%2fs3.amazonaws.com%2fuploads.bookwitty.com%2f2eb59885 c5aa 41a0 818c 94ff10728497 inline original.jpeg?ixlib=rails 2.1

Si tout commence de manière anodine avec l'évidente séparation automatique du blanc et des couleurs, puis la broderie « de toutes sortes de proverbes didactiques », cela continue avec la composition de sonnets complets, originaux, puis l'aide aux devoirs pour les enfants, et la fabrication de machines répliques de stars de cinéma.

La nouvelle, pleine d'humour malgré des relents surannés de sexisme, pose toutefois des questions très actuelles sur les droits des machines (peuvent-elles se marier, acquérir des bien immobiliers, être représentées au parlement) et comme souvent dans la science-fiction sur le risque de prise du pouvoir, de contrôle de la population.

Le stade critique que représente à proprement parler la singularité n'a pas toujours été décrit aussi progressivement, il traite d'ailleurs souvent comme ici avec les machines à laver, moins de la singularité que de l'intelligence artificielle seule.

Menace imminente

Parfois cette intelligence fait déjà partie de l'histoire, des conditions préalables au scénario, sans être le sujet du livre. Cela peut-être l'humanité naturelle des robots d'Asimov, qui ne représentent pas toujours une menace ou une perte pour la société, mais une altérité, une réflexion sur ce qu'est être humain, être en vie, comme dans le recueil de nouvelles Le Robot qui rêvait.

Https%3a%2f%2fs3.amazonaws.com%2fuploads.bookwitty.com%2fba5767e5 4fb2 48a9 8024 245618fa3da1 inline original.jpeg?ixlib=rails 2.1

Dans les six romans du cycle de Dune, de Frank Herbert, la question a été réglée bien avant le début de l'histoire de Paul Muad'Dib, par le Jihad Butlérien qui a anéanti puis interdit les calculateurs artificiels pour les remplacer par des humains doués de capacité de réflexion, d'analyse et de logique hors du commun et suffisante pour le Pouvoir. Cet épisode a été écrit en détail dans les années 2000 par Brian Herbert et Kevin J. Anderson dans la préquelle en trois romans intitulée en français La Guerre des machines.

Bien souvent, ce moment où l'ordinateur surpasse l'homme se traduit par une menace imminente, et ce qui est raconté n'est pas tant l'origine de la menace elle-même, que ses conséquences. Comme le dit Gilles Dumay, éditeur chez Denoël, dans Télérama : « La science-fiction ne prévoit pas la voiture mais l'embouteillage ». Difficile de prédire un ordinateur, et encore plus difficile de décrire un algorithme.

Entité divine

Https%3a%2f%2fs3.amazonaws.com%2fuploads.bookwitty.com%2f63bbf52d 4334 411e b6ea bf8ff531974e inline original.jpeg?ixlib=rails 2.1

Dans 2001 : L'Odyssée de l'espace, d'Arthur C. Clarke (et de Stanley Kubrick pour le scénario du film, qui a été écrit par les deux auteurs en même temps que le livre) le personnage de David Bowman doit se résoudre à débrancher l'ordinateur HAL (CARL en français) après que celui-ci a tué une partie de l'équipage afin de poursuivre sa mission qu'il considérait menacée par les humains. Dans Destination Vide, de Frank Herbert, premier livre du cycle Le Programme conscience, le système de bord du vaisseau, après avoir acquis la conscience, se prend pour (ou se transforme véritablement en ?) un Dieu et exige de l'équipage qu'il le vénère.

Il est tout à fait remarquable que dans les deux cas il s'agisse d'un vaisseau, d'un moyen de transport, qui devient intelligent et conduit la suite de l'Histoire de l'humanité à sa guise, pour son propre intérêt.

Autre ressemblance (Clarke avait dû lire Herbert, Destination vide étant paru en 1966) : le secret qui précède la mission. Chez Herbert, créer une intelligence artificielle est le but secret de la mission. Chez Clarke, il s'agit d'un accident. Chez Herbert, l'accident, c'est que l'I.A. devient une entité divine. Accident, erreur... Des traits parfaitement humains.

Https%3a%2f%2fs3.amazonaws.com%2fuploads.bookwitty.com%2ffc57a0fe c1e0 40d4 91ec 7f4e2627abab inline original.jpeg?ixlib=rails 2.1

Plus inquiétant, Frank Herbert, comme plus tard Dan Simmons dans Hypérion, montre comment l'ordinateur utilise les cerveaux humains pour construire sa propre conscience. Nos téléphones, réseaux sociaux, ces données stockées en masse, véritables copies de nos inconscients, et qui servaient hier les publicitaires, aujourd'hui les politiques, demain les dictateurs, ne serviront-elles pas après-demain les premières machines conscientes ?

L’invention d’une rencontre

Pour terminer, quelque chose de troublant. Dans 2001, il y a dans toutes les manifestations du mégalithe, particulièrement dans le film grâce à la musique de Ligeti, une émotion particulière, un vertige, un enchantement inquiet face à la rencontre. Émotion identique dans de nombreuses œuvres liées à la « rencontre », au « contact », toujours avec une civilisation supérieure (du Guide du routard galactique de Douglas Adams, au récent Arrival, le film de Denis Villeneuve).

Https%3a%2f%2fs3.amazonaws.com%2fuploads.bookwitty.com%2ff1438639 6bb6 49c8 a900 bb4b285a176c inline original.jpeg?ixlib=rails 2.1

Cela étant dit, notre premier contact avec une civilisation supérieure sera peut-être avec celle, algorithmique, que nous aurons créée. À l'image du monolithe de cristal qui enseigne aux hommes-singes le maniement d'outils rudimentaires, aujourd'hui nous enseignons aux machines à penser par elles-mêmes.

Les algorithmes auto-apprenants mettront-ils comme les hommes-singes des centaines de milliers d'années à améliorer leurs techniques et à inventer l'équivalent de l'outil ultime qui les fait devenir humains : la parole ? 

Né à Amiens en 1975, où des études le poursuivent jusqu'à Belfort, Joachim Séné vit à Paris et paie ses impôts en France. Il a publié Sans, C'était, Arthur Maçon et La crise chez Publie.net. Son ... Show More

0 Comments

Please log in or sign up to join the discussion

6 Related Posts