Propositions/spéculations

« Il n’est pas complètement impossible que nous […] soyons sur le point de construire un monde au pas duquel nous serions incapables de marcher et qu’il serait absolument au-dessus de nos forces de ‘comprendre’, un monde qui excéderait absolument notre force de compréhension, la capacité de notre imagination et de nos émotions, tout comme notre responsabilité. Qui sait, peut-être avons-nous déjà construit ce monde-là? », Günther Anders, L’Obsolescence de l’homme, Paris, Ivrea, 2002 (édition originale: 1956), p.32

Steven Spielberg, Artificial Intelligence: A.I., 2001

Une intelligence artificielle pourra-t-elle un jour reproduire certains modes de pensée du cerveau humain? Il est raisonnable de nourrir des doutes à ce sujet.

Bruce Sterling rappelle (dans Tomorrow Now) que l’intelligence, c’est d’abord un corps: « La conscience n’est pas le principal effet du cerveau humain. Les gens ne sont pas des intelligences logiques abstraites qui se promènent dans de grands sacs de viande. Les gens sont de grands animaux avec des cerveaux de viande, surdimensionnés et très occupés, qui font parfois des choses logiques. » * Privé de corporéité, l’artificiel ne saurait développer une intelligence.

Brian Boyd avance lui aussi (dans On the Origin of Stories) une contradiction intéressante. Il donne l’exemple d’une photo montrant un graffiti avec un jeu de mots à plusieurs sens: « Ralph, come back, it was only a Rash » (que l’on pourrait traduire par: « Ralph, reviens, c’était juste une éruption » ou/et « c’était juste une bêtise »). « J’accepterai de croire que les ordinateurs sont capables de penser, écrit Boyd, non quand ils peuvent battre un Kasparov aux échecs, avec leurs permutations rapides et proliférantes, mais après tout calculables, mais quand, nourris de quelque chose d’aussi inattendu qu’une photo de ‘Ralph, come back, it was only a Rash’ barbouillé sur un mur, ils seront capables de lire ces mots, d’en déduire l’histoire et de rire à la blague qu’ils auront eux-mêmes décelée. » **

Et il faut prendre au sérieux la formule lapidaire de Jean Baudrillard: « La tristesse de l’intelligence artificielle est qu’elle est sans artifice, donc sans intelligence. » (Cool Memories – 1980-1985). Car « le véritable artifice, c’est celui du corps dans la passion, celui du signe dans la séduction, de l’ambivalence dans les gestes, de l’ellipse dans le langage, du masque dans le visage, du trait qui altère le sens, et que pour cette raison on appelle trait d’esprit. […] Ce qui distinguera toujours le fonctionnement de l’homme et celui des machines, même les plus intelligentes, c’est l’ivresse de fonctionner, le plaisir. Inventer des machines qui aient du plaisir, voilà qui est heureusement encore au delà des pouvoirs de l’homme. Toutes sortes de prothèses peuvent aider à son plaisir, mais il ne peut en inventer qui jouiraient à sa place.  » (Jean Baudrillard, « Le Xerox et l’infini »).

Ces réponses sont élégantes. Mais est-ce la bonne question?

Bien qu’elle constitue une fascinante énigme pour l’esprit humain, la question « Une intelligence artificielle pourra-t-elle un jour reproduire certains modes de pensée du cerveau humain? » est peut-être moins fondamentale que la question inverse: le cerveau humain pourra-t-il jamais reproduire les modes de pensée de l’ordinateur?

Or, la réponse à cette dernière question semble bien moins énigmatique. A moins d’un très improbable miracle, la réponse est un non définitif. Pour vous en convaincre, comptez le nombre d’opérations arithmétiques que vous pouvez effectuer mentalement en une fraction de seconde, puis comparez le résultat avec ce que peut votre ordinateur de bureau.

L’homme ne rattrapera pas plus les ordinateurs qu’il ne pourra rattraper une voiture à la course — même en posant l’hypothèse transhumaniste d’un corps ou d’un cerveau augmenté. L’homme ne rattrapera pas les machines intelligentes qu’il produit: le chemin est d’ores-et-déjà bien plus long, bien plus improbable, dans ce sens que dans l’autre.

La question de l’intelligence artificielle reste encombrée du présupposé de l’humanoïde. Se demander s’il est possible de reproduire synthétiquement l’être humain est une fausse question. Elle laisse dans l’ombre le fait que n’importe quel programme informatique, le moindre gadget électronique est, stricto sensu, une forme d’intelligence artificielle. Et d’autant plus remarquable qu’elle ne vise pas à reproduire des formes d’intelligence animale ou humaine, mais à créer des formes d’intelligence autres, inventées par l’homme pour compléter les formes d’intelligence « naturelles » déjà disponibles.

Il est vraisemblable que les recherches en intelligence artificielle ne se préoccupent plus pour très longtemps de prendre l’intelligence humaine comme unique source d’inspiration. Tenter de reproduire une forme d’intelligence qui existe déjà a-t-il un intérêt autre que d’exercice? Bien plus excitante est l’idée de fabriquer de toutes pièces une nouvelle forme d’intelligence.

Chacun des millions d’étranges couples homme + ordinateur est la préfiguration du couple intelligence naturelle + intelligence artificielle. Même si c’est difficile à admettre, l’intelligence artificielle commence ici, avec cet écran bleu d’un Windows buggé… (source)

…plutôt que là (un gadget japonais) (source).

L’intelligence « naturelle » n’est pas apparue en une seule étape. Il a fallu de très longues périodes, à partir de formes très primitives d’intelligence, ayant lentement évolué. L’intelligence « naturelle » constitue le lent résultat du processus de l’évolution naturelle. Elle est le résultat d’un processus aveugle (elle ne « sert » pas un but qui la transcende, elle constitue sa propre fin). En revanche, l’intelligence « artificielle » a été créée par l’espèce humaine. Elle sert donc un but qui la transcende: notre bon vouloir. Se mettant dans la position exacte des dieux qu’elle avait imaginés, l’espèce humaine est effectivement en train de créer un monde artificiel intelligent. Ce monde est pour l’instant habité principalement par des créatures inoffensives et gauches (du genre PC sous Windows). Mais cette intelligence « artificielle » évolue beaucoup plus rapidement que l’intelligence des espèces « naturelles ».

Il est probable qu’elle ne deviendra jamais humaine au sens ou nous l’entendons. Elle s’engage manifestement sur une voie toute autre.

Que penser d’une forme d’intelligence si jeune qui sait déjà battre Kasparov aux échecs?

– mais qui ne bat Kasparov que si un humain le lui demande –

De nombreuses formes d’intelligence artificielle très basiques sont d’ores-et-déjà hors de portée de l’intelligence humaine. Quel est l’avenir de ces intelligences artificielles non anthropomorphes? La voiture reste au service de l’homme (bien qu’elle le tue souvent et modifie largement son mode de vie). Quid de l’ordinateur et des intelligences artificielles qui suivront? Obtiendront-elles une autonomie? Machine créée par l’homme, son destin est d’échapper à ce que l’on a prévu pour elle. Pas nécessairement en prenant le contrôle sur l’humanité; peut-être en buggant. En devenant des machines célibataires, dont le destin a toujours été de sortir des chemins prévus.

Cette intelligence synthétique, d’essence nouvelle, restera longtemps sinon définitivement sans spiritualité et sans plaisir. Mais elle nous concurrencera néanmoins. Rien ne dit qu’elle ne nous « dépassera » pas. Non dans le sens ou elle serait comme nous en mieux, mais dans le sens ou elle serait plus efficace, plus puissante.

Peut-être est-ce justement l’absence de ces qualités humaines qui facilitera aux intelligences synthétiques de devenir une espèce dominante. Peut-être leur absence d’affect les rendra-t-elle plus efficaces. Certains caractères humains lui resteront peut-etre inaccessibles, de la même manière que nous restent inaccessibles la liberté sexuelle des bonobos ou d’autres qualités animales — il n’empêche que nous avons pris le pouvoir sur la planète.

Qui seront les plus nombreux, les plus aptes à fonder une société ? Notre développement est très lent, car nous évoluons au rythme biologique de l’évolution, tandis que les machines évoluent au rythme des innovations technologiques. C’est à dire que leur rythme d’évolution est fonction du notre, augmenté exponentiellement.

Samuel Butler

Les machines n’ont nullement besoin de ressembler à l’homme pour le menacer. Elles n’ont pas besoin non plus de se révolter contre nous. Samuel Butler l’annonçait dès 1863:

« Quelle sorte de créature remplacera l’homme pour prendre la suprématie sur la terre? Nous avons souvent entendu débattre cette question; mais il nous semble que nous sommes nous-mêmes en train de créer nos propres successeurs. (…) Dans le cours des âges, nous nous trouverons en position de race inférieure. Inférieure en pouvoir, inférieure dans la qualité morale de garder notre sang froid, nous regarderons cette espèce comme le summum de tout ce que les hommes les meilleurs et les plus sages peuvent aspirer à devenir. Pas de passions mauvaises, pas de jalousie, pas d’avarice, pas de désirs impurs ne dérangeront la force sereine de ces créatures glorieuses. (…) Les machines gagnent du terrain sur nous; jour après jour nous devenons plus soumis à elles; chaque jour plus d’hommes se retrouvent attachés à leurs soins comme des esclaves, chaque jour plus d’hommes consacrent l’énergie de leur vie entière pour le progrès de la vie mécanique. » ***

___________

Voir aussi « Obsolescence programmée de l’homme »

Une conversation avec Cleverbot

___________

* « Consciousness is not the major effect of the human brain. People are not abstract logical intelligences walking around in big sacks of meat. People are large animals with big, busy, meaty brains that sometimes do a few things that are logical. » (Bruce Sterling, Tomorrow Now, 2002, p.58)

** « I’ll believe that computers can think not when they can beat a Kasparov at chess, with its rapidly proliferating but after all calculable permutations, but when they can be fed something as unexpected as the photograph of ‘Ralph, come back, it was only a Rash’ daubed on a wall, and can read the words, deduce the story, then laugh at the joke they have recognized for themselves. » (Brian Boyd, On the Origin of Stories, P.11)

*** « What sort of creature man’s next successor in the supremacy of the earth is likely to be. We have often heard this debated; but it appears to us that we are ourselves creating our own successors (…) In the course of ages we shall find ourselves the inferior race. Inferior in power, inferior in that moral quality of self-control, we shall look up to them as the acme of all that the best and wisest man can ever dare to aim at. No evil passions, no jealousy, no avarice, no impure desires will disturb the serene might of those glorious creatures. (…) the machines are gaining ground upon us; day by day we are becoming more subservient to them; more men are daily bound down as slaves to tend them, more men are daily devoting the energies of their whole lives to the development of mechanical life. » (« Darwin Among the Machines ») (in Erewhon)