Douglas Hofstadter, fils de Prix Nobel et physicien lui-même, a « juste » décroché le Pulitzer pour ce pavé de 800 pages. Le feuilleter mène à la découverte de quelques équations peu communes (chimiques ou plus souvent de système formel) ; par contre il y a des images (des gravures d’Escher) pour alléger quelques pages. Ce n’est pas un livre pour se délasser les neurones avant de dormir le soir (sauf pour des gens un peu bizarres comme moi).

Les personnes dépourvues d’un (gros) minimum d’esprit logique et mathématique et/ou de curiosité intellectuelle peuvent passer leur chemin. Les autres découvriront quelques-uns des principes fondamentaux qui gouvernent le monde, de l’abstraction aride des systèmes formels à l’ADN et à l’intelligence artificielle, de Bach le compositeur à Escher le dessinateur et à Gödel le logicien, tous liés d’une manière assez inattendue.

Chaque chapitre est précédé d’un dialogue entre Achille, la Tortue, un Crabe et quelques autres. Les concepts et les figures de style s’inspirent des concepts développés par la suite (autoréférence, canons musicaux...). L’exercice est parfois plaisant (les Canons cancrizans !), parfois un peu inutile. Ces dialogues sont truffés de références, acrostiches, exercices de style pas tous évidents à la première lecture.

Les systèmes formels occupent le début du livre. Ce qui semble un jeu typographique totalement vain (les systèmes pg ou MIU ou la TNT) devient, après pas mal de dizaines de pages, un peu plus clair. Ils ne sont ni plus ni moins qu’une formalisation à l’extrême du raisonnement mathématique. Les premiers ne sont que des « jouets » pédagogiques, mais la TNT permet de rebâtir toute la théorie des nombres. Surtout, les théorèmes décrits par ces systèmes peuvent eux-mêmes devenir des sujets de ces théorèmes.

Via cette autoréférence et les paradoxes qu’elle engendre, Kurt Gödel a démontré dans les années 30, à l’horreur de ses contemporains, qu’un système assez puissant pour être intéressant ne peut pas démontrer tous les théorèmes qu’il peut exprimer. Hofstadter explique la manière dont Gödel a créé ce fameux théorème indécidable : le passage est aride (l’« arithmoquinification » vous connaissez ?).

Les systèmes formels étant un simple jeu typographique, leur donner une signification est affaire de convention, mais ne se fait pas n’importe comment. Hofstadter s’étend sur les niveaux de signification successifs, voire infinis, que l’on peut leur donner. Cette connaissance peut être transposée aux langages informatiques, qui existent en plusieurs niveaux. Le choix d’un niveau de lecture n’est pas forcément une chose simple...

Suivent également quelques « applications » de ce qui paraissait un exercice un peu vain pour logiciens en tour d’ivoire. L’ADN est un exemple concret, universel et fascinant : à la fois le produit et la source, le code et les données. Le phénotype d’un être humain ne peut se comprendre en descendant au niveau moléculaire mais à un autre : sites des protéines, protéines, organes...

Autre exemple, l’intelligence humaine : les neurones sont des systèmes simplissimes (ils s’excitent ou ne s’excitent pas, c’est tout) mais les capacités d’un cerveau humain ne peuvent s’apprécier à ce niveau, il faut monter plusieurs niveaux quasiment indépendants les uns des autres, de même qu’un logiciel actuel ne peut se comprendre réellement si on en reste au niveau des bits qui passent dans le bus.

Récursion, identité, géométrie euclidienne ou non, les différents types de consistance d’un système, les koans zens, le réductionnisme, le holisme, l’intelligence collective d’une fourmilière, le substrat de l’intelligence, le Moi et sa nécessité pour aboutir à l’Intelligence Artificielle, la conscience, la diagonale de Cantor, les caméras qui filment la télé auxquelles elles sont branchées... sont d’autres concepts traités plus ou moins profondément.

Quel lien avec Bach et Escher demandera-t-on ? Les œuvres de Bach sont également bâties sur l’autoréférence (les canons notamment), et l’enchevêtrement de mêmes thèmes. Ceux qui connaissent les gravures d’Escher connaissent par contre les jeux de paradoxes qu’il adorait, où se mélangent les niveaux de signification. Les implications logiques et philosophiques sont plus profondes qu’il n’y paraît...

Le livre aurait-il mérité quelques coupures ? Sans doute. Mais Hofstadter suppose manifestement que le lecteur a le temps et la volonté d’absorber le vocabulaire que, comme tout bon mathématicien, il définit préalablement pour son propos avant de développer. Il tient à faire partager son émerveillement de l’imbrication logique de phénomènes a priori totalement séparés.

Sont plaisants quelques passages, à commencer par la préface, où l’auteur fait comprendre que la version française (qui a nécessité plus qu’une bête traduction !) est au moins aussi bonne que l’originale américaine. L’autoréférence joue à plein quand il décrit comment il a conçu le dialogue des Canons cancrizants. Plus drôle est le paragraphe où il pronostique (en 1979) qu’un logiciel assez bon joueur d’échec pour vaincre tous les humains sera assez intelligent pour vouloir faire autre chose — il n’a pas su prévoir les immenses progrès de la puissance informatique dans les vingt années qui suivirent.

Le lecteur pressé pourra jeter un œil sur le long article Wikipédia consacré au livre, en sachant qu’il effleure la surface de la substantifique moëlle du pavé.