Biologie de la conscience par Gerald M. Edelman (Ed. Odile Jacob, 1992) Titre original: Bright Air, Brillant Fire: On the matter of Mind traduit par Ana Gerschenfeld
Maniac par Benjamin Labatut (Ed. Grasset, 2024) Titre original Maniac traduit par David Fauquemberg
Deux livres à lire pour mieux appréhender la problématique de l’Intelligence Artificielle.
Pour mieux comprendre l’Intelligence Artificielle, ses atouts, ses dangers, il serait bon de revenir à la base et d’identifier ce qui fait que nous sommes des êtres intelligents et conscients, nous les humains !
Dans son livre « Biologie de la conscience », le Professeur de neurosciences Gerald Edelman, Prix Nobel de Médecine en 1972, décrit et analyse le fonctionnement de notre cerveau. Si ce livre n’est pas des plus récents (1992), il pose la base de nos questionnements sur ce qui fait de nous des êtres conscients et intelligents. Il souligne l’importance de l’incarnation de l’esprit qui est productrice de sens. Conscience, mémoire, catégorisation, reconnaissance, développement, perception, Edelman décortique le cerveau et décrit les bases de notre production de pensées. Il nous rapproche de la compréhension de ce qui fait notre conscience. Il insiste particulièrement sur l’importance de la reconnaissance du soi.
Son livre, organisé en quatre parties, traite d’abord de l’esprit, de sa nature et de sa matière, ensuite, dans la deuxième partie, de ses origines, de son développement, de sa biologie et de sa capacité à s’auto-organiser. Ces éléments une fois résumés, il en vient dans la troisième partie à la reconnaissance, au langage, à la conscience et ses différents niveaux. Dans la quatrième partie, il décrit quelques maladies mentales affectant la perte de reconnaissance de soi et aborde diverses questions comme « Peut-on construire un objet conscient ? »
Edelman a tenu à ajouter une postface dans laquelle il traite de « l’esprit sans la biologie » ! Si le livre peut être ardu par moment, il offre des schémas clairs et reprend la problématique de la conscience à son origine.
Bien sûr, quelques données apparaissent datées, mais ses réflexions, ses interrogations permettent de remettre en perspective des questions toujours débattues aujourd’hui sur la naissance et le fonctionnement de notre conscience, sur les éléments qui la façonnent.
Dans un autre livre, « La science du cerveau et la connaissance » (en anglais « Second Nature »), traitant toujours de la conscience et publié en 2006, Edelman souligne que l’état de conscience, en opposition à l’état de sommeil, prend en compte l’ensemble des ressentis (tous les sens) situés dans un continuum de temps, interconnectés et unifiés : « on ne peut à aucun moment être totalement conscient d’une chose seulement, à l’exclusion complète des autres ».
Il faut aussi noter la très intéressante bibliographie de « Biologie de la conscience » Edelman commente la plupart des ouvrages repris dans la liste, il donne des appréciations qui sont riches en enseignements. Par exemple, dans la citation du livre de Andrew Hodges « Alan Turing ou l’énigme de l’intelligence » ; (1988) Edelman souligne les noms de Turing et de von Neumann et les identifie comme les théoriciens clés de l’informatique.
Ce qui nous amène à notre second livre bien plus récent, datant de quelques mois et écrit par Benjamin Labatut (traduit de l’anglais par David Fauquemberg), « Maniac ». Cet ouvrage propose une biographie romancée de John von Neumann, surdoué des mathématiques et visionnaire qui a, entre autres, inventé la théorie des jeux et contribué au projet Manhattan.
A travers les récits de savants nobelisés comme Eugene Wigner ou Richard Feynman et d’autres proches de von Neumann, Labatut nous dessine la vie de celui qui a conçu, le MANIAC « Mathematical Analyser Numerical Integrator and Computer », le premier ordinateur moderne. Cette première étape va permettre le développement de machines toujours plus puissantes et complexes auxquelles nous sommes confrontés aujourd’hui. Labatut fait un remarquable travail biographique pour les nombreux scientifiques rencontrés par von Neumann même si son récit reste un roman.
A la fin de sa vie, von Neumann va chercher à comprendre le fonctionnement du cerveau et les mécanismes de la pensée qui sont d’après lui complètement différents du fonctionnement d’un ordinateur. Mais la maladie l’emportera avant de développer plus en avant ses réflexions.
Si la vie de von Neumann constitue la partie principale du roman, une première partie introduit la vie de Paul Ehrenfest (1880-1933) brillant physicien, ami de Niels Bohr et Albert Einstein. Professeur hors du commun, l’approche mathématique et probabiliste de la physique quantique l’inquiétait, il ne l’appréciait pas car elle réduisait les pouvoirs de l’intuition et de l’imagination.
La dernière partie du livre de B. Labatut présente AlphaGo l’Intelligence Artificielle capable de jouer au Go et d’affronter un humain, sans toutefois donner à ses créateurs toutes les clefs pour comprendre le fonctionnement de leur propre machine.
Ces trois parties soulignent la puissance de la science et les transformations qu’elle a introduit depuis moins d’un siècle dans le domaine de l’artificialisation de la pensée.
Maniac se lit facilement, et permet de retrouver beaucoup des scientifiques qui ont contribué aux grandes découvertes de la physique du XXème et XXIème siècle. D’autre part, il introduit le jeu de Go. Ses caractéristiques et ses paramètres font de ce jeu un exercice plus ouvert que le jeu d’échec. Pour le comparer au jeu d’échec, qui offre un nombre de scénarios de10 exp123, le jeu de Go monte à 10 exp700, cela fait quelques zéros en plus. (Pour une introduction au Go, on peut consulter Jeudego.org qui donne les règles de base qui sont très simples). Dans son dernier chapitre, B. Labatut souligne bien les deux fiertés celle de la conception d’une machine (presque) sans faille et celle de la (dernière) victoire humaine contre la machine.
Nous avons donc deux livres forts différents mais tous les deux passionnants dans leurs genres et qui encore et toujours laissent de très nombreuses questions ouvertes. Gerald Edelman est décédé en 2014 et on aimerait savoir ce qu’il aurait dit des succès d’AlphaGo (organisme numérique) et de sa confrontation avec Lee Sedol (organisme biologique) lors de la fameuse compétition de Go en 2016.
En bonus, quelques questions actuelles :
En parlant de reconnaissance de soi (nous sommes conscients d’être conscients) est-ce que la machine peut prendre conscience qu’elle est une boite qui contient un système créé ex nihilo sans hérédité ? Est-ce important ?
Nous avons développé l’avion en observant les oiseaux… Qu’allons-nous obtenir en construisant une AI qui nous ressemble ?
Nous acceptons d’être plus lents que les voitures, plus faibles que les monte-charges, plus lents à calculer, mais nous sommes inquiets quant à l’intelligence artificielle ? Qu’est-ce qui peut la maitriser si elle nous dépasse ? Comme pour nos autres réalisations, il est nécessaire d’y mettre des freins, mais lesquels si on ne comprend pas exactement comment l’IA fonctionne ?
Pouvons-nous comprendre l’intelligence artificielle, après tout, nous ne sommes que des humains ?
Souvenons-nous d’Helen Keller qui est aveugle et sourde mais qui grâce au sens du toucher et à son intelligence va réussir à communiquer, à étudier et faire des conférences dans le monde entier. Les dispositions humaines sont remarquables.
Commentaires récents