Philosophie et IA

Ce Texte a été écrit en Février 1984.

Alors membre du Centre de Recherche du Groupe Bull, je participai à l’époque à un groupe de réflexion sur le thème « Philosophie et I.A », où les sujets à la frange du domaine de l’Intelligence Artificielle étaient abordés sans complexes par l’ensemble des chercheurs de l’équipe.

C’est au cours d’une de ces sessions, que je me hasardai (en fait le hasard n’y est évidemment pour rien) à proposer une définition de l’Intelligence. Je dois dire que cette tentative fut accueillie avec ironie par mes camarades (Ah les enfoirés !). Toujours blessé par l’incompréhension des autres (aimez moi !) je me fendis donc d’une lettre où je tentai d’expliquer, au calme de l’écriture, les raisons de ma tentative (que je trouve toujours très motivée).


Chers Amis Bonjour.

La dernière réunion du groupe « Philosophie et I.A. s’étant terminée en queue de poisson (du moins de mon point de vue), je suis donc amené à prendre ma plume pour tenter d’expliquer, au calme de l’écriture, le point de vue que j’ai si maladroitement essayé d’exposer en ce Jeudi 16 Février 1984.

Je ne saurais mettre en cause l’entendement éclairé de mes interlocuteurs de ce jour, sûr que cette difficulté à communiquer ne tint essentiellement qu’à ma maladresse, ainsi qu’à ma nature méridionale, à moins que ce ne fut à la vacuité de mes idées. Si tant est que cela fut, je ne doute pas que vous saurez m’en montrer les raisons.

******

Il existe une définition très basique(1) de l’intelligence présentant deux facettes prétendument disjointes  :

  • La faculté de connaitre et de comprendre (sic),
  • Le rendement d’un mécanisme mental.

On peut facilement fondre ces deux facettes en une seule, en disant que le rendement d’un mécanisme mental est lié à la qualité de la représentation (compréhension) de connaissance qu’il manipule, et vice-versa.

Les applications d’I.A. sont quotidiennement là pour nous le prouver.

Ceci étant dit pour en finir une bonne fois pour toutes avec la Tarte à La Crème de la Connaissance et de l’Action.

Question : Est-il possible d’étudier les mécanismes de la pensée rationnelle indépendamment de la structure matérielle qui la supporte, ou plus exactement qui les engendre ?

Autrement dit, l’Intelligence peut-elle être considéré abstraitement comme objet d’étude que l’on peut isoler, disséquer, comprendre et voire reproduire, par l’intermédiaire d’une démarche analytique classique ? Ou bien, faut-il la considérer comme la capacité indissociable d’un système (organisme) à générer des comportements finalisés, par et pour cet organisme ?

Lors de la réunion, il a semblé admis pour tous que le problème central de l’étude de l’Intelligence (et en définitive de l’I.A.) était celui de l’apprentissage.

A ce titre, il ne me semble donc pas hérétique de lier étroitement, voire de confondre, apprentissage et génération de comportement finalisés, Par comportement, on entend génériquement toute activité de perception et représentation de l’environnement, raisonnement (intuition) et action sur l’environnement. Un apprentissage est par définition fortement finalisé puisqu’il doit permettre le contrôle croissant, et à terme efficace, d’un environnement, qu’il soit professionnel ou quotidien.

Notons au passage, la liaison implicite du concept de Temps à celui d’apprentissage, concept dont l’importance avait justement soulignée par Patrick Albert lors de son exposé.

Ainsi, s’introduit donc cette fameuse proposition de définition de l’Intelligence, à savoir la capacité de générer des comportements adaptés.

Si on utilise le verbe Générer, plutôt qu’Avoir, c’est bien pour insister sur le fait que le problème de la manipulation (statique) de connaissances est simple, comparativement à la complexité de la génération de ces connaissances (génération recouvrant acquisition et synthèse).

L’Intelligence, pensons-nous, consiste bien plus en la génération d’un comportement qu’en sa réalisation.

Ainsi, et d’après cette définition, la bactérie n’est pas intelligente.
En effet, la bactérie, qui a une vision « chimique » du monde, a à sa disposition un unique jeu de comportements métaboliques déterminé par son seul patrimoine génétique, et rien de plus(2). Elle est donc incapable de générer une quelconque représentation de son environnement, ne disposant d’ailleurs d’aucune structure pour le faire. La bactérie fonctionne donc complètement suivant le schéma behavioriste « Stimulus->Réponse ».

Ceci dit, le jeu de comportements « câblés » d’une bactérie lui permet pour l’essentiel d’assurer sa stabilité structurelle. Ce jeu de comportements est à la dimension informationnelle de la réalité qui est la sienne (en ce sens, ce jeu de comportements est adapté), c’est à dire à la dimension des situations d’interaction et de déstabilisation structurelle qu’elle est susceptible de rencontrer.

Ce câblage comportemental est toujours de rigueur chez les vertébrés inférieurs(2), même s’il s’est notablement enrichi tout en changeant de nature (leur monde n’est plus simplement chimique).

Cependant, plus on monte dans la hiérarchie animale, plus on voit apparaitre des organismes de moins en moins câblés, c’est à dire de moins en moins spécialisés du point de vue comportemental.

Parallèlement à cette déspécialisation (en fait à cause de cette déspécialisation) apparait alors l’apprentissage de comportements, information acquise sur le milieu. C’est à dire que les organismes se dotent d’une Histoire.

Il faut très certainement voir là une cause structurelle de l’apparition de la famille. Famille au sein de laquelle l’apprentissage sera fait, structure lui assurant survie et protection durant sa période d’apprentissage, à cause de sa nudité comportementale initiale.

Le grand intérêt de la déspécialisation, et corrélativement de la capacité de générer dynamiquement des comportements, c’est que le câblage a inversement l’inconvénient majeur de prédéterminer de manière définitive et très forte l’ensemble des situations, des environnements dans lesquels l’organisme va évoluer.

Dès qu’une situation imprévue apparait, l’organisme non seulement n’a aucune réponse adaptée, mais est aussi dans l’incapacité d’en développer de nouvelles. On peut aussi dire qu’un tel système est très fortement post-conditionné.

Inversement, la déspécialisation, qui apparait à première vue comme une faiblesse (un nourrisson est bien moins armé à la naissance qu’un jeune chiot : pas d’autonomie motrice = pas de fuite) permet la génération non-limitative de comportements adaptés à des milieux différents ou inattendus. Ce qui est un facteur déterminant de survie pour l’individu, et de pression sélective pour l’espèce à laquelle il appartient.

A cet égard, il est symptomatique que la période d’apprentissage d’un être humain soit de l’ordre d’un peu plus d’une dizaine d’années, alors qu’il n’est que de quelques ans pour un singe, et quelques mois pour un chien (ce qui correspond très exactement à la durée d’acquisition de la maturité sexuelle).

On peut d’ailleurs légitimement se demander si la durée de la période d’apprentissage n’est pas d’autant plus grande que le système nait déspécialisé, et que cette durée soit une fonction croissante des performances finales de l’organisme adulte. Ce qui confirmerait, si besoin était, le lien fondamental entre histoire individuelle et Intelligence.

Au même titre que pour la bactérie, le jeu de comportements de tout organisme est à la dimension de l’univers situationnel, informationnel qui est le sien, c’est à dire à la dimension de sa réalité.

Mais, contrairement à la bactérie, le milieu peut informer les systèmes non-spécialisés qui ont ainsi la possibilité de réagir dynamiquement (et donc plus efficacement) aux situations rencontrées.

Plus un organisme a une représentation fine de sa réalité, plus il est à même d’assurer sa stabilité structurelle, qui est la seule finalité de cet organisme. En conséquence, plus la réalité, l’univers d’un organisme croît, moins l’option du câblage est efficace, puisqu’incapable de coder complètement les réponses comportementales aux situations innombrables de cet univers.

Une telle définition de l’Intelligence comme capacité à générer des comportements finalisés a la caractéristique de dissoudre le problème de la mesure et de la classification de l’Intelligence, car c’est une définition essentiellement qualitative. Plus ou moins intelligent ne veut donc plus rien dire.

A la lumière de tels propos, comment se situeraient alors nos fameux systèmes experts.

Et bien force est de constater que pour l’essentiel ils ressemblent à nos bactéries et à nos vertébrés inférieurs :

  • Ils fonctionnent essentiellement suivant le schéma behavioriste classique stimulus-réponse.
  • Ils sont très spécialisés et n’ont pas d’histoire (à l’inverse des experts humains, qui eux, sont à l’origine de leur spécialisation et dont l’expertise a une histoire).
  • Les comportements de tels systèmes sont idéaux dans la mesure où ils sont totalement dépourvus de finalité, finalité qui sous-tend tout comportement, intelligent ou pas, généré ou câblé.

Ils sont donc en fait dépourvus d’histoire personnelle et d’apprentissage comportemental, c’est à dire d’Intelligence, conformément à la définition que nous en donnons.

Ainsi, en conclusion, un système artificiel, véritablement intelligent, capable de générer du comportement, ne devra-t-il pas d’une certaine manière naître (c’est fou !?!), puis avoir une histoire qui se confondra avec son apprentissage, pour finir ensuite et seulement par être spécialisé et se comporter en définitive comme une expert.

Aussi, et pour en revenir à la question initiale, je ne pense pas qu’une étude de l’Intelligence soit possible sans considérer non seulement la structure matérielle qui la génère, mais aussi l’Histoire de l’émergence de cette structure matérielle dans le Temps, et qu’il est donc nécessaire de considérer l’Intelligence comme une phénomène issu de l’évolution si l’on veut tenter en quoi que ce soit d’en appréhender les mystères.

En d’autres termes, l’Intelligence n’est-elle pas fille de l’Histoire, dans la mesure où elle ne peut qu’émerger d’une manière continue à l’intérieur d’un système, et non pas apparaitre brutalement comme un fantôme dans une machine ?

Dominique SCIAMMA

1 in « L’Intelligence ». G.Viaud Que Sais-je 210

2 in « Le Jeu des Possibles ». François JACOB