Colloque relations-objets : théorie des catégories et théorie des ensembles

Je voudrais compléter mon résumé (vraiment résumé !) de l’exposé de Badiou le 18 juin en abordant certains aspects plus mathématiques, sans aller jusqu’à dire « techniques », et en faisant allusion à d’autres exposés de ce jour là et du lendemain matin (pour des raisons de facilité de lecture, cela sera scindé en trois articles)

Pour les « working mathematicians » l’affaire est vite réglée : la théorie des catégories reprend et élargit la théorie des ensembles puisqu’un ensemble n’est qu’une catégorie où il n’y a pas de flèches entre les objets, qui sont les « éléments » de l’ensemble. Réciproquement un « élément » d’un objet O d’une catégorie est une flèche allant de l’objet terminal de la catégorie vers cet objet:

1 ————> O

Il faut donc qu’il y ait un objet terminal, ce qui est le cas dans toutes les catégories munies de « limites » et « colimites », en particulier les topoi.

Un topos notamment est une catégorie se comportant « de façon analogue » à la catégorie ENS des ensembles (où les ensembles sont les objets et les flèches sont les fonctions entre ensembles), catégorie qui est le premier exemple d’un topos.

Pour la plupart des « working mathematicians », notamment ceux qui travaillent dans la finance, l’affaire est encore plus vite réglée : ils font des « mathématiques réelles » , s’occupant notamment à résoudre des problèmes se posant aux ingénieurs ou aux traders, jamais de ces « mathématiques fondationnelles », les laissant aux logiciens, enseignants ou philosophes.

Pour ma part je me méfie énormément et même refuse le schéma simpliste qui pourrait résulter d’une compréhension hâtive des propos de Badiou, et que ses formulations tendraient à encourager: à savoir que la théorie des ensembles est l’ontologie, le discours sur l’être caractérisé par l’univocité, et que la théorie des catégories serait la « mise en équivoque de cette univocité par localisation ».

Ainsi sur un axe unique la théorie des ensembles serait du côté de l’Etre et de son univocité, du côté de Platon et de Parménide, la théorie des catégories du côté du monde (et du discours sur l’être du monde qui est la physique), de l’équivocité qui le caractérise , du côté d’Aristote et d’Héraclite. Mais la théorie des catégories est tout autant scientifique, mathématique, que celle des ensembles, et si la Science est bien (formule admirable de Badiou) une extorsion d’un noyau d’univocité à l’équivocité du monde, on ne voit pas pourquoi la théorie des catégories serait du côté de l’équivocité.

D’ailleurs Badiou reconnaît que la théorie des ensembles se ramène à une et une seule relation : la relation d’appartenance d’un élément à un ensemble.

Donc la théorie des ensembles est tout aussi relationnelle que celle des catégories.

Si la notion de relation est prédominante c’est parce que la science est science des relations comme le dit Brunschvicg ainsi qu’Einstein ou récemment Michel Bitbol. Marie Anne Cochet parle de la physique comme dissolution des apparences de substances (d’objets) réelles en entités mathématiques : ainsi en mécanique quantique les espaces abstraits de Hilbert remplacent l’espace euclidien de Newton.

Mais la difficulté et l’obscurité vient de ce que Badiou passe continuellement et sans le dire d’un plan à un autre : que les relations mondaines, sociales, entre êtres humains soient caractérisées par l’équivocité et l’ambiguïté (comme le montre « La règle du jeu » de Jean Renoir) c’est un fait.

Par contre une relation en mathématiques est définie sans ambiguïté et de manière rigoureuse, et cette définition peut être de type ensembliste : une relation binaire définie sur un ensemble E est un ensemble de couples d’éléments de E, c’est à dire une partie du produit cartésien E x E.