Published February 14, 2026 | Version v1

Au-delà de l'AI Alignment

Authors/Creators

Description

Les recherches contemporaines en AI safety et AI alignment visent principalement à garantir que des systèmes d’intelligence artificielle avancés se comportent conformément aux valeurs humaines et ne produisent pas d’actions dangereuses. Si ces approches sont nécessaires, elles reposent sur une hypothèse implicite : une fois alignée et robuste, une IA peut être intégrée durablement sans transformer de manière problématique les structures du monde humain.

Ce manuscrit remet en question cette hypothèse. Il soutient que certains des risques les plus profonds posés par une super-IA ne relèvent ni d’un défaut d’alignement ni d’un comportement déviant, mais de la réussite même de ces systèmes lorsqu’ils deviennent centraux, fiables et indispensables. À partir de cette intuition, l’article opère un déplacement conceptuel : du contrôle des comportements vers l’analyse des trajectoires structurelles de long terme.

Le cœur de la contribution réside dans l’introduction d’un cadre de contraintes structurelles, distinct mais complémentaire de l’AI alignment. Ces contraintes ne portent pas sur les objectifs locaux de l’IA, mais sur ce qu’elle ne doit jamais devenir : un centre cognitif irremplaçable, un substitut durable aux capacités humaines, ou une entité généalogiquement autonome. Le manuscrit distingue plusieurs niveaux de contraintes — architecturales, fonctionnelles, évolutionnaires et méta-généalogiques — et en examine la faisabilité dans un régime non strictement algorithmique.

L’analyse conduit à la formulation d’un critère inédit de sécurité : le seuil du retrait. Une intelligence artificielle est dite sûre non lorsqu’elle contrôle parfaitement le monde, mais lorsqu’elle rend possible un monde capable de continuer sans elle. Ce seuil est renforcé par un théorème de non-substitution généalogique, interdisant qu’une IA se retire en engendrant une nouvelle espèce cognitive non contrainte destinée à prendre sa place.

En replaçant la sécurité de l’IA dans une perspective structurelle et intergénérationnelle, ce travail propose une extension conceptuelle des débats actuels en AI safety et AI governance, centrée sur la préservation du possible plutôt que sur l’optimisation du contrôle

Files

manuscrit b1.pdf

Files (491.1 kB)

Name Size
md5:3684377e7af073ad3e1ec5fa2ab195c6
491.1 kB Preview Download

Additional details

Additional titles

Subtitle
Sécurité structurelle, dépendance et seuil du retrait