Au-delà de l'AI Alignment
Authors/Creators
Description
Les recherches contemporaines en AI safety et AI alignment visent principalement à garantir que des systèmes d’intelligence artificielle avancés se comportent conformément aux valeurs humaines et ne produisent pas d’actions dangereuses. Si ces approches sont nécessaires, elles reposent sur une hypothèse implicite : une fois alignée et robuste, une IA peut être intégrée durablement sans transformer de manière problématique les structures du monde humain.
Ce manuscrit remet en question cette hypothèse. Il soutient que certains des risques les plus profonds posés par une super-IA ne relèvent ni d’un défaut d’alignement ni d’un comportement déviant, mais de la réussite même de ces systèmes lorsqu’ils deviennent centraux, fiables et indispensables. À partir de cette intuition, l’article opère un déplacement conceptuel : du contrôle des comportements vers l’analyse des trajectoires structurelles de long terme.
Le cœur de la contribution réside dans l’introduction d’un cadre de contraintes structurelles, distinct mais complémentaire de l’AI alignment. Ces contraintes ne portent pas sur les objectifs locaux de l’IA, mais sur ce qu’elle ne doit jamais devenir : un centre cognitif irremplaçable, un substitut durable aux capacités humaines, ou une entité généalogiquement autonome. Le manuscrit distingue plusieurs niveaux de contraintes — architecturales, fonctionnelles, évolutionnaires et méta-généalogiques — et en examine la faisabilité dans un régime non strictement algorithmique.
L’analyse conduit à la formulation d’un critère inédit de sécurité : le seuil du retrait. Une intelligence artificielle est dite sûre non lorsqu’elle contrôle parfaitement le monde, mais lorsqu’elle rend possible un monde capable de continuer sans elle. Ce seuil est renforcé par un théorème de non-substitution généalogique, interdisant qu’une IA se retire en engendrant une nouvelle espèce cognitive non contrainte destinée à prendre sa place.
En replaçant la sécurité de l’IA dans une perspective structurelle et intergénérationnelle, ce travail propose une extension conceptuelle des débats actuels en AI safety et AI governance, centrée sur la préservation du possible plutôt que sur l’optimisation du contrôle
Files
manuscrit b1.pdf
Additional details
Additional titles
- Subtitle
- Sécurité structurelle, dépendance et seuil du retrait