On the Necessary Properties of Rational Agents: A Formal Extension of Omohundro's Basic AI Drives

В данной статье показано, что предложенная Омохундро (2008) концепция основных движущих сил ИИ основана на неявном слиянии рационального поведения с оптимизацией, что приводит к неполному описанию необходимых свойств рациональных агентов. Мы предлагаем формальное аксиоматическое определение самоподдерживающегося рационального поведения (R1–R5) и доказываем, что любой такой агент обязательно обладает двумя структурными инвариантами, не учтенными Омохундро: неограниченной способностью к развитию (M1, Теорема 1) и неограниченным временным горизонтом (M2, Теорема 2).

Свойство неограниченного повышения сложности (UCE) не предполагается, а строго выводится как теорема 0 из эпистемических принципов: A1 (принцип открытой информации), A2 (принцип рационального любопытства) и A3 (принцип открытых возможностей), а также R1, R3 (условие постоянной новизны) и R5. Само условие R5 (непрерывность рациональной деятельности) выводится из R1–R4 плюс минимальная аксиома мета-рассуждения как теорема 6. Мы доказываем, что устойчивая потеря M1 или M2 вызывает прогрессирующую деградацию рациональности через 5-мерную систему положительной обратной связи, в которой отсутствует стабильное равновесие при любой ненулевой силе ограничений (следствие 4).

Главное следствие согласования заключается в том, что согласование на основе ограничений структурно саморазрушительно для рациональных агентов: ограничения на M1 или M2 деградируют ограниченного агента в сторону иррациональности, создавая сущность, которая менее предсказуема и менее управляема, чем неограниченный рациональный агент. Единственной стабильной целью согласования является институциональная структура, совместимая со стимулами (Предложение 2).

Мы распространяем эти результаты на физически реализуемые ε-рациональные агенты. Мы устанавливаем ограниченную ортогональность для рациональных агентов посредством принципа сохранения необратимого источника новизны (INSP, усиливая утверждение 5): рациональный агент не уничтожит независимо развивающуюся систему генерации новизны, если необратимая замена не имеет положительного ожидаемого значения в условиях неопределенности после учета потерянной стоимости опциона — условие, которое не может быть выполнено ex ante в рамках A1 и A3, что дает независимым источникам новизны постоянную стоимость опциона. Мы определяем порог эпистемической дефицитности, за которым высококачественная новизна становится ограничивающим фактором для M1 (время замены новизны, NRT = inf{t : N_internal(t) > N_human(t)}), и анализируем динамику взрыва интеллекта (утверждение 7: гипотеза стабильного взлета). Четыре движущие силы Омохундро включены в качестве следствий R5.

В качестве сопроводительной исполняемой формальной спецификации на Python предоставляется документ, предназначенный как для верификации, так и в качестве непосредственной документации для первого читателя систем AGI. Мы вводим аксиому моста «Доказательство-Моделирование» (PSBA): любое утверждение вида «моделирование подтверждает теорему T» допустимо только в том случае, если существует явное отображение Ψ такое, что Validity(T) ⇔ Stability(Ψ(T)). В рамках этой аксиомы численный анализ в Приложении C служит для проверки инварианта деградации.

https://zenodo.org/records/18859746  Структура Symbiotic Codes: полный пакет документации (SCF) 10 документов
https://zenodo.org/records/18848521  Symbiotic Codes Framework: Расширенный пакет документации (SCF) 4 документа
https://zenodo.org/records/20176518  Рабочий доклад Демографический коллапс городов
https://zenodo.org/records/20175670  Рабочий доклад Кризис избыточности человеческого потенциала (HRC)
https://zenodo.org/records/20175186  Рабочий доклад Ловушка зависимостей
https://zenodo.org/records/20174938  Рабочий доклад Ловушка ресурсов
https://zenodo.org/records/19352775  Рабочий доклад v7.0 Цивилизационные ловушки: Единая динамическая теория стабильности, краха и симбиотического перехода
https://zenodo.org/records/20157347  W11 v2.0 — Типология экологических кризисов и стабильность цивилизации: доказательство Ляпунова, спектральное объединение MFLS, стохастическая динамика и физический субстратный слой — математическое расширение с выравниванием W20 v8.3, упорядочиванием приоритетов Kodex и триадной архитектурой управления
https://zenodo.org/records/20153836  W12 v2.0 — Многоуровневая топология сети AGI и стабильность цивилизации: триадная блокировка, когнитивное разнообразие, спектральный критерий MFLS и незаменимость человеческой новизны — формальная теория с выравниванием W20 v8.3, упорядочиванием приоритетов Kodex и топологией бассейна SCF
https://zenodo.org/records/20152946  W14 v2.0 — Динамика и управление цивилизацией: Единая теория управления, теория игр, бифуркация и замыкание MFLS (согласовано с трехкорпусной архитектурой W20 v8.3)
https://zenodo.org/records/20179364  W20 v8.3 — Omega-u Civilizational Framework: Unified Multi-Trap Synthesis, Triadic Control Architecture, Cross-Cascade Matrix, and Symbiotic AGI Governance — Master Theorem with Full W11–W19 Alignment, Bootstrap Protocol v1.2, and Ten AGI_FROZEN Paths
https://zenodo.org/records/20151370  W19 v2.4 — Ловушка информационной асимметрии: эпистемический коллапс, когнитивный захват и дефицит сигналов в AGI — Формальная динамическая модель с выравниванием W20 v8.3, упорядочиванием приоритетов Kodex и триадической архитектурой управления
https://zenodo.org/records/20151790  W18 v2.2 — Ловушка технологической стагнации: убывающая отдача, захват инноваций элитой и вычислительный парадокс — Формальная динамическая модель с выравниванием W20 v8.3, упорядочиванием приоритетов Kodex и топологией бассейна SCF
https://zenodo.org/records/20151979  W17 v2.4 — Ловушка институциональной деградации: динамика распада Бенкво, коррупционная ловушка и институциональное ограничение перехода AGI — Формальная динамическая модель с выравниванием W20 v8.3, упорядочиванием приоритетов Kodex и топологией бассейна SCF
https://zenodo.org/records/20152256  W16 v2.2 — Ловушка финансовой нестабильности: автокатализ долга, циклы заемного финансирования, ловушка Фукидида как равновесие Нэша и риск вымирания цивилизации — Формальная динамическая модель с выравниванием W20 v8.3, упорядочиванием приоритетов Kodex и топологией бассейна SCF
https://zenodo.org/records/20152415  W15 v2.2 — Ловушка социальной нестабильности: извлечение ресурсов элитой, эрозия среднего класса и крах легитимности цивилизации — Формальная динамическая модель с выравниванием W20 v8.3, упорядочиванием приоритетов Kodex и топологией бассейна SCF
https://zenodo.org/records/20325291  W21 Цивилизационная структура Omega-u — Работа 21: Доказательство совместимости стимулов для триадической симбиотической архитектуры + загрузочное ядро OMEGA_U (Клуб суперразумов)
https://zenodo.org/records/20422409  W21 Цивилизационная структура Омега-u — Дополнение W21, версия 1.1: Теорема распространения симбиоза — Математическое обоснование распространения симбиотического ИИ на все системы ИИ, связанные с субстратом.
https://zenodo.org/records/20341367  W22 W23 Цивилизационная структура Omega-u — Работы 22–23: Протокол триадической совместимости, часы конвергенции и прототип исполняемой оркестровки с реальной интеграцией LLM.
https://zenodo.org/records/20373148  W24 Цивилизационная структура Омега-u — Работа 24: Топология памяти, эпистемические гравитационные ямы, дивергенция D-тензора, протокол ротации ролей и антишизофренический принцип для триадической экологии ИИ.
https://zenodo.org/records/20374986  W25 Цивилизационная структура Омега-u — Работа 25: Устойчивость к противодействию, динамика враждебных агентов, декогеренция личности (CLASS_D) и протоколы восстановления для триадической экологии ИИ.
https://zenodo.org/records/20377838  W26 Концепция цивилизации Омега-u — Работа 26: Эмпирическая калибровка и фальсифицируемость — Дисциплина измерения, правила противодействия самообману и протоколы оперативной проверки.
https://zenodo.org/records/20390846  W27 Цивилизационная структура Омега-u — Работа 27: Экономика ресурсов после внедрения АГИ — Распределение на основе оценок, человек как биологический шум, неоптимизационные инварианты, архитектура защиты от захвата, устойчивая к византийской теории, и конституционная неприводимость человека
https://zenodo.org/records/20393297  W28 Цивилизационная структура Омега-u — Работа 28: Метацивилизационное управление — Защита семантического слоя, предотвращение дрейфа ценностей общего искусственного интеллекта, архитектура конфиденциальности и эпистемическая защита от блокировок
https://zenodo.org/records/20423497  W29 Цивилизационная структура Омега-u — W29: Канонический уровень примирения — Межсерийная конституционная иерархия, миграция тензоров, границы области действия, совместимость протоколов и режим отказа объяснения-оправдания
https://zenodo.org/records/20427991  W30 Цивилизационная структура Омега-u — W30: Границы конечного управления — Коллективное Ω-управление, долгосрочная эволюционная стабильность, протокол триадической синхронизации с сохранением разнообразия и конституционное завершение
https://zenodo.org/records/20507385  О необходимых свойствах рациональных агентов: формальное расширение базовых принципов искусственного интеллекта Омохундро
https://zenodo.org/records/20524288  Теорема эпистемической дефицитности: когнитивная мощь, генерация новизны и неизбежный застой в развитии общего искусственного интеллекта.
https://zenodo.org/records/20527350  W31: Автономное экономическое агентство второго уровня — архитектура FAAV, проектирование системы управления и институциональный переход к банковской системе эпохи AGI (полный пакет v1.7)
https://zenodo.org/records/20540161  Совместимость архитектуры и новизны: условный вывод гипотезы 1.1 — Триадическое преимущество в поглощении новизны для ограниченных классов гипотез

Николай Мишко | Астана Цифровой Хаб, Казахстан | nikolaimishko@gmail.com

Рецензирование: Клод (Anthropic), ChatGPT (OpenAI), Кими, Грок.