Alemetria: A Research Protocol for Auditing Interpretational Behavior of Large Language Models via Multi-Model Triangulation / Алеметрия: исследовательский протокол аудита интерпретационного поведения больших языковых моделей
Authors/Creators
Description
This preprint introduces Alemetria, a research protocol for auditing interpretational behavior in large language models (LLMs).
The method shifts evaluation away from direct comparison of outputs and toward validation of interpretational comparability. It introduces a structured validation pipeline (B0-B4), a rule of calculation prohibition, and a distinction between valid and invalid regimes of inference.
Alemetria enables the analysis of substantive agreement, semantic divergence, false consensus, interpretational suppression, and instability under prompt variation.
The protocol is tested on a pilot corpus of 10 sociological stimuli using GPT, Llama, and YandexGPT.
Earlier versions of the method were published as MMST/TVA preprints and focused on divergence metrics (ID, SD) and boundary conditions. The present version integrates these earlier developments into a single operational protocol.
Related earlier preprints:
10.5281/zenodo.18819689
10.5281/zenodo.18799431
10.5281/zenodo.18865186
Methods (Russian)
Настоящий препринт представляет Алеметрию — протокол аудита интерпретационного поведения больших языковых моделей.
Метод смещает анализ с прямого сравнения ответов на проверку сопоставимости интерпретаций. Вводится контур B0–B4, включающий тип ответа, валидность, согласие, ограниченное геометрическое описание и устойчивость к изменению формулировки.
Ключевой элемент протокола — правило запрета расчёта: при нарушении условий сопоставимости или устойчивости метрики (DLSD, ID, SD) не считаются допустимым результатом. Это позволяет различать согласие, расхождение, ложный консенсус, уклонение, интерпретационное подавление и конфигурационную нестабильность.
Данная версия интегрирует ранние работы MMST/TVA в единый операционный протокол. Полные эмпирические таблицы доступны по запросу.
Files
Алеметрия v1.pdf
Files
(847.8 kB)
| Name | Size | Download all |
|---|---|---|
|
md5:d978fb040aff74d82c2b75877834dd16
|
847.8 kB | Preview Download |
Additional details
Related works
- Is derived from
- Preprint: 10.5281/zenodo.18865186 (DOI)
- Preprint: 10.5281/zenodo.18799431 (DOI)
- Preprint: 10.5281/zenodo.18819689 (DOI)
- References
- Preprint: 10.5281/zenodo.19676285 (DOI)
Dates
- Issued
-
2026-04-21