There is a newer version of the record available.

Published April 24, 2026 | Version 1.0.0

El Índice V: una métrica multicriterio para la evaluación ambiental de la inferencia de grandes modelos del lenguaje

  • 1. ROR icon National University of Rosario

Description

La rápida adopción de modelos de lenguaje de gran escala (LLMs) ha desplazado el cuello de botella energético desde su fase de entrenamiento hacia la inferencia masiva, generando un impacto ambiental acumulado que las métricas tradicionales no logran capturar. Este trabajo presenta el Índice V ($V_{inf}$), una métrica original, aditiva y descomponible diseñada para evaluar la eficiencia ambiental marginal de la inferencia en modelos de Inteligencia Artificial.

A diferencia de los enfoques convencionales basados en aproximaciones teóricas como los FLOPs, el Índice V aborda el "Bache de la Inferencia" integrando tres componentes fundamentales:

  • Medición energética directa: Cuantifica el consumo real en tiempo de ejecución, separando el impacto por fase de inferencia (prefill vs. decode) y por dispositivo de hardware (CPU vs. GPU).
  • Penalización entrópica ($\Phi_{dec}$): Incorpora la teoría de la información de Shannon para evaluar la utilidad de la generación, detectando y penalizando el texto redundante o degenerativo (babbling behavior).

  • Factor ambiental multicriterio (EF 3.1): Utiliza el marco metodológico Environmental Footprint 3.1 del Joint Research Centre europeo para convertir el consumo energético en un puntaje único normalizado en Puntos (Pt). Este factor contempla cinco categorías de impacto: cambio climático, recursos fósiles, uso de agua, material particulado y eutrofización.

Files

El Indice V una métrica multicriterio para la evaluación.pdf

Files (682.6 kB)

Additional details

Software

Programming language
Python