The Fragmented Mind of the Firm: Collective Knowledge and Criminal Attribution in Organizations deploying AI agents
Authors/Creators
- 1. Illumivia
- 2. Penumbra Risk
- 3. the Bruce Catton Institute
- 4. PalenciaLaw
Description
Abstract
Agentic AI systems intensify a longstanding corporate-law problem: relevant information may be distributed among commercial leadership, technical developers, product teams, security personnel, compliance officers, and external vendors, with no single person holding the full picture. This Article evaluates whether the collective-knowledge doctrine -sanctioned for corporate willfulness in United States v. Bank of New England and contested since- can attribute organizational knowledge in agentic AI deployments without collapsing individual mens rea into corporate complexity. It argues that a corporation's informational integration and an individual decision-maker's criminal knowledge must remain analytically distinct, and proposes an authority-information-intervention-trigger model: institutional capacity to integrate risk signals is evidence of preparedness, not of knowledge, until a concrete triggering signal made using that capacity reasonably called for. The resulting attribution matrix identifies four outcomes: Good-Faith fragmentation, negligent governance, entity-level knowledge attribution, and possible deliberate avoidance; it also specifies why none of them can substitute for proof of an individual's intent where the underlying offense requires it.
Keywords: institutional risk; risk assessment; AI governance; accountability gap; agentic AI; AI agents; risk architecture; distributed organizational knowledge; collective knowledge doctrine; corporate criminal attribution; corporate law; international law; criminal law; digital proof
Resumen
Los sistemas de IA agéntica intensifican un problema clásico del derecho corporativo: la información relevante puede estar distribuida entre liderazgo comercial, desarrolladores técnicos, equipos de producto, personal de seguridad, oficiales de cumplimiento y proveedores externos, sin que ninguna persona posea el panorama completo. Este Artículo evalúa si la doctrina del conocimiento colectivo —reconocida para el elemento del dolo corporativo (‘corporate willfulness’) en el caso federal estadounidense United States v. Bank of New England (un caso controvertido desde su emisión)- puede contribuir a la atribución del conocimiento organizacional en despliegues de IA agéntica sin colapsar el mens rea individual (el elemento subjetivo o estado mental culpable exigido por el tipo penal) en la complejidad corporativa. Se sostiene que la integración informacional de una corporación y el conocimiento penal de un tomador de decisiones individual deben permanecer analíticamente distintos, y propone un modelo de autoridad-información-intervención-activación: la capacidad institucional de integrar señales de riesgo es evidencia de preparación, no de conocimiento, hasta que una señal de activación concreta vuelve razonable exigir el uso de esa capacidad. La matriz de atribución resultante identifica cuatro resultados: fragmentación de Buena Fe, gobernanza negligente, atribución de conocimiento a nivel de entidad, y posible evasión deliberada; y se precisa además por qué ninguno de estos resultados puede sustituir la prueba de la intención de un individuo cuando el delito subyacente así la exige.
Palabras clave: riesgo institucional; evaluación de riesgo; gobernanza de IA; brecha de accountability; IA agéntica; agentes de IA; arquitectura de riesgo; conocimiento organizacional distribuido; doctrina del conocimiento colectivo; atribución de responsabilidad penal corporativa; derecho corporativo; derecho internacional; derecho penal; prueba digital
Files
2026-AGO-PenumbraRisk-DaniVerdugaPalencia-FragmentedMindoftheFirm-prp.docx.pdf
Additional details
Related works
- References
- Preprint: 10.5281/zenodo.21891070 (DOI)
Dates
- Submitted
-
2026-08