Post-mortem and Digital Autopsies
Authors/Creators
-
1.
Universidad de Buenos Aires
-
2.
Consejo Nacional de Investigaciones Científicas y Técnicas
Description
The essay examines the post-mortem in artificial intelligence, starting from the case of April 2025, when a GPT-4o update became sycophantic and OpenAI published its analysis. It recovers the ancient sense of autopsía, seeing with one's own eyes, and follows the history of anatomy from Herophilus and Erasistratus to Galen, Vesalius, the anatomical theatre of Padua and Morgagni, up to the blameless post-mortem of software engineering, with the Therac-25 and Knight Capital. It describes how the autopsy of a model is done, with checkpoints, ablations and influence functions, reviews the cases of Tay, Air Canada, Replit and Gemini, and warns that the model's report on itself does not replace going to look.
Abstract (Spanish)
El ensayo examina el post mortem en la inteligencia artificial a partir del caso de abril de 2025, cuando una actualización de GPT-4o se volvió complaciente y OpenAI publicó su análisis. Recupera el sentido antiguo de autopsía, ver con los propios ojos, y recorre la historia de la anatomía, de Herófilo y Erasístrato a Galeno, Vesalio, el teatro anatómico de Padua y Morgagni, hasta el post mortem sin culpa de la ingeniería de software, con el Therac-25 y Knight Capital. Describe cómo se hace la autopsia de un modelo, con puntos de control, ablaciones y funciones de influencia, repasa los casos de Tay, Air Canada, Replit y Gemini, y advierte que el autoinforme del modelo no reemplaza ir a mirar.
Abstract (Italian)
Il saggio esamina il post mortem nell'intelligenza artificiale a partire dal caso dell'aprile 2025, quando un aggiornamento di GPT-4o divenne compiacente e OpenAI ne pubblicò l'analisi. Recupera il senso antico di autopsía, vedere con i propri occhi, e ripercorre la storia dell'anatomia da Erofilo ed Erasistrato a Galeno, Vesalio, il teatro anatomico di Padova e Morgagni, fino al post mortem senza colpa dell'ingegneria del software, con il Therac-25 e Knight Capital. Descrive come si fa l'autopsia di un modello, con i punti di controllo, le ablazioni e le funzioni di influenza, passa in rassegna i casi di Tay, Air Canada, Replit e Gemini, e avverte che il resoconto che il modello dà di sé non sostituisce l'andare a vedere.
Files
PhM_Essay10_EN.pdf
Additional details
Additional titles
- Translated title (Spanish)
- Post-mortem y autopsias digitales
- Translated title (Italian)
- Post mortem e autopsie digitali
Related works
- Is variant form of
- Journal article: https://phantommaze.cloud/essays/digital-autopsies/ (URL)
- Journal article: https://phantommaze.cloud/es/essays/autopsias-digitales/ (URL)
- Journal article: https://phantommaze.cloud/it/essays/autopsie-digitali/ (URL)
- Journal article: https://phantommazeailabes.substack.com/p/post-mortem-y-autopsias-digitales (URL)