Inteligencia Artificial en Salud Mental: Seguridad del paciente, ética y derecho

Title:

Artificial Intelligence in Mental Health: Patient safety, ethics and law

Resumen: 

Este trabajo analiza críticamente el uso de inteligencia artificial en salud mental, con énfasis en sus limitaciones técnicas, éticas y regulatorias. A partir de la revisión de literatura y casos ilustrativos, se examina cómo la falta de comprensión semántica, los sesgos algorítmicos y la incapacidad para captar matices culturales limitan la posibilidad de que estas herramientas funcionen como alternativas a la psicoterapia. Se destacan riesgos específicos en poblaciones vulnerables, como adolescentes, personas con trastornos de personalidad y víctimas de trauma complejo, para quienes la relación terapéutica humana resulta insustituible. En paralelo, se identifican áreas de aplicación responsable, incluyendo la psicoeducación, el triaje clínico y el apoyo al trabajo profesional. Desde la perspectiva jurídica y deontológica, se subraya la necesidad de marcos normativos claros que garanticen transparencia, consentimiento informado y supervisión profesional. El artículo concluye que el futuro de la salud mental no debe plantearse como una oposición entre tradición y tecnología, sino como un esfuerzo de integración prudente, donde la innovación digital complemente la práctica clínica sin reemplazar su núcleo humano.

Abstract: 

This paper critically examines the use of artificial intelligence in mental health, focusing on its technical, ethical, and regulatory limitations. Drawing on literature review and illustrative case studies, it explores how the lack of semantic understanding, algorithmic bias, and inability to grasp cultural nuances restrict the potential of these tools to function as genuine alternatives to psychotherapy. Particular attention is given to vulnerable populations, such as adolescents, individuals with personality disorders, and victims of complex trauma, for whom the human therapeutic relationship remains irreplaceable. At the same time, the article identifies areas for responsible integration, including psychoeducation, clinical triage, and professional support. From legal and ethical perspectives, it emphasizes the need for clear regulatory frameworks ensuring transparency, informed consent, and professional oversight. The paper concludes that the future of mental health care should not be conceived as a conflict between tradition and technology but as a prudent integration effort, where digital innovation complements clinical practice without replacing its human core.

Nota: 

Versión actualizada en repositorio para preservación y accesibilidad digital. El contenido intelectual permanece inalterado.

Note:

Version updated in repository for preservation and digital accessibility. Original intellectual content remains unchanged.

Official reference version:
Zenodo DOI: https://doi.org/10.5281/zenodo.17297095
Preservation copy at the Internet Archive: https://archive.org/details/zenodo.17297095