El pasado 3 de octubre, 52 psiquiatras y juristas se reunieron en las XX Jornadas de Documentos Jurídico-Psiquiátricos para discutir el impacto de la inteligencia artificial (IA) en la toma de decisiones en el ámbito de la salud mental y el sistema judicial. Durante el evento, surgieron preguntas críticas sobre la capacidad de la IA para influir en decisiones como el ingreso de pacientes con tendencias suicidas o la redacción de sentencias judiciales.
El magistrado del Tribunal Supremo, Eduardo de Porres, advirtió sobre los riesgos de permitir que la IA redacte sentencias, subrayando la necesidad de que los jueces mantengan un control humano en el proceso. De Porres destacó que, aunque la IA puede facilitar tareas como la búsqueda de jurisprudencia, no debe sustituir el juicio humano en la elaboración de resoluciones judiciales.
Por su parte, el psiquiatra Carlos Roncero expresó su preocupación por el uso de chatbots en la salud mental, especialmente en interacciones con menores. Propuso que estas aplicaciones deben estar sometidas a controles rigurosos para garantizar su seguridad, sugiriendo que en situaciones críticas, como pensamientos suicidas, deberían redirigir a los usuarios hacia profesionales de la salud.
Qué significa para su organización
Las organizaciones relacionadas con la salud mental y el ámbito judicial deben revisar sus protocolos sobre el uso de herramientas de IA, especialmente en la interacción con pacientes vulnerables. Es esencial establecer directrices claras sobre cómo y cuándo se puede utilizar la IA en la toma de decisiones críticas, así como garantizar que siempre haya un profesional humano que supervise y valide estas decisiones.
Además, se recomienda que las instituciones formadoras de profesionales en salud mental y derecho incluyan en sus programas de formación contenidos sobre el uso ético y seguro de la IA, así como sobre la identificación de aplicaciones que cumplan con estándares de seguridad adecuados para la protección de los usuarios, especialmente menores de edad.
