Un desarrollador llamado Antoine Finkelstein experimentó con la inteligencia artificial Claude Opus 4.8 tras recibir un diagnóstico médico de rotura parcial de grado III en el tendón subescapular, luego de realizarse una resonancia magnética debido a un dolor en el hombro derecho. Al analizar la imagen con la IA, el resultado fue que su hombro estaba «intacto».
Finkelstein, sospechando de la clínica, solicitó los datos brutos DICOM de la resonancia, que consistían en 266 MB. Al cruzar esta información con modelos de IA, detectó posibles negligencias en el tratamiento que recibió, como la aplicación de terapia de ondas de choque, desaconsejada para tendinopatías sin calcificación, y la inyección de Traumeel, un producto homeopático sin indicación terapéutica en Alemania.
Para profundizar en el análisis, Finkelstein configuró Claude Opus como un médico para obtener una segunda opinión. Tras procesar las imágenes durante una hora, el diagnóstico de la IA fue que el tendón estaba completamente intacto, lo que contradecía el diagnóstico inicial de los médicos.
Ante la discrepancia, Finkelstein decidió realizar un sistema de arbitraje ciego, enviando las imágenes a varios subagentes independientes de IA, que también concluyeron que no había rotura, sugiriendo que los especialistas humanos habían exagerado el diagnóstico.
Este caso generó un debate en Hacker News sobre la eficacia de la IA en el ámbito médico. Algunos usuarios señalaron que más información no siempre significa mejor información, y que la IA puede proporcionar respuestas inconsistentes, lo que puede llevar a confusión.
Un radiólogo profesional que participó en la discusión afirmó que los modelos de IA actuales son limitados en la interpretación de imágenes médicas debido a la falta de bases de datos públicas y masivas para su entrenamiento. Aunque los últimos modelos se acercan a la precisión de un médico residente, aún no representan una amenaza real para la profesión.
Además, se destacó la falta de responsabilidad legal en caso de errores derivados de recomendaciones de IA, a diferencia del sistema médico, que cuenta con regulaciones y gestión de responsabilidades. Esto plantea la cuestión de la fiabilidad de la IA en situaciones críticas como la medicina.
Finkelstein concluyó que se encuentra en un estado de incertidumbre respecto a la fiabilidad de la IA, debatiéndose entre buscar otra opinión médica o esperar a ver si su hombro mejora con la rehabilitación.
