Los chatbots de inteligencia artificial (IA) y la privacidad presentan desafíos significativos. Recientemente, se ha evidenciado que los chats con la IA no son tan privados como se podría pensar. La empresa Anthropic ha enfrentado críticas debido a su función de compartir chats, que no solo generaba un enlace para enviar a otros, sino que también indexaba esos chats en Google, permitiendo que cualquier persona pudiera acceder a ellos.
El descubrimiento fue realizado por miembros del subreddit de Claude, quienes encontraron que al buscar en el sitio claude.ai/share, Google devolvía numerosos resultados de chats. La publicación Futurism accedió a varios de estos chats, confirmando que contenían información sensible, incluyendo documentos confidenciales de empresas, informes médicos, resultados de ensayos clínicos con datos de pacientes e información personal de menores. Sin embargo, tras la detección, los enlaces ya no aparecen en las búsquedas, lo que sugiere que Anthropic los ha eliminado.
Es importante señalar que al compartir chats, Claude advierte que cualquier persona con el enlace puede ver el contenido. Este mecanismo es similar al de otros servicios como Google Drive. No obstante, Anthropic no aclara que estos enlaces pueden ser indexados por motores de búsqueda, lo que los hace accesibles a un público más amplio.
Además de los enlaces a los chats, también se expusieron los Artefactos de Claude, aunque en este caso se advierte explícitamente que pueden ser visibles para los motores de búsqueda.
Anthropic ha declarado que esta situación no es un error, sino una característica del diseño del sistema. En su comunicado oficial, la empresa afirma que proporciona a los usuarios el control para compartir sus conversaciones públicamente y que no comparte directorios de chat ni mapas del sitio con motores de búsqueda. La compañía enfatiza que el contenido se hace público al compartirlo y puede ser archivado por terceros.
La advertencia de Anthropic es clara: si los usuarios desean mantener la privacidad de su información, deben evitar utilizar la opción de compartir. En situaciones donde la privacidad es crucial, se recomienda descargar el documento o texto y compartirlo por otros medios. Este incidente resalta la percepción errónea de privacidad que muchos usuarios tienen al interactuar con la IA, ya que a menudo comparten información personal y sensible.
Este no es el primer incidente de este tipo; Anthropic ya había enfrentado problemas similares en septiembre del año pasado, cuando cientos de conversaciones aparecieron en los resultados de Google. Situaciones análogas también han ocurrido con otras plataformas de IA, como ChatGPT y la IA china DeepSeek.
