Los modelos de IA generativa como ChatGPT son útiles en muchos aspectos, pero pueden ser problemáticos en otros. Es sabido que cometen errores y crean información falsa, pero cada vez más se evidencia que la seguridad no es una prioridad en su implementación.
ChatGPT para Mac, con fallos de seguridad. Hasta el viernes pasado, la aplicación de ChatGPT para macOS tenía una grave vulnerabilidad: almacenaba todas las conversaciones en texto plano. Esto significaba que si alguien lograba acceso a la computadora, podría leer esas conversaciones y los datos contenidos en ellas.
Vulnerabilidad evidente. Un usuario llamado Pedro José Pereira Vieito mostró en Threads cómo se podía desarrollar una aplicación para acceder a esos datos y mostrar las conversaciones en tiempo real. Además de almacenar las conversaciones en texto plano, la ubicación de estos archivos no estaba protegida.
Falta de seguridad por parte de OpenAI. Como señaló Vieito, macOS tenía desde hace seis años un método para que las aplicaciones mantuvieran los datos en privado. Sin embargo, OpenAI decidió no utilizar esta protección y almacenar las conversaciones en texto plano en un lugar no seguro, deshabilitando las defensas integradas en macOS.
Actualización para corregir el problema. OpenAI lanzó una actualización que cifra las conversaciones, evitando que puedan ser accedidas por otros usuarios que no sean los propios usuarios de ChatGPT.
Importancia de la seguridad en la IA. Este incidente con ChatGPT se suma a otros problemas recientes en el ámbito de la seguridad informática. Un ejemplo es el problema de seguridad y privacidad que tuvo Windows Recall, una nueva característica de Microsoft que presentó serias vulnerabilidades al ser lanzada.
Protege la información que compartes con tu chatbot. Existe un desafío adicional: ChatGPT y otras IA generativas no son capaces de mantener secretos. Se ha demostrado que estos modelos pueden revelar información sensible que forma parte de sus conjuntos de datos de entrenamiento. Esto ha llevado al desarrollo de versiones específicas como ChatGPT Enterprise, que garantiza la privacidad en las conversaciones con el chatbot empresarial.
En Ciberpro | La nueva empresa de Ilya Sutskever tiene como objetivo crear una superinteligencia con seguridad «nuclear».