Hany Farid, considerado uno de los mayores expertos en vídeos falsos (deepfakes) del mundo, ha decidido abandonar su trabajo en Silicon Valley debido a la incapacidad de diferenciar entre vídeos reales y aquellos generados por herramientas de inteligencia artificial (IA). Farid, catedrático de la Universidad de California en Berkeley, ha señalado que los avances en IA generativa han hecho que los métodos tradicionales de detección sean ineficaces.
Durante las últimas dos décadas, Farid se ha especializado en la identificación de vídeos manipulados, contribuyendo a la detección de casos de pornografía infantil en internet. Sin embargo, ha expresado su frustración ante la creciente dificultad para verificar la autenticidad de los contenidos visuales. Su decisión de retirarse a una granja en Vermont refleja la preocupación por la desconfianza generalizada en las imágenes y vídeos que circulan en las redes sociales.
Un punto de inflexión en su carrera ocurrió tras el análisis de un vídeo viral que supuestamente mostraba el impacto de un misil estadounidense en una escuela de Irán. A pesar de dedicar un día completo a desglosar el vídeo, no encontró pruebas concluyentes de que fuera falso, lo que evidenció el avance de la tecnología de generación de vídeos con IA.
Además, Farid ha sido víctima de esta problemática, ya que cibercriminales clonaron su número de teléfono y utilizaron IA para suplantar su identidad, lo que llevó a la creación de una palabra de seguridad para verificar la autenticidad de las llamadas familiares.
En respuesta a la proliferación de deepfakes, se están explorando soluciones como las marcas de agua invisibles que podrían ayudar a identificar el origen de los contenidos generados por IA. Iniciativas como la coalición C2PA, que incluye a empresas como Google y OpenAI, buscan implementar estas medidas, aunque aún no se aplican de manera generalizada.
