Artículo de Gabriel H. Araújo Padilla, perito en informática forense nº640 y ponente en el Cybersecurity Summer Bootcamp 2022 con la conferencia "Falsificación de pruebas digitales y su detección".
En mi conferencia-taller el pasado lunes 4 de julio en la Facultad de Ingeniería de la Universidad de León, en el marco del Cybersecurity Summer Bootcamp 2022, causó gran revuelo el haber hablado de los deepfakes, la técnica con la cual utilizando inteligencia artificial, puede cambiarse las caras y voces de las personas representadas en una pantalla, incluso a tiempo real.
La audiencia era de alto perfil: policía científica, magistrados y fiscales de todo el mundo. Profesionales que día a día tienen que dar por buena la prueba digital que les presentan, sin demasiado tiempo para analizarla porque además no es su trabajo, pero que se han quedado muy preocupados por las demostraciones, ya que casi todos cayeron en el engaño de diversas falsificaciones realizadas a tiempo real durante el taller, utilizando inteligencia artificial.
Durante el cóctel que se realizó posteriormente en la sede central del INCIBE en León, muchos de los magistrados me comentaron en confianza, que estaban defendiendo la celebración de los juicios telemáticos a distancia, pero que después de lo que habían visto en el taller, se lo iban a replantear.
Porque confiesan ahora, ¿quién puede asegurarles que la persona que se conecta en el juicio telemático es realmente la persona que dice ser? ¿Es el testigo realmente la persona citada o es otra suplantándole para cambiar su testimonio?
Especialmente quedaron impresionados los asistentes el realismo de los deepfakes de entretenimiento como los de Morgan Freeman o Tom Cruise pero ¿y si se usan para algo más que entretener como es el suplantar a una persona en un juicio telemático?
Engaños a políticos
El año pasado, varios parlamentarios europeos creían estar en videoconferencia por Zoom con el opositor ruso Leonid Volkov, aliado de Alekséi Navalni. Sin embargo, del otro lado de la pantalla había un impostor que se hacía pasar por el político a través de la inteligencia artificial. Entre los parlamentarios engañados por el deepfake, estaban el presidente de la Comisión de Asuntos Exteriores del parlamento de Letonia, Rihards Kol; el presidente del Comité de Asuntos Exteriores de Reino Unido, Tom Tugendhat, y diputados de Estonia y Lituania.
La semana anterior a la cumbre de la OTAN en Madrid, el alcalde José Luis Martínez Almeida fue también víctima de engaño a través de una videoconferencia creyendo que estaba hablando con su homónimo de Kiev, engaño en el que igualmente ya habían caído los regidores de Berlín, Budapest, Varsovia y Viena.
Ya se está utilizando el engaño deepfake para entrevistas de trabajo remotas
Los puestos solicitados suelen estar relacionados con las TIC, bases de datos o programación, a través de los cuales se tiene acceso a información personal de los clientes y empleados de la compañía o a datos financieros de la organización. Por lo tanto, el objetivo de estos impostores no es otro que robar esa información para usarla con fines ilícitos. Pueden ser hasta de empresas rivales para hacerse con los clientes de la competencia.
De este engaño alerta hasta el propio FBI por la gran cantidad de casos denunciados: https://ciberpro.es/mentir-en-el-curriculo-no-es-nada-ahora-hay-gente-usando-deepfakes-para-enganar-en-entrevistas-remotas/
No se trata de entrar en pánico y desconfiar de todo
No es desconfiar de todo lo que entra en un juzgado, pues el art. 7.1 del Código Civil español, nos recuerda que el tráfico jurídico debe suponerse siempre bajo la actuación de la buena fe, consolidando aquella vieja máxima “fides bona contraria est fraudi et dolo” (Paulo, Digesto XVII, 2.3.3): “La buena fe es lo contrario al fraude y al dolo”, que era el criterio procesal con el que debían interpretarse de forma genérica los contratos romanos.
Con mi exposición en el Cybersecurity Summer Bootcamp 2022 en la Universidad de León, organizado por el INCIBE (Instituto de Ciberseguridad) y la OEA (Organización de Estados Americanos), no quería alarmar a nadie ni arruinar las expectativas que los jueces tienen sobre los juicios telemáticos, que aseguran ellos, podría agilizar la administración de justicia, ya que por ejemplo no haría falta suspender tantos juicios por coincidencia de los letrados en juicios con diferente localización geográfica, pues podrían asistir a todos ellos telemáticamente sin ningún desplazamiento.
De hecho en el debate posterior, les he lanzado algunas posibles soluciones como la de celebrar únicamente juicios telemáticos con determinados “despachos de confianza” que hayan sido certificados, tal y como se hace actualmente con las entidades certificadoras de confianza cualificadas. Estos despachos deberían cumplir con una serie de requisitos de calidad y de garantías, que habrían de renovar periódicamente, además de hacerse penalmente responsable por cualquier tipo de fraude que hubiere. La idea fue bien acogida y se lanzaron igualmente otras tantas soluciones.
Pero de lo que sí estamos seguros todos, es que el celebrar juicios como lo hace Navarra tan solo con Avantius, el sistema telemático propiedad del Gobierno de Navarra validado por el CGPJ (Consejo General del Poder Judicial) como sistema de uso obligatorio para el trabajo con el Expediente Judicial Electrónico; es bastante aventurado visto lo visto. No por Avantius, que es un excelente proyecto, sino por la falta de garantías adicionales que se deberían implementar a este sistema.
Sus propios impulsores no se creen del todo las bendiciones del sistema per se, ya que lo utilizan únicamente para casos administrativos simples, en los que exista conformidad de las partes o vistas rutinarias.
Pero insisto, ¿y si una de las partes que conforma no es realmente la que dice ser?
Dada la cantidad de solicitudes para asistir a este taller, se va a celebrar una nueva sesión de 7 horas el próximo lunes 11 de julio 2022, de 9 a 14 y de 16 a 20h, en la Facultad de Ingeniería de la Universidad de León. Es únicamente presencial, por lo que el aforo ya está completo.
