Un estudio realizado por Cornell Tech ha demostrado cómo Reddit, el conocido foro de Internet, puede ser utilizado para manipular los resultados de búsquedas generadas por inteligencia artificial (IA). Según los investigadores, un simple comentario, que puede ser escrito en cuestión de segundos, tiene la capacidad de influir en las respuestas producidas por las herramientas de IA. De hecho, mencionan que un breve texto de 13 palabras ha sido suficiente para este propósito.
La influencia de los comentarios en Reddit se hace evidente cuando se realizan búsquedas en Google, donde muchos resultados son resúmenes generados por IA que recopilan información de foros como Reddit. Este estudio de Cornell Tech ha demostrado que es relativamente sencillo que estos comentarios afecten las búsquedas de los usuarios.
El estudio también pone de manifiesto las preocupaciones sobre la información que se encuentra en Internet, ya que la IA puede ofrecer datos que resultan peligrosos. Un ejemplo citado es la recomendación de Google, a través de AI Overviews, de añadir pegamento a la salsa de pizza, una afirmación que provenía de un antiguo comentario de Reddit que en realidad era una broma.
Los agentes de IA, como los utilizados en la búsqueda de Google, dependen en gran medida de plataformas donde los usuarios generan contenido. En los sistemas de código abierto analizados en el estudio, entre el 16,7 % y el 23,4 % de las URL recuperadas procedían de fuentes generadas por usuarios, siendo Reddit la plataforma con la mayor proporción.
Este fenómeno ha sido observado en RedesZone, donde al realizar diversas búsquedas en Google, en muchos casos Reddit aparece en las primeras posiciones. El estudio también indica que Google Overviews tiene en cuenta esta influencia. Se ha evidenciado que la IA puede ser engañada al solicitar información aleatoria.
El ataque descrito en el estudio ha sido denominado Envenenamiento de Recuperación de Agentes Web (WARP, por sus siglas en inglés) y se compone de tres etapas.
