MADRID, 7 Oct. (CIBERPRO) –
OpenAI ha expuesto los casos de redes que han hecho un uso indebido de sus herramientas de inteligencia artificial, incluyendo ChatGPT, para llevar a cabo campañas maliciosas, crear contenido sesgado o supervisar conversaciones en plataformas sociales.
La empresa ha suspendido las operaciones de 40 redes por infringir los términos de uso de sus herramientas de IA desde febrero de 2024. Estas medidas están alineadas con su objetivo de desarrollar una IA que genere beneficios para todos y que contribuya a la solución de problemas complejos.
En un nuevo informe publicado este martes, OpenAI detalla varios incidentes en los que actores maliciosos, principalmente de Camboya, Corea, Rusia y China, han malinterpretado sus herramientas para llevar a cabo ciberataques, fraudes y operaciones de influencia clandestina, entre otros.
Entre estas herramientas se encuentra ChatGPT. Una red de Corea utilizó este ‘chatbot’ para asistir en el desarrollo de ‘malware’ y establecer un sistema de comando y control. Otra red, activa en Camboya, Birmania y Nigeria, intentó aprovechar ChatGPT para ejecutar una campaña de engaño.
También se ha observado su utilización en regímenes autoritarios, como el de China, para crear herramientas que faciliten la vigilancia masiva en redes sociales. Además, se ha empleado los modelos de OpenAI para generar contenido en YouTube y TikTok con el propósito de difundir desinformación y contenido sesgado.
Este ‘chatbot’ también se ha utilizado para investigar información que ayude a identificar estafas, lo que ha llevado a la empresa a concluir que «ChatGPT se usa para detectar fraudes hasta tres veces más que para perpetrarlos».
