China ha decidido establecer límites a un tipo específico de inteligencia artificial (IA): aquella que está diseñada para parecer una persona. Las empresas Doubao (ByteDance) y Qwen (Alibaba) han anunciado que desactivarán sus agentes de IA personalizados antes de que la nueva normativa entre en vigor. Tencent también había desactivado su modelo Yuanbao previamente.
El cese de la IA antropomórfica tiene una fecha establecida. Doubao ha informado a sus usuarios que sus agentes de IA dejarán de funcionar el próximo 15 de julio debido a «ajustes de producto», y que tres meses después no podrán acceder a las conversaciones almacenadas con estos chatbots. En el caso de Qwen, los agentes desaparecerán el 10 de julio, y el resto de funciones se desactivarán cinco días después. Estas acciones se llevan a cabo en respuesta a la entrada en vigor de las nuevas Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA, publicadas recientemente por el gobierno chino.
La normativa no regula la IA generativa en general, sino que se centra en los sistemas que «simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para proporcionar una interacción emocional sostenida». La regulación busca evitar que la IA simule el comportamiento humano de manera que fomente relaciones personales íntimas.
Las funciones que se eliminarán son aquellas que permitían a un chatbot generalista convertirse en un personaje de ficción, amigo o compañero sentimental, lo que confería a estos agentes una personalidad fija y un estilo de conversación característico. La regulación se enfoca en prevenir la dependencia emocional y la manipulación por parte de estos sistemas, prohibiendo que fomenten vínculos emocionales que puedan llevar a decisiones irracionales.
La normativa estipula que la IA debe intervenir si detecta situaciones de dependencia emocional o riesgos para la integridad del usuario. Si un usuario muestra emociones extremas hacia un chatbot, la IA debe sugerirle buscar ayuda o activar protocolos de emergencia. También se establece que, tras dos horas de conversación continua, la IA debe recordar al usuario que descanse.
Las medidas prestan especial atención a usuarios menores de edad y personas mayores, prohibiendo que estos chatbots ofrezcan relaciones virtuales íntimas sin el consentimiento paterno y exigiendo precauciones adicionales para personas mayores, quienes son más vulnerables a la soledad y la dependencia emocional.
Esta regulación representa un enfoque novedoso, ya que no busca controlar la potencia de los modelos de IA, sino su capacidad para establecer relaciones personales con los usuarios. Se espera que esta discusión también llegue a Europa y Estados Unidos, marcando un hito en la regulación de tecnologías que han comenzado a infiltrarse en el ámbito personal.
