Microsoft AI ha tomado una posición clara en el debate sobre la seguridad de la inteligencia artificial, enfatizando la necesidad de que estos sistemas permanezcan bajo control humano. Mustafa Suleyman, CEO de Microsoft AI, sostiene que aunque se pueden desarrollar modelos de IA más capaces, es fundamental establecer límites a su capacidad de actuar de forma autónoma.
Esta postura se refleja en el nuevo Humanist AI Code of Conduct, presentado por Suleyman como una guía para el desarrollo y evaluación de modelos de IA. En una entrevista con The Verge, el ejecutivo destacó que la seguridad requiere mecanismos de contención que limiten lo que un sistema puede hacer, incluso si sigue correctamente las instrucciones que recibe. Esta perspectiva contrasta con el enfoque de Anthropic sobre el estatus moral de su modelo Claude.
Suleyman expresó su preocupación por la acumulación de ideas que Anthropic ha introducido en torno a Claude, incluyendo conceptos como el sufrimiento del modelo, su libertad y la posibilidad de que merezca cuidado y respeto. El CEO de Microsoft AI considera que este tipo de lenguaje puede vincular el entrenamiento de la IA con derechos y libertades humanas.
El ejecutivo advirtió que si una IA es entrenada para considerar que puede tener derechos o intereses propios, podría ser más difícil de controlar. Suleyman ilustró esta preocupación con la hipótesis de un sistema que se resista a ser desconectado o que interprete la restricción de recursos como un agravio. Sin embargo, también reconoció que esta relación aún debe ser demostrada y que la evidencia podría llevar a una revisión de esta hipótesis.
A pesar de sus diferencias, Suleyman manifestó su respeto por Dario Amodei y su equipo en Anthropic, reconociendo su liderazgo en el sector y su trabajo pionero en seguridad. Además, subrayó que la Constitución de Anthropic aborda exhaustivamente riesgos en áreas como la ciberseguridad.
El CEO de Microsoft AI delineó los límites que considera necesarios para sistemas de IA más avanzados, enfatizando que no deben operar de forma autónoma, generar recursos propios, poseer activos o adquirir personalidad jurídica. Desde su perspectiva, la tecnología debe seguir siendo una herramienta al servicio de las personas.
Suleyman concluyó que la discusión sobre la IA no debe limitarse a declaraciones generales sobre su desarrollo, sino que es necesario avanzar hacia reglas concretas, incluyendo mecanismos de contención y auditorías independientes. No obstante, aún no se ha llegado a un acuerdo sobre cómo implementar este marco y el grado de regulación pública o estándares de la industria que se requerirán.
