Una idea sorprendente está circulando entre los ingenieros que se dedican a la inteligencia artificial (IA), y que suena casi a confesión. La planteó Dario Amodei, el director general de Anthropic, en un ensayo publicado en abril de 2025 en el que reconoció que ni siquiera su equipo entiende de una forma plena cómo funcionan sus modelos de IA. Amodei no está solo en esta afirmación. Geoffrey Hinton, premio Nobel de Física en 2024 y una de las figuras clave en el desarrollo del aprendizaje profundo, ha expresado que, aunque él aportó el algoritmo de aprendizaje, lo que ocurre dentro de la máquina no es comprendido por nadie, ni siquiera por su creador. Chris Olah, cofundador de Anthropic y responsable de su equipo de interpretabilidad, ha descrito las redes neuronales como un andamiaje sobre el que los circuitos crecen solos, sin un diseño directo.
Estos tres perfiles son distintos: un director general con intereses comerciales, un académico retirado de la industria y un investigador que se enfrenta a este problema diariamente. Sin embargo, los tres coinciden en una idea técnica: las capacidades emergentes, que son habilidades que el modelo no tenía a menor escala y que aparecen de repente al aumentar el tamaño, sin que nadie las haya programado ni anticipado.
La situación plantea interrogantes sobre la naturaleza de estas afirmaciones. Anthropic ha construido parte de su identidad en torno a la seguridad y la interpretabilidad, en contraste con competidores como OpenAI o Google DeepMind, que priorizan el despliegue rápido. La publicación de un ensayo que destaca la falta de comprensión sobre la IA por parte de su director general puede interpretarse como un intento de reforzar su imagen de marca, sugiriendo que cuanto más misteriosa y poderosa sea la tecnología, más valiosa resulta la empresa que dice controlarla.
Sin embargo, la interpretación de Hinton complica esta lectura. Hinton dejó Google en 2023 para poder hablar sin las restricciones de un sueldo corporativo y su discurso es más pesimista que el de muchos ejecutivos del sector. No tiene productos que vender ni financiación que justificar, lo que sugiere que su mensaje no está motivado por intereses comerciales.
Asimismo, el trabajo de Chris Olah se basa en la publicación de artículos científicos y en la acumulación de evidencia técnica sobre el funcionamiento de los modelos de IA. Cuando describe el interior de un modelo como matrices de miles de millones de números, lo hace con frustración, evidenciando el estado actual del campo que él mismo cofundó.
La conclusión más plausible es que los creadores de los modelos de IA más avanzados no tienen un entendimiento claro de cómo y por qué estos sistemas adquieren capacidades no diseñadas explícitamente. Esto plantea la cuestión de qué sucederá al seguir escalando sistemas cuya operativa sigue sin ser completamente explicada, mientras la industria admite que avanza más rápido de lo que comprende.
