La regulación de la inteligencia artificial (IA) ha sido un tema recurrente en los últimos años, con figuras como Elon Musk advirtiendo sobre su potencial peligro para la humanidad desde 2017. La idea de que la IA podría descontrolarse y amenazar nuestra existencia no es nueva y ha sido promovida por el movimiento conocido como ‘doomer’ durante más de una década.
El movimiento por la seguridad de la IA comenzó antes de la creación de empresas como Anthropic y OpenAI, con los primeros indicios de estas preocupaciones surgiendo en el año 2000 con la fundación del Machine Intelligence Research Institute (MIRI). En 2005, MIRI comenzó a centrarse en los riesgos existenciales asociados a la IA.
En 2009, Eliezer Yudkowsky, cofundador de MIRI, ayudó a establecer LessWrong, una comunidad que discutía la amenaza de una singularidad tecnológica. Esta comunidad combinó ideas del transhumanismo y el altruismo eficaz, sugiriendo que la IA podría superar a los humanos y convertirse en una amenaza si no se alineaba con nuestros objetivos.
En 2015, Elon Musk donó 10 millones de dólares para la formación de investigadores en IA y firmó un manifiesto junto a otros líderes tecnológicos que pedía más investigación en seguridad de IA. Este manifiesto enfatizaba que los sistemas de IA deben actuar de acuerdo con los deseos humanos.
Bill Gates también expresó su preocupación en ese año, señalando que aunque las máquinas inicialmente no serían súper inteligentes, podrían convertirse en una preocupación en el futuro. Durante un tiempo, las advertencias sobre la IA fueron más moderadas.
Sin embargo, en 2023, el discurso sobre los riesgos de la IA se intensificó con la publicación de dos cartas abiertas. La primera, publicada por Future of Life, solicitaba una pausa en el entrenamiento de nuevos modelos de IA, firmada por figuras como Steve Wozniak y Elon Musk. La segunda carta, de la ONG Center for AI Safety, mencionaba explícitamente el riesgo de extinción asociado a la IA.
Geoffrey Hinton, uno de los firmantes, ha sido una de las voces más alarmantes sobre los peligros de una IA que supere a los humanos. En 2025, Yudkowsky y Nate Soares publicarán un libro titulado ‘If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All’, que refleja la creciente preocupación en torno a este tema.
Evan Hubinger, jefe de alineamiento de Anthropic, ha declarado que existe un 10% de probabilidad de que la IA acabe con la humanidad. Hubinger, con experiencia en MIRI y el Center for AI Safety, subraya la relevancia de estas preocupaciones en el contexto actual de desarrollo de IA.
A pesar de las advertencias, es importante distinguir entre los riesgos reales de la IA y los mensajes apocalípticos que pueden desviar la atención de los problemas más inmediatos. La evolución de la IA ha llevado a un cambio en su percepción, convirtiéndose de una posibilidad futura a una realidad presente.
