Las guerras ideológicas en Silicon Valley se han trasladado a la financiación de campañas electorales en Estados Unidos, donde un supercomité respaldado por Andreessen Horowitz y Greg Brockman ha recaudado más de 75 millones de dólares contra la regulación de la inteligencia artificial (IA). En contraste, la empresa Anthropic ha aportado 20 millones al bando que aboga por la regulación. Estas corrientes han estado en discusión durante más de una década.
Las tres corrientes principales son los racionalistas, los altruistas eficaces y los aceleracionistas. Aunque son grupos reducidos, su influencia es significativa en la toma de decisiones tecnológicas y políticas, incluso en la Casa Blanca.
Los racionalistas, representados por Eliezer Yudkowsky y su blog LessWrong, advierten sobre los peligros de una superinteligencia que podría actuar en contra de los intereses humanos. Este grupo ha desarrollado el concepto del ‘problema del alineamiento’, que se refiere a la dificultad de alinear los objetivos de una IA avanzada con los valores humanos.
Por otro lado, los altruistas eficaces, surgidos en Oxford, promueven la idea de que se debe medir el impacto de las acciones en términos de vidas salvadas. Este movimiento, apoyado por figuras como Dustin Moskovitz, ha evolucionado desde la lucha contra la malaria hasta enfocarse en la prevención de la extinción humana, considerando que la IA es una de las principales amenazas.
Finalmente, los aceleracionistas argumentan que cualquier restricción al desarrollo tecnológico podría resultar en la pérdida de vidas que la tecnología podría salvar. Este grupo, que ha ganado notoriedad en redes sociales, sostiene que el progreso no debe ser frenado, ya que esto podría beneficiar a competidores como China.
A pesar de sus diferencias, las tres corrientes coinciden en que la llegada de una superinteligencia es inminente, aunque divergen en la velocidad con la que esto ocurrirá. Mientras tanto, los problemas asociados con los modelos de lenguaje, como los sesgos y la desinformación, no son el foco principal de su discusión.
