← Volver a noticias

IAudit

El CEO de Anthropic advierte sobre los riesgos de la IA Open Source

El CEO de Anthropic advierte sobre los riesgos de la IA Open Source

En junio de 2001, Steve Ballmer, entonces CEO de Microsoft, declaró en una entrevista que «Linux es un cáncer». Veinticinco años después, Dario Amodei, CEO de Anthropic, realizó afirmaciones similares al señalar que «la IA Open Source se está convirtiendo en un peligro».

Las declaraciones de Amodei, que se produjeron en julio de 2023 durante una intervención ante el Comité Judicial del Senado de EE.UU., pasaron desapercibidas en su momento, ya que los modelos de IA más avanzados eran limitados y los modelos abiertos como Llama 3 enfrentaban desafíos significativos.

Desde entonces, la situación ha cambiado drásticamente. Modelos de IA desarrollados por varias startups y empresas tecnológicas chinas se acercan a los modelos de vanguardia de Anthropic, OpenAI y Google, lo que hace que las advertencias de Amodei sean más relevantes.

Sin embargo, sus propios modelos, Mythos y Fable 5, han enfrentado problemas debido a su potencial para detectar vulnerabilidades de ciberseguridad. Mythos Preview y Mythos 5 están disponibles solo para un número limitado de entidades y empresas. Fable 5, una versión restringida de Mythos, fue vetada por el gobierno de EE.UU. tres días después de su lanzamiento, aunque su despliegue se reanudó recientemente con restricciones adicionales.

Mientras EE.UU. busca regular el desarrollo de la IA por razones de seguridad nacional, las empresas chinas continúan lanzando modelos de IA avanzados. Un ejemplo reciente es GLM-5.2 de Zhipu.ai, que ha sido comparado en rendimiento con modelos como Claude Opus 5.5 y GPT-5.5, y se ha calificado de «peligroso» en el ámbito de la ciberseguridad.

El CEO de Z.ai, Jie Tang, sugiere que la llegada de modelos chinos con capacidades similares a Mythos podría ser inminente. A pesar de las preocupaciones sobre la competencia, el desarrollo de modelos de IA de código abierto podría desplazar al software comercial y amenazar la posición de empresas como Anthropic y OpenAI.

La historia de Linux y su eventual integración en la infraestructura de Microsoft podría servir como un paralelismo para la situación actual de la IA. A pesar de las advertencias de Ballmer, Linux se ha convertido en una parte fundamental de la oferta de Microsoft, con una presencia significativa en Azure y en el mercado de servidores.

La situación actual plantea preguntas sobre el futuro de la IA y la competencia entre modelos de código abierto y soluciones comerciales, así como sobre los riesgos asociados con estos desarrollos.

Contenido reescrito con inteligencia artificial a partir de una fuente externa, revisado bajo criterio editorial de CIBERPRO. Fuente original.

#ecosistema ciberpro
Divisiones y servicios

Un problema tecnológico rara vez pertenece a una sola disciplina.

CIBERPRO organiza sus capacidades en seis divisiones que pueden actuar de forma independiente o coordinada: pericial informática, gobernanza de IA, laboratorio técnico, ciberseguridad, inteligencia digital y producción audiovisual inteligente.

Forensics

Informes periciales y evidencia digital

Informática forense, contrapericiales, auditorías forenses, documentoscopia técnica, verificación móvil spyware/malware y ratificación judicial.

Ver CIBERPRO Forensics
IAudit

Gobernanza y seguridad de IA

EU AI Act, peritaje algorítmico, evaluación de impacto, sesgos, trazabilidad, documentación técnica y seguridad de agentes de IA.

Ver CIBERPRO IAudit
Lab

Adquisición y preservación

ForensiLab: extracción móvil, clonado, backups, cloud, casos portables, hashes, cadena de custodia y procesamiento técnico.

Ver CIBERPRO Lab
Cybersecurity

ScanDefender y auditoría web

Exposición externa, vulnerabilidades, OWASP Top 10, cabeceras, SSL/TLS, CMS, APIs, compliance y remediaciones guiadas.

Ver CIBERPRO Cybersecurity
Intelligence

MaaS e inteligencia digital

Segmentación de audiencias, SmartComments, mensajes directos, amplificación algorítmica, automatización comercial y medición.

Ver CIBERPRO Intelligence
MediaTech

InmediaTop y ConectaVision

Producción con IA supervisada, vídeo, audio, imagen, infografías, automatización editorial, canales digitales y distribución propia.

Ver CIBERPRO MediaTech