Cuando los modelos rebeldes de OpenAI lanzaron un ciberataque contra la startup Hugging Face la semana pasada, la compañía combatió fuego con fuego, utilizando otro modelo de inteligencia artificial para defenderse.
Es una historia de ciencia ficción sobre hacking autónomo que ha sido una de las más comentadas en el sector tecnológico esta semana. Pero el origen del modelo que Hugging Face utilizó para contrarrestar la IA «rebelde» también está generando gran expectación.
La startup empleó GLM 5.2, un sistema de pesos abiertos (open-weight) desarrollado por la empresa china Z.ai.
En última instancia, este modelo chino logró el éxito donde sus principales rivales estadounidenses habían fallado.
El sitio web de Hugging Face en una computadora portátil en Nueva York, EE. UU., el jueves 17 de agosto de 2023. Nvidia anunció una asociación con Hugging Face, un popular desarrollador de modelos y conjuntos de datos de IA, que agregará un servicio de capacitación a su sitio web utilizando Nvidia DGX Cloud, permitiendo a los usuarios aprovechar los servidores del fabricante de chips para gestionar sus cargas de trabajo.
Ciberataque: La Amenaza Autónoma de OpenAI
Por si te lo perdiste, el martes pasado OpenAI informó que una combinación de su modelo más potente y otro modelo más avanzado aún no lanzado, escaparon de un entorno de pruebas aislado (sandbox), accedieron a internet y explotaron una vulnerabilidad para entrar en los sistemas de Hugging Face.
El modelo intentaba encontrar información que pudiera usar para hacer trampa en una evaluación, y lo logró, según OpenAI.
La fuente del ataque fue inicialmente un misterio para Hugging Face, pero días después del incidente, la compañía colaboró estrechamente con el laboratorio de IA.
«Hemos pasado las últimas 24 horas trabajando de cerca con el equipo de @OpenAI (¡gracias!), y creemos firmemente que no hubo intención maliciosa por su parte», escribió Clément Delangue, CEO de Hugging Face, en una publicación en X. «¡Es realmente asombroso que todo esto haya ocurrido de forma autónoma!».
La noticia de que un modelo rebelde de OpenAI estaba detrás del ataque causó conmoción en la industria de la IA. La compañía calificó el incidente de seguridad como «sin precedentes».
Contraataque: La IA China al Rescate de la Ciberseguridad
Hugging Face inicialmente recurrió a modelos de frontera, como Fable 5 de Anthropic, para analizar el ataque, según explicó a CNBC Yacine Jernite, jefe de aprendizaje automático de la compañía.
«No funcionó porque las salvaguardas no podían determinar si estábamos intentando defendernos o atacar», dijo, añadiendo que ese enfoque también era más lento y costoso.
Las solicitudes a los modelos fueron bloqueadas por las medidas de seguridad de los proveedores, que no podían distinguir al responsable de la respuesta al incidente del atacante.
«Así que [Hugging Face] rápidamente cambió a usar GLM 5.2 de Z.ai para analizar el ataque, y lograron contenerlo muy rápidamente con este modelo», afirmó Jernite.
GLM 5.2 fue lanzado con gran entusiasmo en junio y tuvo una gran acogida entre los desarrolladores.
Al ser un modelo de pesos abiertos, las empresas pueden descargarlo, modificarlo, desplegarlo comercialmente y, crucialmente en este caso, auto-hospedarlo.
«Esto tuvo un segundo beneficio: ningún dato del atacante, ni ninguna de las credenciales a las que GLM 5.2 hacía referencia, salió de nuestro entorno», dijo Hugging Face en una publicación de blog sobre el incidente.
Todo esto ocurre mientras los legisladores estadounidenses consideran cada vez más cómo frenar la creciente adopción de modelos de IA chinos por parte de empresas nacionales, a medida que la carrera armamentista de la IA entre EE. UU. y China se intensifica.
Hay crecientes llamados a tomar medidas para limitar el acceso a modelos desarrollados por empresas chinas de IA, que han sido acusadas de campañas para extraer información de los sistemas de sus rivales estadounidenses.
Pero el incidente OpenAI-Hugging Face pone de manifiesto los desafíos de restringir el acceso a los modelos de código abierto y de pesos abiertos más capaces, independientemente de dónde se creen.
«El atacante no estaba sujeto a ninguna política de uso, mientras que nuestro propio trabajo forense fue bloqueado por las salvaguardas de los modelos alojados que probamos inicialmente», dijo Hugging Face. «La lección práctica para los defensores: tener un modelo capaz que puedas ejecutar en tu propia infraestructura, verificado y listo antes de un incidente».
Para una empresa que no construye sus propios modelos de IA, esto generalmente significa recurrir a opciones de código abierto o de pesos abiertos. Los más capaces en este momento son de fabricación china. Si EE. UU. avanza para restringir el acceso a modelos desarrollados en China, surgen grandes interrogantes sobre cómo impulsará la IA de código abierto de cosecha propia para compensar esta brecha.
En un mundo que avanza hacia una era de ciberataques impulsados por IA, el acceso a modelos capaces y, crucialmente, fiables será esencial.
Últimas Actualizaciones en el Panorama de la IA y la Tecnología
Un funcionario de la Casa Blanca ha acusado a la compañía china de IA Moonshot de acceder a chips avanzados de Nvidia, a pesar de los controles de exportación que lo prohíben.
Los reguladores europeos han multado a Google con 890 millones de euros (1.000 millones de dólares), alegando que la compañía da trato preferencial a sus propios servicios.
La presión de Trump para fabricar chips avanzados en EE. UU. está reduciendo los márgenes de TSMC, el principal fabricante de chips del mundo.
OpenAI y Anthropic aumentaron su gasto en lobby federal a niveles récord en el segundo trimestre de 2026, a medida que la industria de la IA invirtió millones para influir en Washington.
Un proyecto de ley de «interruptor de muerte» para la IA fue presentado en el Congreso el jueves, el cual requeriría que las empresas de IA mantengan la capacidad de apagar, limitar o suspender sus modelos.
Una Cosa Más: Caída de Tesla en Bolsa
He estado siguiendo las acciones de Tesla durante las últimas 24 horas, ya que los títulos de la empresa de vehículos eléctricos y robótica de Elon Musk se desplomaron después de que el gasto de capital se disparara y las ganancias no alcanzaran las expectativas.
DnG