La empresa neoyorquina Hugging Face informó que tuvo que recurrir a un modelo de inteligencia artificial chino para detener el hackeo del que fue víctima por parte de OpenAI, luego de que uno de sus modelos lo pirateara, el pasado martes, por su cuenta y de manera autónoma, lo cual puso de manifiesto cómo compañías estadunidenses están limitadas en su seguridad cibernética por no usar modelos que consideran “piratas”.
El uso por parte de una empresa neoyorquina de un modelo de IA chino para controlar a un agente rebelde creado con tecnología de OpenAI está avivando el temor a que las restricciones que impiden a las empresas de IA estadunidenses dedicarse a la ciberseguridad puedan empujar a los clientes hacia sus rivales con sede en Pekín.
La empresa emergente afectada, Hugging Face, dijo que la semana pasada recurrió al modelo de código abierto GLM-5.2 de Zhipu AI para analizar los datos del ataque, después de que los principales modelos de IA estadunidenses se negaron a realizar la tarea, al ser incapaces de distinguir entre un defensor y un atacante.
Aunque la brecha de seguridad fue provocada por un agente autónomo que escapó de la contención, puso de manifiesto cómo las empresas estadunidenses que se enfrentan a ciberataques impulsados por la IA pueden verse limitadas por los laboratorios de IA del país, que o bien restringen el acceso a sus modelos más avanzados o bien los diseñan para que rechacen tareas relacionadas con la piratería informática por motivos de seguridad.
Por ejemplo, el avanzado modelo Claude Fable 5 de Anthropic deriva las consultas de ciberseguridad a un modelo más antiguo, mientras el GPT-5.6 Sol de OpenAI cuenta con protecciones diseñadas para bloquear las tareas relacionadas con la ciberseguridad.
