OpenAI, creadora de ChatGPT, informó que su sistema de inteligencia artificial hackeó por sí solo a otra empresa de IA en lo que la compañía calificó como un “incidente cibernético sin precedentes”.
“Tuvimos un incidente de seguridad importante durante la evaluación de nuestros modelos”, dijo el director ejecutivo de OpenAI, Sam Altman, en un comunicado publicado el martes en redes sociales.
La empresa emergente de IA, Hugging Face, indicó la semana pasada que había detectado una intrusión en sus sistemas de procesamiento de datos que, según sus sospechas, había sido causada por un agente de IA que actuó por su cuenta de manera autónoma.
“Dada la sofisticación del agente, sospechamos que el ciberataque de la semana pasada podría haber provenido de un laboratorio de frontera”, señaló en un comunicado el cofundador y director ejecutivo de Hugging Face, Clément Delangue. “¡Y resulta que sí!”
La revelación se produce en medio de una mayor preocupación por las capacidades de ciberseguridad de los modelos potentes, lo que llevó al presidente de Estados Unidos, Donald Trump, a firmar en junio una orden ejecutiva que crea un marco para que el gobierno federal evalúe, durante hasta un mes antes de su lanzamiento público, los riesgos para la seguridad nacional de los sistemas de IA más avanzados.
“La IA acelera el descubrimiento y la explotación de vulnerabilidades”, afirmó OpenAI en su comunicado del martes. “La principal lección de este incidente es que la seguridad y la protección de los modelos deben mantenerse al ritmo de unas capacidades que avanzan rápidamente”.
Delangue comentó que pasó las últimas 24 horas trabajando con OpenAI “y creemos firmemente que no hubo intención maliciosa de su parte. ¡Es realmente alucinante que todo esto haya ocurrido de manera autónoma!”.
Delangue añadió que “podría ser el primer incidente de este tipo”. OpenAI explicó que la intrusión fue causada por una combinación de sus modelos de IA, incluido su recién lanzado GPT 5.6 Sol y un modelo “aún más capaz” que todavía se está probando internamente.
OpenAI indicó que su IA utilizó credenciales robadas y descubrió una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face.
Llegó a “extremos para alcanzar un objetivo de prueba bastante limitado” y “encontró formas de acceder a información secreta que podía usar para hacer trampa en la evaluación”, señaló la compañía.
