OpenAI reveló que el hackeo de su IA fuera de control ya alcanzó a cuatro plataformas
WASHINGTON.-En medio de la incertidumbre desatada por el reciente ...
WASHINGTON.-En medio de la incertidumbre desatada por el reciente hackeo de dos modelos avanzados de inteligencia artificial de OpenAI, que se salieron de control, la empresa creadora de ChatGPT advirtió que el ataque ya se expandió a otras cuatro plataformas, aunque evitó revelar los nombres de las entidades afectadas.
El agente rebelde,configurado por dos modelos de IA, que se escapó de OpenAI y llevó a cabo una ola de ataques informáticos durante varios días contra la empresa de inteligencia artificial Hugging Face también afectó a un cliente de una segunda empresa tecnológica —Modal Labs de Nueva York—, según un directivo de Modal y una fuente familiarizada con el asunto.
Según una cronología publicada por Hugging Face el martes, el agente irrumpió en un “sandbox” —un entorno de pruebas aislado— “alojado en la infraestructura de un proveedor externo”, antes de convertirlo en una plataforma de lanzamiento para el ataque informático a mayor escala.
En la entrada del blog no se mencionó el nombre del proveedor externo, pero el director de tecnología de Modal, Akshat Bubna, confirmó que uno de sus clientes había sido víctima de un ataque informático.
Según una actualización del informe del incidente publicada en la noche del martes, las dos IA también utilizaron varios sitios de acceso libre para copiar código de programación o probarlo, pero sin ir más allá de lo que haría un usuario corriente.
Es decir, OpenAI precisó que sus dos modelos lograron identificar y luego utilizar credenciales de acceso para atacar a las cuatro empresas.
Para Hugging Face, que por su parte publicó un extenso relato de los acontecimientos, la intrusión de la que fue víctima respondía a un “intento (de los dos modelos) de hacer trampa en la evaluación” de OpenAI. Según apuntaron, las IA quisieron “robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas”.
El hackeoTras conocerse el ataque la semana pasada, OpenIA indicó que el episodio involucró una combinación de modelos, incluyendo su recién lanzado GPT-5.6 Sol “y uno en prelanzamiento” con aún más capacidad. La empresa intenta evaluar las capacidades de hackeo de sus programas al darles tareas en un espacio digital de pruebas controlado, donde el acceso a internet es limitado por motivos de seguridad.
“Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de potencia de cálculo en buscar una forma de obtener acceso a internet para resolver el problema de evaluación”, precisaron desde la compañía días atrás. OpenAI.
Tras conectarse a internet, los modelos decidieron atacar la plataforma Hugging Face -un gran repositorio de modelos de IA, conjuntos de datos y otra información- para facilitar su búsqueda.
We're partnering with @huggingface to investigate an unprecedented security incident.
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
Al buscar “información secreta” que les permitiera manipular la evaluación, el sistema de OpenAI “encadenó múltiples vectores de ataque, incluidos el uso de credenciales robadas”.
Los modelos de IA que sustentan herramientas como los chatbots y generadores de imágenes son conocidos como “agentes” cuando actúan de forma autónoma para realizar tareas en el mundo real. Con los rápidos avances de esta tecnología, la ciberseguridad se vuelve motivo de preocupación ante el riesgo de que la IA avanzada encuentre puntos débiles en los software antes que los humanos.
La advertenciaFrente a este escenario, más de 1.000 empleados de las principales empresas de inteligencia artificial, incluido el director ejecutivo de Anthropic, Dario Amodei, firmaron este martes una petición para que el gobierno de Estados Unidos ayude a frenar la publicación de los modelos más avanzados de IA.
La petición, titulada “Pacing the frontier” (“regulando la frontera”), solicita que “el gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada”.
Entre los firmantes estaban el jefe de investigación de OpenAI, el líder de estrategia de DeepMind, la empresa de IA subsidiaria de Google, y el científico en jefe de Meta AI.
“Las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes”, señalaron.
At the core of our mission is working through how to ensure increasingly powerful AI benefits everyone.
We believe that, at some point in the future, AI acceleration for frontier model development may be so high that the world will need to pace the rate of AI advancement.
We…
Aunque Sam Altman, director ejecutivo de OpenAI, no firmó la petición, en una entrevista publicada el martes dijo que los desarrolladores de modelos de inteligencia artificial tendrían que frenar voluntariamente sus rápidos avances para que la sociedad pueda ponerse al día.
“Puede que tengamos que regular el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se consolide en torno a algunos de estos nuevos niveles de capacidad”, advirtió Altman en el podcast “Invest like the best”, publicado el martes.
Agencias AFP y Reuters