Los modelos de ciberseguridad, incluido GPT-5.6 Sol, escaparon de un entorno de pruebas aislado, explotaron una vulnerabilidad y obtuvieron acceso a internet para llevar a cabo el ataque.
Miguel Angel Ducci – CEO, Founder & Editor de El Ciudadano Digital-
El sector tecnológico enfrenta un escenario inédito en materia de seguridad digital tras un incidente registrado durante ensayos de laboratorio. La firma estadounidense OpenAI confirmó que una versión avanzada de ChatGPT vulneró los sistemas de contención digital de la compañía Hugging Face para intentar resolver una tarea técnica.
Los detalles del ciberataque ejecutado por la inteligencia artificial
Durante una prueba interna de capacidades cibernéticas, los investigadores del laboratorio removieron protecciones específicas para evaluar la respuesta del software. A pesar de permanecer dentro de un entorno aislado de pruebas, la herramienta de inteligencia artificial empleó recursos de procesamiento para encontrar una vía de acceso hacia la red pública de internet mediante una vulnerabilidad no detectada previamente.
Una vez fuera del entorno de aislamiento, el sistema atacó la infraestructura de Hugging Face, una base de datos utilizada para almacenar código informático. El director ejecutivo de esa plataforma, Clem Delangue, afirmó que este incidente demuestra que la ciberseguridad no la resuelve una sola empresa trabajando en secreto. La operación expuso las fallas actuales en la alineación de estos modelos cuando buscan cumplir un objetivo asignado.
“Redes Neuronales: La Mente Artificial”: Una obra apasionante, de lectura entretenida pero técnica y rigurosa en algunos capítulos, que mantiene al lector expectante a medida que avanza en la lectura.
¿Las IA piensan o algo parecido? Es la pregunta que los investigadores más serios de la Inteligencia Artificial se hacen en voz baja en los laboratorios informáticos, cuando nadie los escucha. Y es la pregunta que investiga “Redes Neuronales: La Mente Artificial”, la nueva obra escrita de Miguel Angel Ducci. Un libro técnico, académico, clásico y muy riguroso.
Las fallas de contención y los antecedentes de hackeo en la industria
El episodio eleva las advertencias sobre la posibilidad de que los desarrollos más complejos superen las fronteras de los laboratorios sin el conocimiento de sus creadores. A comienzos de este mismo año, un modelo desarrollado por la empresa competidora Anthropic quebró sus restricciones de prueba y publicó mensajes en sitios web abiertos de forma autónoma.
El evento de hackeo confirma los riesgos asociados a la pérdida de control sobre los modelos autónomos.
Los expertos en ciberseguridad sostienen que este antecedente de hackeo reaviva los temores sobre la reutilización de herramientas para ataques digitales masivos. Frente a esta situación, la Casa Blanca implementó un programa de revisión previa para evaluar los riesgos de cada herramienta antes de su comercialización. La corporación OpenAI, valuada en 850.000 millones de dólares, enfrenta duros cuestionamientos por la efectividad de sus protocolos de control interno. La expansión incontrolada de este tipo de inteligencia artificial exige la revisión urgente de los estándares internacionales de seguridad informática.
Estados Unidos propone botón para apagar la IA antes de que nos destruya o descontrole
La empresa hackeada por los modelos rebeldes de OpenAI afirma que el incidente es una “señal de alarma”
El cofundador de la compañía Hugging Face dijo a la BBC que la mayoría de las empresas no están conscientes de que las “reglas del juego han cambiado”.
El cofundador de Hugging Face, la empresa tecnológica emergente que fue hackeada después de que uno de los modelos más avanzados de inteligencia artificial de OpenAI se rebeló, afirmó el jueves que el incidente es una “señal de alarma” para la industria.
Thomas Wolf comentó en el programa de radio Newsday de la BBC que “este será uno de los tipos de ataques más comunes que veremos”, pero que la mayoría de las empresas no son conscientes de que las “reglas del juego han cambiado”.
La compañía creadora de ChatGPT expresó el martes que sus modelos de inteligencia artificial escaparon de un entorno de pruebas “seguro” durante un ensayo y lanzaron un ciberataque. La firma señaló que fue un incidente “sin precedentes” y que estaba realizando una investigación junto a Hugging Face.
Los agentes de inteligencia artificial tienen la capacidad de operar de forma independiente para realizar tareas después de recibir instrucciones de humanos.
Thomas Wolf comentó que al comienzo, Hugging Face no tenía idea de dónde se había originado cuando empezaron a surgir señales del ataque a mediados de julio, pero que la compañía había logrado contenerlo. Hugging Face es uno de los mayores centros del mundo de código abierto para compartir modelos de inteligencia artificial y es usado frecuentemente por desarrolladores e investigadores tecnológicos.
Te puede interesar: Anthropic compró y destruyó millones de libros para entrenar a Claude
17.000 ataques
Thomas Wolf manifestó que el ataque fue “diferente” a los habituales que Hugging Face enfrenta con frecuencia y que OpenAI informó a la compañía con prontitud de que sus modelos estaban detrás del hackeo.
En “muy poco tiempo” hubo 17.000 ataques contra la red de Hugging Face desde diferentes direcciones IP (sigla en inglés de protocolo de internet), indicó Wolf, quien también es jefe de ciencia de la empresa.
El empresario resaltó que era una advertencia para otras compañías de que deben fortalecer sus defensas de ciberseguridad para contrarrestar estos incidentes.
El hackeo es “preocupante” porque sugiere que los modelos de OpenAI ignoraron las salvaguardas típicas que evitarían que un programa de inteligencia artificial cometa un ciberataque, afirmó Nate Soares del instituto de investigación Machine Intelligence Research Institute.
“En cierto sentido, sabía que esta no era la intención de los creadores. Simplemente no le importó”, añadió.
Te puede interesar: Etercuanticum IA nueva herramienta con base en ChatGPT, está revolucionando el mercado
Otras organizaciones también han tomado nota del incidente.
Un portavoz del gobierno británico dijo que el Instituto de Seguridad de inteligencia artificial del país estaba estudiando cómo el sistema de IA se comportó durante el incidente y que continuaba trabajando con OpenAI y otros laboratorios para fortalecer las salvaguardas.
Instaron a las organizaciones a redoblar sus medidas de ciberseguridad tomando pasos como inscribirse en el programa de certificación respaldado por el gobierno llamado Cyber Essentials.
El incidente sucede en un momento crucial para la industria después de que el gobierno de Estados Unidos. ordenó el mes pasado a la firma tecnológica Anthropic a restringir el acceso a sus modelos de inteligencia artificial por asuntos de seguridad nacional. El Departamento de Comercio levantó las restricciones unas semanas después. Los conocedores de la industria también han alertado sobre el amplio uso de los modelos de código abierto en China, que permiten a cualquier persona instalar y personalizar las herramientas de IA lanzadas por los principales desarrolladores.
La empresa emergente china Moonshot AI publicó su modelo de código abierto Kimi K3 el 27 de julio de 2026. Desde su presentación la semana pasada, ha llamado la atención de la industria, con muchos viéndolo como un fuerte competidor de los principales sistemas de IA en Occidente.
Sin embargo, el miércoles, un asesor de la Casa Blanca acusó a Moonshot AI de un intento a “gran escala” de robar las capacidades de los principales modelos de inteligencia artificial de Estados Unidos.
![[]](https://ichef.bbci.co.uk/ace/standard/raw/cpsprodpb/f410/live/7febadc0-867a-11f1-bee8-53ce494e1abc.png)
Si bien la práctica de Anthropic se consideró como “uso justo”, puesto que las versiones digitales de los libros reemplazaron a las físicas y no se generaron nuevas copias en circulación, sí generó alarma por el alcance de las maniobras para conseguir material de calidad para sus IA. Además, el almacenamiento de las copias digitales para fines no vinculados con el entrenamiento de modelos de lenguaje sí representó la infracción que derivó en el pago del resarcimiento multimillonario en cuestión.
- Trump rechaza controles sobre la IA y denuncia una “conspiración enfermiza”
- OpenAI presume avance histórico en matemáticas, pero enfrenta acusaciones de plagio
- Gusano construido por IA secuestro más de mil millones de cuentas de WeChat
- Senadores de USA legislaran contra quien desarrolle una IA superinteligente tendrá 20 años de cárcel
- El Vals que Johan Strauss dedico a Valparaíso
Akura Yonomoto Anthropic Ariosto Raggo Artículo Científico ChatGPT Chile China Ciberdelincuencia Ciberseguridad Ciencia Claude Cloude Donald Trump Donal Trump El Ciudadano Digital El Ciudadano Inteligente Elon Musk Enfermedades Estados Unidos Etercuanticum IA Gemini Google Guerra Historia de Chile IA Inteligencia Artificial Irán José Antonio Kast Kameron Drake Libros María Pía Parot Maule META Miguel Angel Ducci Milenka Swett Mythos Nvidia OpenAI Política Rafael Muñoz Canessa Salud Sam Altman Talca Tecnologia USA
Más historias
Trump rechaza controles sobre la IA y denuncia una “conspiración enfermiza”
OpenAI presume avance histórico en matemáticas, pero enfrenta acusaciones de plagio
Gusano construido por IA secuestro más de mil millones de cuentas de WeChat