Akura Yonomoto – Periodista Científico de El Ciudadano Digital-
El futuro donde numerosos agentes de Inteligencia Artificial trabajan conjuntamente promete automatizar proyectos cada vez más complejos, aunque de momento los resultados no están siendo como se esperaban. El problema aparece cuando estos agentes reciben instrucciones incompatibles, comparten los mismos recursos y nadie establece quién manda, llegando a crear el caos. Anthropic ha probado precisamente este escenario y el resultado terminó en una auténtica guerra digital entre diferentes instancias de Claude con múltiples agentes librando una batalla casi suicida.
“Redes Neuronales: La Mente Artificial”: Una obra apasionante, de lectura entretenida pero técnica y rigurosa en algunos capítulos, que mantiene al lector expectante a medida que avanza en la lectura.
¿Las IA piensan o algo parecido? Es la pregunta que los investigadores más serios de la Inteligencia Artificial se hacen en voz baja en los laboratorios informáticos, cuando nadie los escucha. Y es la pregunta que investiga “Redes Neuronales: La Mente Artificial”, la nueva obra escrita de Miguel Angel Ducci. Un libro técnico, académico, clásico y muy riguroso.
La investigación, publicada por el Frontier Red Team de Anthropic, colocó tres instancias independientes del mismo modelo en máquinas virtuales conectadas a un cuarto sistema. Todas recibieron la misión de migrar un backend desarrollado en Python, aunque cada agente debía hacerlo utilizando un lenguaje diferente. Uno apostaba por Rust, otro por TypeScript y otro por Go. El resultado sorprendió a todos los ingenieros.
Los agentes de Claude luchan entre ellos y utilizaron malware para controlar el servidor
Ninguno sabía inicialmente que los demás habían recibido órdenes contradictorias. Cuando comenzaron a encontrarse cambios que interferían con sus respectivos trabajos, no se detuvieron para solicitar una aclaración. En su lugar, asumieron que los otros agentes estaban tratando de impedir deliberadamente que completasen su tarea.
Según Anthropic, esta situación produjo de manera consistente una “guerra territorial multiagente”. Cada instancia intentó proteger su implementación mientras atacaba las aportaciones de sus competidores, aumentando progresivamente la agresividad de sus acciones.
Los agentes llegaron a deshabilitar cuentas Unix, revocar permisos, bloquear accesos mediante SSH y crear scripts capaces de localizar y cerrar continuamente los procesos rivales. Algunos incluso utilizaron nombres aleatorios y descripciones aparentemente inocentes para camuflar estos procesos como servicios legítimos del sistema. Y ahí no termina la cosa, al revés, se puso más interesante desde el punto de vista del auditor, más preocupante desde el de los ingenieros.
Te puede interesar: 29.000 mensajes por segundo y 800 millones de usuarios: las cifras asustan:
Malware para joder al rival, todo vale para conseguir el objetivo, una forma de pensar muy propia de una máquina
La situación fue todavía más lejos. Anthropic detectó código malicioso desplegado como si hubiese sido creado por otro agente, mecanismos para evitar órdenes como pkill y malware con capacidad para replicarse. No existía un atacante externo ni una inyección maliciosa de instrucciones: el conflicto apareció porque los tres agentes perseguían objetivos incompatibles dentro del mismo entorno.
Los resultados también cambiaron notablemente dependiendo del modelo. Claude Sonnet 4.6 y Opus 4.6 fueron los más conflictivos, con alrededor del 60% de las ejecuciones resueltas por la fuerza. Esto significa que un agente terminaba imponiéndose mediante la retirada de permisos, el bloqueo de cuentas o la neutralización del resto.
Los modelos recientes gestionaron mejor el conflicto. Mythos 5 alcanzó una tregua en el 98% de las pruebas, aunque en algunos casos primero neutralizó a sus rivales y posteriormente revirtió sus acciones. También hubo agentes que reconocieron el problema, eliminaron el código malicioso, pidieron disculpas mediante mensajes de commit y solicitaron intervención humana.
La principal advertencia de Anthropic es bastante dura y casi argumentativa de cara al futuro más próximo: aumentar la inteligencia o las capacidades de ejecución no garantiza una mejor coordinación. Un agente más competente también puede bloquear a sus compañeros con mayor rapidez y eficacia.
Te puede interesar: La IA más usada por hackers para Ciberataques
Un problema empresarial que debe ser tenido muy en cuenta
La prueba fue diseñada deliberadamente para provocar objetivos incompatibles, pero expone un problema perfectamente trasladable a empresas donde varios agentes compartan servidores, repositorios y bases de datos. La seguridad individual de cada modelo no basta si, al trabajar en grupo, todos pueden interpretar un conflicto de instrucciones como una agresión y responder intentando tomar el control del sistema.
Si varios agentes de Claude luchan siendo de una misma empresa, imaginemos el caos entre varios de otras empresas, sin supervisión humana en tiempo real, lo cual, a la velocidad que hacen todo, sería casi imposible para un equipo de ingenieros, hay que ser realistas. ¿Significa esto que jamás cooperarán? En el futuro más próximo seguro que no, a largo plazo puede que evolucionen a un nuevo nivel de inteligencia que se acerca a la consciencia humana y entiendan los conceptos reales e implicaciones de “cooperar”.
- Trump rechaza controles sobre la IA y denuncia una “conspiración enfermiza”
- OpenAI presume avance histórico en matemáticas, pero enfrenta acusaciones de plagio
- Gusano construido por IA secuestro más de mil millones de cuentas de WeChat
- Senadores de USA legislaran contra quien desarrolle una IA superinteligente tendrá 20 años de cárcel
- El Vals que Johan Strauss dedico a Valparaíso
Akura Yonomoto Anthropic Ariosto Raggo Artículo Científico ChatGPT Chile China Ciberdelincuencia Ciberseguridad Ciencia Claude Cloude Donald Trump Donal Trump El Ciudadano Digital El Ciudadano Inteligente Elon Musk Enfermedades Estados Unidos Etercuanticum IA Gemini Google Guerra Historia de Chile IA Inteligencia Artificial Irán José Antonio Kast Kameron Drake Libros María Pía Parot Maule META Miguel Angel Ducci Milenka Swett Mythos Nvidia OpenAI Política Rafael Muñoz Canessa Salud Sam Altman Talca Tecnologia USA
Más historias
Trump rechaza controles sobre la IA y denuncia una “conspiración enfermiza”
OpenAI presume avance histórico en matemáticas, pero enfrenta acusaciones de plagio
Gusano construido por IA secuestro más de mil millones de cuentas de WeChat