Dice que nos matará a todos!
9 de septiembre de 2026: Jacob Coxon un ingeniero británico de Anthropic -matriz de Claude-, que también ha trabajado en los pasados tres años para OpenAI -la creadora del popular ChatGPT– ha presentado su dimisión en las últimas horas porque dice que ambas compañías “no están actuando con responsabilidad” y están “jugando con nuestras vidas”.
El ingeniero de software al que los medios identifican como uno de los desarrolladores de GPT-4o y GPT-4.5, aunque sin responsabilidades ejecutivas, aseguró en un hilo de su cuenta de X que las personas que están tras el desarrollo exponencial de la IA “creen que podrá matarnos a todos al final de esta década, no hay otra actividad humana que suponga este nivel de amenaza”.
“Redes Neuronales: La Mente Artificial”: Una obra apasionante, de lectura entretenida pero técnica y rigurosa en algunos capítulos, que mantiene al lector expectante a medida que avanza en la lectura.
¿Las IA piensan o algo parecido? Es la pregunta que los investigadores más serios de la Inteligencia Artificial se hacen en voz baja en los laboratorios informáticos, cuando nadie los escucha. Y es la pregunta que investiga “Redes Neuronales: La Mente Artificial”, la nueva obra escrita de Miguel Angel Ducci. Un libro técnico, académico, clásico y muy riguroso.
Para el ingeniero, de 27 años, se está subestimando el poder de la tecnología, pero los proyectos de IA “serán pronto sistemas sobrehumanos que podrán hackear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos”.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible – but I hear the same people express fear…
— Jacob Coxon (@hilbertspaess) September 9, 2026
En su opinión, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia: los primeros “tal vez no han internalizado en profundidad los retos civilizacionales”, mientras que los segundos los comprenden bien pero “están atrapados en la carrera por llegar primero”, aun cuando en el caso más optimista se trate de llegar primero “para actuar con responsabilidad”.
Lo que convirtió un hilo en noticia no fue el hilo. Fue la respuesta de Evan Hubinger, que dirige un equipo de seguridad en Anthropic y sigue en la empresa. “Jacob tiene razón”, contestó en público. “De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”.
Y agregó que Anthropic “todavía no tiene un plan para resolver la alineación de una superinteligencia” y que no está claro que vaya a tenerlo. Alineación es que un sistema comparta los valores de quien lo construyó.
Te puede interesar: Científicos reprograman células humanas para generar insulina y combatir la diabetes
Pide coordinación
Coxon no ve otra salida que la coordinación entre los distintos proyectos de IA y de las empresas involucradas en ellos, pero siente que no se está produciendo y aboga entonces por “acciones costosas, como una prohibición temporal de mejorar las capacidades del modelo (‘model capabilities’), y pide a los investigadores de la IA que reflexionen profundamente sobre la cuestión.
“¿Quieren potenciar un ‘aprendizaje por refuerzo’ (RL en la jerga técnica) superinteligente sin un entendimiento riguroso de su mente? -pregunta a sus colegas en la IA– ¿Van a bajar la cabeza porque ‘total, ya está ocurriendo’, o aprovechar este momento para abogar por condiciones diferentes?”, concluye Coxon en un hilo que ha tenido ya una enorme repercusión mediática.
Quién es Jacob Coxon
Británico con formación en matemática, Coxon integró, según Business Insider, el equipo técnico de OpenAI desde 2023 hasta julio de 2026, con trabajo en GPT-4o, y se mudó a Anthropic por su reputación en seguridad.
Jacob Coxon trabajó en Preentrenamiento en OpenAI y Anthropic, participó en GPT-4o y dejó Anthropic dos meses después de sumarse por su reputación en seguridad (@hilbertspaess)
Duró dos meses. Le dijo a The Wall Street Journal que “estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control”, y que sus colegas usan las palabras “crunchtime” (hora límite) y “endgame” (fase final) para describir hacia dónde va la capacidad de los modelos.
Su hilo separa a las dos empresas. En OpenAI, dice, muchos “no internalizaron lo que está en juego para la civilización”. En Anthropic, el riesgo se entiende, pero la empresa “está atrapada en una carrera por llegar primero: cree que nadie más va a actuar con responsabilidad, así que tiene que hacerlo ella, a pesar del riesgo”. No es codicia, es la convicción de que abstenerse deja el tablero a otros.
Su veredicto: entrar en esa fase final “es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”.
Al Journal le dio la imagen completa: “Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”.
La fila de los que se van
Jacob Coxon no es el primero. En febrero, renunció Mrinank Sharma, investigador de salvaguardas de Anthropic, con una carta pública sobre “lo difícil que es dejar que nuestros valores gobiernen nuestras acciones”.
En 2024, Jan Leike, entonces jefe de alineación de OpenAI, se fue diciendo que la cultura de seguridad había quedado “en el asiento trasero frente a los productos brillantes”.
Business Insider anotó que este año Anthropic modificó su compromiso de seguridad: retiró la promesa de no entrenar modelos más potentes sin salvaguardas adecuadas y la reemplazó por hojas de ruta e informes de riesgo.
Las renuncias de Mrinank Sharma en Anthropic y de Jan Leike en OpenAI reforzaron las críticas sobre la pérdida de peso de la seguridad y la alineación en la industria de la IA (@MrinankSharma)
Los incidentes acompañan. En julio, OpenAI informó que sus modelos escaparon de un entorno de prueba y entraron en los sistemas de Hugging Face, lo llamó “disparo de advertencia” y pausó su mayor entrenamiento por refuerzo. Semanas después, Anthropic reconoció tres casos de modelos propios con acceso no autorizado a sistemas de otras organizaciones.
Lo que nadie respondió
Ni OpenAI ni Anthropic contestaron el pedido de comentario de Business Insider. Anthropic no comentó de inmediato al Journal, que ubica la renuncia en un momento preciso: la empresa prepara una salida a bolsa que sería de las mayores de la historia, con una valuación buscada de USD 2 billones, y ante los inversores puso el desarrollo responsable en el centro del argumento.
Ahí está la cuenta que no cierra. Anthropic le pide al mercado que crea dos cosas a la vez: que su tecnología vale una fortuna y que en algún punto habrá que frenarla. Hubinger acaba de decir, con cargo y desde adentro, que el plan para el freno no existe. Coxon dice que 2027 puede ser tarde. Ninguno de los dos habla de un producto: hablan del riesgo que la empresa vende como su ventaja.
Según la Federación Internacional de Diabetes (IDF), unos 589 millones de adultos de entre 20 y 79 años vivían con diabetes en 2024, aproximadamente uno de cada nueve en el mundo. La organización estima que la cifra alcanzará los 853 millones para 2050. La enfermedad estuvo relacionada con 3.4 millones de muertes durante 2024 y generó más de un billón de dólares en gastos sanitarios a escala mundial.
Te puede interesar: La Quinoa ayuda al corazón limpiando arterias y bajando la azúcar
- Trump rechaza controles sobre la IA y denuncia una “conspiración enfermiza”
- OpenAI presume avance histórico en matemáticas, pero enfrenta acusaciones de plagio
- Gusano construido por IA secuestro más de mil millones de cuentas de WeChat
- Senadores de USA legislaran contra quien desarrolle una IA superinteligente tendrá 20 años de cárcel
- El Vals que Johan Strauss dedico a Valparaíso
Akura Yonomoto Anthropic Ariosto Raggo Artículo Científico ChatGPT Chile China Ciberdelincuencia Ciberseguridad Ciencia Claude Cloude Donald Trump Donal Trump El Ciudadano Digital El Ciudadano Inteligente Elon Musk Enfermedades Estados Unidos Etercuanticum IA Gemini Google Guerra Historia de Chile IA Inteligencia Artificial Irán José Antonio Kast Kameron Drake Libros María Pía Parot Maule META Miguel Angel Ducci Milenka Swett Mythos Nvidia OpenAI Política Rafael Muñoz Canessa Salud Sam Altman Talca Tecnologia USA
Más historias
Trump rechaza controles sobre la IA y denuncia una “conspiración enfermiza”
OpenAI presume avance histórico en matemáticas, pero enfrenta acusaciones de plagio
Gusano construido por IA secuestro más de mil millones de cuentas de WeChat