El presidente Donald Trump declaró durante una entrevista emitida ayer por Fox Business que “debería haberlas” al ser preguntado sobre si la Inteligencia Artificial necesita salvaguardas o un “interruptor de emergencia”.
A continuación, se incluye la declaración completa del presidente y director ejecutivo de FLI, Anthony Aguirre.
El modelo Mythos de Anthropic ha revolucionado el mundo de la IA y la ciberseguridad, demostrando la extrema vulnerabilidad de internet, nuestra economía y nuestra sociedad ante sistemas de IA cada vez más potentes. El informe del Instituto de Seguridad de la IA del Reino Unido, que describe sus pruebas de Mythos, mostró “un avance significativo con respecto a los modelos de vanguardia anteriores en un entorno donde el rendimiento cibernético ya estaba mejorando rápidamente”. El informe también señaló que Mythos fue capaz de completar una “simulación de ataque a una red corporativa de 32 pasos, desde el reconocimiento inicial hasta la toma total de la red, que estimamos que requeriría 20 horas de trabajo humano”.
Mientras tanto, se está desatando una carrera armamentística en IA, con países que desarrollan armas y plataformas de armas con IA integrada cada vez más sofisticadas. Anthony Aguirre, presidente y director ejecutivo del Future of Life Institute, emitió la siguiente declaración en respuesta al apoyo del presidente Trump a las medidas de seguridad para la IA y a un «interruptor de apagado»:
«El presidente Trump tiene toda la razón: los sistemas avanzados de IA necesitan un interruptor de apagado robusto para garantizar que los humanos nunca pierdan el control sobre ellos. Claude Mythos demostró la vulnerabilidad de nuestra economía y nuestro sistema financiero ante las capacidades cibernéticas ofensivas de los sistemas de IA más recientes, por no hablar de los sistemas aún más avanzados que están por venir. En las pruebas previas a su lanzamiento, Mythos descubrió de forma autónoma vulnerabilidades de día cero en todos los principales sistemas operativos y navegadores web, incluyendo fallos que habían sobrevivido a décadas de revisión humana.
«Modelos como Mythos son prácticamente sobrehumanos en su capacidad para encontrar y explotar vulnerabilidades en sistemas críticos. Si seguimos desarrollando una IA altamente sobrehumana —algo que el FLI considera desaconsejable—, para tener alguna esperanza de control no podemos depender únicamente de las medidas de seguridad basadas en software. Necesitamos la capacidad de gestionar estos sistemas a nivel de hardware. Esto es totalmente factible».
Las mismas medidas de seguridad de hardware que protegen la privacidad de tu rostro y te permiten apagar tu iPhone de forma remota existen en los chips de IA, y pueden utilizarse para contener modelos de IA e interrumpir su funcionamiento si es necesario. FLI ha desarrollado prototipos de estas capacidades, y si nosotros podemos hacerlo, los desarrolladores de IA de NVIDIA seguramente también podrán, a gran escala y con una mayor robustez en las nuevas generaciones de hardware.
Se podría hacer algo parecido a apagar Internet
Consultado el CEO de Etercuanticum Tech, Miguel Angel Ducci sobre la posibilidad de apagar la IA con algo parecido a apagar Internet nos dijo:
Internet puede ser dividida, pero no interrumpida o apagada!.
Como sabemos, cada máquina conectada a Internet tiene una dirección IP asignada a sí misma, una especie de identificador que le permite comunicarse. Y para que nadie tenga que memorizar este montón de números extraños, existen los servidores de nombres de dominio (DNS) que asignan direcciones más legibles (para los humanos) a las IPs. Gracias a estos servidores es que podemos entrar en la URL “google.com” en un navegador web en lugar de tener que memorizar y escribir “74.125.234.70”.
Estos servidores son una parte fundamental del buen funcionamiento de la web, y eliminarlos causaría graves perjuicios a la World Wide Web, sin embargo, a diferencia de muchos mensajes que circulan por Internet, estos servidores NO SON NI FORMAN el temido “botón de apagado” de Internet.
Algunos argumentan que todos los servidores raíz de Internet están en suelo americano, pero como podemos ver en el siguiente mapa, proporcionado por wikicharlie.cl, la información es falsa. Hay servidores de este tipo en todo el mundo:
Chile esta comunicado con una copia del Servidor F de Internet Software Consortium, Palo Alto, California, USA al igual que los países Sudamericanos Argentina, Ecuador, Uruguay y Brasil.
Por otra parte, uno de los creadores de la web, Tim Berners-Lee, niega la posibilidad de que la red pueda ser desconectada.
“De la forma en que está diseñada, la Internet es bastante descentralizada. Hoy en día, ya que los países se conectan entre sí de maneras muy diferentes, no hay un interruptor, es decir, no hay un lugar central donde pueda ser “apagada”.
Quién confirma la información es Jim Cowie, co-fundador de Renesys, una compañía de inteligencia centrada en internet. En una entrevista con CNN, Cowie dijo que la Internet:
“La internet puede ser quebrada, pero no desconectada. La parte más divertida de la Internet es que si usted la separa por la mitad, las dos partes van a operar como internets separados”. Jim Cowie
- Anthropic lanza una nueva versión de Mythos con capacidades cibernéticas limitadas
- Google y su nuevo plan de Gemini IA a $5.000 al mes
- IBM Ofrece Entrenamiento Gratuito en español de IA
- Cinematic Video Overviews la función de NotebookLM que transforma tus cuadernos en vídeos cinematográficos
- Estados Unidos tendrá acceso a los modelos de IA 30 días antes de ser lanzados
Akura Yonomoto Anthropic Apple Artículo Científico ChatGPT Chile China Ciencia Claude Cloude Donald Trump Donal Trump Drones editorial El Ciudadano Digital El Ciudadano Inteligente Elon Musk Enfermedades Estados Unidos Etercuanticum IA Gemini Google Guerra IA Inteligencia Artificial Irán Israel José Antonio Kast Kameron Drake Medio Oriente Miguel Angel Ducci Milenka Swett Mythos Nvidia OpenAI Perplexity Política Rafael Muñoz Canessa Rusia Salud Sam Altman Talca Tecnologia Ucrania USA
Más historias
Anthropic lanza una nueva versión de Mythos con capacidades cibernéticas limitadas
Google y su nuevo plan de Gemini IA a $5.000 al mes
IBM Ofrece Entrenamiento Gratuito en español de IA