Anthropic PBC está ampliando el acceso a una versión de Mythos que no podrá utilizarse para tareas de ciberseguridad, meses después de advertir que este potente modelo de inteligencia artificial era capaz de detectar y explotar vulnerabilidades en software crítico.
El nuevo modelo, denominado Fable 5, comenzará a desplegarse este martes con mecanismos de seguridad que le impedirán responder a ciertos tipos de consultas, incluidas aquellas relacionadas con ciberseguridad y biología. En esos casos, Anthropic indicó que su chatbot Claude redirigirá las respuestas a otro modelo llamado Opus 4.8.
Anthropic también lanzará el mismo modelo, pero sin algunas de esas restricciones, bajo una nueva versión denominada Mythos 5. Estará disponible para los grupos autorizados a utilizar capacidades avanzadas de ciberseguridad a través de una iniciativa llamada Project Glasswing. La semana pasada, la empresa sumó otras 150 organizaciones al programa, elevando a unas 200 el número total de entidades con acceso a Mythos.
“Redes Neuronales: La Mente Artificial”: Una obra apasionante, de lectura entretenida pero técnica y rigurosa en algunos capítulos, que mantiene al lector expectante a medida que avanza en la lectura.
¿Las IA piensan o algo parecido? Es la pregunta que los investigadores más serios de la Inteligencia Artificial se hacen en voz baja en los laboratorios informáticos, cuando nadie los escucha. Y es la pregunta que investiga “Redes Neuronales: La Mente Artificial”, la nueva obra escrita de Miguel Angel Ducci. Un libro técnico, académico, clásico y muy riguroso.
Mythos se ha convertido en una pieza central para la empresa con sede en San Francisco mientras avanza hacia una oferta pública inicial. La compañía tomó la inusual decisión de limitar el acceso al modelo a un grupo reducido de socios, al advertir que puede identificar y explotar vulnerabilidades “en todos los principales sistemas operativos y navegadores web” cuando recibe instrucciones para hacerlo. Al mismo tiempo, al igual que sus competidores, Anthropic busca desarrollar modelos cada vez más capaces para tareas de alto valor comercial, como programación, finanzas y ciberseguridad.
“Queríamos asegurarnos de que, para los casos de uso que no involucran ciberseguridad, pudiéramos priorizar el lanzamiento seguro de Fable lo antes posible”, dijo Dianne Penn, responsable de gestión de proyectos de investigación y laboratorios de Anthropic. “Por eso estamos lanzando primero esta parte de Fable mientras seguimos trabajando en los casos de uso generales relacionados con ciberseguridad”.
Te puede interesar: Estados Unidos tendrá acceso a los modelos de IA 30 días antes de ser lanzados
Según la empresa, Fable 5 mejora el desempeño en programación y otras tareas profesionales, especialmente en la resolución de problemas complejos que requieren períodos de trabajo más prolongados que los modelos anteriores.
En una prueba del nuevo software, la empresa de pagos Stripe completó en un solo día una extensa tarea de ingeniería de software que habría requerido dos meses de trabajo manual de un equipo, según Anthropic. La compañía también señaló que una hipótesis generada por Mythos sobre un nuevo mecanismo de una proteína de E. coli fue posteriormente confirmada en un artículo científico elaborado por un laboratorio que investigaba el mismo tema.
Para comprobar la solidez de las protecciones de Fable 5, Anthropic indicó que realizó internamente un programa de recompensas para encontrar formas de vulnerar el modelo o eludir sus mecanismos de seguridad. Tras más de 1.000 horas de pruebas, los equipos especializados no encontraron ningún método universal para sortear las restricciones.
Penn afirmó que Anthropic seguirá ampliando la cantidad de grupos con acceso a la versión de Mythos con capacidades de ciberseguridad a través de Project Glasswing y explorará “otras formas de permitir que socios de confianza accedan a funciones relacionadas con la ciberseguridad”.
Te puede interesar: IBM Ofrece Entrenamiento Gratuito en español de IA
- Anthropic lanza una nueva versión de Mythos con capacidades cibernéticas limitadas
- Google y su nuevo plan de Gemini IA a $5.000 al mes
- IBM Ofrece Entrenamiento Gratuito en español de IA
- Cinematic Video Overviews la función de NotebookLM que transforma tus cuadernos en vídeos cinematográficos
- Estados Unidos tendrá acceso a los modelos de IA 30 días antes de ser lanzados
Akura Yonomoto Anthropic Apple Artículo Científico ChatGPT Chile China Ciencia Claude Cloude Donald Trump Donal Trump Drones editorial El Ciudadano Digital El Ciudadano Inteligente Elon Musk Enfermedades Estados Unidos Etercuanticum IA Gemini Google Guerra IA Inteligencia Artificial Irán Israel José Antonio Kast Kameron Drake Medio Oriente Miguel Angel Ducci Milenka Swett Mythos Nvidia OpenAI Perplexity Política Rafael Muñoz Canessa Rusia Salud Sam Altman Talca Tecnologia Ucrania USA
Más historias
Google y su nuevo plan de Gemini IA a $5.000 al mes
IBM Ofrece Entrenamiento Gratuito en español de IA
Cinematic Video Overviews la función de NotebookLM que transforma tus cuadernos en vídeos cinematográficos