Miguel Angel Ducci Ceo, Founder & Editor El Ciudadano Digital-

La inteligencia artificial (IA) se ha convertido en uno de los temas más relevantes de la actualidad, marcando transformaciones en múltiples aspectos de la sociedad. En este contexto recomendamos «The Coming Wave», en castellano «La Ola que Viene», un libro escrito por Mustafa Suleyman, cofundador de DeepMind, que explora el impacto y los desafíos de la IA junto con otros avances tecnológicos emergentes.

La ola tecnológica que está cambiando el mundo

«La Ola que Viene» no solo analiza el crecimiento de la IA, sino también su convergencia con otras innovaciones disruptivas, como la edición genética y la biotecnología. Suleyman describe estos avances como una “ola en el horizonte”, que aunque aún es invisible para muchos, está ganando fuerza rápidamente y promete transformar la economía, la política, la medicina y las relaciones humanas.

El libro ofrece una perspectiva única al conectar estos desarrollos tecnológicos y destacar su capacidad conjunta para remodelar el futuro. Cada tecnología, revolucionaria por sí misma, adquiere un impacto exponencial cuando se combina con otras.

Riesgos y desafíos del auge de la IA

La reseña nos enfatiza tres riesgos principales que Suleyman aborda en detalle en el libro:

1. Disrupción económica: La automatización impulsada por la IA tiene el potencial de transformar el mercado laboral, afectando incluso empleos que históricamente se consideraban seguros frente a la tecnología.
2. El problema del control: A medida que los sistemas de IA se vuelven más avanzados, mantenerlos alineados con los valores humanos será un desafío crítico.
3. Acceso por actores malintencionados: La disponibilidad de estas tecnologías aumenta la posibilidad de que sean utilizadas para ciberataques, armas biológicas o actividades que comprometan la seguridad nacional.

Mustafa Suleyman introduce el concepto de «contención» como una estrategia para limitar los peligros de estas tecnologías sin sofocar su potencial beneficioso. Propone ideas como un «botón de emergencia» para desactivar sistemas de IA descontrolados y marcos regulatorios internacionales que promuevan la cooperación entre gobiernos, empresas y científicos.

Un llamado a la acción informado

Las soluciones planteadas por Suleyman no son fáciles de implementar. A diferencia de las armas nucleares, cuya proliferación pudo ser limitada mediante controles físicos, la IA y la biotecnología son más accesibles y difíciles de regular debido a su naturaleza digital y su uso dual (beneficioso y perjudicial).

Sin embargo mantiene una visión optimista sobre el futuro. Cree que, aunque los riesgos son significativos, la humanidad aún tiene tiempo para moldear el impacto de estas tecnologías.

“El verdadero optimismo no es ignorar los riesgos, sino enfrentarlos con conocimiento y colaboración”: Mustafa Suleyman

El legado de Suleyman en la IA

Mustafa Suleyman es un nombre reconocido en el campo de la inteligencia artificial. Como cofundador de DeepMind, contribuyó al desarrollo de AlphaGo, el sistema que venció a los mejores jugadores humanos del juego Go, marcando un hito en la historia de la IA. Actualmente, lidera Inflection AI y la división de inteligencia artificial de Microsoft, posicionándose como una figura clave en el desarrollo y regulación de esta tecnología.

Un libro esencial para entender el presente y el futuro

«The Coming Wave» o «La Ola que Viene» es más que un análisis sobre la IA; es un manual para comprender cómo las tecnologías emergentes están configurando la sociedad. Al recomendar este libro, Gates invita a líderes, expertos y ciudadanos a reflexionar sobre las oportunidades y riesgos que plantea la era tecnológica y a participar activamente en la construcción de un futuro equilibrado y seguro.

Bill Gates habla sobre este libro

Bill Gates escribe: Cuando me preguntan sobre inteligencia artificial, sus preguntas suelen reducirse a esto: ¿Qué debería preocuparme y hasta qué punto? Durante el último año, les he recomendado leer La ola que se avecina, de Mustafa Suleyman. Es el libro que más recomiendo sobre IA —a jefes de Estado, líderes empresariales y a cualquiera que me pregunte— porque ofrece algo excepcional: una visión lúcida tanto de las extraordinarias oportunidades como de los riesgos reales que se avecinan.

El autor, Mustafa Suleyman, aporta una perspectiva única al tema. Tras contribuir al crecimiento de DeepMind, desde una pequeña startup hasta convertirla en una de las empresas de IA más importantes de la última década, fundó Inflection AI y ahora dirige la división de IA de Microsoft. Pero lo que hace especial a este libro no es solo la experiencia de primera mano de Mustafa, sino su profundo conocimiento de la historia de la ciencia y de cómo se desarrollan las revoluciones tecnológicas. Es un intelectual riguroso capaz de establecer paralelismos significativos a lo largo de siglos de avances científicos.

La mayor parte de la cobertura de La Ola que se avecina se ha centrado en lo que dice sobre la inteligencia artificial, lo cual es lógico, dado que es uno de los libros más importantes sobre IA jamás escritos. Y probablemente no haya nadie más cualificado que Mustafa para escribirlo. Estuvo presente en 2016 cuando AlphaGo de DeepMind venció a los mejores jugadores de Go del mundo, un juego mucho más complejo que el ajedrez con 2500 años de pensamiento estratégico a sus espaldas, realizando movimientos que nadie había imaginado. Al hacerlo, el programa informático basado en IA demostró que las máquinas podían vencer a los humanos en nuestro propio juego —literalmente— y le dio a Mustafa un primer vistazo de lo que estaba por venir.

Pero lo que distingue su libro de otros es la visión de Mustafa de que la IA es solo una parte de una convergencia sin precedentes de avances científicos. La edición genética, la síntesis de ADN y otros avances en biotecnología avanzan a pasos agigantados en paralelo. Como sugiere el título, estos cambios se están gestando como una ola en alta mar: invisibles para muchos, pero cobrando fuerza. Cada uno de ellos, por sí solo, sería revolucionario. Juntas, están a punto de transformar todos los aspectos de la sociedad.

El historiador Yuval Noah Harari ha argumentado que los humanos deberían aprender a colaborar y a generar confianza antes de desarrollar IA avanzada. En teoría, estoy de acuerdo. Si tuviera un botón mágico que pudiera ralentizar todo esto durante 30 o 40 años mientras la humanidad aprende a confiar y a alcanzar objetivos comunes, tal vez lo pulsaría. Pero ese botón no existe. Estas tecnologías se crearán independientemente de lo que haga cualquier individuo o empresa.

De hecho, el progreso ya se está acelerando a medida que los costos se desploman y la capacidad de procesamiento aumenta. A esto se suman los incentivos de lucro y poder que impulsan el desarrollo. Los países compiten entre sí, las empresas compiten entre sí y los individuos compiten por la gloria y el liderazgo. Estas fuerzas hacen que el avance tecnológico sea prácticamente imparable, y también dificultan su control.

En mis conversaciones sobre IA, suelo destacar tres riesgos principales que debemos considerar. El primero es el rápido ritmo de la disrupción económica. La IA podría transformar radicalmente la naturaleza del trabajo y afectar a empleos en la mayoría de los sectores, incluyendo puestos administrativos que tradicionalmente se han mantenido a salvo de la automatización. En segundo lugar, está el problema del control, es decir, la dificultad de garantizar que los sistemas de IA sigan alineados con los valores e intereses humanos a medida que se vuelven más avanzados. El tercer riesgo reside en que, cuando un actor malintencionado tiene acceso a la IA, se vuelve más poderoso y capaz de llevar a cabo ciberataques, crear armas biológicas e incluso comprometer la seguridad nacional.

Este último riesgo —el de empoderar a actores malintencionados— es lo que nos lleva al mayor desafío de nuestro tiempo: la contención. ¿Cómo limitamos los peligros de estas tecnologías al tiempo que aprovechamos sus beneficios? Esta es la pregunta central de «La Ola que se avecina», porque la contención es fundamental para todo lo demás. Sin ella, los riesgos de la IA y la biotecnología se agudizan aún más. Al resolver este problema primero, creamos la estabilidad y la confianza necesarias para abordar todo lo demás.

Por supuesto, es más fácil decirlo que hacerlo.

Si bien tecnologías transformadoras anteriores, como las armas nucleares, podían ser contenidas mediante seguridad física y estrictos controles de acceso, la IA y la biotecnología presentan un desafío fundamentalmente diferente. Son cada vez más accesibles y asequibles, su desarrollo es prácticamente imposible de detectar o monitorear, y pueden utilizarse a puerta cerrada con una infraestructura mínima. Prohibirlas implicaría que los buenos se desarmaran unilateralmente mientras los malos siguen adelante. Y perjudicaría a todos, ya que estas tecnologías son inherentemente de doble uso. Las mismas herramientas que podrían usarse para crear armas biológicas también podrían curar enfermedades; la misma IA que podría usarse para ciberataques también podría fortalecer la ciberdefensa.

• Recomendamos libro: Inteligencia Artificial: Cómo cambiará el mundo (y tu vida).
• Amazon endurece el control sobre la IA tras varios fallos en su tienda online
• Google lanza una IA que descifra los secretos de las civilizaciones antiguas
• La amenaza silenciosa de “Tierras Raras” en costa del Maule y Ñuble.
• Mithos, la IA demasiado peligrosa para dejarla suelta