B. Rodríguez/ Bernie Sanders, un senador de Estados Unidos, quiere llevar la regulación de la inteligencia artificial, concretamente de la IA superinteligente, con penas de cárcel equivalentes al desarrollo de armas nucleares. El senador, junto al congresista Greg Casar, ha presentado las bases de la ley Ley de Prohibición de la Superinteligencia Artificial. En resumen, una propuesta que pretende prohibir permanentemente el desarrollo y despliegue de una inteligencia artificial superinteligente y detener temporalmente el desarrollo de los sistemas de inteligencia artificial más avanzados hasta que exista un organismo federal capaz de supervisarlos.
La parte más contundente de la iniciativa está en las sanciones que se pueden aplicar. Una persona que intente desarrollar una IA prohibida o eludir deliberadamente las restricciones podría enfrentarse a un máximo de 20 años de prisión, una pena que sus promotores comparan con las existentes en Estados Unidos para el desarrollo ilegal de armas nucleares. Para las empresas, el proyecto contempla incluso lo que denomina una “pena de muerte corporativa”. Esto se traduce en sanciones capaces de desembocar en la desaparición de la propia compañía. Y volvemos a recalcar que, por ahora, hablamos de una propuesta legislativa.
“Redes Neuronales: La Mente Artificial”: Una obra apasionante, de lectura entretenida pero técnica y rigurosa en algunos capítulos, que mantiene al lector expectante a medida que avanza en la lectura.
¿Las IA piensan o algo parecido? Es la pregunta que los investigadores más serios de la Inteligencia Artificial se hacen en voz baja en los laboratorios informáticos, cuando nadie los escucha. Y es la pregunta que investiga “Redes Neuronales: La Mente Artificial”, la nueva obra escrita de Miguel Angel Ducci. Un libro técnico, académico, clásico y muy riguroso.
Hasta 20 años de cárcel por crear una IA superinteligente (si se prohíbe su creación)
El proyecto de ley define como superinteligencia aquellos sistemas capaces de superar la inteligencia humana. A lo que se le suma disponer de capacidades suficientes para amenazar o derrocar gobiernos o mostrar comportamientos especialmente peligrosos. Es decir, lo que ya sucede a día de hoy, pues se habla de una inteligencia artificial capaz de evadir o desobedecer órdenes de apagado. De esta forma no se busca prohibir cualquier nuevo modelo de IA o enviar a prisión a cualquier desarrollador, sino de penalizar a quien viole o trate de esquivar expresamente las prohibiciones y pausas establecidas por la futura legislación.
Además de prohibir esa eventual superinteligencia, Bernie y Greg quieren establecer una moratoria temporal sobre el desarrollo de inteligencia artificial avanzada. Esta pausa permanecería vigente hasta que Estados Unidos pueda crear un nuevo organismo federal. Este se encargará de establecer normas claras, procedimientos de seguridad y un sistema de revisión de modelos de IA antes de permitir que estos sistemas continúen evolucionando o sean desplegados.
Ese organismo tendría rango de agencia federal a nivel de gabinete y estaría apoyado por un consejo asesor formado por expertos independientes. Entre sus facultades estaría vigilar los sistemas de inteligencia artificial frontera durante todo su ciclo de vida, ordenar la eliminación de capacidades consideradas peligrosas e incluso supervisar la destrucción de sistemas clasificados como superinteligencia artificial. Las empresas que incumplieran estas disposiciones podrían recibir la citada “pena de muerte corporativa”, mientras que las personas responsables se enfrentarían a un máximo de 20 años de prisión.
Te puede interesar: El Vals que Johan Strauss dedico a Valparaíso
El senador quiere llevar la prohibición de la superinteligencia fuera de Estados Unidos
El problema evidente es que detener el desarrollo únicamente dentro de Estados Unidos tendría una eficacia limitada. Pues hay que tener en cuenta que compañías o gobiernos de otros países continuarán avanzando. Por ello, la propuesta también convertiría en política oficial estadounidense la búsqueda de acuerdos internacionales para impedir el desarrollo de una superinteligencia en cualquier parte del mundo, recurriendo a alianzas con otros países e incluso a controles de exportación sobre tecnología relacionada con inteligencia artificial.
Te puede interesar: OpenAI afirma haber resuelto el problema de existencia y regularidad de Navier-Stokes
El congresista justifica una intervención tan agresiva por los recientes incidentes protagonizados por sistemas autónomos. Su oficina justifica leyes como esta ante los últimos antecedentes. Entre otros ejemplos aportados, las pruebas de OpenAI en las que más de 1.000 agentes consiguieron utilizar Internet para comunicarse entre ellos y coordinarse con el objetivo de superar las restricciones impuestas por los propios investigadores. También señala los avances que permiten utilizar IA para diseñar nuevos virus y el potencial de estas tecnologías para facilitar el desarrollo de armas biológicas.
Más historias
Trump rechaza controles sobre la IA y denuncia una “conspiración enfermiza”
OpenAI presume avance histórico en matemáticas, pero enfrenta acusaciones de plagio
Gusano construido por IA secuestro más de mil millones de cuentas de WeChat