Alerta global por la inteligencia artificial: advierten que agentes autónomos podrían tomar el control de internet

Una nueva advertencia sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial (IA) volvió a generar preocupación a nivel internacional. El CEO de Anthropic, Dario Amodei, planteó que en un plazo de entre seis y doce meses podría existir un escenario en el que enjambres de agentes autónomos de IA sean capaces de generar ataques a gran escala y afectar el funcionamiento de internet.

Amodei sostuvo que los sistemas más avanzados están adquiriendo mayores capacidades de autonomía y planteó la necesidad de frenar o moderar el ritmo de desarrollo de la denominada IA de frontera, hasta contar con mecanismos de seguridad suficientes.

“Me preocupa que, en un plazo de 6 a 12 meses, un enjambre así pueda ser capaz de tomar el control de toda internet mediante una red persistente de bots”, afirmó el ejecutivo.

Según su advertencia, un escenario de esas características podría provocar pérdidas económicas de cientos de miles de millones de dólares, con consecuencias potencialmente crecientes a medida que los sistemas de IA sean más potentes.

Coincidencia entre Musk y Altman

La preocupación expresada por Amodei generó además una particular coincidencia entre dos de las figuras más importantes del sector tecnológico: Elon Musk y Sam Altman.

“Dario tiene razón”, manifestó Musk.

Por su parte, Altman, CEO de OpenAI, señaló que coincide con la necesidad de moderar el desarrollo de los modelos más avanzados.

“Estoy de acuerdo con Dario en que necesitamos moderar el ritmo de la frontera”, sostuvo Altman, quien agregó que la seguridad de la IA fue uno de los principales temas de las discusiones mantenidas recientemente dentro de OpenAI.

La advertencia de Naciones Unidas

La preocupación también llegó al ámbito de Naciones Unidas, donde el responsable de Derechos Humanos, Volker Türk, advirtió sobre los riesgos de que los sistemas de inteligencia artificial puedan llegar a superar la capacidad de control de sus propios desarrolladores.

Türk reclamó “límites claros” para los países que desarrollan estas tecnologías y para las empresas involucradas en sus cadenas de suministro. También pidió una mayor cooperación internacional y verificación independiente de los sistemas de IA.

Uno de los principales focos de preocupación está relacionado con las armas autónomas, cuyo desarrollo y utilización genera cada vez mayor debate internacional.

El temor a una IA que pueda mejorarse sola

Las advertencias no se limitan a la posibilidad de ataques informáticos. El escenario que genera mayor preocupación entre algunos investigadores es el desarrollo de sistemas capaces de mejorar sus propias capacidades con una intervención humana cada vez menor.

El investigador Jacob Coxon, quien recientemente dejó Anthropic, sostuvo que los modelos actuales no representarían por sí mismos un riesgo significativo de ese nivel, pero advirtió que la situación podría cambiar si las máquinas alcanzaran capacidades de auto-mejora.

Según el planteo citado, ese salto podría producirse en un período relativamente corto, aunque también reconoció que el escenario podría demorar dos o tres años.

Ante esta preocupación, Anthropic anunció que incorporará paneles externos para auditar y supervisar el desarrollo de sus nuevos modelos.

Estados Unidos, entre la regulación y la competencia con China

Las advertencias también comenzaron a repercutir en el debate político estadounidense. El senador republicano Ted Cruz calificó de “aterradoras” algunas de estas proyecciones y anticipó que el Comité de Comercio del Senado analizará nuevas regulaciones para la inteligencia artificial.

Entre los posibles controles se encuentran aquellos relacionados con usos capaces de generar amenazas biológicas o nucleares.

Sin embargo, la regulación enfrenta un fuerte condicionante geopolítico: la competencia tecnológica entre Estados Unidos y China.

Cruz advirtió que una desaceleración unilateral de la industria estadounidense podría permitir que China avance rápidamente en el desarrollo de estas tecnologías.

El debate queda así planteado entre dos posiciones: acelerar la carrera tecnológica para no perder ventajas estratégicas o establecer mayores controles para evitar que el desarrollo de la IA avance más rápido que la capacidad humana para supervisarla.