La ONU debate cómo controlar la expansión de la inteligencia artificial: “Los peligros son reales e inminentes”

El avance acelerado de la inteligencia artificial llegó al centro de la agenda de seguridad internacional. Este miércoles, el Consejo de Seguridad de las Naciones Unidas reunió a representantes de algunas de las principales empresas del sector para discutir cómo evitar que los sistemas de IA cada vez más autónomos puedan convertirse en una amenaza que los gobiernos no estén preparados para controlar.

La reunión se realizó durante la 81ª Asamblea General de la ONU y fue presidida por el canciller francés Jean-Noël Barrot. Participaron, entre otros, el CEO de OpenAI, Sam Altman; el CEO de Anthropic, Dario Amodei; y el cofundador de Hugging Face, Clément Delangue. También fueron convocadas empresas chinas como DeepSeek y Moonshot AI, en un debate atravesado por la disputa tecnológica entre Estados Unidos y China.

La particularidad del encuentro fue que algunos de los principales responsables de desarrollar esta tecnología reconocieron ante el organismo encargado de preservar la paz y la seguridad internacional que la expansión de la IA necesita controles y mecanismos de supervisión.

“No podemos dejar estas decisiones solamente en manos de los laboratorios”

Sam Altman sostuvo que el crecimiento de la industria no debería justificar la aceptación de riesgos tecnológicos cada vez mayores. El CEO de OpenAI reclamó estándares internacionales para medir las capacidades de los sistemas y evaluar las medidas de seguridad que implementan las compañías antes de avanzar hacia modelos más sofisticados.

El empresario planteó que la industria debe evitar tanto el “optimismo ciego” como las visiones que consideran inevitable un escenario catastrófico. Su propuesta apunta a encontrar un punto intermedio: continuar desarrollando la tecnología, pero acompañar ese crecimiento con mecanismos capaces de detectar y reducir los riesgos.

El debate adquiere especial relevancia porque los sistemas actuales ya no se limitan a responder preguntas o generar textos e imágenes. Los modelos más avanzados pueden ejecutar tareas, utilizar herramientas externas, escribir código y operar durante períodos prolongados con distintos niveles de autonomía.

Para los especialistas que participaron del encuentro, el desafío es determinar qué ocurre cuando esas capacidades aumentan más rápido que la capacidad de los Estados para supervisarlas.

“Los peligros son reales e inminentes”

El científico Yoshua Bengio, copresidente del panel científico internacional independiente de Naciones Unidas sobre inteligencia artificial, advirtió ante el Consejo de Seguridad que los riesgos asociados a esta tecnología no pueden ser contenidos por un solo país.

“Los peligros son reales e inminentes”, sostuvo Bengio, según informó Infobae.

Su advertencia se relaciona con una de las principales preocupaciones de los especialistas: que los sistemas de IA puedan adquirir capacidades que permitan modificar su comportamiento, evadir controles o actuar de manera no prevista por sus desarrolladores.

El CEO de Anthropic, Dario Amodei, también alertó sobre este escenario y afirmó que una IA mal gestionada podría representar un riesgo para la humanidad. Desde la misma industria que impulsa el desarrollo de estos sistemas surgieron así llamados a establecer salvaguardas antes de que las capacidades de los modelos continúen aumentando.

Estados Unidos y China también disputan el futuro de la IA

La discusión tecnológica está atravesada por una disputa geopolítica. Estados Unidos y China son actualmente dos de las principales potencias en el desarrollo de inteligencia artificial y mantienen posiciones diferentes respecto de la velocidad con la que debería avanzar la tecnología y el alcance de una eventual regulación internacional.

China ha cuestionado anteriormente los llamados a frenar el desarrollo de la IA y ha advertido que determinadas iniciativas de seguridad pueden utilizarse para preservar la ventaja tecnológica de Washington. Al mismo tiempo, empresas chinas como DeepSeek fueron convocadas a participar del debate del Consejo de Seguridad.

El enfrentamiento no es menor: quien consiga desarrollar los sistemas de IA más avanzados podría obtener ventajas económicas, científicas, militares y estratégicas.

Por eso, la discusión sobre cómo controlar la inteligencia artificial también se convirtió en una discusión sobre quién establece las reglas del desarrollo tecnológico mundial.

La ONU pide controles internacionales

El debate del Consejo de Seguridad se produjo apenas un día después de que el secretario general de Naciones Unidas, António Guterres, reclamara ante la Asamblea General una estructura internacional para gestionar los riesgos de la inteligencia artificial.

Guterres pidió avanzar hacia un marco multilateral de gestión de riesgos respaldado por una supervisión independiente y creíble. También reclamó que los países que lideran la revolución tecnológica compartan información sobre nuevos riesgos, cooperen en las evaluaciones de seguridad y trabajen en salvaguardas comunes.

La ONU ya había creado en 2023 un órgano asesor internacional sobre inteligencia artificial y ese mismo año el Consejo de Seguridad realizó por primera vez una reunión específica sobre los riesgos de esta tecnología.

Ahora el escenario es diferente: los sistemas son más poderosos, las inversiones en infraestructura de IA aumentaron y las empresas compiten por desarrollar modelos con mayores niveles de autonomía.

El problema ambiental detrás de la expansión de la IA

Aunque el debate de Naciones Unidas estuvo centrado principalmente en seguridad internacional, la expansión de la inteligencia artificial también tiene una dimensión ambiental.

El crecimiento de los modelos requiere enormes centros de datos, cada vez más capacidad de procesamiento y grandes cantidades de energía y agua para mantener funcionando la infraestructura tecnológica.

Por eso, el debate sobre cómo controlar la expansión de la IA no se limita a evitar posibles riesgos vinculados con sistemas autónomos. También implica discutir cuánta energía y agua demandará esta nueva infraestructura, dónde se instalarán los centros de datos y quién asumirá sus impactos ambientales.

La carrera tecnológica ya está generando una expansión acelerada de la infraestructura necesaria para entrenar y operar modelos de inteligencia artificial. En ese contexto, la discusión que llegó al Consejo de Seguridad de la ONU abre una pregunta que excede a la tecnología: qué límites deberían existir para una industria cuyo desarrollo puede modificar simultáneamente la economía, la seguridad internacional y el uso de recursos naturales.

El desafío planteado en Naciones Unidas es, en definitiva, cómo garantizar que el desarrollo de una tecnología cada vez más poderosa continúe bajo control humano, con reglas públicas y mecanismos internacionales capaces de actuar antes de que los riesgos superen la capacidad de respuesta de los Estados.