Preocupación global por la IA: Por qué gigantes tecnológicos y la ONU piden pausar su desarrollo

Directores de gigantes tecnológicos como Anthropic, OpenAI y xAI, junto a la Organización de las Naciones Unidas (ONU), solicitaron desacelerar de forma urgente el avance de la inteligencia artificial (IA). La preocupación se centra en vulnerabilidades en ciberseguridad, amenazas a infraestructuras críticas y la creciente dificultad para mantener el control humano sobre sistemas autónomos.

La alerta en la comunidad científica y técnica se agudizó tras la renuncia de Jacob Coxon, exingeniero de Anthropic vinculado a modelos como GPT-4o, quien denunció falta de responsabilidad en el sector. A ello se sumó una advertencia de Dario Amodei, director ejecutivo de Anthropic, sobre la denominada «automejora recursiva»: un fenómeno donde enjambres de agentes digitales autónomos podrían vulnerar redes y desplegar ciberataques impredecibles en el corto plazo.

Líderes como Sam Altman (OpenAI) y Elon Musk (xAI) respaldaron la necesidad de pausar la acelerada carrera. Altman, de hecho, confirmó que su firma se someterá a auditorías técnicas independientes para evaluar sus modelos antes de liberarlos comercialmente.

Frente a estos temores, el director del Máster en Gestión de Proyectos de la Universidad de los Andes, Sergio Quijada, desmitifica las visiones apocalípticas: «No hay ninguna tecnología que por sí sola vaya a amenazar o a destruir a la especie humana. (…) La capacidad de que esa tecnología sea mal programada por personas y que pueda afectarnos sí existe, pero son las personas las que fallan, no es la tecnología«.

Para el especialista chileno, la verdadera amenaza no radica en una máquina consciente, sino en «la precariedad de los controles que el humano puede colocar a algoritmos que se comportan como que si fueran inteligencia humana, pero no lo son«.

Tensión geopolítica

El debate sobre la seguridad técnica se trasladó también al plano diplomático. Desde la ONU, el alto comisionado para los Derechos Humanos, Volker Türk, alertó que la «IA agéntica» desregulada pone en jaque la privacidad, la democracia e incluso la estabilidad internacional frente al uso de armas automatizadas.

No obstante, mientras el presidente estadounidense Donald Trump desestimó las restricciones multilaterales acusándolas de conspiraciones que favorecerían a China, Pekín denunció que las trabas tecnológicas son una táctica de guerra fría, aunque admitió la necesidad de fijar mecanismos de supervisión algorítmica.

En este complejo escenario de disputas entre potencias, Quijada subraya el rol estratégico que deben asumir los países en desarrollo: «¿Qué podemos aportar nosotros como país, como Chile? Exigir estandarización. Exigir que efectivamente los desarrollos, tanto de China como de Estados Unidos, sean observables por unos y otros, y que exista una regulación desde el punto de vista internacional».