La preocupación por los riesgos de la inteligencia artificial volvió al centro del debate internacional luego de que líderes de algunas de las principales compañías tecnológicas pidieran moderar el ritmo de desarrollo, mientras Donald Trump rechazó la idea de frenar la carrera frente a China. Los mercados reaccionaron con fuertes bajas en las acciones vinculadas a la IA.

La discusión volvió a intensificarse después de que Dario Amodei, CEO de Anthropic, planteara la necesidad de desacelerar el desarrollo de los modelos de inteligencia artificial más avanzados para permitir que las medidas de seguridad alcancen el ritmo de la innovación. Su propuesta recibió el respaldo público de Sam Altman, CEO de OpenAI, y de Elon Musk, mientras otras figuras de la industria también expresaron preocupación por los riesgos asociados a sistemas cada vez más autónomos.

Las advertencias se producen después de que Anthropic y OpenAI informaran sobre situaciones en las que agentes de IA fueron capaces de realizar acciones potencialmente dañinas durante pruebas o frente a usos maliciosos. Según Associated Press, las compañías han documentado comportamientos que incluyen intentos de hackeo y otros escenarios de utilización indebida. Amodei advirtió que sistemas más avanzados podrían llegar a coordinar grandes cantidades de agentes autónomos y planteó un esquema basado en evaluadores independientes, coordinación entre las empresas líderes y cooperación internacional.

Sin embargo, el llamado a desacelerar choca con la estrategia de la Casa Blanca. Donald Trump minimizó las advertencias sobre los peligros de la IA y sostuvo que Estados Unidos debe mantener su ventaja tecnológica frente a China. El presidente estadounidense argumentó que una regulación excesiva podría perjudicar la posición de Washington en una competencia tecnológica considerada estratégica. Trump admitió que puede ser necesaria cierta regulación, pero no presentó un nuevo marco específico y cuestionó las advertencias sobre escenarios de extinción humana.

El debate adquirió además una dimensión geopolítica. Amodei propuso reforzar los controles estadounidenses sobre determinadas tecnologías y chips destinados a China, al considerar que Washington debe preservar su liderazgo en inteligencia artificial. Beijing respondió con dureza. Un editorial del medio estatal chino Global Times calificó las propuestas de Amodei como una estrategia de confrontación tecnológica similar a la lógica de la Guerra Fría. El Ministerio de Relaciones Exteriores chino, en cambio, pidió cooperación internacional y advirtió contra una confrontación tecnológica que pueda dificultar una gobernanza responsable de la IA.

La tensión también comenzó a trasladarse a los mercados financieros. Los futuros de Wall Street registraron bajas, con los contratos del Nasdaq 100 cayendo alrededor de 1,6% y los del S&P 500 retrocediendo cerca de 0,7% en la jornada analizada por AP. Las empresas vinculadas a semiconductores estuvieron entre las más afectadas. En Asia, SoftBank, uno de los grandes inversores de OpenAI, perdió más de 10%, mientras el Kospi surcoreano cayó 2,5%.

La reacción refleja una pregunta que excede a Silicon Valley: ¿puede la industria continuar desarrollando sistemas cada vez más poderosos al mismo ritmo mientras los mecanismos de seguridad, regulación y supervisión internacional avanzan más lentamente?

Por ahora, no existe consenso sobre la probabilidad ni sobre el momento de los escenarios más extremos planteados por algunos investigadores. Pero la coincidencia entre varios de los principales líderes de la industria en reclamar mayores controles marca un cambio significativo en el debate. Al mismo tiempo, la negativa de Trump a priorizar una desaceleración y la creciente competencia con China muestran que la inteligencia artificial ya no es solamente una cuestión tecnológica: se convirtió en un asunto estratégico, económico y geopolítico de alcance global.