No es sólo llegar primero: la necesidad de ir más despacio con la inteligencia artificial

La semana que acaba de terminar hubo mucha discusión en torno a la inteligencia artificial. Fue uno de esos períodos en que parece que todo pasa al mismo tiempo. Confieso que, inicialmente, este comentario editorial iba a abordar dos asuntos sobre la inteligencia artificial: Por un lado, la controversia a partir del anuncio de OpenAI sobre la resolución de la ecuación de Navier-Stokes, donde hubo quienes celebraron el uso de la IA para el desarrollo de la ciencia, quienes cuestionaron las prácticas y acusaron de juego sucio y quienes llamaron a tomarlo con cautela. Por otro lado, el nuevo trend de las fotos ochenteras que, por divertido que parezca, tiene sus implicaciones de homogeneización y sí, también de gestión de los datos y de consumo de recursos. Sin embargo, en estos mismos días se abrió una discusión mucho más trascendental en torno a los riesgos de la carrera en el desarrollo de sistemas de una superinteligencia artificial, donde parece que lo único importante es quién llega primero.

El jueves 10 de septiembre, Anthropic emitió un reporte en el que señala que su equipo de inteligencia de amenazas identificó y desactivó intentos de uso malicioso de Claude para desatar guerras cognitivas y para crear armas biológicas. No es la primera vez que Anthropic publica uno de estos reportes, lo hace con cierta regularidad, pero sí llama la atención que reconozca abiertamente riesgos tan amplios. A la par, hubo tuits que encendieron las alarmas. 

El martes 8 de septiembre, Jacob Coxon, un joven ingeniero que ha trabajado en OpenAI y en Anthropic, renunció a esta última y publicó un hilo en X, alertando sobre los riesgos de la inteligencia artificial. Dice explícitamente que, en la carrera por diseñar una superinteligencia artificial, ninguna de las dos compañías está actuando responsablemente. Enfatiza que esta carrera es una especie de “endgame” o juego final, donde nuestras vidas están en riesgo, a merced de decisiones tomadas desde las grandes corporaciones tecnológicas. 

Este viernes 11 se sumó el tuit de Joe Benton, otro investigador que declaró haber renunciado hace dos semanas al equipo de seguridad de Anthropic. En su texto, señala que las corporaciones tecnológicas están invirtiendo mucho en el desarrollo de la IA, pero están subinvirtiendo en seguridad y eso se vincula con los riesgos de perder el control y, sí, también plantea que esto es un riesgo para la humanidad. 

Dario Amodei, el CEO de Anthropic, también se posicionó. Él no renunció, pero este sábado 12 publicó un ensayo en el cual sostiene que está convencido del potencial de la IA para resolver problemas en áreas clave como la salud, pero también pone el foco en los riesgos de perder el control, de uso malicioso y de una disrupción económica seria. Por esto, llama a “recorrer la frontera”, es decir, a ir más despacio, mejorar los sistemas y usar sabiamente el tiempo que ganen. Los tres citan el caso de Hugging Face, en el cual agentes autónomos de OpenAi intentaron hackear Hugging Face, una plataforma de alojamiento de modelos de IA en julio pasado. 

Por cierto, el tuit de Amodei, CEO de Anthropic, fue compartido por Sam Altman, CEO de OpenAI. Dice que está de acuerdo y que lo han discutido en OpenAI, que pronto tendrá más noticias. Más actores clave se están sumando a la discusión, así que esto seguirá. 

No es la primera vez que se señalan riesgos, en octubre de 2025 un grupo de científicos, encabezado por Geoffrey Hinton y Yosua Bengio, difundió una carta llamando a que se prohíba el desarrollo de una superinteligencia artificial hasta que se cuente con evidencias de que son más los beneficios que los riesgos para la humanidad. 

Y aquí me gustaría regresar a una de las principales preocupaciones en torno a la IA y a la tecnología en sentido más amplio, que es la ética. El desarrollo científico y tecnológico, así como el beneficio económico y político, no deberían estar por encima del bienestar de la humanidad. Las grandes corporaciones tecnológicas tienen cada vez más poder, con la venia de gobiernos muy poderosos, como el de Estados Unidos. Igual que pasa en otras áreas, los beneficios son para unos cuantos, pero los costos ambientales y sociales los estamos pagando nosotros.

Por cierto, también esta semana, el Gobierno de México presentó el Plan Nacional de Inteligencia Artificial. Retomaré ese tema la próxima semana. 

Anthropic (2026, septiembre 10). Detecting and countering misuse of AI: September 2026.

https://www.anthropic.com/threat-intelligence-report-september-2026

Jacob Coxon [@hilbertspaess] (2026, septiembre 8). I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. [Post]. X. https://x.com/hilbertspaess/status/2097476196791709843

Joe Benton [@JoeJBenton] (2026, septiembre 11). I left Anthropic’s safety team two weeks ago. Now feels like a good moment to explain why. [Post]. X. https://x.com/JoeJBenton/status/2098480585119572317

Las ideas aquí expresadas pertenecen solo a su autor, binoticias.com las incluye en apoyo a la libertad de expresión.