“La IA puede matarnos a todos al final de la década”: ingeniero de Antrophic se suma a las alertas
El ingeniero Jacob Coxon renunció a Anthropic. Su mensaje: quienes construyen IA "creen sinceramente que podría matarnos a todos al final de esta década". Sus colegas lo respaldan: el riesgo supera el 10% actualmente.
El ingeniero británico Jacob Coxon, de 27 años, abandonó esta semana su puesto en la compañía Anthropic y lanzó una advertencia que ha resonado en toda la industria tecnológica: los propios creadores de inteligencia artificial temen que la tecnología pueda “matarnos a todos al final de esta década”.
Durante tres años, Coxon participó en el desarrollo de modelos de lenguaje en OpenAI y, posteriormente, en Anthropic. Su salida de esta última fue acompañada de un extenso mensaje en su cuenta de X. En él sostiene que ambas compañías “no están actuando con responsabilidad” y que “están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”.
Medios especializados identifican a Coxon como uno de los desarrolladores de GPT-4o y GPT-4.5, aunque sin funciones ejecutivas. Coxon insiste en que el temor que expresan los técnicos no responde a una estrategia de relaciones públicas. “En privado, los mismos ejecutivos que en público suenan moderados confiesan su inquietud”, señaló. “Ninguna otra actividad humana representa este nivel de peligro.”
El ingeniero subraya que el peligro es tangible. A su juicio, las inteligencias artificiales “pronto serán sistemas sobrehumanos” con capacidad para infiltrarse y hackear cualquier red, transformar industrias enteras en cuestión de horas y acumular poder y recursos efectivos. Según su diagnóstico, el progreso no se está desacelerando y la industria avanza sin una comprensión rigurosa de lo que está construyendo.
Coxon establece un contraste entre ambas organizaciones. En OpenAI, sostiene, la dimensión civilizatoria del problema no ha calado con suficiente profundidad. En Anthropic, por el contrario, son plenamente conscientes del riesgo de desarrollar este tipo de IA, pero “están atrapados en la carrera por llegar primero”.
Otras voces que advierten la catástrofe
El respaldo a las advertencias de Coxon en torno a la IA llegó desde la propia Anthropic. Evan Hubinger, investigador de la compañía y superior del ingeniero, publicó en X: “Jacob está en lo cierto. En la industria creemos de verdad que la IA podría acabar con la humanidad. Mi estimación personal es que la probabilidad supera el 10% en la próxima década”.
Hubinger añadió que Anthropic “está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”. No obstante, matizó que el riesgo de los modelos actuales es bajo, y que su preocupación se centra en “la superinteligencia que surge del automejoramiento recursivo”, un fenómeno que, según reconoció, “está ocurriendo más rápido de lo que pensábamos”.
Samuel Marks, a cargo de la supervisión escalable en Anthropic, también se pronunció. En su cuenta personal, el investigador reconoció que los desarrolladores “creen que su tecnología podría provocar la extinción humana o consecuencias igualmente graves” y observó una correlación: “a mayor responsabilidad en la empresa, mayor preocupación”.
Marks apunta a dos factores para explicar esta paradoja: por un lado, los intereses comerciales; por otro, la convicción de que están compitiendo con otras empresas menos escrupulosas. “Muchos empleados del sector anhelan un freno para poder desarrollar la IA con mayores garantías”, agregó.
El propio consejero delegado de Anthropic, Dario Amodei, ha advertido en múltiples ocasiones que la carrera por crear una IA cada vez más poderosa podría desembocar en un error catastrófico. “Es un problema de ingeniería complejo y creo que algo saldrá mal en algún sistema de IA de alguna empresa. Ojalá no en el nuestro”, declaró al New York Times en febrero pasado.
Una regulación estancada, a pesar de las alertas
El caso de Coxon se inscribe en una larga serie de advertencias desde dentro de la industria. En 2023, Geoffrey Hinton, ganador del Premio Nobel de Física y considerado uno de los padres de la IA, renunció a su puesto en Google para poder criticar libremente los riesgos de la tecnología sin las cortapisas corporativas. En 2024, un grupo de exempleados de OpenAI publicó una carta abierta expresando su preocupación por el rápido desarrollo y la ausencia de leyes que protejan a los denunciantes.
A finales de agosto, más de un centenar de empresas —entre ellas OpenAI, Anthropic, Microsoft y Amazon— suscribieron un manifiesto público en el que reclamaban medidas coordinadas para afrontar los desafíos de una eventual superinteligencia. Solo dos días antes de la dimisión de Coxon, Jakub Pachocki, científico jefe de OpenAI, advirtió que las capacidades de IA están avanzando más rápido que la capacidad de los investigadores para monitorearlas y controlarlas de manera fiable.
El director ejecutivo de OpenAI, Sam Altman, ya había señalado en julio pasado que “quizás debamos dosificar el ritmo de avance de la IA para que la sociedad pueda adaptarse progresivamente a estas nuevas capacidades”.
Pese a la sucesión de alertas, la regulación en Estados Unidos se encuentra estancada. El Ejecutivo de Trump ha impulsado medidas para desmantelar normativas estatales sobre IA, y el Legislativo no ha mostrado interés en abordar el asunto. El argumento recurrente es que cualquier esfuerzo por regular la tecnología supondría una capitulación ante China, que —según se repite— no estaría sujeta a las mismas restricciones.
El secretario del Tesoro, Scott Bessent, aseguró esta semana a Breitbart que la administración continuará invirtiendo en IA para no perder la carrera frente a China.
La Casa Blanca ha avanzado hacia un marco voluntario para revisar ciertos modelos de IA antes de su lanzamiento: según fuentes consultadas por CNN, representantes de OpenAI, Anthropic, Google y Meta participaron en una reunión el mes pasado para definir estos estándares. Sin embargo, los detalles no serán públicos y muchas de las directrices serán clasificadas.
