"La IA podrá matarnos a todos al final de esta década”, advierte un ingeniero que trabajó para OpenAI y Anthropic

Londres/El ingeniero británico Jacob Coxon, que trabajó durante los últimos tres años para OpenAI y posteriormente para Anthropic, anunció su dimisión tras acusar a las dos compañías de no actuar “con responsabilidad” ante los riesgos que, a su juicio, plantea el rápido desarrollo de la inteligencia artificial.

Coxon, de 27 años y especializado en ingeniería de software, aseguró en una extensa publicación en X que quienes trabajan en los sistemas de IA más avanzados manejan escenarios en los que esta tecnología podría llegar a representar una amenaza existencial para la humanidad antes de que termine la década.

“No hay otra actividad humana que suponga este nivel de amenaza”, afirmó el ingeniero, identificado por varios medios como uno de los desarrolladores que participó en los modelos GPT-4o y GPT-4.5 de OpenAI, aunque nunca ocupó cargos ejecutivos en la empresa.

Anthropic comprende mejor los riesgos, pero se encuentra “atrapada en la carrera por llegar primero”.

En su mensaje, Coxon sostiene que se está subestimando la velocidad a la que avanzan estos sistemas. Los actuales proyectos de inteligencia artificial, advierte, podrían convertirse pronto en herramientas “sobrehumanas”, capaces de vulnerar sistemas informáticos, transformar numerosos sectores económicos y acumular recursos y capacidad de decisión.

El ingeniero asegura que tanto OpenAI, creadora de ChatGPT, como Anthropic son conscientes de estos riesgos, aunque establece diferencias entre ambas compañías. Según su valoración, en OpenAI “tal vez no han internalizado en profundidad los retos civilizacionales”, mientras que Anthropic los comprende mejor pero se encuentra “atrapada en la carrera por llegar primero”.

Incluso en el escenario más favorable, añade, esa competencia consiste en tratar de desarrollar antes que los rivales sistemas cada vez más potentes con la intención de utilizarlos de manera responsable, una dinámica que Coxon considera insuficiente para garantizar la seguridad.

“Jacob tiene razón aquí. Realmente creemos con sinceridad que la IA podría matar a todos los humanos”

Como alternativa, propone una mayor coordinación entre las empresas y los laboratorios dedicados al desarrollo de inteligencia artificial. Ante la ausencia de esa cooperación, defiende medidas más drásticas, entre ellas una suspensión temporal de los avances destinados exclusivamente a aumentar las capacidades de los modelos.

Coxon dirigió además varias preguntas a sus antiguos colegas del sector sobre las consecuencias de desarrollar sistemas de aprendizaje por refuerzo cada vez más avanzados sin comprender plenamente su funcionamiento interno.

“¿Van a bajar la cabeza porque ‘total, ya está ocurriendo’, o aprovechar este momento para abogar por condiciones diferentes?”, escribió.

Sus advertencias fueron respaldadas parcialmente por Evan Hubinger, investigador de Anthropic, quien respondió al hilo de Coxon y aseguró que dentro de la empresa se toman en serio los escenarios extremos asociados al desarrollo de una inteligencia artificial muy superior a las capacidades humanas.

“Jacob tiene razón aquí. Realmente creemos con sinceridad que la IA podría matar a todos los humanos”, escribió Hubinger, quien situó personalmente por encima del 10% la probabilidad de un desenlace de ese tipo durante la próxima década.

El investigador aclaró, sin embargo, que considera reducido el peligro de los modelos disponibles actualmente. Su principal preocupación se refiere a una eventual superinteligencia capaz de mejorar de forma recursiva sus propias capacidades, un proceso que, según afirmó, estaría avanzando más rápido de lo previsto.

Uno de los casos más conocidos es el de Geoffrey Hinton, uno de los pioneros de las redes neuronales modernas y ganador del Nobel de Física

Coxon se suma así a otros especialistas que han abandonado grandes compañías tecnológicas para advertir públicamente sobre los riesgos de la inteligencia artificial.

Uno de los casos más conocidos es el de Geoffrey Hinton, uno de los pioneros de las redes neuronales modernas y ganador del Nobel de Física, que dejó Google en 2023 para poder hablar con mayor libertad sobre los peligros de esta tecnología.

En 2024, un grupo de antiguos empleados de OpenAI y otras empresas del sector publicó también una carta abierta en la que denunciaba la falta de mecanismos de supervisión y de protección para los trabajadores que quisieran alertar sobre posibles riesgos asociados al desarrollo de sistemas avanzados de inteligencia artificial.