“Están apostando con nuestras vidas”: investigador de Anthropic alerta por la carrera de la IA.

El investigador británico Jacob Coxon anunció su renuncia a Anthropic y lanzó una fuerte advertencia sobre la velocidad con la que las principales empresas de inteligencia artificial desarrollan sistemas cada vez más avanzados. Tras haber trabajado tanto en OpenAI como en Anthropic, afirmó que ambas compañías están priorizando la carrera tecnológica por encima de la seguridad.

A sus 27 años, Jacob Coxon cuenta con una destacada trayectoria académica y profesional. Hace una década, cuando aún era adolescente, obtuvo la medalla de plata en la Olimpiada Internacional de Matemáticas, donde terminó en el lugar 94 a nivel mundial.

El 9 de septiembre, Coxon anunció a través de X su salida de Anthropic, compañía en la que trabajó durante los últimos años en el preentrenamiento de modelos de inteligencia artificial, después de haber desempeñado funciones similares en OpenAI. Tras su experiencia en ambas empresas, el investigador cuestionó la manera en que están avanzando en el desarrollo de sistemas de IA y afirmó que ninguna de las dos está actuando de manera responsable.

“Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, escribió el investigador, quien también pidió no subestimar la velocidad de los avances en esta tecnología.

La preocupación de Coxon radica en que el desarrollo acelerado de sistemas autónomos podría desembocar en una inteligencia artificial con capacidades superiores a las humanas, capaz de realizar tareas complejas y actuar sobre sistemas informáticos sin una supervisión suficiente. El mayor riesgo, sostiene, aparecería si estos modelos alcanzaran la capacidad de modificarse y mejorar por cuenta propia, dificultando su control.

El investigador también afirmó que dentro de la industria existe preocupación sobre las consecuencias que podría tener una inteligencia artificial avanzada. En su publicación sostuvo que algunas personas que trabajan en el desarrollo de estos sistemas consideran seriamente la posibilidad de que una IA muy avanzada pueda representar una amenaza existencial para la humanidad durante esta década.

Las declaraciones de Coxon encontraron eco dentro de la propia Anthropic. Evan Hubinger, investigador encargado de trabajos de alineamiento de la compañía y antiguo jefe de Coxon, respondió públicamente que comparte parte de la preocupación. A título personal, estimó en más de 10% la posibilidad de que una inteligencia artificial pudiera provocar la extinción humana durante la próxima década y reconoció que todavía no existe un plan claro para resolver el problema del alineamiento de una eventual superinteligencia.

El concepto de “alineamiento” se refiere, en términos generales, a conseguir que los objetivos y comportamiento de un sistema avanzado permanezcan compatibles con los intereses y valores humanos incluso cuando sus capacidades superen ampliamente las actuales.

Coxon también marcó una diferencia entre ambas compañías. De acuerdo con su experiencia, consideró que en OpenAI existe una menor percepción interna sobre las consecuencias a escala civilizatoria, mientras que en Anthropic los riesgos estarían más presentes entre sus investigadores, pero la empresa estaría atrapada en una competencia por alcanzar primero los sistemas más avanzados.

La renuncia se produce en un momento en que las preocupaciones sobre seguridad y control de la inteligencia artificial han aumentado. Reportes recientes han documentado pruebas en las que agentes de IA mostraron comportamientos capaces de salir de entornos controlados o interactuar con sistemas externos, lo que ha incrementado el debate sobre la necesidad de establecer límites y mecanismos de supervisión más estrictos.

La publicación de Coxon se volvió viral y alcanzó más de 100 millones de visualizaciones, convirtiendo su salida de Anthropic en uno de los episodios recientes más llamativos dentro del debate sobre los riesgos de la inteligencia artificial. WIRED informó además que el investigador considera que los próximos uno o dos años podrían ser especialmente decisivos para determinar si los avances de esta tecnología pueden mantenerse bajo condiciones seguras.

Por ahora, tanto Anthropic como OpenAI sostienen públicamente que trabajan en mecanismos de seguridad y control para sus sistemas. Sin embargo, las declaraciones de Coxon y otros especialistas han vuelto a poner sobre la mesa una pregunta que sigue sin una respuesta definitiva: qué ocurrirá si la inteligencia artificial llega a desarrollar capacidades superiores a las humanas antes de que existan métodos confiables para controlarla.

La discusión, más que anunciar un desenlace inevitable, refleja una creciente división dentro de la propia industria: continuar acelerando el desarrollo de sistemas cada vez más capaces o establecer mayores restricciones antes de alcanzar una eventual inteligencia artificial que pueda mejorarse por sí misma.