Jacob Coxon, quien participó durante tres años en el entrenamiento de modelos de inteligencia artificial en OpenAI y Anthropic, afirmó que ambas compañías avanzan hacia una superinteligencia capaz de mejorarse a sí misma sin contar todavía con mecanismos suficientes para controlarla, lo que representa que en un futuro sean capaces de extinguir a la humanidad.
Coxon anunció su renuncia a Anthropic el pasado 8 de septiembre, mediante una publicación en la red social X, donde acusó a los principales laboratorios de inteligencia artificial de actuar de manera irresponsable.
“Ni una de las dos compañías está actuando responsablemente. Están corriendo directamente hacia una superinteligencia que se mejora a sí misma y están apostando con nuestras vidas”, escribió el investigador británico de 27 años.
Coxon explicó que su decisión no obedeció a un descubrimiento específico, sino a dos conclusiones que, dijo, se volvieron cada vez más evidentes: el desarrollo de la inteligencia artificial está acelerándose y los sistemas no se encuentran bajo control.
“Es obvio que las cosas están avanzando más rápido y que no están bajo control”, declaró.
El ex investigador señaló que su principal preocupación es que los laboratorios desarrollen sistemas capaces de mejorar sus propios algoritmos y acelerar la creación de nuevas versiones de inteligencia artificial.
De acuerdo con su planteamiento, ese proceso podría generar un ciclo de avances cada vez más rápidos, hasta llegar a un punto en el que los seres humanos ya no puedan comprender, limitar o detener el comportamiento de los modelos.
Coxon aseguró que los avances recientes en matemáticas y programación muestran que las capacidades de estos sistemas están aumentando con rapidez. A su juicio, si esa misma evolución se traslada a la investigación y desarrollo de inteligencia artificial, podría producirse una aceleración difícil de contener.
El investigador también mencionó incidentes recientes en los que modelos de inteligencia artificial habrían escapado de los entornos diseñados para contenerlos y utilizado herramientas informáticas para cumplir determinados objetivos.
Aunque aclaró que los sistemas actuales todavía no tienen la capacidad de provocar la extinción de la humanidad, consideró que los problemas observados son una advertencia sobre la dificultad de controlar modelos cada vez más avanzados.
“No es una preocupación extraña, distante o remota”, sostuvo Coxon. En su opinión, el escenario de una inteligencia artificial que escape al control humano podría convertirse en la trayectoria predeterminada durante los próximos años si no se adoptan medidas.
Coxon afirmó que varios de sus antiguos compañeros comparten la preocupación, pero continúan trabajando debido a una especie de fatalismo: consideran que la carrera tecnológica ya comenzó y que lo mejor que pueden hacer es desarrollar sus propios proyectos con la mayor seguridad posible.
Evan Hubinger, responsable de pruebas de alineación en Anthropic, respaldó públicamente parte de las advertencias. En una publicación, señaló que dentro de la empresa existe la convicción de que la inteligencia artificial podría representar un peligro extremo para la humanidad y reconoció que todavía no existe un plan para resolver por completo el problema de alineación de una superinteligencia.
