Jacob Coxon renuncia a Anthropic y advierte que la IA podría “matarnos a todos” antes de 2030

Jacob Coxon, ingeniero de software e investigador británico especializado en el preentrenamiento de modelos de inteligencia artificial, anunció a través de su cuenta en X – antes Twitter – su renuncia a Anthropic, empresa en la que trabajó durante los últimos tres años realizando investigación relacionada con el preentrenamiento de modelos de IA.

En su publicación, Coxon advirtió sobre el potencial y los riesgos del desarrollo acelerado de esta tecnología. Señaló que los próximos sistemas podrían alcanzar capacidades sobrehumanas, con la posibilidad de hackear sistemas, transformar distintos campos de manera acelerada y adquirir acceso a recursos y poder en el mundo real.

El investigador afirmó que algunas de las personas que trabajan en el desarrollo de inteligencia artificial consideran seriamente que esta tecnología podría “matarnos a todos para finales de la década”, y aseguró que esta preocupación no representa una estrategia de marketing.

Coxon también cuestionó la carrera entre las empresas de IA por desarrollar sistemas cada vez más avanzados. Según explicó, dentro de algunas compañías existe la preocupación de que otros laboratorios no actúen de manera responsable, lo que podría llevarlas a continuar con el desarrollo pese a los riesgos que identifican.

El exinvestigador de Anthropic llamó a reconsiderar este ritmo de desarrollo y planteó la necesidad de establecer condiciones diferentes antes de avanzar hacia sistemas de inteligencia artificial potencialmente superinteligentes.

Finalmente, Coxon se mostró optimista sobre la posibilidad de alcanzar acuerdos de coordinación entre los principales laboratorios de IA, aunque advirtió que actualmente no considera que el mundo se encuentre encaminado a evitar una posible carrera global por desarrollar sistemas cada vez más capaces.