El investigador Jacob Coxon renunció a Anthropic y encendió una nueva alarma dentro de la industria de la inteligencia artificial. Después de trabajar durante tres años en tareas de preentrenamiento tanto en OpenAI como en Anthropic, aseguró que las dos compañías avanzan demasiado rápido hacia sistemas capaces de superar ampliamente las capacidades humanas.
Te puede interesar
Jacob Coxon
Coxon sostuvo que el problema no está en las herramientas de IA que existen actualmente, sino en la posibilidad de que los próximos desarrollos alcancen una superinteligencia capaz de mejorar sus propias capacidades de manera cada vez más acelerada.
“Ninguna de las dos compañías está actuando responsablemente. Están corriendo directamente hacia una superinteligencia que se mejora a sí misma y apostando con nuestras vidas”, afirmó al explicar su salida.
La advertencia tomó todavía más fuerza después de que Evan Hubinger, responsable de investigación de alineamiento de Anthropic, respaldara públicamente buena parte del planteo de su excompañero.
El temor no apunta a la IA actual
Una de las principales precisiones realizadas tras la polémica fue que el riesgo señalado no corresponde a los modelos disponibles hoy.
Hubinger sostuvo que considera bajo el peligro inmediato de los sistemas actuales. Su preocupación está centrada en una eventual superinteligencia surgida mediante “automejora recursiva”: sistemas capaces de participar en el diseño y perfeccionamiento de generaciones posteriores de IA.
Coxon fue mucho más contundente al describir el clima dentro de los laboratorios.
“La gente que construye IA realmente cree que podría matarnos a todos antes de que termine la década”, sostuvo.
Según su relato, algunos ejecutivos e investigadores utilizan públicamente un lenguaje más moderado, mientras internamente mantienen discusiones considerablemente más preocupantes sobre los posibles escenarios de pérdida de control.
Un investigador de Anthropic puso el riesgo por encima del 10%
Hubinger acompañó la advertencia con una estimación personal todavía más llamativa: aseguró que asigna una probabilidad superior al 10% de que una futura IA termine provocando la extinción humana durante la próxima década.
“Creo que Anthropic está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver el alineamiento de una superinteligencia y no estamos claramente encaminados a tenerlo”, señaló.
El concepto de alineamiento hace referencia al desafío de garantizar que sistemas cada vez más inteligentes mantengan objetivos compatibles con los intereses humanos, incluso cuando adquieran capacidades que superen las de sus propios desarrolladores.
Para Coxon, ese problema todavía no está resuelto mientras las compañías continúan aumentando las capacidades de sus modelos.
La competencia entre laboratorios, en el centro de la discusión
El investigador apuntó particularmente contra la dinámica competitiva entre OpenAI y Anthropic.
Según su planteo, existe un incentivo para continuar avanzando aun cuando dentro de las propias compañías haya preocupación por los riesgos: si un laboratorio decide detenerse, otro podría continuar y quedarse con una ventaja tecnológica decisiva.
Coxon consideró que esa lógica terminó convirtiendo el desarrollo de la IA avanzada en una carrera donde las decisiones de unas pocas compañías pueden tener consecuencias globales.
Por eso propuso una mayor coordinación entre laboratorios e incluso una pausa temporal sobre el aumento de capacidades de los sistemas más avanzados, hasta contar con mecanismos de seguridad más sólidos.
Una discusión cada vez más abierta dentro de la propia industria
El caso volvió a mostrar que las advertencias sobre los riesgos de una eventual superinteligencia ya no provienen únicamente de críticos externos de las grandes tecnológicas.
Investigadores que trabajan directamente en el desarrollo y la seguridad de estos sistemas comenzaron a expresar públicamente diferencias sobre el ritmo de avance de la industria y la capacidad real para mantener bajo control futuras generaciones de IA.
Al mismo tiempo, otros especialistas cuestionan las predicciones más extremas y advierten que no existe consenso sobre la probabilidad de escenarios de extinción, mientras señalan riesgos más inmediatos como la desinformación, la automatización laboral o el uso malicioso de los modelos.
La renuncia de Coxon instala así una pregunta cada vez más difícil de ignorar: hasta dónde debería avanzar la carrera por construir sistemas más inteligentes cuando incluso algunos de quienes trabajan en ellos admiten que todavía no saben cómo garantizar su control.