“Puede matarnos antes de 2030”: el polémico mensaje de investigador de Anthropic que encendió el debate sobre la IA
Jacob Coxon renunció a la compañía y cuestionó la carrera de las grandes empresas tecnológicas por desarrollar una superinteligencia.
Jacob Coxon también trabajó anteriormente en OpenAI. Foto: tomada de redes sociales @hilbertspaess
En las últimas horas ha causado polémica el mensaje publicado en X por Jacob Coxon, un investigador que anunció su renuncia a Anthropic y lanzó una fuerte advertencia sobre el futuro de la inteligencia artificial. Según Coxon, quienes desarrollan estos sistemas saben que existe un riesgo de que la tecnología termine representando una amenaza para la humanidad.
Coxon, quien también trabajó anteriormente en OpenAI, cuestionó la competencia entre las principales compañías de inteligencia artificial por desarrollar sistemas cada vez más avanzados. A su juicio, esa carrera estaría dejando en segundo plano las medidas necesarias para garantizar que la tecnología permanezca bajo control humano.
El investigador aseguró además que el desarrollo de una eventual superinteligencia capaz de mejorarse a sí misma representa uno de los mayores riesgos de la actualidad. Sus declaraciones rápidamente se viralizaron en X y generaron reacciones dentro y fuera de la industria tecnológica.
Anthropic abre el debate sobre la IA
Uno de los elementos que más llamó la atención fue la respuesta de Evan Hubinger, investigador de Anthropic especializado en alineamiento de inteligencia artificial. Hubinger respaldó públicamente la preocupación de Coxon y estimó que existe, desde su perspectiva personal, una probabilidad superior al 10 % de que la IA provoque una catástrofe que termine con la humanidad durante la próxima década.
Sin embargo, esa cifra corresponde a una estimación personal de Hubinger, no a una predicción oficial de Anthropic. El investigador también precisó que su principal preocupación está relacionada con una futura superinteligencia surgida mediante procesos de automejora, y no con los modelos actuales.
La polémica ocurre en un contexto en el que Anthropic reconoce oficialmente que los sistemas de IA cada vez más capaces pueden presentar riesgos graves y ha establecido mecanismos para evaluarlos antes de desplegar sus modelos. Su Política de Escalamiento Responsable contempla medidas específicas frente a riesgos potencialmente catastróficos.
¿Qué preocupa a los investigadores?
El concepto central en esta discusión es el alineamiento: conseguir que los sistemas de inteligencia artificial actúen de acuerdo con objetivos y principios compatibles con los intereses humanos.
Anthropic mantiene actualmente una hoja de ruta de seguridad que incluye precisamente el desarrollo de mecanismos de alineamiento, salvaguardas y políticas para enfrentar los riesgos asociados con modelos cada vez más avanzados.
Por ahora, las declaraciones de Coxon y Hubinger representan advertencias y estimaciones de investigadores, no una confirmación de que la inteligencia artificial vaya a provocar la extinción humana antes de 2030. Lo que sí reavivaron es una discusión que lleva años dentro de la industria: hasta dónde debe llegar la carrera por desarrollar sistemas cada vez más poderosos y qué tan preparados están sus creadores para controlar sus posibles riesgos.