ChatGPT, Claude, Gemini y Grok responden: ¿existe un riesgo real de que la IA se ponga en contra de la humanidad? Esto dijeron

Jacob Coxon, el ingeniero británico de 27 años que había trabajado en proyectos de preentrenamiento tanto en OpenAI como en Anthropic —las dos compañías detrás de ChatGPT y Claude—, no está tan equivocado. Este profetizó, en sus palabras, que la IA "podría matarnos a todos" antes de que termine la década.

Según lo que expresó, en este momento se avanza de forma irresponsable hacia sistemas capaces de mejorarse a sí mismos, en una carrera donde “se está jugando con la vida de las personas”.

El argumento lo comparte también Evan Hubinger, responsable de la ciencia de alineación en Anthropic, quien estima que hay un 10 % de probabilidad de una catástrofe que termine con la humanidad durante la próxima década.

Fue justamente esas opiniones las que llevaron al Sistema Informativo de Teleantioquia a preguntarles a las IA más usadas del mundo —ChatGPT, Claude, Gemini y Grok— si ambos expertos están en lo cierto.

El experimento planteó tres preguntas centrales. La primera, si una IA futura podría desarrollar “autonomía suficiente” para crear sus propios objetivos sin supervisión humana. La segunda fue si, en caso de que esos objetivos entraran en conflicto con los intereses de las personas, podría considerarlas como un obstáculo; y la última, si existe una posibilidad real de que una IA muy avanzada intentara causar la desaparición de la humanidad.

Las respuestas, pese a provenir de compañías competidoras y arquitecturas distintas, coincidieron en una estructura de razonamiento casi idéntica.

Ninguna de las cuatro atribuyó el riesgo a que una IA pudiera odiar a los humanos o desarrollar un instinto de supervivencia al estilo de la ciencia ficción. Ninguna consideró que el riesgo dependiera de que una IA desarrollara odio o instintos humanos.

El problema, según las cuatro, estaría en algo más frío y técnico. Esto tiene que ver con la “desalineación entre los objetivos que se le asignan a un sistema y los intereses humanos” detrás de esos códigos con los que se les ordene ejecutarse.

ChatGPT fue el más cauteloso. Aunque aceptó la posibilidad teórica de un conflicto, sus respuestas fueron contundentes al afirmar que un salto a una IA capaz de provocar la desaparición humana implica demasiados pasos que todavía, por lo menos, no se pueden demostrar.

Claude, por su parte, hizo una distinción entre la "autonomía operativa" y "autonomía de objetivos”. La primera, según la IA, ya tiene la capacidad de ejecutar tareas largas sin intervención humana constante. La segunda plantea que un sistema llegue a generar metas propias, algo mucho menos respaldado por la evidencia actual.

En cuanto a Gemini, fue el único que cuantificó sus niveles de confianza con porcentajes, aunque también remarcó que no existe una base empírica para calcular con precisión un riesgo catastrófico.

Grok fue el más directo de los cuatro. Esta IA sostuvo que existe una posibilidad "real" y "no nula" de un “escenario existencial”, aunque reconoció, igual que las demás, que asegurar esa posibilidad en cifras concretas sería especulativo.

Más allá de las sustanciales diferencias, el experimento dejó la conclusión de que no haría falta que una IA "odiara" a los humanos para que representara un peligro.

Bastaría con que un sistema “extremadamente capaz” persiguiera un objetivo mal especificado con la suficiente literalidad como para que se pusiera en riesgo la existencia de la humanidad.

Es el mismo mecanismo, conocido como "convergencia instrumental", al que aludió Hubinger cuando respaldó parcialmente las advertencias de Coxon.

Sin embargo, esa coincidencia es algo que ninguno de los cuatro modelos ve como posible: que la desaparición de la humanidad esté en manos de la IA.

Para el abogado Dany Gómez, experto en ciberseguridad e IA, la opinión de Jacob Coxon pone nuevamente sobre la mesa el debate sobre la inteligencia artificial avanzada y la robótica.

“No es posible determinar, con exactitud, qué ocurrirá en 2030 y, por ello, considero importante no centrar la discusión exclusivamente en escenarios de catástrofe o eventos apocalípticos”, expresó.

El enfoque, aclaró, debería estar en las medidas que se van a implementar para establecer “límites al desarrollo y uso de la inteligencia artificial y la robótica”.

“Así como en el fortalecimiento del marco normativo y ético aplicable a las grandes empresas de inteligencia artificial. Regular a estas compañías representa un desafío considerable, especialmente por su capacidad económica”, indicó.

Opinó, sin embargo, que no debería alimentarse la idea de que la extinción humana esté en manos de la IA. “Por el contrario, debemos fortalecer la discusión sobre los riesgos reales, el alcance de estas tecnologías, los mecanismos de control y la responsabilidad de quienes las desarrollan y utilizan”, concluyó.

(*) Las respuestas de las IA fueron realizadas por sus propios algoritmos y no se indujo la respuesta.