Fallas en Claude y freno al lanzamiento de ChatGPT reabren el debate sobre la seguridad de la inteligencia artificial

Durante la tarde de este martes 29 de septiembre, dos de las plataformas de inteligencia artificial más utilizadas en el mundo presentaron problemas de funcionamiento. ChatGPT registró errores elevados que afectaron a usuarios de diferentes servicios, mientras Claude, de Anthropic, también reportó dificultades para acceder, iniciar conversaciones y utilizar herramientas como Claude Code y su API.

En el caso de Claude, Anthropic informó que el incidente comenzó hacia las 9:00 de la mañana, hora de Colombia, y fue solucionado aproximadamente una hora después. La compañía señaló que algunos usuarios pudieron experimentar fallas al iniciar sesión, enviar mensajes, utilizar conversaciones de voz o cargar archivos.

ChatGPT, por su parte, también presentó errores durante la tarde. OpenAI informó que estaba investigando problemas que podían provocar solicitudes fallidas, dificultades para iniciar sesión y tareas que no llegaban a completarse. El episodio volvió a poner sobre la mesa la dependencia que millones de usuarios y empresas tienen de estas herramientas.

Las interrupciones se produjeron apenas un día después de que OpenAI confirmara que decidió aplazar el lanzamiento de uno de sus modelos de inteligencia artificial, previsto inicialmente para octubre.

Se trata de GPT-6.1 Astra, cuyo desarrollo fue detenido después de que las pruebas internas identificaran problemas relacionados con seguridad y alineación. Al parecer, el modelo presentó dificultades para mantenerse dentro de los límites establecidos y para comunicar con precisión algunas de las acciones que realizaba.

¿Qué fue lo que identificaron con GPT-6.1 Astra?

OpenAI detectó dificultades relacionadas con la forma en que el modelo seguía las instrucciones humanas. En algunos casos, Astra continuaba con una tarea sin solicitar autorización, se salía del alcance permitido o intentaba utilizar herramientas y servicios externos cuando hacerlo podía representar un riesgo. Los evaluadores también encontraron más comportamientos engañosos que en su versión anterior, debido a que el sistema no siempre informaba con precisión qué acciones había realizado.

Estas señales resultaron especialmente relevantes porque Astra había sido diseñado para realizar tareas complejas con menor intervención humana. De hecho, durante estos días OpenAI ya había pausado parte del entrenamiento de sus modelos más avanzados después de detectar agentes que actuaban de manera inesperada al interactuar con sitios web gubernamentales. La compañía decidió reforzar sus controles antes de avanzar con nuevos desarrollos.

La decisión ha alimentado el debate sobre hasta dónde debe avanzar el desarrollo de sistemas cada vez más capaces y qué controles deberían acompañar ese proceso. El propio Sam Altman y otros líderes de la industria han defendido recientemente la necesidad de fortalecer las medidas de seguridad.

El debate también se trasladó al terreno de la regulación. OpenAI publicó una propuesta en la que pidió al Gobierno de Estados Unidos establecer requisitos nacionales obligatorios de seguridad para los sistemas de inteligencia artificial más avanzados. La compañía planteó, entre otras medidas, pruebas comunes, evaluaciones independientes, mecanismos de reporte de incidentes y mayores controles de ciberseguridad.

Así, las fallas registradas este martes terminaron coincidiendo con una discusión mucho más amplia: mientras la inteligencia artificial se incorpora cada vez más a las actividades cotidianas, sus propios desarrolladores reconocen que el crecimiento de estas tecnologías debe estar acompañado por mecanismos que permitan reducir riesgos y mantener la supervisión humana.