OpenAI GPT-6 Astra tiene un problema de monitoreo

OpenAI ha comenzado a implementar su modelo Astra más reciente para clientes seleccionados hoy con una advertencia: es mucho más difícil monitorear el razonamiento. 

“Según nuestras evaluaciones, GPT-6 Astra muestra una disminución sustancial en la capacidad de monitoreo de la cadena de pensamiento [CoT] en comparación con los modelos anteriores”, decía la tarjeta del modelo GPT-6 Astra. 

El modelo tiene una "capacidad de monitoreo de contexto completo significativamente menor en la mayoría de las longitudes de tokens de salida" que GPT 5.6 Sol, añadió.

Ser capaz de comprender y observar el comportamiento del modelo se ha vuelto cada vez más importante a medida que los modelos actúan con más autonomía.

También es crítico bajo algunos regímenes regulatorios.

"Estoy profundamente preocupado por la tendencia a la baja en la capacidad de monitoreo de CoT: el monitoreo de CoT es una parte central de nuestra estrategia de seguridad ante la desalineación que no tiene un buen sustituto ahora", publicó Tomek Korbak, miembro del personal técnico de OpenAI, en X.

Añadió: "Seguiremos siguiendo de cerca la capacidad de monitoreo de CoT, investigando las razones por las que está disminuyendo e intentando revertir la tendencia".