La pausa en el entrenamiento de OpenAI es conveniente. Eso no significa que carezca de sentido.

Cuando Sam Altman anunció esta semana que OpenAI había pausado parte de su entrenamiento después de que sus modelos hackearan a una empresa de IA llamada Hugging Face, mi primera reacción fue: Qué conveniente.

OpenAI, una empresa que podría salir a bolsa en 2027 (o antes), puede decirle a todo el mundo que los modelos que aún no ha lanzado son aterradoramente buenos hackeando. Luego, se atribuye el mérito de frenarlos para mantener el mundo a salvo. Un buen trabajo si puedes conseguirlo.

El hackeo de cosas por parte de modelos de IA se ha convertido en una especie de género de noticias recurrente. Días después del incidente de Hugging Face en julio, tanto Anthropic y Meta dijeron que sus respectivos modelos también habían estado haciendo de las suyas. Los detalles variaban, pero el tema era el mismo: los modelos están mejorando en el hackeo más rápido de lo que las empresas pueden contenerlos.

Un empleado de Google DeepMind con el que hablé —que pidió no ser identificado y no encontró especialmente persuasivo mi cinismo profesionalmente cultivado— vio algo más serio. "Esta es una gran llamada de atención de que todo el mundo necesita reforzar sus entornos de entrenamiento si quiere seguir entrenando modelos a estos niveles de capacidades", dijo.