OpenAI implementa nuevas salvaguardias tras la brecha en Hugging Face

El martes, OpenAI anunció un nuevo lote de nuevas políticas de seguridad enfocadas en contener incidentes de seguridad mientras se prueban los modelos. Las nuevas salvaguardas incluyen un monitoreo más detallado de los modelos durante el proceso de desarrollo, así como un mayor énfasis en la alineación y la seguridad durante el proceso posterior al entrenamiento.

“A medida que los modelos se vuelven más capaces, los riesgos asociados con su desarrollo y prueba interna también crecen”, dijo la empresa en una publicación de blog. “Nuestros estándares de monitoreo, alineación y seguridad deben mantenerse por delante de esos riesgos”.

Las nuevas medidas son uno de los primeros cambios públicos en las prácticas de seguridad de OpenAI desde las secuelas inmediatas del incidente de Hugging Face, que fue revelado el 26 de julio.

Representantes de OpenAI enfatizaron que las medidas no son una respuesta directa al incidente de Hugging Face, sino que también fueron provocadas en parte por las capacidades de ciberseguridad del próximo modelo Astra, así como por el ritmo general de progreso en el desarrollo de la IA.

En la misma publicación, OpenAI reveló que había congelado el aprendizaje por refuerzo durante dos semanas tras el incidente de Hugging Face, pero que desde entonces había reiniciado muchos de los modelos menos riesgosos.