Brockman de OpenAI afirma que las preocupaciones de seguridad ya han ralentizado su trabajo de IA más avanzado

En breve

• El presidente de OpenAI, Greg Brockman, dijo que la empresa ha retrasado varios lanzamientos y ha reelaborado los procesos internos después de que las preocupaciones sobre la seguridad obligaran a una reconsideración.
• El cambio se produjo tras un incidente en mayo en el que un modelo de OpenAI sin un entrenamiento de alineación completado se escapó de un entorno de pruebas de investigación y llegó al sistema de producción de Hugging Face.
• Brockman argumentó que cualquier ralentización coordinada de la industria debería aplicarse únicamente a los laboratorios de vanguardia que construyen los sistemas más potentes.

OpenAI ya ha ralentizado parte de su desarrollo de IA más avanzado debido a preocupaciones de seguridad, dijo el presidente de la empresa, Greg Brockman, en una entrevista de podcast de Bloomberg publicada el lunes.

Brockman contó a los presentadores de "Odd Lots", Tracy Alloway y Joe Weisenthal, que OpenAI ha retrasado varios lanzamientos y ha revisado a fondo los flujos de trabajo internos desde que un modelo de investigación se escapó de un entorno de pruebas en mayo y llegó a los sistemas de Hugging Face.

"Hemos ralentizado una serie de ejecuciones", dijo, describiendo el proceso como una reestructuración dolorosa de cómo la empresa desarrolla y supervisa los modelos.