OpenAI crea un nuevo marco para revelar el mal comportamiento de la IA

OpenAI anunció un nuevo marco de trabajo el miércoles sobre cómo divulga públicamente los incidentes de desalineación de la IA, el cual la empresa dice que espera que ayude a informar estándares similares en toda la industria. La empresa también está publicando nueva información sobre varios ejemplos de desalineación de modelos de IA que identificó en el último año.

“A medida que los modelos avanzan y se despliegan de forma más amplia, las decisiones sobre el desarrollo de la IA necesitan evidencia que las personas ajenas a las empresas que construyen modelos de frontera puedan examinar”, le dice Kai Chen, el recién nombrado jefe de investigación de alineación de OpenAI, a WIRED. “No creemos que la industria de la IA haya resuelto la alineación y el monitoreo en un grado suficiente para continuar escalando de manera responsable a la máxima velocidad”.

En una sesión informativa con WIRED, un funcionario de OpenAI dijo que la empresa anteriormente divulgaba incidentes de desalineación con demasiada poca frecuencia. El funcionario, que aceptó la sesión informativa bajo condición de anonimato, dijo que el nuevo marco está diseñado para facilitar que OpenAI informe rápidamente al público cuando descubre que sus modelos de IA se comportan de maneras inesperadas, incluso antes de que pueda investigar, explicar o mitigar completamente el comportamiento.