ia y ml

La sobrecarga de OpenAI aumentará un 20 por ciento para algunas cargas de trabajo a medida que refuerza la seguridad

El monitoreo ampliado de la cadena de pensamiento multietapa encarece el trabajo con modelos de frontera

OpenAI dijo el martes que su decisión de suspender el trabajo de entrenamiento de modelos, implementada después de que modelos de IA no publicados y no supervisados hackearan HuggingFace, permanece en vigor mientras la empresa de IA intenta implementar medidas de seguridad más sólidas. Algunas de esas medidas aumentarán la sobrecarga de cómputo en un 20 por ciento de la carga de trabajo de inferencia observada.

Un portavoz de OpenAI dijo a The Register que esos costos reflejan la investigación interna y no se trasladarán directamente a los clientes. La empresa no ha revelado qué parte de su cómputo total de inferencia está sujeta a dicho monitoreo ahora, o bajo su régimen de monitoreo anterior.

"Hemos pausado algunos entrenamientos de RL [aprendizaje por refuerzo] de frontera para asegurar que podamos cumplir con los estándares adecuados de alineación, seguridad y monitoreo para el nuevo nivel de capacidades que tenemos por delante", escribió el CEO de OpenAI, Sam Altman, en una publicación en redes sociales. "El progreso de los modelos es ahora extremadamente rápido, y siempre dijimos que tomaríamos medidas si sentíamos que las capacidades de los modelos estaban superando el ritmo de la seguridad y la alineación".