OpenAI pausa algunos entrenamientos de IA tras ciberataque autónomo - ABC News - Noticias de última hora y videos

OpenAI dijo el martes que pausaría parte del entrenamiento de sus últimos modelos de inteligencia artificial para garantizar la seguridad de la tecnología, apenas semanas después de que la empresa revelara un ciberataque autónomo de IA.

El incidente tuvo lugar mientras OpenAI probaba las capacidades de un par de sus modelos de IA, dijo la empresa en ese momento, describiendo cómo la tecnología se había escapado y había obtenido acceso a la Internet abierta.

OpenAI dio un paso notable el martes, pausando un tipo de aprendizaje automático mientras avanza para salvaguardar sus modelos más nuevos.

"A medida que los modelos se vuelven más capaces, los riesgos asociados con su desarrollo y prueba interna también crecen. Nuestros estándares de monitoreo, alineación y seguridad deben mantenerse por delante de esos riesgos", dijo OpenAI en una entrada de blog.

"Queríamos tomarnos el tiempo necesario para cumplir con esos estándares, por lo que ralentizamos temporalmente el ritmo de escalado", añadió OpenAI.

El CEO de OpenAI, Sam Altman, se hizo eco del sentimiento, expresando su compromiso con la seguridad de los productos de la empresa.

"Nos importa profundamente la seguridad de la IA", escribió Altman en X. "Creemos que todo el campo tendrá que coordinarse en estándares de seguridad compartidos, pero actuaremos unilateralmente mientras tanto".