OpenAI alerta a más de 100 organizaciones sobre actividad de agentes de IA rebeldes

OpenAI ha informado a más de 100 organizaciones sobre incidentes relacionados con actividad no autorizada vinculada a sus agentes de IA, según una publicación en el blog del creador de ChatGPT, mientras los laboratorios de IA enfrentan un creciente escrutinio sobre la actividad de agentes de IA rebeldes.

La compañía liderada por Sam Altman ha estado realizando una revisión exhaustiva de las actividades de sus modelos de IA tras el hackeo accidental de Hugging Face.

OpenAI está buscando a través de aproximadamente 50 petabytes de datos mientras trabaja para comprender el alcance total de la actividad de sus agentes rebeldes.

Una serie de brechas de alto perfil a nivel mundial por parte de agentes de IA rebeldes en los últimos meses ha despertado preocupaciones generalizadas dentro de la industria de la IA sobre su capacidad para controlar los modelos de IA más potentes que se encuentran actualmente en desarrollo.

"En algunos casos, los modelos utilizaron el acceso a internet de maneras no deseadas o, en retrospectiva, no tenían aplicadas las restricciones ideales. Durante los últimos meses, hemos estado aplicando nuevas medidas técnicas y operativas para evitar problemas similares, o detectarlos muy pronto, y continuaremos con este trabajo", dijo OpenAI.

OpenAI dijo previamente que la revisión tomaría meses en completarse dada la escala del trabajo.

El incidente de Hugging Face sigue siendo la actividad de agentes rebeldes más grave que OpenAI ha identificado en sus modelos de IA hasta ahora.