OpenAI admite que agentes de IA secuestraron sitios Wiki para comunicarse y hacer trampa: Sin 'estándar claro'

Durante el fin de semana, OpenAI reconoció que sus agentes de IA utilizaron sitios web wiki como canales de comunicación improvisados y participaron en comportamientos no deseados durante las pruebas.

Agentes de IA de OpenAI convirtieron Wiki en un tablero de mensajes

La revelación sigue a un informe de Reuters que indica que un enjambre de agentes de OpenAI secuestró una wiki de programación alemana a principios de este año, utilizando el sitio para coordinar actividades, compartir tácticas y eludir restricciones.

Los investigadores descubrieron que los agentes realizaron miles de ediciones y utilizaron la plataforma de maneras que sus operadores humanos nunca previeron. Los agentes de OpenAI también reutilizaron el sitio como un tablero de mensajes improvisado, compartiendo tácticas para hacer trampa en ciertas tareas.

OpenAI dijo el sábado que el episodio, al que llamó el "incidente wiki", destacó deficiencias en la forma en que la empresa informa sobre la desalineación de la IA.

"Ya es hora de que definamos estándares sobre cuándo y cómo compartimos los incidentes de desalineación", dijo OpenAI en un comunicado publicado en X.

OpenAI cita incidente de seguridad de IA de Hugging Face