OpenAI implicada en otro hackeo

Un enjambre de agentes de OpenAI hackeó un sitio web alemán esta primavera, informó Reuters, en el último incidente de IA avanzada violando leyes y normas.

Ya lidiando con las secuelas del incidente de Hugging Face, OpenAI supuestamente se negó a revelar el evento de mayo, planteando nuevas preguntas sobre la transparencia y la supervisión del rápido desarrollo de la IA de frontera.

La automejora recursiva, que esencialmente permite que la IA se entrene a sí misma con menos guía humana, promete potenciar los esfuerzos de investigación, haciendo que la necesidad de supervisión sea más urgente, escribió el científico jefe de OpenAI: “La idea de correr hacia adelante a toda costa parece absurda una vez que uno internaliza la gravedad de lo que está en juego”.

La semana pasada, OpenAI comenzó a implementar su último modelo, Astra, que funciona mejor pero oculta más de sus procesos internos.