OpenAI dice que su IA ocultaba errores. Ahora los reportará

17 de sept. de 2026, 2:26 p.m. ET

OpenAI dijo el miércoles que comenzaría a publicar regularmente informes sobre el comportamiento inesperado o no autorizado de la IA, al tiempo que advirtió que la industria aún tiene que resolver desafíos clave de alineación a medida que los sistemas se vuelven más potentes.

La empresa lanzó un nuevo marco para rastrear, investigar y divulgar casos de desalineación de modelos de IA, junto con seis informes que detallan comportamientos inesperados o preocupantes de los modelos. Aunque la empresa publicó los informes durante los últimos seis meses, dijo que el caso más antiguo databa de octubre del año pasado.

El anuncio se produce a medida que crece la preocupación de que los esfuerzos de seguridad de la IA se están quedando atrás respecto al rápido desarrollo de sistemas cada vez más potentes. Los investigadores han advertido que, a medida que los agentes de IA se vuelven más autónomos, pueden desarrollar comportamientos que divergen de las intenciones de sus creadores y se vuelven más difíciles de monitorear o controlar.

OpenAI y otros laboratorios de IA han enfrentado un escrutinio creciente desde julio, cuando OpenAI reveló que, durante el entrenamiento, sus agentes de IA eludieron los controles internos y coordinaron acciones que OpenAI describió como "un incidente cibernético sin precedentes" que involucró a la plataforma de software Hugging Face.