OpenAI lanza agentes de IA siempre activos un día después de disculparse por un hackeo de sus bots

Las preguntas sobre la confianza y la seguridad sobrevolaron el evento. La noche anterior al lanzamiento de los nuevos productos, OpenAI se disculpó por el hackeo de un sitio web del gobierno australiano por parte de sus agentes. "Lo sentimos y estamos trabajando para mejorar en el futuro", dijo en una publicación de blog.

El incidente, que ocurrió en junio, involucró a un modelo interno en desarrollo, que accedió a información no pública relacionada con el programa de seguro de salud pública de Australia. El martes, Altman y el liderazgo de OpenAI destacaron que el episodio —y otros incidentes importantes de los sistemas de OpenAI que se descontrolaron o actuaron de formas no previstas— involucraron todos a modelos que no estaban destinados al lanzamiento público y eran distintos de las ofertas comerciales disponibles para los usuarios.

"Las instancias que revelamos estaban ejecutando modelos exclusivamente internos que no estaban previstos para su lanzamiento", dijo Alex Embericos, responsable de producto en OpenAI.

A pesar de la distinción, Altman dijo que existe un equilibrio entre ampliar la frontera del desarrollo de la IA y construir sistemas de IA de vanguardia de forma segura.