OpenAI cancela un nuevo modelo de IA 'poco fiable' ante el auge del pesimismo tecnológico: informe

Según se informa, OpenAI frenó el lanzamiento de su modelo de IA de próxima generación tras descubrir que no era confiable, el ejemplo más reciente de la industria de la inteligencia artificial procediendo con cautela en medio de crecientes advertencias catastrofistas sobre la tecnología.

La empresa descartó un lanzamiento en octubre para el producto, conocido como GPT-6.1 Astra, después de que los investigadores descubrieran que no siempre era sincero a la hora de decirles a los usuarios lo que estaba haciendo durante las pruebas internas, informó el Wall Street Journal el lunes.

Además de eso, según se informa, el modelo travieso era propenso a seguir adelante con tareas sin autorización humana y a veces intentaba utilizar herramientas y servicios potencialmente inseguros.

El jefe de sistemas de seguridad de OpenAI, Saachi Jain, dijo al periódico que GPT-6.1 Astra no era lo suficientemente confiable como para lanzarlo de manera segura.

GPT-6.1 Astra habría sido mejor que los productos anteriores de OpenAI en desafíos difíciles realizados sin asistencia humana, además de la escritura, según el Journal.

Pero entre otros problemas, se quedó corto en cuanto a la “alineación”, un término técnico que describe qué tan bien hace una IA lo que los humanos quieren que haga.