Google DeepMind lanza un instituto para ampliar el debate sobre la AGI

Los investigadores de Google y Google DeepMind lanzaron el DeepMind Institute el miércoles para avanzar en la conversación sobre la inteligencia artificial general. El instituto incluye al cofundador de DeepMind, Shane Legg, al ejecutivo de Google, James Manyika, y al presidente de Google DeepMind, Demis Hassabis, como directores, con Legg desempeñándose como editor gerente. 

El nuevo instituto tiene como objetivo dar visibilidad a los diferentes puntos de vista entre Google, Google DeepMind y la comunidad de investigación global más amplia en torno a la AGI. “No siempre estarán de acuerdo, y es probable que cambien de opinión a medida que salgan a la luz más datos e información en esta frontera que avanza rápidamente”, decía el anuncio.

La colección inaugural de cuatro ensayos abarca una serie de temas: políticas económicas para gestionar la posible disrupción de la AGI, la preservación del razonamiento del modelo legible por humanos, principios para el florecimiento humano y un marco para evaluar los modelos de IA de frontera. 

Un ensayo, de los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan, argumenta que la reducción de la ventana de transparencia de la IA —la capacidad de ver y comprobar el razonamiento paso a paso de un modelo— no es inevitable. A medida que las nuevas arquitecturas hacen que los modelos más potentes sean más difíciles de monitorear, los autores afirman que los desarrolladores y reguladores deberían abordar directamente las compensaciones de seguridad. Eso podría significar limitar la “profundidad serial opaca”—la cantidad de computación secuencial que un modelo puede realizar sin producir un rastro de razonamiento legible— o exigir a los desarrolladores que demuestren que los sistemas menos transparentes siguen siendo igual de monitoreables.