Connor Leahy de ControlAI sobre por qué la superinteligencia «no es un arma, es un adversario»

Las empresas de IA han estado hablando de la IA superinteligente como si fuera inevitable, pero incidentes de seguridad recientes como la brecha de Hugging Face de OpenAI están demostrando los peligros potenciales de desplegar sistemas de IA que son más capaces que los humanos. Entonces, ¿qué sucede cuando no podemos controlar de manera confiable lo que hacen estos sistemas?

En este episodio del podcast Equity de TechCrunch, Rebecca Bellan se une a Connor Leahy, investigador de IA, emprendedor y ahora Director Ejecutivo en EE. UU. de la organización sin fines de lucro ControlAI, que está impulsando un enfoque mucho más radical para la seguridad de la IA: detener por completo el desarrollo de la superinteligencia por parte de las empresas. Leahy explica por qué cree que los riesgos se han vuelto demasiado grandes para gestionarlos solo mediante la alineación y la contención, y cómo lo que sonaba descabellado hace seis meses ahora está siendo respaldado por una ola de nueva legislación.

Escucha el episodio completo para saber más sobre:

• Cómo ve a los laboratorios de IA de frontera menos como empresas que simplemente buscan beneficios y más como actores políticos, y lo que eso significa para los billones de dólares que se están invirtiendo en la construcción de centros de datos.