Los laboratorios de IA quieren auditores internos, pero quizá primero deberían cerrar la puerta principal

El pasado fin de semana, después de que uno de sus investigadores dimitiera por temor a que la IA pudiera conducir a la extinción humana, el CEO de Anthropic, Dario Amodei, escribió sobre la necesidad de que organizaciones externas “verifiquen el cumplimiento de las prácticas y compromisos de seguridad, informen de incidentes y ayuden a evaluar la alineación no solo de los modelos de IA terminados, sino también de los procesos y canales de entrenamiento”. Ejecutivos de OpenAI, Google y SpaceXAI ya se han unido en torno al plan de Amodei, que se ha convertido rápidamente en un pilar central del emergente impulso por la seguridad de la IA.

Pero puede haber una solución más sencilla y eficaz a plena vista. Los expertos en seguridad de internet afirman que los laboratorios deben centrarse en los aspectos básicos de la seguridad de la red, como los registros y los permisos, aplicando las mismas defensas rigurosas que aplican a los usuarios humanos. No es tan emocionante como el trabajo de auditoría y alineación de terceros, pero puede acabar siendo más eficaz.

“Para mí, parece que están subcontratando”, dijo Kate Moussoris, CEO de Luta Security, a TechCrunch sobre la propuesta de Amodei. “Decir [que una auditoría de terceros] es la solución es una propuesta extraña desde mi perspectiva. Sería lo mismo que si, en lugar de escribir el Memorando de Computación Confiable, Microsoft hubiera dicho: vamos a ralentizar el desarrollo”.