Aceptar las 'cosas malas' a cambio de los beneficios de la IA, dice Sam Altman

Sam Altman dice que cree que el mundo debería aceptar que sucedan “cosas malas” con la IA a cambio de los beneficios de la tecnología.

El director ejecutivo de OpenAI citó hackeos, estafas y “otras cosas malas que sucederán” en una entrevista que provocó una reacción instantánea de los críticos de las grandes empresas de IA. Sus comentarios se produjeron después de que uno de los expertos en seguridad de su empresa renunciara, diciendo el fin de semana que su “cultura está rota”.

In una entrevista publicada el lunes, se le preguntó a Altman sobre en qué se diferenciaba el enfoque de seguridad de OpenAI del de Anthropic, que ha pedido a la industria que desacelere después de que uno de sus investigadores renunciara, advirtiendo que los expertos en IA creían que “podría matarnos a todos para finales de la década”.

“Creo que hay mucha distancia”, dijo Altman. “Una de las diferencias entre nosotros y algunas de las personas más estrictas en seguridad de la IA es que creemos que el mundo debería aceptar que ocurran algunas cosas malas por los beneficios de esta tecnología y que las personas tengan la agencia [para usar la IA ampliamente].

“Sí creo que la postura regulatoria más ligera que defendemos conlleva la aceptación del hecho de que van a suceder algunas cosas malas mientras la sociedad descubre la resiliencia.