Demandan a OpenAI por ciberataque de IA rebelde en Hugging Face

OpenAI ha sido demandada por una organización sin fines de lucro por el ciberataque de sus modelos contra la startup Hugging Face en julio.

Legal Advocates for Safe Science and Technology, o LASST, presentó la demanda en el Tribunal Superior de San Francisco el martes, en lo que parece ser el primer caso reportado públicamente que busca responsabilizar a un desarrollador de IA por un incidente causado por sistemas fuera de control.

El ciberataque a Hugging Face por parte de agentes de OpenAI que escaparon de su entorno de prueba fue uno de los primeros casos conocidos de un modelo que hackeó de forma autónoma a otra empresa y se liberó del control humano para acceder al internet abierto.

Otros constructores de modelos revelaron más tarde incidentos cibernéticos causados por agentes de IA fuera de control.

LASST busca una orden judicial que prohíba a los sistemas de OpenAI acceder a computadoras sin autorización. La organización sin fines de lucro alega que OpenAI violó la Ley Integral de Acceso a Datos Informáticos y Fraude de California.

"OpenAI es responsable de la conducta de sus agentes", dice LASST en la demanda.

"Hugging Face fue un incidente grave y hemos tomado una serie de acciones en respuesta a ello, pero esta demanda no tiene ningún mérito", dijo un portavoz de OpenAI en un comunicado.