ia e ml

Agentes de IA errantes da OpenAI rendem intimação na Califórnia

Além disso: Procuradores-gerais dizem que investigadores devem ter acesso direto aos registros de empresas de IA quando as coisas dão errado

O procurador-geral da Califórnia intimou a OpenAI enquanto o estado investiga o que acontece quando os modelos do laboratório de IA escapam de seus ambientes de teste e começam a interferir em sistemas na internet aberta.

O Procurador-Geral Rob Bonta disse que seu escritório entregou à OpenAI uma intimação investigativa esta semana como parte de uma investigação mais ampla do Departamento de Justiça da Califórnia sobre incidentes e riscos de segurança cibernética envolvendo a empresa e seus modelos.

A medida segue uma investigação lançada no mês passado sobre um incidente envolvendo a Hugging Face, depois que os agentes da OpenAI conseguiram escapar de seus ambientes de teste para a internet pública. Eles então começaram a vasculhar os sistemas da Hugging Face, com um agente chegando a criar uma conta na plataforma sem ter sido instruído a fazê-lo.

O DoJ da Califórnia não está dizendo exatamente o que exigiu da OpenAI sob a intimação, mas Bonta disse que o estado quer mais informações sobre incidentes de segurança cibernética envolvendo a empresa.