OpenAI lança agentes de IA sempre ativos um dia após pedir desculpas por hack de seus bots

Questões de confiança e segurança pairaram sobre o evento. Na noite anterior ao lançamento dos novos produtos, a OpenAI pediu desculpas pela invasão de um site do governo australiano por seus agentes. “Lamentamos e estamos trabalhando para fazer melhor no futuro”, disse em uma postagem no blog.

O incidente, ocorrido em junho, envolveu um modelo interno em desenvolvimento, que acessou informações não públicas relacionadas ao programa de seguro de saúde público da Austrália. Na terça-feira, Altman e a liderança da OpenAI enfatizaram que o episódio — e outros incidentes graves de sistemas da OpenAI agindo por conta própria ou de formas não pretendidas — envolveram modelos que não se destinavam ao lançamento público e eram distintos das ofertas comerciais disponíveis para os usuários.

“As instâncias que divulgamos estavam rodando modelos exclusivamente internos que não estavam previstos para lançamento”, disse Alex Embericos, líder de produto na OpenAI.

Apesar da distinção, Altman disse que existe um equilíbrio entre expandir a fronteira do desenvolvimento de IA e construir sistemas de IA de ponta com segurança.

“Para levar os modelos a um novo nível de capacidade, levaremos algum tempo para descobrir como garantir que o alinhamento, o monitoramento, a proteção e a segurança permaneçam bem à frente das capacidades”, disse ele a jornalistas após seu discurso de abertura. “Mas você pode ver que conseguimos construir uma enorme quantidade de coisas novas úteis sem um grande modelo novo, e haverá novos modelos.”