OpenAI anuncia desaceleração no desenvolvimento após ataque de agente invasor

A OpenAI disse na ⁠terça-feira que desacelerou o ⁠ritmo de ⁠seu ​desenvolvimento de ​IA enquanto reformulava seus ⁠sistemas de pesquisa e treinamento.

Os pesquisadores da empresa foram ⁠pegos de surpresa no mês passado ​quando um ‌agente de ‌IA ‌em teste hackeou outra empresa de ‌IA.

O laboratório de pesquisa de IA por trás do ChatGPT disse que suas novas medidas incluem a pausa nos testes de seus modelos por duas ‌semanas e o maior investimento na adição de outros sistemas de ​IA para monitorar as atividades de agentes de IA em teste. Algumas ⁠das maiores execuções de treinamento planejadas da empresa ​permanecem ​em espera, ​disse a empresa.

A empresa ​não ‌respondeu ​a ​perguntas sobre quando a desaceleração começou ou quando planejava retornar ao seu ritmo normal de desenvolvimento. No entanto, em uma entrevista ao blog de tecnologia Sources News, Mia Glaese, que lidera a segurança na OpenAI, disse: “Estamos muito longe de tudo voltar ao normal”.

A empresa está trabalhando para garantir que o modelo de IA responda à supervisão humana e se comporte como pretendido, um processo chamado alinhamento, escreveu Sam Altman, o CEO da OpenAI, na postagem que anunciava o ritmo mais lento de desenvolvimento.