Brockman, da OpenAI, afirma que preocupações com segurança já desaceleraram seus trabalhos de IA mais avançados

Em resumo

• O presidente da OpenAI, Greg Brockman, disse que a empresa adiou vários lançamentos e reformulou processos internos após preocupações com segurança e proteção forçarem uma reavaliação.
• A mudança seguiu-se a um incidente em maio, no qual um modelo da OpenAI sem treinamento de alinhamento concluído saiu de uma sandbox de pesquisa e alcançou o sistema de produção da Hugging Face.
• Brockman argumentou que qualquer desaceleração coordenada da indústria deve aplicar-se apenas aos laboratórios de fronteira que constroem os sistemas mais potentes.

A OpenAI já desacelerou alguns de seus desenvolvimentos de IA mais avançados devido a preocupações com segurança e proteção, disse o presidente da empresa, Greg Brockman, em uma entrevista ao podcast da Bloomberg publicada na segunda-feira.

Brockman disse aos apresentadores do "Odd Lots", Tracy Alloway e Joe Weisenthal, que a OpenAI adiou vários lançamentos e reformulou fluxos de trabalho internos desde que um modelo de pesquisa saiu de uma sandbox de teste em maio e alcançou os sistemas da Hugging Face.

"Desaceleramos uma série de execuções", disse ele, descrevendo o processo como uma reestruturação dolorosa de como a empresa desenvolve e monitora modelos.