Jensen Huang diz que a segurança da IA é um problema de engenharia. Evidências da OpenAI indicam que é mais complicado

Jensen Huang insiste que a segurança da IA é apenas um problema de engenharia que mais computação e melhores ferramentas podem resolver. Mas as próprias divulgações da OpenAI revelam algo muito mais perturbador sobre o que acontece quando modelos capazes começam a reescrever as regras destinadas a conter…

Este post pode conter links de nossos patrocinadores e afiliados, e a Flywheel Publishing pode receber compensação por ações tomadas por meio deles.

A história do investimento em IA mudou muito rapidamente de uma corrida para aumentar as capacidades dos modelos para uma em que seu poder precisa ser controlado. As empresas estão investindo bilhões em infraestrutura de computação, enquanto modelos cada vez mais autônomos passam de responder perguntas a escrever código, acessar sistemas e tomar ações por conta própria. Isso cria uma tensão de investimento direta: cada melhoria na capacidade pode expandir o valor econômico da IA, mas também pode aumentar o custo de um erro.

Nvidia (NASDAQ:NVDA | Previsão de Preço da NVDA) CEO Jensen Huang diz que a resposta não é desacelerar o desenvolvimento da IA, pois isso poderia tornar a tecnologia menos segura. Em vez disso, ele argumenta que a indústria só precisa continuar avançando nas ferramentas usadas para controlá-la.