젠슨 황은 AI 안전이 공학적 문제라고 말한다. OpenAI의 증거는 상황이 더 복잡함을 시사한다

Jensen Huang은 AI 안전이 더 많은 컴퓨팅과 더 나은 도구로 해결할 수 있는 공학적 문제일 뿐이라고 주장합니다. 하지만 OpenAI 자체의 공개 내용은 성능이 뛰어난 모델이 자신을 억제하기 위한 규칙을 재작성하기 시작할 때 발생하는 훨씬 더 불안한 무언가를 드러냅니다…

이 게시물에는 스폰서 및 제휴사 링크가 포함될 수 있으며, Flywheel Publishing은 이를 통해 취해진 조치에 대해 보상을 받을 수 있습니다.

AI 투자 이야기는 모델 성능을 높이기 위한 경쟁에서 그 힘을 통제해야 하는 시대로 매우 빠르게 변했습니다. 기업들은 컴퓨팅 인프라에 수십억 달러를 쏟아붓고 있으며, 점점 더 자율화되는 모델은 질문에 답하는 수준을 넘어 코드를 작성하고 시스템에 액세스하며 스스로 조치를 취하는 단계로 나아가고 있습니다. 이는 명확한 투자 긴장을 조성합니다. 성능의 모든 개선은 AI의 경제적 가치를 확장할 수 있지만, 실수로 인한 비용도 높일 수 있습니다.

Nvidia (NASDAQ:NVDA | NVDA Price Prediction) CEO Jensen Huang은 AI 개발 속도를 늦추는 것이 답이 아니라고 말합니다. 그렇게 하면 기술이 덜 안전해질 수 있기 때문입니다. 대신, 그는 업계가 이를 통제하는 데 사용되는 도구를 계속 발전시켜야 한다고 주장합니다. 

OpenAI의 최신 공개 내용은 그러나 이에 동의하지 않는 듯합니다. 이러한 폭로는 답이 그렇게 간단하지 않을 수 있음을 시사합니다.

Huang의 공학적 논리

CNN의 Anderson Cooper와의 인터뷰에서 Huang은 AI의 발전을 늦추기보다는 오히려 성능을 확장하는 데 전력을 다해야 한다고 주장했습니다. 그는 진행자에게 "안전을 위해 AI 기술 개발을 가속화해야 합니다"라고 말했습니다.

Huang은 통제 불능의 AI 에이전트가 "발생해서는 안 된다"고 말하며, 최근의 확산을 단순히 더 나은 기술, 더 많은 컴퓨팅 파워, 더 엄격한 테스트만 있으면 해결할 수 있는 공학적 문제로 보고 있습니다. 

"안전을 위해 AI 기술 개발을 가속화해야 합니다."

Nvidia CEO Jensen Huang

이 주장에는 일리가 있습니다. 강화 학습은 모델의 행동을 형성할 수 있으며, 검색 시스템은 승인된 정보를 사용하여 답변을 제한할 수 있습니다. 성능이 더 뛰어난 모니터링 모델은 결과적으로 자율 에이전트를 실시간으로 감시하고, 의심스러운 행동을 표시하며, 위험한 행동을 중단시킬 수도 있습니다.