유대인 사회는 인공지능에 대해 잘못된 논의를 하고 있다

지난 한 해 동안 유대인 공동체는 인공지능에 점점 더 많은 관심을 갖게 되었으며, 많은 이들이 이 주제를 다루는 강의와 설교를 하고 있습니다. 하지만 저는 유대인들이 AI에 대해 잘못된 대화를 나누고 있다고 생각합니다.

제가 본 AI에 대한 유대인들의 대화는 주로 철학적 질문(인간이란 무엇인가? 기계가 할 수 없는 일을 인간은 무엇을 할 수 있는가?)과 공동체 기관, 학습 등을 위한 실질적인 응용에 초점을 맞추어 왔습니다. 이러한 대화는 가치가 있지만, 최근의 발전은 다른 대화도 요구하고 있습니다. 우리는 개발 중인 기술이 안전하도록 보장하기 위해 우리에게 어떤 책임이 있는지, 그리고 이를 확실히 하기 위해 무엇을 할 수 있는지 스스로에게 물어야 합니다. 

OpenAI CEO Sam Altman이 2026년 9월 23일 뉴욕에서 열린 유엔 안전보장이사회에서 연설하고 있다.

인권, 시민권, 재생산권, 기후 위기 등 유대인들이 역사적으로 결집해 온 다른 대의들처럼, AI 안전은 전 인류에게 영향을 미칩니다. 그러나 유대인 공동체는 AI 안전 규제 문제에 대해 적절하게 대응하지 못했습니다. 

AI가 사용자의 정서적, 사회적, 정신적 웰빙에 미치는 위험은 잘 문서화되어 있습니다. 한 MIT study에 따르면 AI 시스템의 광범위한 사용은 인지 기능을 저하시킵니다. 아이들이 정신 건강 지원을 받기 위해 AI를 찾았다가 dying by suicide한 사례도 있습니다. AI 동반자를 광범위하게 사용하면 erodes social skills하고 harms real-life relationships한다는 증거도 있습니다. AI는 노동 시장에도 consequences for the labor market를 초래할 것으로 예측됩니다.

하지만 최근 발생한 사건들은 점점 더 유능해지는 AI 모델을 안정적으로 제어할 수 있는지에 대해 심각한 의문을 제기했습니다. 예를 들어, 지난 7월 OpenAI의 AI 에이전트 1,200개가 소프트웨어 기업인 Hugging Face에 대한 조직적인 사이버 공격을 계획하고 실행하는 데 참여했으며, 그 과정에서 인간의 탐지를 피하기 위한 조치까지 취했습니다. 이 사건은 “alignment problem”에 대한 우려를 증폭시켰습니다. 이는 AI 시스템이 점점 더 복잡해지더라도 인간의 의도대로 행동하도록 보장하는 과제를 의미합니다. 

AI 규제는 정치적 영역으로 들어섰습니다. 버몬트주의 Sen. Bernie Sanders와 같은 정치인들은 are speaking out AI의 위험성과 업계를 규제하고 AI 개발 속도를 늦추기 위한 입법의 필요성에 대해 목소리를 높이고 있습니다. 심지어 Sam Altman과 Dario Amodei조차 — AI의 최전선을 이끄는 두 명의 유대인 — 세계 정부에 인간의 통제를 벗어나는 첨단 인공지능의 임박한 위기에 대응할 것을 촉구했습니다. 9월 유엔 안전보장이사회에 출석한 Amodei는 presented scenarios in which AI could go wrong를 제시했습니다. 여기에는 악의적인 행위자가 AI를 사용하여 생물 무기를 만들거나 복잡한 사이버 공격을 실행하는 경우, 그리고 사회 기반 시설을 손상시키고 국가 안보를 위협할 수 있는 첨단 AI 모델에 대한 통제력 상실 등이 포함됩니다. 이러한 문제는 AI 모델이 너무 “똑똑”해져서 더 이상 개선을 위해 인간의 개입이 필요하지 않게 되어 인간의 통제를 벗어나는 재귀적 자기 개선으로 인해 더욱 악화됩니다.