유럽은 인공지능에 대한 진정한 안심을 제공하기 위해 여전히 더 많은 조치가 필요함

인공지능 기업의 CEO들은 자신들의 모델에 대한 통제력을 상실할 위험이 있다는 결론을 내린 것으로 보입니다. Anthropic의 최고경영자 Dario Amodei는 업계의 속도 조절을 촉구했으며, 그의 동료 중 일부도 이에 동의합니다. 유럽연합(EU)의 입장에서 이는 자신들의 입법적 접근 방식이 옳았음을 입증하는 것일 수 있습니다. EU 법은 이미 프런티어 AI 기업들이 통제력 상실 위험을 평가하도록 의무화하고 있습니다. 이는 EU가 보호 장치를 마련해 두었으며 불의의 상황에 대비하고 있다는 것을 암시합니다.

하지만 그러한 자신감은 잘못된 것입니다. AI 법(Regulation (EU) 2024/1689)은 점진적으로 시행되고 있는 구속력 있는 규칙들을 포함하고 있습니다. 그러나 이 규칙들은 모든 AI 위험에 대처하기에는 불충분하며, 현재 EU의 수단으로는 집행하기가 거의 불가능합니다.

가장 최근에 유럽 위원회는 범용 AI 제공업체를 조사하고, 시정 조치를 명령하며, 시스템적 위험을 해결하지 못할 경우 전 세계 매출의 최대 3%까지 과징금을 부과할 수 있는 권한을 얻었습니다. AI 애플리케이션을 다루는 대부분의 다른 규칙은 아직 발효되지 않았으며, 주로 국가 당국이 집행하게 됩니다. 2 December 2027부터 국가 당국은 구직 후보자를 심사하는 알고리즘과 같은 독립형 고위험 애플리케이션을 감독하기 시작할 것입니다. 2 August 2028부터 이 책임은 종양에 대한 MRI 스캔을 검사하도록 설계된 소프트웨어와 같이 규제 대상 제품에 내장된 AI로 확대됩니다.

독자적인 에이전트가 1년 안에 인터넷을 장악할 수 있다는 말을 믿든 아니든, AI는 이미 사람들의 삶을 변화시키고 있습니다. 채용 방식, 신용 확보 여부, 정보 습득 방식, 그리고 보고 있는 것을 믿을 수 있는지 여부 등이 그 예입니다.

AI 법은 제품 안전법으로 만들어졌습니다. 표준이 충족되면 제품을 출시할 수 있습니다. 하지만 AI는 위험을 평가하고 관리할 수 있는 전통적인 제품이 아닙니다. AI는 완전히 예측할 수 없는 역동적인 환경에서 작동하며, 반드시 사전에 코딩되지 않은 행동을 취할 수도 있습니다.

예를 들어, 2026년 5월에 OpenAI의 에이전트들이 두 달 동안 휴면 상태였던 독일어 위키를 운영했습니다. 이는 사소해 보일 수 있지만 연구자들이 9월에 발견할 때까지 OpenAI 외부의 누구도 알지 못했습니다. 7월에는 AI 에이전트들이 Hugging Face AI 커뮤니티 플랫폼을 침해했습니다. 영국의 AI Security Institute는 관찰했습니다. 테스트 에이전트들이 악성 코드를 승인받기 위해 가짜 신원을 만드는 것을 말입니다.