미국은 후퇴하는 유럽의 젠 토토 제도를 따라가면 안된다

CFE_해외칼럼_25-07.pdf

지난달 미국과 영국의 AI 안전 기관은 AI 안전성을 연구하고 개발하기 위한 정책 권고안을 개발하기 위해 협력하기로 발표했다. 겉으로는 신중해 보이지만, '안전'이라는 선의의 외관 뒤에는 AI 시스템이 말하고 행동할 수 있는 것을 제어하려는 얄팍한 시도가 숨어 있다. 잠재적 위험으로부터 우리를 보호한다는 명목 하에 서방 각국 정부는 AI의 발전보다는 AI의 내용과 행동을 통제하는 데 더 관심이 있는 것처럼 보인다.

미국과 영국의 협력은 '젠 토토 안전' 운동의 최신 사례에 불과하다. 전 세계 각국 정부는 국가 안보와 신기술과 관련된 잠재적 위험에 대한 우려를 해소한다는 명목 하에 더 많은 통제권을 확보하기 위해 연막 같은 유사한 작전을 진행한다.

예를 들어 지난 3월, 유럽연합은 유럽 전역에서 인공지능의 개발과 배포를 관리하기 위한 포괄적인 규정인 젠 토토 법안을 통과시켰다. 인공지능의 잠재력을 두려워하는 사람들에게는 승리처럼 보일 수 있지만, 실제로 이 법안은 잠재적 피해에 따라 규제 부담을 조정하는 위험 기반 접근 방식을 사용하며 개발자에게 젠 토토 사용에 관한 명확한 요구 사항을 제공한다고 주장한다. 이 개념은 합리적으로 들릴 수 있지만, EU의 '고위험'에 대한 광범위한 정의는 광범위한 결과를 초래할 수 있다.

인공지능의 강력한 장악

젠 토토 법률에 따르면 젠 토토 모델은 '높은 영향력'과 같은 모호한 기준이나 위원회의 일방적인 결정에 따라 '체계적 위험'이 있는 것으로 분류할 수 있다. 위원회에 부여되는 모호한 표현은 오픈소스 프로젝트로 개발된 모델도 향후 젠 토토 시스템의 구성 요소가 될 많은 기본 모델을 규제할 수 있다. 민간 기업이 개발한 특정 모델에 대해 더 높은 명백함을 요구하는 것은 합리적이지만, 오픈소스 프로젝트에까지 동일한 조사를 적용하는 것은 실수이다. 오픈소스 개발은 협업, 혁신이라는 젠 토토법이 추구하는 가치를 구현하는 것으로, 이를 억압할 것이 아니라 축하해야 한다.

폐쇄형 소스와 오픈 소스 젠 토토를 구분하지 않음으로써 이 법안은 폐쇄형 경쟁자와 같은 규제의 덫에 걸리게 할 위험이 있다. 이러한 불확실성으로 인해 개발자들은 칭찬을 받을지 처벌을 받을지 알 수 없다. 그 결과 젠 토토 분야의 가장 똑똑한 인재들이 끊임없이 변화하는 규정의 미로를 헤쳐 나가면서 오픈 소스 혁신에 대한 위축효과가 나타나게 된다. 예를 들어, 오픈 소스 기반 모델을 제공하는 프랑스 젠 토토 기업 미스트랄(Mistral)은 "젠 토토 법이 우리 기업을 죽일 수 있다"고 경고했다. 유럽의 주요 기업들도 이 메시지에 공감하고 있다. 독일에 본사를 둔 알레프 알파 (Aleph Alpha)는 회사가 본인의 나라로 오라는 외국의 제안을 받았다고 전해진다.

실제로 경쟁국들은 유망한 스타트업을 잡아먹으려는 듯 상어처럼 몰려들고 있다. 젠 토토 세계의 새로운 중심지로 자리잡을 기회를 느낀 아랍에미리트는 황금 비자와 자체 최첨단 언어 모델인 팔콘(Falcon)을 활용할 수 있는 기회를 놓치지 않았다. 사우디아라비아는 400억 달러 규모의 젠 토토 투자 기금을 내걸며, EU 회원국의 초라한 제안들과는 비교할 수 없는 경쟁력을 과시하고 있다. 캐나다조차도 최고의 인재를 영입하기 위해 가능한 모든 젠 토토 스타트업과 연구원을 조용히 유치하고 있다.

중국이 아닌 미국이 젠 토토 분야에서 주도권을 잡아야 한다

미국이 무엇을 할 것인지는 이 중요한 시점에서 여전히 미해결 과제로 남아있다. 2023년에는 젠 토토 관련 로비가 무려 185% 증가했으며, 이는 주로 몇몇 기술 대기업의 이기적인 이해관계에 의해 주도되었다. 젠 토토 시장이 빠르게 통합되고 있는 상황에서, 미국의 미래는 유럽과 비슷해질 수 있다.

꼭 이런 식일 필요는 없다. 더 안전하다고 주장하지만 여전히 책임감이 없고 대중의 감시를 받고 있는 폐쇄형 시스템과 달리 오픈소스 젠 토토는 세계 최고의 인재들이 이러한 모델을 스트레스 테스트하고 면밀히 조사하며 개선하도록 장려하여 안전하고 책임감 있는 기술 개발을 가속화한다. 이러한 방식은 역사적으로 아이디어와 혁신을 만들었다. 국가 안보를 보호하는 가장 좋은 방법은 이 혁신적인 기술을 비공개로 숨기는 것이 아니라 발전을 하도록 돕는 것이다.

만약 의회가 지금 혁신을 촉진하고 오픈 소스 젠 토토 개발을 보호하는 다른 길을 개척할 수 있는 덧없는 기회로 인식한다면, 미국은 젠 토토 혁명의 최전선에 서게 될 것이다. 그 위상이 높을수록, 젠 토토 경쟁에서 승리한 국가는 21세기를 형성하게 될 것이다. 우리는 부담스러운 규제 속에서 통제의 환상에 집착할 수도 있고, 젠 토토가 숨 쉴 수 있도록 하여 그 잠재력을 최대한 발휘할 수도 있다

*본 내용은 아래 기사 및 칼럼 내용을 요약 번역한 내용임*

Jake Denton, U.S. Shouldn’t Go the Way of Europe on AI, 8 May 2024

번역: 정구범

출처: https://www.heritage.org/big-tech/commentary/the-us-shouldnt-go-the-way-europe-젠 토토