지난주 미국 정부는 매우 이례적인 일을 했다. 사실상 미국을 대표하는 인공지능 기업 가운데 하나가 자사의 가장 진보된 제품을 시장에서 철수하도록 강제한 것이다. 최첨단 AI 모델 ‘미토스’와 그 상용 버전인 ‘페이블’을 개발한 앤트로픽은 사전 경고도 거의 받지 못한 채 약 90분의 이행 시간만을 부여받았다고 한다.

이 사건을 놓쳤더라도 이상할 것은 없다. 이 일은 행정부가 이란 전쟁에서 한발 물러서는 과정의 그늘 속에서 벌어졌다. 그러나 장기적으로 보면 이 사건이 훨씬 더 중대한 의미를 가질 수도 있다. 워싱턴과 앤트로픽 간의 충돌은 사실 한 기업만의 문제가 아니기 때문이다. 이것은 AI를 누가 통치할 것인가, 그리고 그 통치가 규칙과 제도를 통해 이루어질 것인지, 아니면 즉흥성과 권력의 힘을 통해 이루어질 것인지를 둘러싼 첫 번째 가시적인 전투다.

이제는 분명해져야 한다. AI는 범용 기술이며, 기업 활동에서부터 정부 운영, 개인의 삶에 이르기까지 인간이 하는 모든 일 속으로 스며들게 될 것이다. 그리고 점점 더 많은 징후는 그것이 사람들이 상상해온 만큼 강력할 수 있음을 보여주고 있다. 버지니아주의 마크 R. 워너(민주) 연방상원의원은 최근 국가안보국(NSA)과 미 사이버사령부를 동시에 이끄는 조슈아 러드 장군의 증언을 소개했다. 이에 따르면 앤트로픽의 최첨단 모델 미토스는 정부의 거의 모든 기밀 시스템에 침투할 수 있었으며, 그 과정은 몇 주나 며칠이 아니라 단 몇 시간 만에 이루어졌다.

이제 문제는 AI를 규제할 것인가가 아니라 어떻게 규제할 것인가이다. 그런데 트럼프 행정부의 접근 방식은 매우 혼란스러웠다. 불과 2주 반 전만 해도 도널드 트럼프 대통령은 최첨단 AI 모델에 대한 자발적 검토 절차를 수립하고 보다 엄격한 감독이 필요한 시스템을 식별하기 위한 체계를 설계하도록 각 정부 기관에 60일의 시간을 부여하는 행정명령에 서명했다. 이는 합리적인 방향을 가리키고 있었다. 즉 체계적인 감독, 사전 테스트, 명확한 기준선을 마련하자는 것이었다.

그러나 그 절차가 채 만들어지기도 전에 국방부는 앤트로픽을 ‘공급망 위험’으로 규정했고, 트럼프 행정부는 한때 연방 부처들에 해당 기업의 시스템 사용을 중단하라고 지시했다. 행정부의 우려가 근거 없는 것은 아니다. 앤트로픽은 실제로 중대한 실수를 저지른 것으로 보인다. 워싱턴포스트의 보도에 따르면 이 회사는 관계 당국이 승인했다고 믿었던 범위를 넘어 미토스에 대한 접근 권한을 확대했으며, 이후 누가 이 시스템을 사용할 수 있는지에 대한 우려가 제기됐을 때도 대응이 너무 늦었다. 정보기관들은 보다 강경한 대응을 선호했던 것으로 알려졌다.

그러나 바로 그렇기 때문에 절차가 중요한 것이다. 어떤 기술이 이처럼 중대한 영향을 미치게 되면, 결정은 주말 동안 벌어진 관료 조직 내부의 권력 다툼에서 어느 한 파벌이 승리했느냐에 따라 즉흥적으로 내려져서는 안 된다. 더구나 그런 결정이 며칠 뒤 또다시 뒤집힐 수도 있는 상황이라면 더욱 그렇다.

지난주 정부가 앤트로픽에 대해 90분 안에 새 모델을 사실상 서비스 중단하도록 요구했을 때 미국은 전 세계의 동맹국과 파트너들에게 다음과 같은 메시지를 보낸 셈이 됐다. “당신들의 경제가 미국의 AI 인프라에 의존하게 된다면, 워싱턴은 언제든지 자의적으로, 아무런 사전 경고나 설명 없이 그 전원 스위치를 꺼버릴 수 있다.”

불행히도 개인화되고 자의적이며 예측 불가능한 규제는 이 행정부의 기업 정책 전반을 특징짓는 것처럼 보인다. 모두가 따를 수 있는 명확한 규칙과 기준을 제시하기보다는 특정 기업을 골라 처벌하며, 그 법적 근거조차 불분명한 경우가 많다. 행정부는 인텔의 지분 확보에 개입했고, 엔비디아에 특별세를 부담하도록 했으며, US 스틸에서는 ‘황금주’를 확보했다. 다른 사례들에서는 대통령의 친구나 가족이 맺은 관계와 투자에 따라 정책이 좌우되는 듯한 모습도 보였다. 이것은 세계에서 가장 발전한 자본주의 국가를 운영하는 방식이 아니다.

트럼프 행정부와 앤트로픽 사이에 악감정이 존재한다는 것은 분명하다. 회사와 국방부 간의 초기 충돌 당시 피트 헤그세스 국방장관은 앤트로픽을 향해 ‘배신’과 ‘기만’이라는 표현을 사용했다. 행정부 고위 관계자들은 이 회사가 지나치게 진보적이며, 민주당 인사를 너무 많이 채용했다고 반복적으로 비판해 왔다. 트럼프 대통령 역시 공개적으로 이 회사를 조롱한 바 있다. AI는 이런 식의 감정적인 보복이나 점수 따기식 정치에 맡기기에는 너무나 중요한 분야다. 그리고 더 나은 길이 있다. 그것은 미국이 만들어냈고 놀라울 정도로 성공적으로 작동해온 제도적 발명품에 기반한 길이다.

은행은 자본주의 체제의 핵심이 되었다. 미국 경제의 생명선인 자본을 공급했기 때문이다. 그러나 은행업은 본질적으로 위기에 취약하며 그 위기는 엄청난 파급효과를 낳는다. 그래서 미국은 제도를 만들었다. 연방준비제도는 미국이 만들어낸 가장 위대한 제도적 발명 가운데 하나로 남아 있다. 왜냐하면 그것은 공적 권한과 민간의 전문성을 결합했기 때문이다. 연준은 독립성을 유지하면서도 시장과 끊임없이 소통한다. 감독과 검사, 스트레스 테스트를 실시하고, 자본 요건을 설정하며, 지침을 발표하고, 단계적으로 개입한다. 무엇보다 중요한 것은 산업을 지배하는 규칙이 광범위하고 일관되게 적용된다는 점이다.

최첨단 AI에 필요한 것도 대략 이런 모습이다. AI를 위한 연준을 만들자. 기술, 국가안보, 비즈니스 분야의 전문가들로 구성된 독립 기관을 설립하자. 최첨단 AI 개발 기업들에게 출시 전 평가를 위한 접근 권한을 제공하도록 의무화하자. 위험한 능력을 판단할 수 있는 투명한 기준선을 마련하자. 그리고 갑작스러운 금지 조치 대신 경고, 시정 조치, 조건부 배포, 사용 제한 등 단계적인 대응 체계를 구축하자. 그리고 그 규칙을 모든 사람에게 똑같이 적용하자.

제도 없는 속도는 역동성이 아니다. 그것은 위험한 변동성일 뿐이다. AI는 우리 시대 가장 중요한 기술이 될 것이다. 따라서 그것은 지능적이고, 투명하며, 유연하고, 일관된 규제를 받을 자격이 있다. 개인적 감정에 따른 규제도, 징벌적 규제도, 즉흥적인 규제도 아니다. 우리의 과제는 혁신과 감독 가운데 하나를 선택하는 것이 아니다. 우리는 이미 두 가지를 모두 지켜낼 수 있는 제도를 구축할 수 있음을 보여준 바 있다.

<파리드 자카리아>