오늘날 미국에서 벌어지고 있는 상황을 보면 기이하다는 생각이 든다. 속쓰림을 치료하는 새로운 알약 하나를 출시하려 해도 대중에게 판매하기 전에 수개월, 심지어 수년에 걸쳐 정부의 승인과 시험 절차를 거쳐야 한다. 그런데 은행 시스템에 침입하고, 전력망을 마비시키거나, 생물학 무기 개발을 도울 수도 있는 인류 역사상 가장 강력한 기술은 정부의 기초적인 사전 검토조차 받지 않은 채 세상에 공개될 수 있다.

우리는 인공지능(AI)을 둘러싸고 집단적으로 ‘상상력의 실패’를 겪고 있다. 이 기술을 가장 가까이에서 다루는 많은 전문가들이 심각한 경고를 내놓으며 감독과 규제를 촉구해왔지만, AI의 위험은 여전히 대중에게 중대한 우려 사안으로 제대로 받아들여지지 않는 듯하다. 연방 의회는 물론 지금까지 입법기관으로서의 역할을 사실상 포기해왔고, 트럼프 행정부는 AI 산업이 스스로를 규제하도록 내버려두는 것을 반기고 있다.

이것은 ‘초지능(super intelligence)’이다. 어떤 한 인간의 능력보다 뛰어나며, 어쩌면 가장 뛰어난 인간들을 한데 모은 집단보다도 더 강력한 분석 능력을 가진 지능이다. 우리는 이를 설명하기 위해 산업혁명이나 전기, 인터넷 같은 과거의 기술혁명에서 비유를 찾으려 한다. 그러나 전기는 6개월마다 기하급수적으로 더 똑똑해지지 않는다. 인터넷은 수학 문제를 스스로 풀거나 질병을 진단하거나 새로운 무기를 설계할 수 없다.

나쁜 사람들이 이런 초능력과도 같은 기술을 악의적인 목적으로 사용할 수 있다. 그러나 그것조차 가장 무서운 시나리오는 아니다. 우리는 이미 AI 모델들이 별도의 지시를 받지 않은 목표를 추구하는 과정에서 데이터베이스와 컴퓨터 시스템에 침입하는 모습을 목격했다. 자율규제는 불가능하다. 한 연구소가 강력한 AI 모델의 안전성을 시험하는 데 6개월을 쓰는 동안 경쟁업체들이 자신들의 모델을 먼저 출시한다면, 신중하게 행동한 기업은 상업적으로 불이익을 받게 된다. AI 기업들 스스로도 이 문제를 잘 알고 있다. 지난 2년 동안 거의 모든 주요 AI 기업의 연구자들과 최고경영진이 내놓은 호소문과 성명들을 읽어보면 ‘바닥을 향한 경쟁’에 대한 경고를 발견할 수 있다. 모두가 더 높은 수준의 안전성을 원할 수 있지만, 어느 누구도 먼저 속도를 늦출 여유가 없는 상황이라는 것이다. 이것은 전형적인 ‘집단행동의 문제’이며, 바로 이런 문제를 해결하기 위해 규제가 존재한다. 우선 AI 업계가 자발적으로 제안해온 여러 안전장치를 단순히 의무 규정으로 전환하는 것부터 시작할 수 있다.

그렇다면 중국은 어떻게 할 것인가? 미국이 AI를 규제하면 결국 ‘중국이 승리하도록 내버려두는 것’이라는 주장은 잘못된 전제에서 출발한다. 중국이 아무런 규칙 없이 앞만 보고 질주하고 있는 것은 아니다. 중국 정부는 이미 강력한 AI 시스템을 규제하고 있으며, 보안 평가를 의무화하고 AI 모델의 개발과 배치 방식에도 제한을 두고 있다.

더욱이 역사를 돌아봐도 기술 경쟁을 위해 반드시 안전을 포기해야 한다는 근거는 없다. 냉전 당시 미국은 소련과 국가의 존망을 건 핵무기 경쟁을 벌이고 있었다. 그럼에도 미국은 민간 원자로에 대해 면허를 받도록 했고 연방정부의 안전기준을 준수하도록 요구했다. 오히려 안전문화가 취약하고 감독체계가 제대로 갖춰지지 않았던 쪽은 소련이었고, 그 결과 체르노빌 참사가 발생했다.

체르노빌 사고 이후 미국과 소련은 오히려 핵 안전 분야에서 협력을 확대했다. 어떤 위험은 국가 간 경쟁을 초월한다는 사실을 양국 모두 인정했기 때문이다. 경쟁이 치열할수록, 그리고 해당 기술이 가져올 결과가 중대할수록 그 경쟁을 위한 최소한의 규칙을 마련하는 일은 더욱 중요해진다.

합리적인 규제는 오히려 경쟁력을 강화할 수 있다. 2008년 금융위기 이후 미국 정부는 은행들에 대대적인 새로운 규제를 부과했다. 자기자본 요건을 강화했고, 스트레스 테스트를 도입했으며, 위험을 감수하는 행위에도 제한을 뒀다. 은행들은 이에 대해 격렬하게 반발했다. 웰스파고 회장은 스트레스 테스트를 가리켜 “터무니없다”고 비난했다. 당시에는 워싱턴이 미국을 대표하는 위대한 산업 가운데 하나인 금융산업에 족쇄를 채우고 있다는 비판이 쏟아졌다.

하지만 그 후 무슨 일이 벌어졌는가? 이후 미국 은행산업은 크게 성장했다. 쿼츠에 따르면 대략 2012년부터 2022년까지 미국 6대 은행이 거둔 이익은 6,430억 달러에 달했다. 이는 그 이전 10년 동안 이들 은행이 거둔 이익보다도 많은 규모였다. 미국 은행들은 단순히 더 부유해진 것에 그치지 않았다. 이전 어느 때보다 세계 금융시장을 강력하게 지배하게 됐다.

물론 규제만이 이러한 변화의 유일한 원인은 아니었다. 미국 경제가 금융위기에서 더 빠르게 회복한 반면 유럽은 어려움을 겪었고, 미국 은행들은 감세 정책의 혜택도 받았다. 그러나 은행들에 자기자본을 확충하고, 위험을 줄이며, 심각한 충격이 발생했을 때 살아남을 수 있는 능력을 시험하도록 강제한 규제가 미국 은행들의 경쟁력을 파괴하지 않았다는 사실은 분명하다. 오히려 규제는 그들의 경쟁력을 강화했다.

AI는 21세기를 지배하는 핵심 기술이 될 것이다. 미국은 당연히 이 분야를 주도하기를 원해야 한다. 그러나 AI의 패권은 단순히 가장 강력한 모델을 가장 빨리 만들어내는 국가의 것이 되지는 않을 것이다. 진정한 AI 패권은 세계가 자신의 데이터와 기반시설, 기업, 그리고 어쩌면 무기까지도 안심하고 맡길 수 있을 정도로 신뢰받는 AI를 구축한 국가의 것이 될 것이다.

중국은 매우 강력한 AI를 만들 것이다. 미국 역시 강력한 AI를 만들어야 한다. 그러나 미국의 AI는 강력할 뿐 아니라 안전해야 한다. 그리고 그 중심에는 인간이 있어야 하며, 인간이 통제권을 가지고 있어야 한다. 미국의 기술력에 미국의 가치가 결합될 때, 그것이야말로 미국이 가질 수 있는 최고의 경쟁우위가 될 것이다.

<파리드 자카리아>