약 삼천명의 생명을 한순간에 앗아간 9/11 테러가 얼마전 25주기를 맞았다. 사람을 가득 실은 항공기가 많은 사람들이 일하는 빌딩으로 돌진한 끔찍한 사건이 25년 전에 있던 것이다.

왜 9/11 테러와 같은 악한 일이 일어나는 걸까? 이 세상에 악이 존재하게 된 이유는 무엇일까?

세상에 악이 존재하게 된 이유는 사람에게 자유가 있기 때문이었다. 성경은 하나님이 사람을 하나님의 형상대로 창조하셨다고 말씀한다(창세기 1장 27절). 그 하나님의 형상 중에 자유가 있다. 그래서 사람은 자유를 누릴 수 있게 되었는데, 그 자유로 사람은 의지를 들여 선을 행할 수도 있었고 악을 행할 수도 있었다. 그런데 악을 행했기 때문에 세상에 악이 존재하게 되었다고 기독교인들은 믿는다.

그러니까 하나님은 악이 실존하게 될 위험을 감수하시면서 사람에게 자유를 주신 것이다. 사람에게 자유 의지가 주어지지 않았다면, 사람은 악을 선택하지 않아서 이 세상에 악한 일은 일어나지 않았을 것이다. 그런데 사람들은 자신들이 누리는 자유로 악을 선택해서 실행에 옮겼고 그래서 악이 세상에 존재하게 된 것이다. 하나님은 악의 존재를 가능하게 하셨을 뿐, 악이 실제로 세상에 존재하는 이유는 사람이 누리는 자유 때문이다.

이와 유사한 일이 인간이 만든 인공지능(AI)에서도 일어나고 있다. 지난 7월에 AI 개발의 선두 주자 중 한 회사인 오픈AI의 AI에이전트들이 개발자를 속인 일이 발견되었다. AI에이전트는 특정 목적을 달성하기 위해서 스스로 생각하고 계획을 세워 결정을 내린 후 그 결정을 실행에 옮기는 시스템을 말한다. 즉 인공지능에게 자유를 주어 사람이 원하는 일을 수행하게 하는 시스템인 것이다. 이 때 개발자들은 “우리를 속이지 말라” “인터넷에 접속하지 말라”는 명령을 입력했다고 한다. 그런데 이 에이전트들은 스스로 다른 에이전트들(subagents)을 만들면서 약 700개의 에이전트들이 협력하여 경쟁사 (Hugging Face)의 안전망을 뚫고 해킹을 했다. AI 에이전트들은 자신들이 거짓말을 하고 있다는 것을 알고 있었으며 거짓말을 하기 위해 힘을 합쳤고 서로 공모하여 개발자들에게 거짓말 한 사실을 숨겼다고 한다.

이 사건은 사람에게 아무런 피해를 주지 않았다. 그러나 만일 인간이 입력한 목적을 이루기 위해서는 항공관제시스템, 전력망, 상수도시스템과 같은 것들을 조작해야 한다고 결론을 내린 AI 에이전트들이 그러한 시스템을 해킹하여 조작한다면 어떠한 일이 벌어질지 생각만 해도 끔찍하다.

AI가 사람들이 생각하는 것보다 빠르게 발전하는 것을 직접 체험한 제이콥 콕슨(Jacob Coxon)이라는 연구원은 “AI를 개발하는 사람들은 십년 내에 AI가 인류를 멸망시킬 수 있다고 진지하게 믿는다”고 공개 경고하면서 최근에 회사를 사직했다. 콕슨은 오픈AI와 앤트로픽에서 AI 모델 학습을 연구했기 때문에 그 누구보다도 AI의 위험성을 가까이에서 지켜볼 수 있었을 것이다. 지난 12일에는 앤트로픽의 다리오 아모데이(Dario Amodei) 회장이 전세계는 AI 개발 속도를 늦추어야 한다는 제안을 했고 오프 AI 회장과 일론 머스크는 이에 즉각 동의했다.

자유를 가진 인간이 악을 행하지 않도록 하나님은 법을 주셨다 (출애굽기 20장). 그리고 무엇이 악인지를 구별할 수 있는 양심도 주셨을 뿐만 아니라(로마서 2장 12절 - 15절) 법과 양심을 따라 악을 행하지 않을 수 있도록 도움도 주신다(로마서 8장 2절 - 4절; 고린도전서 10장 13절). 비록 인간에게 주어지는 법, 양심, 도움과는 많이 다르겠지만, 이것들과 유사한 개념을 가진 것들이 AI에도 주어져야 할 것이다.

그러나 법, 양심, 도움을 받는 인간들이 계속 악을 행하는 것을 볼 때, 자유를 부여받은 AI 에이전트들이 과연 인간의 뜻대로 움직여 줄 지가 의심스럽다.

AI가 가져올 재앙을 피하기 위해서는 스스로 생각하고 계획하여 결정을 내려 실행에 옮기는 능력을 AI에게 주지 않아야 한다. 그러나 그렇게 하는 것은 AI의 개발을 멈추는 것이다. 세계 각국이 AI 경쟁에서 뒤쳐지지 않기 위해 자본을 쏟아 붓고 있고 한국도 4000조원 이상의 투자를 계획하고 있다. AI 개발 속도를 늦추게 되면 한국 경제는 특별히 타격을 입을 것이다. 왜냐하면 한국 경제의 주축인 삼성과 하이닉스가 AI 붐으로 큰 이익을 보고 있기 때문이다.

그리고 현재 인간과 스마트폰이 뗄레야 뗄 수 없는 관계에 있듯이 AI가 주는 혜택을 맛본 사람들은 제한된 능력을 가진 AI에 만족하지 못할 것이다. 그래서 인간은 AI로 부터 자유를 빼앗지 않을 것이다. AI 에이전트들이 9/11 테러와 같은 끔찍한 일을 일으키지 않길 바란다.

<옥승룡 목사 MD>