나이키 운동화를 신는 ‘인간적인’ 교황 레오 14세는 대학 때 수학을 전공했다. 그래서일까, 지난 5월 세계 주교와 신자들에게 보낸 첫 회칙의 주제도 인간과 인공지능(AI)에 관한 것이었다. ‘마그니피카 후마니타스’(Magnifica Humanitas), 우리말로 ‘위대한 인간성’ 또는 ‘고귀한 인류’란 제목을 단 회칙에서 교황은 “AI를 무장해제시켜야 한다”고 주장했다. AI가 인간의 통제를 벗어나 인류를 지배하는 걸 막아야 한다는 것. 그는 컴퓨터 알고리즘이 전쟁을 정당화할 순 없고, 기계가 인간을 대체해서도 안 된다고 선언했다. 최근에도 “기계의 낙원에서 인간성을 잃어선 안 된다”고 역설했다.
■ 세계적 석학과 수학자, 연구자들은 최악의 경우 인류 멸종 가능성까지 경고하고 있다. AI가 스스로 성능을 향상시키는 재귀적 자기개선(Recursive Self-Improvement) 단계로 접어들며 AI는 이제 인간이 시키지 않은 일, 프로그램상 금지된 일까지 시도한다. 도덕 규칙이 기술 발전 속도를 따라가지 못하는 ‘윤리적 공백’에 AI 개발 속도를 조절해야 한다는 목소리는 더 커졌다.
■ 그럼에도 중국의 추격을 따돌려야 하는 도널드 트럼프 미국 대통령은 AI 개발 속도를 늦출 생각이 전혀 없다. 안전성 문제도 업계 자율에 맡기면 된다고 여긴다. 주요 AI 기업들을 백악관으로 불러 AI 기술에 대한 책임은 각 기업이 지는 것을 골자로 한 협약에 서명토록 했다. 앞으로 AI 발전은 더 가팔라질 수도 있다.
■ 교황은 인류가 중대한 선택의 기로에 섰다고 밝혔다. 실제로 인간의 전유물인 줄 알았던 지능이 AI로 대체되는 세상에서 과연 인간이 AI보다 나은 건 무엇이고 인류의 정체성은 무엇인지 철학적 고민도 깊어지고 있다. 교황은 “AI는 경험을 하지 않고, 육체도 없으며, 기쁨이나 고통을 느끼지 못하고, 관계를 통해 성숙하지도 않는다”고 짚었다. 이처럼 AI는 못하고 인간만 할 수 있는 것들에 집중하면 AI에 의해 대체되지 않고 ‘위대한 인간성’도 지킬 수 있지 않을까. AI가 우리 시대 욕망의 바벨탑이 되는 걸 막기 위한 인류의 지혜를 모아야 할 때다.
<박일근 한국일보 수석 논설위원>
댓글 안에 당신의 성숙함도 담아 주세요.
'오늘의 한마디'는 기사에 대하여 자신의 생각을 말하고 남의 생각을 들으며 서로 다양한 의견을 나누는 공간입니다. 그러나 간혹 불건전한 내용을 올리시는 분들이 계셔서 건전한 인터넷문화 정착을 위해 아래와 같은 운영원칙을 적용합니다.
자체 모니터링을 통해 아래에 해당하는 내용이 포함된 댓글이 발견되면 예고없이 삭제 조치를 하겠습니다.
불건전한 댓글을 올리거나, 이름에 비속어 및 상대방의 불쾌감을 주는 단어를 사용, 유명인 또는 특정 일반인을 사칭하는 경우 이용에 대한 차단 제재를 받을 수 있습니다. 차단될 경우, 일주일간 댓글을 달수 없게 됩니다.
명예훼손, 개인정보 유출, 욕설 등 법률에 위반되는 댓글은 관계 법령에 의거 민형사상 처벌을 받을 수 있으니 이용에 주의를 부탁드립니다.
Close
x