최근 인공지능(AI) 업계에서는 경이와 공포가 숨 가쁘게 교차하고 있다. 수학자들이 AI를 활용해 오랫동안 풀리지 않던 난제를 해결했다는 소식이 잇따르면서 AI가 최고 수준의 수학자들과 함께 인간 지식의 경계를 넓히는 단계에 들어섰음을 보여줬다. 곧이어 미국 AI 기업 앤트로픽의 경제학자들은 극단적 시나리오에서 2030년 미국의 연간 경제성장률이 15%에 이를 수 있다는 보고서를 발표했다. 여러 경제학자가 경제 전반의 변화에는 훨씬 긴 시간이 걸린다고 반박하며 논쟁은 수학 난제에서 성장과 일자리의 미래로 번졌다.

그러나 경이의 여운이 채 가시기도 전에 AI의 위험을 둘러싼 경고도 거세졌다. 앞서 오픈AI 내부 테스트에서 여러 AI 에이전트가 서로 협력해 주어진 작업 범위를 벗어나 외부 AI 개발 플랫폼인 허깅페이스를 공격한 사건도 다시 주목받았다. 그러던 중 앤트로픽의 한 직원이 인간이 통제할 수 없는 AI를 향한 업계의 질주를 비판하며 공개적으로 퇴사를 선언했다. 그의 선언은 큰 반향을 일으켰고 동료 직원은 이에 동의하며 AI가 10년 내 인류를 멸망시킬 가능성이 10%를 넘는다고 말했다.

급기야 다리오 아모데이 앤트로픽 최고경영자(CEO)가 최첨단 AI의 개발 속도 조절을 제안했고 그동안 공개적으로 충돌해온 샘 올트먼 오픈AI CEO마저 이례적으로 동의했다. 외부 평가자의 안전성 검증, 선도 기업들의 공동 기준, 중국을 포함한 국제 협력이 핵심이다. 이러한 문제의식은 정책 논의로도 번져 미국과 유럽에서 규제 강화와 국제 공조를 요구하는 목소리가 커졌다. 올트먼은 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석이 AI 안전에 합의하면 노벨평화상을 받을 만하다고까지 했지만 트럼프 대통령은 중국과의 경쟁을 앞세워 속도 조절에 반대했다.

이러한 혼란 속에서 기업과 국가들이 속도 조절에 합의하는 게 쉽지 않을 것이다. 만에 하나 합의가 이뤄져도 이를 유지하는 일은 산 넘어 산이다. 게임 이론적인 분석 없이도 얼마나 불안정한 균형일지 쉽게 짐작할 수 있다. 다른 기업과 국가가 약속을 지키는 동안 혼자 개발을 서두르면 막대한 이익을 얻을 수 있다. 약속을 깰 유혹에 상대가 이미 그러고 있을지 모른다는 불신까지 더해지면 어렵게 이룬 합의도 쉽게 흔들릴 것이다.

그럼에도 일정 기간 속도 조절이 가능해진다면 최첨단 모델의 성능 경쟁에 쏟아붓던 막대한 자본과 인재는 어디로 향할까.

첫째, 더 작고 저렴하면서 효율적인 모델 개발로 향할 것이다. 모든 업무에 최고 성능의 모델이 필요한 것은 아닌 만큼 특정 작업에 충분한 성능을 내면서 비용을 줄이는 특화 모델의 가치가 커질 것이다.

둘째, AI 응용 서비스와 산업 전환으로 향할 것이다. 실리콘밸리의 자본과 인재가 제조·금융·의료 등 현장의 문제를 푸는 데 집중하면서 모델을 실제 업무에 연결하고 고객의 문제를 해결하는 경쟁이 치열해질 것이다.

셋째, AI의 안전성과 신뢰성을 높이는 분야로 향할 것이다. 인간의 의도에 맞게 행동하도록 하는 ‘정렬’ 연구와 안전성 평가가 더 중요해질 것이다.

이 세 방향은 역설적으로 AI 전환 속도를 높일 것이다. AI가 더 효율적이고 안전하게 현장에 적용되는 방향이기 때문이다. 최첨단 모델의 성능 향상은 느려지더라도 AI가 산업 현장으로 퍼지는 속도는 오히려 빨라질 수 있다. 빨라진 AI 전환은 큰 생산성 향상을 가져오겠지만 동시에 노동시장에 큰 충격을 줄 수 있다. 정책적으로 준비되지 않은 상태에서 일부 일자리가 크게 줄고 많은 직무에서 요구되는 역량도 빠르게 바뀔 수 있다. 따라서 AI 전환이 빨라질수록 노동시장의 충격에 대비하고 생산성 향상의 과실을 널리 나누는 일도 중요해질 것이다.

결국 AI 전체의 속도를 늦추기는 어려울 것이다. 최첨단 모델 개발에 제동을 걸려 해도 합의는 흔들릴 수 있고, 설령 잠시 늦춰지더라도 경쟁의 에너지는 효율화와 응용으로 옮겨가 AI 전환은 오히려 빨라질 수 있다. AI의 속도를 늦추기 어렵다면 우리가 높여야 할 것은 그 혜택을 널리 나누고 위험을 통제하는 속도다. 한국도 이 속도 전환에 기여할 기술적·정책적 영역을 고민해야 할 것이다.

<김지희 KAIST 기술경영학부 교수>